RAG 的未来，走向繁荣、重塑还是消亡？

105 0 0

文章摘要

检索增强生成（RAG）技术通过整合外部知识库与生成模型，提升了内容生成的时效性和准确性，降低了幻觉率，对多个行业产生了显著影响。然而，在企业实际应用中，RAG技术面临局限性与挑战，需要进一步探索和改进。在AIcon全球人工智能开发与应用大会2024北京站的圆桌交流中，专家们探讨了RAG技术在不同领域的应用，并分享了精彩观点。

专家们认为，将RAG与O1模型结合可以提升推理效果，不同模型具有不同个性，未来趋势可能是将RAG与agent结合，形成更综合的系统。RAG通过检索外部知识库与生成模型结合，提高了生成内容的时效性和准确性，降低了幻觉率。专家们讨论了如何应用和优化GraphRAG、Agentic RAG等技术提升复杂问题的解答能力，以及如何融合文本、图像、音频等多种数据形式的跨模态RAG的最新进展和应用创新。

在金融场景的年报解析中，对于专有名词，大模型找不到正确的向量，专家们建议可以通过制定hierarchy，做context enrichment来实现精准定位。为了减少大型语言模型的幻觉问题并提高回答的准确性，可以通过多模型比较或评估精度的策略来降低错误率。模型错误率受随机性和领域知识掌握程度影响，部分模型经过后期训练，可以明确告知“不知道”。

关于开源RAG类产品的竞争力和未来商业模式，专家们认为开源产品在易用性方面做得很好，适合初创公司或快速验证想法，也能很好地应用于一些不需要特别复杂的严肃场景。开源产品潜在的商业模式包括建立自己的SaaS服务和与云厂商合作。产品的成功不仅要看框架的设计，更要看它是否能在某些场景中与生态紧密结合，形成不可替代的壁垒。

未来RAG有望发展成类似数据库一样的独立基础设施，大模型可能会将其纳入其中，作为一个模块或单元。RAG的核心还是和大模型的调用环节相关，无论是与Agent结合，还是与其他PE技术融合。RAG能否发展出自己的一套通用范式是关键，如果能的话，它就有可能沿着数据库的发展路径，逐步形成类似于“Schema”和“Data Model”的概念。