解码RAG：智谱 RAG 技术的探索与实践

1,725 0 0

文章摘要

智谱AI长期致力于大模型技术的研究，尤其在RAG（Retrieval-Augmented Generation）应用领域积累了丰富的经验。RAG技术通过Indexing（知识存储）、Retrieval（知识检索）和Generation（知识生成）三个步骤，有效解决了模型幻觉和知识更新不及时的问题，同时降低了实施成本，提高了内容可追溯性。

RAG技术的优势主要体现在以下几个方面：1. 相比直接与大模型对话，RAG能更好地解决模型幻觉和知识更新不及时的问题；2. 与传统的FAQ或搜索方式相比，RAG能显著降低实施成本；3. 基于RAG的生成可以追溯到内容来源，实现计算与存储分离的架构，便于权限管理；4. RAG技术可以降低问答成本，提高效率。

智谱AI的RAG解决方案包括技术方案和产品方案两个层面。技术方案涵盖了文件上传、用户提问和答案输出等环节，需要大量的工程和策略工作。例如，在文件上传过程中，需要对文档进行解析、过滤无关信息、提取结构信息等。产品方案则提供了知识运营和管理工具，以及知识问答过程中的辅助功能，如历史消息、输入提示、原文索引等。

在智能客服领域，智谱AI通过”ChatGLM大模型+RAG”的方案，有效解决了传统技术面临的知识整理成本高、知识复用性差、知识更新频繁、知识晦涩难懂等问题。同时，RAG技术还能提供更自然、拟人化的交互体验，生成更精准、有针对性的答案。

在RAG技术的实践过程中，智谱AI面临了知识召回和答案生成等技术挑战。针对知识召回，采用了文章结构切片和small to big的索引策略，同时对Embedding模型进行微调，提高了召回的准确度。在答案生成方面，通过构造高质量的训练数据，采用分阶段微调和DPO（Distribution Perceptron Optimization）训练，提升了模型的生成效果。

评测是模型训练过程中的重要环节。构建评测数据集需要遵循真实性、多样性、等比例和难度区分等原则，以确保评测结果的准确性和有效性。

展望未来，RAG技术将在更多领域得到应用，并与其他AI技术相结合，如多模态交互、个性化推荐、用户长期记忆等。智谱AI将继续探索和实践RAG技术，为企业在更多领域提供智能、高效的服务体验。

柴思远作为智谱企业商业技术中心总经理，大数据算法技术专家，曾支持过多个重点大模型项目落地，具有丰富的行业经验和技术积累。