刚刚，我用DeepSeek-R1搭建了一款RAG应用

94 0 0

文章摘要

【关键词】 开源模型、Agentic RAG、文档搜索、网络搜索、技术交流

DeepSeek-R1 是一款开源推理模型，其性能与 OpenAI-o1 相当，但成本仅为后者的不到 10%。利用 DeepSeek-R1，开发了一款名为 Agentic RAG 的应用，该应用具备搜索文档和在必要时进行网络搜索的能力。技术栈包括 CrewAIInc 用于 Agent 编排和 firecrawl_dev 用于网络搜索。架构图详细描述了关键组件及其交互方式，并提供了相应的代码。

在 LLM 设置方面，CrewAI 能够与所有流行的 LLM 及其供应商集成。文章提供了设置本地 Llama 3.2 的方法。应用中使用了两个工具：Qdrant_Engine 向量搜索工具和网络搜索工具。所有代码已在 GitHub 仓库中分享。

定义了 Retriever Agent，其任务是为用户查询检索正确的上下文。Response Gen Agent 则负责接收用户查询和检索 Agent 提供的上下文，生成连贯的回复。定义了 Agent 及其任务后，将它们组成一个由 CrewAI 协调的团队。

最后，提供用户查询并启动 Crew，展示了启动和结果。在编码前，需要获取用于搜索互联网的 API 密钥。所有代码链接已提供。此外，还建立了一个专门分享大模型技术交流的微信群，欢迎加入学习交流。