LinkedIn分享了自家团队构建AI产品的经验，细节满满

文章摘要

【关 键 词】 AI技术、LinkedIn、用户体验、技术挑战、自动化评估

LinkedIn 技术团队将 AI 技术融入其产品，以提高用户在寻找工作和浏览专业内容时的体验。技术主管 Juan Pablo Bottaro 和高级工程师 Karthik Ramgopal 分享了他们构建 AI 项目的过程，包括遇到的挑战和解决方案。

他们首先通过一个真实场景展示了系统如何工作，用户在浏览 LinkedIn 动态时，系统会根据用户的兴趣选择合适的 AI Agent 来处理查询，并通过调用内部 API 和 Bing 等资源收集信息，生成回复。这个过程主要基于检索增强生成（RAG）的设计模式，使得构建基本框架相对容易。

然而，团队在评估答案质量、调用内部 API、保持一致的高质量和处理容量与延迟等方面遇到了挑战。为了解决这些问题，他们采取了多种策略，如制定详细的指南、构建自动化评估系统、包装内部 API 为技能、优化提示工程和构建异步非阻塞管道等。

在整体设计上，他们采用了分而治之的策略，将任务拆分为由不同人员开发的独立 AI Agent，并通过一个小型的横向工程小组处理共同组件，以保持用户体验的一致性。同时，他们也在探索如何将更简单的任务转移到内部微调模型，以及为 LLM 部署提供更可预测的部署基础设施。

尽管面临挑战，LinkedIn 的 AI 项目已经取得了显著进展，他们计划继续优化质量、开发新功能，并最终将这些功能推广给更多用户。团队还建立了一个技术交流微信群，分享 AI 领域的最新资讯和趋势。

原文和模型

【原文链接】 阅读原文 [ 4144字 | 17分钟 ]
【原文作者】 AI大模型实验室
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆

Moonshot AI

月之暗面是一家 AI 初创大模...