AI Agent的基础设施还不健全

939 0 0

文章摘要

生成式人工智能（AI）应用正经历着爆发式增长，广泛应用于多个领域，包括生产力提升、开发、云基础设施管理、媒体消费，以及医疗收入周期管理等。这一增长得益于过去两年行业在模型和底层平台基础设施方面的快速改进，这些改进简化了托管、微调、数据加载和内存，降低了构建应用程序的难度。

AI Agent的崛起是关键变化之一，它们是能够规划和执行多步骤任务的自主行为者。AI Agent正成为终端用户常见的接口和开发者构建的核心抽象，进一步加快了新应用程序的构建速度，并在平台层创造了新的机会。从2022年的MRKL项目到2023年的ReAct、BabyAGI和AutoGPT，开发人员发现提示和响应链可以将大任务分解为较小的任务并自主执行。LangChain、LlamaIndex、Semantic Kernel、Griptape等框架表明，Agent可以通过代码与API交互，而Toolformer和Gorilla等研究论文表明底层模型可以有效地学习使用API。微软、斯坦福和腾讯的研究表明，AI Agent协同工作比单独工作效果更好。

开发人员认为，性能最佳的Agent都是精心设计的。他们正在努力弄清楚在当前状态下哪些用例在适当的约束下有效，从而将这些技术应用在他们的工作中。尽管Agent存在许多限制，但它们仍在不断增加。终端用户有时会意识到它们的存在，比如在Slack上响应的编程Agent。越来越多的Agent也被隐藏在搜索框、电子表格或画布等其他UX抽象层下。

我们的行业需要建设支持AI Agent及其依赖的应用程序的基础设施。现在，许多Agent几乎完全是垂直集成的，缺乏托管基础设施。这意味着：Agent的自我管理云主机、用于内存和状态的数据库、从外部来源获取上下文的连接器，以及用于使用外部API的功能调用、工具使用或工具调用。一些开发人员使用如LangChain等框架将这些东西拼接在一起。这种堆栈现在最有效，因为开发人员在快速迭代，并且认为需要端到端地控制自己的产品。

随着用例的固化和设计模式的改进，未来几个月内情况将发生变化。我们仍处于手工制作和专用Agent的时代。因此，近期最有用的基础设施将是那些满足开发人员当前需求，并让他们构建自己能控制的手工制作Agent网络的基础设施。这些基础设施也可以具有前瞻性。随着时间的推移，推理能力将逐渐提高，前沿模型将引导更多的工作流，开发人员将希望专注于产品和数据——那些使他们与众不同的东西。他们希望底层平台在规模、性能和可靠性方面“自动运行”。

AI Agent基础设施的发展还处于早期阶段，今天我们看到的是一系列运营服务和开源工具，这些工具尚未商业化或整合到更广泛的服务中。谁将成为最后赢家还不清楚——在这个领域，最终的赢家可能现在还很弱小，或者尚未出现。