企业部署生成式 AI，五个最大的挑战是什么？

107 0 0

文章摘要

在拉斯维加斯的re:Invent大会上，亚马逊云科技推出了一系列生成式AI新产品，旨在解决企业在引入生成式AI时面临的五大挑战：选择权、部署成本、训练小模型、消除幻觉和解决复杂任务。亚马逊云科技的策略强调为客户提供多样化的大模型选择平台，包括自主研发的Titan和Nova系列大模型，以及与Anthropic等顶尖大模型开发商的合作。此外，亚马逊云科技推出了Amazon Bedrock Marketplace，提供超过100个全球供应商的基础模型产品。

为了降低部署成本，亚马逊云科技推出了Amazon EC2 Trn2实例，性价比较GPU实例提升30%-40%，并预告了下一代算力芯片Trainium 3，将提供两倍于Trainium 2的算力和40%的单位能效提升。同时，亚马逊云科技通过Prompt Caching技术减少了AI应用的推理成本。

在训练更敏捷、更专业的小模型方面，亚马逊云科技在Amazon Bedrock中推出了模型蒸馏功能，提升了新模型的运行速度并降低了成本。此外，亚马逊云科技还推出了自动推理检查功能，防止模型幻觉导致的事实性错误，确保在关键任务应用程序中提供准确无误的回答。

最后，亚马逊云科技推出了多智能体协作功能，处理更复杂的工作流程，如穆迪评级公司通过此功能将财务风险报告的生成时间从一周缩短至一小时。这些新产品和技术的发布，不仅展现了亚马逊云科技在生成式AI领域的资源投入和战略意图，也标志着生成式AI正从概念验证走向大规模应用的边缘。