李飞飞团队年度报告揭底大模型训练成本：Gemini Ultra是GPT-4的2.5倍
文章摘要
【关 键 词】 AI发展、技术爆发、斯坦福报告、模型比较、投资趋势
2023年，人工智能技术的发展速度达到了前所未有的水平，斯坦福HAI研究所发布的第七个年度AI Index报告为我们提供了一个全面的行业现状概览。报告强调了大型语言模型（LLM）的快速进步，如GPT-4、Gemini和Claude 3等系统展现出了强大的多模态功能，包括生成多语言文本、处理音频和图像以及解释网络梗图。
报告指出，2023年新发布的支持生成式AI的大型语言模型数量翻倍，其中三分之二为开源模型，但性能最佳的仍是闭源模型，如Google的Gemini Ultra。工业界在人工智能前沿研究中继续占据主导地位，产生了大量值得关注的机器学习模型，而学术界的贡献相对较少。美国在顶级人工智能模型的研发上遥遥领先，远超欧盟和中国。
报告还提到了人工智能性能提升的代价，即开发成本的显著增加。例如，Gemini Ultra和GPT-4的开发成本分别估计为1.91亿美元和7800万美元。此外，人工智能模型的碳足迹也是一个不容忽视的问题，例如Meta的Llama 2模型在训练期间释放的碳排放量是一位旅客往返航班的近291倍。
尽管全球企业对人工智能的投资在2023年有所下降，但生成式人工智能领域的投资却显著增加，占所有人工智能相关私人投资的四分之一以上。美国在人工智能私人投资总额方面继续领先世界。
谷歌在基础模型竞赛中占据主导地位，发布了最多的模型。闭源模型在选定的基准上普遍优于开源模型。同时，训练成本的上升也反映了人工智能技术发展的一个趋势。
在教育方面，美国和加拿大的计算机科学博士毕业生数量显著增加，越来越多的AI博士毕业生选择在工业界发展。AP CS考试的种族多样性也在增加，显示了教育领域的积极变化。
企业对人工智能的态度也在变化，人工智能不仅降低了成本，还提高了收入。然而，企业也意识到了人工智能带来的风险，尤其是在隐私和数据管理方面。
尽管人工智能在多个领域的表现已经超越了人类，但在一些复杂的认知任务中，人类仍然占有优势。报告还提到了制定人工智能责任规范的重要性，以及法律对人工智能发展的促进和限制作用。
公众对人工智能的态度复杂，虽然许多人知道并使用ChatGPT，但对人工智能的经济影响持悲观态度。超过半数的受访者表示人工智能让他们感到紧张，预计人工智能将在未来几年内深刻改变他们的日常生活。年轻人相对更乐观地看待人工智能将如何改变他们的生活。
原文和模型
【原文链接】 阅读原文 [ 3209字 | 13分钟 ]
【原文作者】 机器之心
【摘要模型】 gpt-4
【摘要评分】 ★★★★★
