沈向洋院士:AI算力需求年均增长400%,讲卡伤感情、没卡没感情|钛媒体AGI

AIGC动态1个月前发布 TMTPOSTAGI
255 0 0
沈向洋院士:AI算力需求年均增长400%,讲卡伤感情、没卡没感情|钛媒体AGI

 

文章摘要


【关 键 词】 AI发展算力需求科研变革数据挑战产业融合

在2024年IDEA大会上,沈向洋发表了题为“从技术突破到产业融合”的演讲,分享了他对人工智能发展的深刻见解。沈向洋强调,在技术大爆发时期,深度理解技术尤为重要。他预测,未来十年AI发展需要增长100万倍的算力,远超摩尔定律预言的100倍增长。英伟达作为AI行业最成功的公司,已经从硬件供应商转变为行业核心支柱。EPOCH AI数据显示,大模型对算力的需求年均增长率超过400%,全球已消耗超过1000万张GPU算力卡。

沈向洋透露,他将与英伟达CEO黄仁勋讨论算力发展问题,探讨未来十年是否能达到100万倍的增长。他还提到,Scaling Law放缓的原因是GPT-5尚未发布,主要与数据相关。IDEA研究院致力于AI和数字经济领域的前沿研究与产业落地,发布了多个新技术和新模型的成果,如DINO-X通用视觉大模型、行业平台架构、具身智能合作项目、合成数据技术、AI for Science等。

沈向洋认为,AI时代必将催生新的编程范式,中国开发者将起到关键作用。他强调,AI正在改变科研方式,从确定方向、选择课题到深入研究,每个环节都将被重塑。他预测,沿着强化学习的道路走下去,算法将有全新突破。IDEA研究院已发展成拥有7个研究中心、约450名员工的科研机构,强调“科学家头脑、企业家素质、创业者精神”的理念。

沈向洋还提到,大模型的发展依赖于参数规模和海量数据的支持。GPT-3使用了2万亿token数据,GPT-4时代增加到12T,未来GPT-5可能需要200T规模的数据。随着互联网数据接近极限,AI发展需要依靠合成数据。IDEA团队自研了语境图谱技术,解决合成数据多样性匮乏问题,为大模型带来能力提升,节约成本85.7%。

总之,沈向洋在演讲中分享了他对AI算力、算法和数据的最新思考,强调了AI时代中国开发者的关键作用,以及AI对科研方式和社会的深远影响。IDEA研究院将继续在AI和数字经济领域开展前沿研究和产业落地,推动技术突破和产业融合。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 6307字 | 26分钟 ]
【原文作者】 钛媒体AGI
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...