马斯克狂揽10万块H100,自建世界最强AI超算,下一代模型训练开始

AIGC动态5个月前发布 QbitAI
842 0 0
马斯克狂揽10万块H100,自建世界最强AI超算,下一代模型训练开始

 

文章摘要


【关 键 词】 超级AI集群马斯克xAI公司英伟达GPUAI训练

由埃隆·马斯克领导的xAI公司已成功建成了名为孟菲斯的超级AI集群,这一消息由马斯克在推特上宣布。该集群由10万块英伟达H100 GPU组成,使其成为目前世界上最强大的AI训练集群,规模甚至超过了全球最强超级计算机Frontier。xAI的创始成员强调,公司成立的初衷是实现数据、人才和计算的优势,而孟菲斯集群的建成标志着这些优势的实现。

孟菲斯集群的建成得到了超威(Supermicro)的祝贺,其创始人查尔斯·梁表示很高兴与马斯克共同创造历史。马斯克还透露,该集群的建成将为今年内训练出全球最强AI模型提供重大优势。此前,马斯克曾提到为H100投入1GW电力可能不值得,但明年夏天可能会使用由30万块B200组成的集群。

xAI最初计划与甲骨文合作建设超算集群,但后来选择了自建模式,并以极快的速度推进。据报道,10万张H100 GPU的安装仅用了19天。戴尔和超微成为了马斯克的新合作伙伴,而马斯克本人也亲自参与了集群建设的现场工作。集群的电力供应问题似乎也已得到解决,目前集群已获得8兆瓦电力,预计8月1日后将增加至50兆瓦。

AI领域的巨头们普遍认为,掌握算力是至关重要的,因此不惜投入巨额资金。马斯克的超算集群价值预计达40亿美元。同时,微软和OpenAI也在进行一项名为“星际之门”的耗资1000亿美元的数据中心项目,而甲骨文和微软之间的交易可能涉及10万块B200 GPU。此外,Meta和AWS等公司也在数据中心方面进行了大量投资。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 952字 | 4分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★☆☆☆☆

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...