马斯克狂揽10万块H100，自建世界最强AI超算，下一代模型训练开始

582 0 0

文章摘要

由埃隆·马斯克领导的xAI公司已成功建成了名为孟菲斯的超级AI集群，这一消息由马斯克在推特上宣布。该集群由10万块英伟达H100 GPU组成，使其成为目前世界上最强大的AI训练集群，规模甚至超过了全球最强超级计算机Frontier。xAI的创始成员强调，公司成立的初衷是实现数据、人才和计算的优势，而孟菲斯集群的建成标志着这些优势的实现。

孟菲斯集群的建成得到了超威（Supermicro）的祝贺，其创始人查尔斯·梁表示很高兴与马斯克共同创造历史。马斯克还透露，该集群的建成将为今年内训练出全球最强AI模型提供重大优势。此前，马斯克曾提到为H100投入1GW电力可能不值得，但明年夏天可能会使用由30万块B200组成的集群。

xAI最初计划与甲骨文合作建设超算集群，但后来选择了自建模式，并以极快的速度推进。据报道，10万张H100 GPU的安装仅用了19天。戴尔和超微成为了马斯克的新合作伙伴，而马斯克本人也亲自参与了集群建设的现场工作。集群的电力供应问题似乎也已得到解决，目前集群已获得8兆瓦电力，预计8月1日后将增加至50兆瓦。

AI领域的巨头们普遍认为，掌握算力是至关重要的，因此不惜投入巨额资金。马斯克的超算集群价值预计达40亿美元。同时，微软和OpenAI也在进行一项名为“星际之门”的耗资1000亿美元的数据中心项目，而甲骨文和微软之间的交易可能涉及10万块B200 GPU。此外，Meta和AWS等公司也在数据中心方面进行了大量投资。