文章摘要
【关 键 词】 智算资源、绿色节能、AI算力需求、GPU集群、国产GPU
< strong >北京市最新出台的《北京市算力基础设施建设实施方案（2024-2027年）》旨在通过一系列措施加速智算资源供给的自主可控和绿色节能改造，推动大模型赋能行业应用。< / strong >
< strong >该方案提出到2025年，北京市智算供给规模将达到45EFLOPS，并根据人工智能大模型发展需要和国家相关部署进一步优化算力布局。< / strong >
< strong >随着大模型数量的极速增长，算力市场需求巨大。< / strong >
< strong >北京拥有122家大模型创新团队，占全国的一半，大模型数量居全国首位。< / strong >
< strong >AIGC技术的发展推动了多模态阶段的到来，AI算力需求将持续增长。< / strong >
< strong >然而，全球GPU芯片供应紧张，价格不断上涨，算力供给方需要通过芯片间连接技术构建大型AI算力集群。< / strong >
< strong >国内厂商如华为云和摩尔线程等正在探索和实践集群模式。< / strong >
< strong >摩尔线程推出的夸娥（KUAE）智算集群解决方案，通过一体化交付方式解决大规模GPU算力建设和运营管理问题，降低传统算力建设、应用开发和运维运营平台搭建的时间成本。< / strong >
< strong >构建千卡智算集群面临诸多挑战，包括GPU集群规模、GPU本身的难点、系统性工程的复杂性等。< / strong >
< strong >摩尔线程的夸娥（KUAE）智算中心解决方案提供了破局之道，包括全功能GPU底座、软硬件一体化全栈解决方案，以及覆盖基础设施建设、智算集群管理、大模型服务等方面。< / strong >
< strong >夸娥（KUAE）智算中心解决方案的优势在于覆盖主流大模型、兼容CUDA等主流生态、断点续训、大语言模型分布式训练、加速推理、高性能通信、高性能存储和高可靠性。< / strong >
< strong >摩尔线程已成功落地三个千卡智算集群，并与无问芯穹合作，推进基于夸娥（KUAE）千卡智算集群的“MT-infini-3B”合作大模型实训，性能在同规模模型中跻身前列。< / strong >
< strong >摩尔线程的前瞻性战略和技术实力使其在国产GPU集群领域取得领先地位，未来有望为国产GPU发展带来更多惊喜。< / strong >
原文和模型
【原文链接】 阅读原文 [ 3747字 | 15分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★☆☆☆☆
