标签：万卡集群
首个国产全功能GPU的万卡集群来了！“中国英伟达”出品
摩尔线程推出了国内首个全功能、兼容CUDA的纯国产GPU万卡集群，具备超过10000张高性能GPU，总算力超过万P，专为万亿参数级别的大模型训练设计。该集群不仅规...
字节万卡集群技术细节公开：2天搞定GPT-3训练，算力利用率超英伟达Megatron-LM
字节跳动与北京大学合作的一篇新论文揭示了AI基础设施的重要性，并介绍了字节搭建的万卡集群，该集群能在1.75天内完成GPT-3规模模型（175B）的训练。字节提出...
