标签:算子加速

昇腾+鲲鹏联手上大招!华为爆改MoE训练,吞吐再飙升20%,内存省70%

华为在MoE(Mixture of Experts)训练系统领域取得了显著的技术突破,提出了全新的算子和内存优化方案,显著提升了训练效率和内存利用率。MoE作为一种独特的...