标签:计算通信重叠

一文看懂DeepSeek开源第四弹,梁文锋亲自下场开发

DeepSeek在OpenSourceWeek期间开源了DualPipe和EPLB两项关键技术,为解决大模型训练中存在的资源浪费与效率瓶颈提供了创新方案。DualPipe通过双向并行处理机...