DeepSeek V3刷屏，550万元2000张卡做出的开源模型，和OpenAI几亿烧出来的一样好

404 0 0

文章摘要

【关键词】 DeepSeek V3、高效训练、性能提升、技术创新、全球竞争

深度求索公司发布的DeepSeek V3技术报告揭示了其高效训练的关键数据，展现了该模型在资源依赖小、成本低的同时，效果异常出色。在预训练阶段，DeepSeek-V3在具有2048个H800 GPU的集群上仅用3.7天完成训练，总成本为557万美元，远低于其他模型如GPT-4o的约1亿美元训练成本。DeepSeek-V3-Base在基准测试中表现优异，尤其在代码和数学方面，与其他领先闭源模型性能相当。

DeepSeek-V3是一款671B参数的MoE模型，其性能在多项评测中超越其他开源模型，并与GPT-4o和Claude-3.5-Sonnet等顶尖闭源模型媲美。该模型在百科知识、长文本、代码、数学和中文能力等方面均有显著提升。DeepSeek-V3的生成速度提升了3倍，从20 TPS提高至60 TPS，为用户提供了更迅速流畅的体验。

技术报告发布后，DeepSeek V3受到了业界的高度评价，尤其在分布式推理优化、模型架构创新、辅助损失自由负载均衡策略、冗余专家机制、多Token预测目标和FP8低精度训练优化等方面。这些创新不仅提升了模型性能，还降低了对硬件资源的需求，为未来更大规模模型提供了新的可扩展性框架。

DeepSeek V3的成功展示了在算力不再是唯一决定因素的时代，中国模型开发者通过创新技术在全球AI领域的机会。模型的发布引起了全球开发者的关注，其性能和技术创新得到了业界的认可和推荐。DeepSeek V3的发布标志着一个新时代的开始，即在分布式推理和模型创新方面，中国开发者有能力与全球领先企业竞争。