文章摘要
【关 键 词】 Yi-Lightning、技术突破、推理速度、AI 2.0、数字人
10月16日，零一万物公司发布了其最新旗舰模型Yi-Lightning，这是继上半年推出的千亿参数模型Yi-Large之后的又一次技术突破。Yi-Lightning在保持模型性能提升的同时，推理速度得到了显著增强。内部评测显示，在8xH100算力下，Yi-Lightning的首包时间和最高生成速度相较于Yi-Large分别提升了一半和近四成。
Yi-Lightning的推理速度提升归功于其AI Infra能力和采用的Mixture of Experts（MoE）混合专家模型架构。MoE模型由多个专家网络构成，能够根据任务难度动态选择激活的专家网络，以达到推理成本和模型性能的平衡。在训练阶段，所有专家网络被激活以学习知识；而在推理阶段，模型会根据任务难度选择性激活专家网络。
零一万物的模型团队在Yi-Lightning的训练中采用了混合注意力机制、动态Top-P路由和多阶段训练等技术，有效提升了模型的推理效率和性能。在国际权威盲测榜单LMSYS上，Yi-Lightning超越了GPT-4o-2024-05-13、Claude 3.5 Sonnet，排名世界第六，中国第一。
Yi-Lightning已上线Yi大模型开放平台，每百万token的价格为0.99元，接近行业最低价。李开复强调，零一万物在定价上保持了微利，旨在支持应用层的探索。他还回应了关于大模型公司放弃预训练的传闻，表示只要有合适的人才和决心，融资和芯片不会成为问题。
此外，零一万物还首次发布了AI 2.0数字人，这是其在ToB战略下的首发行业应用产品，聚焦零售和电商场景。AI 2.0数字人基于Yi Lightning模型，提供了动作训练、表情生成、多国语言和情感表达等能力，以及电商话术大模型作为AI大脑，负责智能对话。该解决方案已在多个场景中实现显著的GMV提升。
李开复还提到，零一万物的ToB工作主要在国内进行，而ToC布局则主要在海外。他解释说，ToB供应商通常是当地的，而ToC产品在国内面临流量成本高和用户流失的问题，因此公司更关注海外市场的机会。
原文和模型
【原文链接】 阅读原文 [ 2737字 | 11分钟 ]
【原文作者】 AI前线
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★
