端侧ChatGPT时刻！这家清华系大模型公司赶在OpenAI、苹果之前

137 0 0

文章摘要

【关键词】 端侧AI、面壁智能、MiniCPM 3.0、多模态、机器人应用

苹果公司即将举行的发布会备受期待，但更引人注目的是苹果在端侧AI领域的新进展，即Apple Intelligence。端侧AI正成为科技巨头的新战场，谷歌、苹果和OpenAI等公司都在积极布局。在这一背景下，国内大模型公司面壁智能率先在端侧实现了ChatGPT，并发布了新一代基座模型MiniCPM 3.0，该模型以4B参数超越了GPT-3.5的性能，成为端侧AI领域的有力竞争者。

面壁智能的MiniCPM 3.0模型具有多项创新功能，包括无限长文本处理能力、端侧最强的Function Calling性能以及超强的RAG外挂三件套，使其在中文检索和内容生成方面表现出色。MiniCPM 3.0的开源地址已在GitHub和HuggingFace上公布，供开发者和研究者使用。

面壁智能提前兑现了让GPT-3.5水平的模型在端侧运行的承诺，其背后是公司围绕Scaling Law构建的大模型科学化方法论。面壁智能提出的“面壁定律”预测模型知识密度将每8个月翻倍，而MiniCPM 3.0正是这一趋势的体现。

除了基座模型，面壁智能的多模态模型MiniCPM-V 2.6也在端侧实现了超越GPT-4V的能力。面壁智能的端侧AI技术不仅在PC、平板和手机上有实际应用，还与机器人领域结合，开启了具身智能的新篇章。面壁智能与加速进化机器人和大象机器人的合作，展示了端侧AI在机器人领域的应用潜力，同时也与MTK合作，为梧桐科技提供了车载多模态大模型，进一步拓展了端侧AI的应用场景。

面壁智能的MiniCPM 3.0模型以其轻量级、快速、高效和低成本的特点，为用户提供了友好的端侧体验。模型的量化版本仅占用2.2GB内存，适合端侧应用。面壁智能的端侧模型具有弱网、断网可用、超低时延和数据隐私安全等本地优势，使其成为可靠的AI伙伴。随着面壁智能在端侧AI领域的深入探索，其技术的应用前景将更加广阔。