全球算力稀缺下，如何看待端侧 AI 设备投资前景？｜钛媒体AGI
文章摘要
【关 键 词】 苹果公司、OpenELM、端侧AI、AI手机、AI PC
苹果公司最近发布了全新的开源语言模型（LLM）OpenELM系列，标志着它加入了科技巨头在端侧模型领域的竞争。OpenELM系列包括四种参数版的模型，分别为0.27B、0.45B、1.08B和3.04B，具备生成文本、代码、翻译和总结摘要等功能，并且可以完全在本地设备上运行，无需连接云服务器。这一举措使得苹果在AI领域的发展引起了市场的关注。苹果CEO蒂姆·库克在5月1日的财报电话会议上强调了公司在生成式AI方面的大量工作，并表示苹果将抓住这一领域的发展机遇。
端侧AI指的是AI可以直接在移动设备上处理数据，而无需连接到服务器或云。这种技术带来了低延迟、高安全性和高灵活性等好处。要实现端侧AI，强大的嵌入式神经网络处理器（NPU）性能至关重要。端侧AI可以实现更强大的功能，如提高图片和视频质量、实现高质量的内容识别处理等。与云端模型相比，端侧AI终端具有提高用户使用体验的三大关键特点：承载个人的大模型、满足用户隐私保护需求；可靠性更强，本地端能够实现即时响应；成本降低，用户与厂商实现双赢。
目前，OPPO、vivo、小米等多款安卓手机，以及联想、戴尔、荣耀、华为等多款AI电脑终端均已布局大模型技术。对于PC市场来说，换机周期临近叠加Windows更新换代，有望催化PC市场复苏反弹。全球PC市场在过去十年经历了衰退、复苏、再衰退的轮动，预计2023年将重回近十年历史底部。到了2024年，硬件巨头布局AI PC的决心强烈，AI PC产品将逐渐走向成熟，有望成为AI PC的元年。
智能手机市场也即将迎来AI Phone时代。AI大模型与智能手机结合有望驱动新一轮换机周期，引领行业发展趋势。三星已经发布了首款AI手机Galaxy S24系列，聚焦翻译/笔记、搜索（圈选即搜）、影像等三大高频场景，销量表现优异。荣耀、vivo、OPPO、小米等品牌开始重点发力AI终端，支持操作系统嵌入AI大模型。华为、苹果也有望加速布局，重点关注华为手机新品及苹果新一代iOS或将嵌入更多AI功能。
从产业链来看，SoC/内存重点升级，配套硬件持续迭代。SOC重点倾斜AI计算引擎，并呈现出向中端手机下沉趋势。运行130亿模型内存需求达16GB以上，目前智能手机平均内存不足6GB，高端手机平均内存仅9GB，内存容量和传输数率有待提升。AI大模型本地长时间运行需要较强散热和续航性能，进一步提高散热及电池规格要求。AI有望更充分地挖掘手机影像潜力，并对摄像头性能提出更高要求。AI赋能下一代5G体验及近场联接体验，助力射频升级迭代。AI引发手机附加值提升契机，钛合金渗透上量革新消费电子工艺与材料。
中信建投认为，端侧AI是AI发展的下一阶段，大模型轻量化等技术推进端侧AI发展。端侧AI具备安全性、独立性、低时延、高可靠性等特点，能很好地完成各种AI推理任务。目前，多个大模型均已推出“小型化”和“场景化”版本，其轻量化提供了端侧运行基础。AI PC核心升级在于芯片，AI PC不同于传统PC的主要之处在于其SoC芯片中要有AI模块，通过AI芯片中的NPU等模块为硬件终端提供算力支撑，从而运行端侧AI大模型。除芯片外，DRAM、计算模组等有望迎来新的升级与市场机遇。
原文和模型
【原文链接】 阅读原文 [ 4959字 | 20分钟 ]
【原文作者】 钛媒体AGI
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★
相关文章
