高通的自研架构芯片,正在整合生成式AI世界

高通的自研架构芯片,正在整合生成式AI世界

 

文章摘要


【关 键 词】 AI智能骁龙8芯片技术端侧AI自动驾驶

在2024年末,智能手机的AI功能得到了显著提升,这得益于新一代大模型和芯片技术的发展。高通的“骁龙8至尊版”作为业界最新的旗舰SoC,为智能手机提供了强大的AI能力,包括端侧AI智能体、多模态大模型应用、视频AI消除和超级AI助手等。骁龙8至尊版在CPU单核、多核性能上提升了45%,GPU性能提升了40%,NPU输出速度达到70+Tokens每秒,同时降低了40%的整体SoC功耗。

骁龙8至尊版的CPU采用了第二代定制高通Oryon CPU,取消了能效核,提升了性能和功耗效率。GPU方面,高通重新设计了Adreno GPU架构,提升了性能和光线追踪性能。AI能力方面,Hexagon NPU性能和能效提升了45%,得益于加速器内核吞吐量的提升。这些技术的提升使得搭载骁龙新平台的智能手机能够运行终端侧多模态生成式AI应用,带来改变人们使用习惯的体验。

高通不仅在芯片本身进行了优化,还在软硬件整合上下了功夫。骁龙8至尊版的发布得到了科技公司大佬的支持,他们分别阐述了生成式AI在不同方向的愿景,并聚焦于端侧AI。云端和端侧的生成式AI形态是互相成就的关系,端侧设备的算力可以保护个人隐私并提升服务的可靠性。

高通与合作伙伴共同优化了端侧大模型,如智谱的端侧视觉大模型GLM-4V和腾讯的混元大模型。这些优化使得大模型在端侧的运行效率大幅提升,例如腾讯手机管家的短信智能识别功能,基于混元端侧模型,短信召回率提高了近200%,识别准确率提升了20%。

高通的布局不仅限于PC和移动端,还扩展到了汽车领域。骁龙座舱至尊版和骁龙Ride至尊版平台专为汽车定制,分别面向智能座舱和自动驾驶。这些平台的发布,加上高通自研的Adreno GPU、Spectra ISP和Hexagon NPU,统一了PC、手机、汽车三条产品线的芯片架构,实现了AI能力的全链路打通。

随着端侧能力的体验越来越受到重视,高通的技术栈为生成式AI的大规模应用铺平了道路。未来,我们可能会看到更多事物因生成式AI而改头换面,高通的技术将在其中发挥关键作用。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 3312字 | 14分钟 ]
【原文作者】 机器之心
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...