WAIC上,高通这一波生成式AI创新,让我们看到了未来
文章摘要
【关 键 词】 AI算力、Windows 11、骁龙芯片、智能设备、高通技术
生成式人工智能(AI)技术的快速发展正在推动产业格局的快速变革。微软公司推出的AI PC,搭载新型芯片,具备超过40万亿次操作每秒的AI算力和全天电池续航能力,无缝接入世界最先进的AI模型,成为迄今为止速度最快、最智能化的Windows个人电脑。
AI PC的发布,标志着人机交互方式的颠覆性变革。这些新形态设备的内部也有所不同,传统的X86架构被高通骁龙X系列芯片所取代。微软官方说明,Windows 11的部分生成式AI能力只有在搭载骁龙芯片上才能正常运行。这背后的原因在于,生成式AI对算力的极高需求,使得面向AI计算的芯片成为硬件公司的探索方向。
高通在终端侧算力上表现突出,推出的第三代骁龙8移动平台在性能上超越了苹果A17 Pro,成为旗舰AI手机芯片的首选。同时,高通还推出了全新设计的高性能PC芯片骁龙X系列平台,其旗舰产品骁龙X Elite在AI算力上实现了质的飞跃,仅依靠NPU就能实现45TOPS算力,结合CPU、GPU、NPU的异构计算可以输出更高算力,支持新一代AI PC运行超过130亿参数的生成式AI模型。
在世界人工智能大会WAIC 2024上,高通展示了终端侧生成式AI的能力,包括在Android智能手机上运行的大语言和视觉助理大模型LLaVA,以及在骁龙X Elite支持下,AI PC能够终端侧处理音频内容的方法。此外,高通还率先在安卓手机上实现了LoRA模型的终端侧运行,降低了大模型的训练成本。
高通的终端侧生成式AI布局已经取得了显著成果。在智能手机领域,超过20款搭载第三代骁龙8的旗舰手机产品发布,支持的应用针对人们的需求进行了大量优化。在个人电脑方面,骁龙X Elite和骁龙X Plus平台实现了AI算力的专用化,联手微软等生态伙伴,已有超过20款基于骁龙X系列的Windows 11 AI PC上市。在汽车领域,多家汽车厂商已经在搭载骁龙座舱平台的汽车上部署了车端大模型,随着多模态技术的发展,生成式AI有望为智能座舱、自动驾驶等领域打开全新的应用空间。
高通拥有超过15年的AI技术研发经验,凭借长期不懈的技术探索与实践,已经打造出了端云结合的混合AI能力。在生成式AI时代,高通充分发挥技术优势,为终端设备提供了性能领先的硬件,其可扩展的软硬件技术架构可以对多种AI算法实现性能、能效的极致优化,并快速部署到不同终端上。高通的生成式AI能力已经覆盖了开发的全流程,包括面向生成式AI设计的全新计算架构、高通AI引擎以及支持第三方应用的软件栈。
随着高通等公司的技术推动,终端侧生成式AI的大规模落地已经按下了加速键。这将带动变革逐渐显现,智能化将无处不在,为人们的生活、工作和学习带来更多便利和创新体验。
原文和模型
【原文链接】 阅读原文 [ 4033字 | 17分钟 ]
【原文作者】 机器之心
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★