智谱AI COO 张帆:榨干端侧的每一分算力,做极致调优,让AI在硬件上非常能打

AI-Agent6小时前发布 Si-Planet
35 0 0
智谱AI COO 张帆:榨干端侧的每一分算力,做极致调优,让AI在硬件上非常能打

 

文章摘要


【关 键 词】 AI合作多模态端侧模型智能终端AGI使命

在硅星人AI创造者大会(ACC 2024)上,智谱AI COO张帆与硅星人创始人、CEO骆轶航就智谱AI与智能终端的合作进行了深入对话。骆轶航提到智谱AI在多模态和自然语言交互方面取得了显著进展,特别是在AutoGLM技术上,智谱AI实现了AI自主操作手机端的功能,这标志着大模型进入了一个新的阶段。张帆回应称,智谱AI自去年以来一直在端侧模型上进行研发,并与硬件厂商如高通进行了全方位合作,推动了端侧模型的发展。

张帆强调,智谱AI的Agent技术能够使系统与外部环境持续交互,通过拆解复杂问题并动态调节模型能力来逐步实现目标。智谱AI在端侧合作伙伴方面非常广泛,包括手机、汽车、平板PC、眼镜等,看好端侧的作用。智谱AI在端侧的模型适配工作根据不同设备的场景和环境进行调整,同时保持端云结合的重要性,以实现高可用性、隐私保护和成本效益。

骆轶航询问了智谱AI与高通合作的意义,张帆解释说,这代表了端侧模型的最佳实践,得到了芯片厂商的认可,并为设备厂商提供了一个样本。智谱AI在应用端深入布局,拓展了一些创新功能,如AIGC,与OEM沟通时可以借鉴和参照。

在讨论AI Agent的能力时,张帆指出,市场上对Agent的定义非常混乱,智谱AI理解的Agent是让大模型成为独立的智能体,能够在特定领域内自动规划、执行任务,并与外部环境交互和反思。智谱AI在“脑”和“手”两个维度上都在进行改进,以适应不同的设备和算力要求。

最后,张帆提到,智谱AI的合作策略是提供标准化框架,让厂商自主配置,同时智谱AI的使命是达到AGI。智谱AI试图把问题串起来,变的部分尽量交给伙伴完成,解决的是行业下限,而合作伙伴则可以在此基础上提升模型的上限。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 4476字 | 18分钟 ]
【原文作者】 硅星人Pro
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明

相关文章

暂无评论

暂无评论...