智谱AI COO 张帆：榨干端侧的每一分算力，做极致调优，让AI在硬件上非常能打

340 0 0

文章摘要

在硅星人AI创造者大会(ACC 2024)上，智谱AI COO张帆与硅星人创始人、CEO骆轶航就智谱AI与智能终端的合作进行了深入对话。骆轶航提到智谱AI在多模态和自然语言交互方面取得了显著进展，特别是在AutoGLM技术上，智谱AI实现了AI自主操作手机端的功能，这标志着大模型进入了一个新的阶段。张帆回应称，智谱AI自去年以来一直在端侧模型上进行研发，并与硬件厂商如高通进行了全方位合作，推动了端侧模型的发展。

张帆强调，智谱AI的Agent技术能够使系统与外部环境持续交互，通过拆解复杂问题并动态调节模型能力来逐步实现目标。智谱AI在端侧合作伙伴方面非常广泛，包括手机、汽车、平板PC、眼镜等，看好端侧的作用。智谱AI在端侧的模型适配工作根据不同设备的场景和环境进行调整，同时保持端云结合的重要性，以实现高可用性、隐私保护和成本效益。

骆轶航询问了智谱AI与高通合作的意义，张帆解释说，这代表了端侧模型的最佳实践，得到了芯片厂商的认可，并为设备厂商提供了一个样本。智谱AI在应用端深入布局，拓展了一些创新功能，如AIGC，与OEM沟通时可以借鉴和参照。

在讨论AI Agent的能力时，张帆指出，市场上对Agent的定义非常混乱，智谱AI理解的Agent是让大模型成为独立的智能体，能够在特定领域内自动规划、执行任务，并与外部环境交互和反思。智谱AI在“脑”和“手”两个维度上都在进行改进，以适应不同的设备和算力要求。

最后，张帆提到，智谱AI的合作策略是提供标准化框架，让厂商自主配置，同时智谱AI的使命是达到AGI。智谱AI试图把问题串起来，变的部分尽量交给伙伴完成，解决的是行业下限，而合作伙伴则可以在此基础上提升模型的上限。