文章摘要
【关 键 词】 AI算力、图像生成、芯片设计、设备端AI、个性化AI
近日，DeepSeek发布了Janus-Pro多模态模型系列，声称其图像生成能力超越了OpenAI的DALL-E 3、Google的Emu3-Gen和Stability AI的Stable Diffusion XL等领先产品。这一事件引发了关于AI算力需求是否迎来拐点的讨论。全球AI社区GenAI Assembling邀请了Nexa AI的CTO兼联合创始人Zack Li和AMD的首席工程师Xiyue Xiang，就预训练和推理、AI算力需求转移、软硬件协同优化、端侧智能机遇等话题进行了深入对话。
Xiyue Xiang介绍了训练和推理芯片的区别，强调训练注重吞吐量，而推理注重延迟。他提到，推理在未来将发挥更重要的作用，芯片厂商正在根据不同市场的独特需求定制产品。Zack Li则从设备端AI的角度，讨论了算力从训练阶段转向推理阶段的趋势，以及Nexa AI如何通过开发SDK和量化解决方案，将模型尺寸缩小以适应移动设备。
对话中，Zack Li提到Nexa AI专注于设备端AI模型和AI基础设施，其产品Octopus和多模态模型在Hugging Face上受欢迎，Nexa SDK支持在笔记本电脑和移动设备上运行设备端AI模型。Xiyue Xiang则讨论了AMD如何通过软件开发加强在AI领域的地位，包括开发ROCm平台、战略收购和建立生态系统。
两位专家还探讨了芯片设计的未来突破，包括工艺技术、计算、内存、网络和封装的发展。Zack Li认为，设备端AI的商业模式将与云AI不同，涉及与芯片公司和OEM厂商的合作。Xiyue Xiang预测，未来几年内将看到支持个性化AI的硬件成熟产品。
最后，两位专家互相提问，探讨了2025年设备端AI的最大机会和支持个性化AI的硬件的发展前景。这场对话涵盖了AI领域的多个关键议题，为行业未来走势提供了深入的见解。
原文和模型
【原文链接】 阅读原文 [ 5686字 | 23分钟 ]
【原文作者】 硅星人Pro
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆
