从云到端：离客户更近的端侧AI「涌现」而至

75 0 0

文章摘要

随着AI技术的发展，端侧AI正成为变革的前沿，其在终端设备上进行的人工智能计算和处理，使得用户体验和生态格局面临重塑。端侧AI的优势在于其接近客户和应用场景，能够实现实时响应、隐私保护，并减轻云端服务器的负担。轻量化模型技术如模型剪枝、知识蒸馏和量化的组合使用，使得大模型能在资源有限的设备上高效运行，赋能智能终端，提供个性化服务，并在无网络连接的情况下使用。

端侧AI的应用场景广泛，包括智能手机、智能家居、可穿戴设备、自动驾驶汽车、工业自动化和医疗设备等。技术进步和芯片产业发展正在克服端侧部署AI的挑战，推动更多应用场景的落地和成熟。大模型算法的优化、参数的减小、开源大模型的增多以及算法层级技术的发展，都在提升端侧AI的算力、部署成本和运行效率。

产业链上下游，包括芯片厂商、模组及软件厂商、终端厂商，都在积极推动AI在端侧的部署。广和通作为AIoT产业的模组及解决方案提供商，正在积极探索端侧AI技术，并推出了适用于多种场景的端侧AI解决方案，满足不同终端的算力和模型需求。广和通的解决方案深度布局视觉与听觉计算，推出了高算力和轻量化的机器视觉解决方案，融合了先进的处理能力和边缘计算优势，并支持多种无线通信连接方式，广泛应用于高端智能影像终端、工业视觉终端、车载终端和机器人等领域。

端侧AI大模型的全面落地需要全产业链的推动，包括芯片算力的增强、模型的优化、软件厂商的适配以及终端厂商的应用。广和通通过整合产业上下游资源，提供融合通信、算力、AI算法、AI引擎、模型等能力的端侧AI解决方案，加速AI的商用至终端，推动新质生产力的发展。