标签:移动模型

手机流畅运行470亿大模型:上交大发布LLM手机推理框架PowerInfer-2,提速29倍

在移动设备上部署大型模型成为行业焦点,但受限于内存和算力的不足,这些模型相对较小,且消耗大量资源,限制了其应用场景。苹果公司在此领域的动作引发了关...