标签：量化方法

如何把大模型压缩到1bit？论文作者这样说

这篇文章讨论了对大模型进行压缩的重要性，尤其是在部署代价高昂的情况下。模型量化是一种压缩方法，通过将大模型的参数转换为低位宽的表示来节省空间占用。...

AIGC动态

8个月前