标签:激活

微软再放LLM量化大招!原生4bit量化,成本暴减,性能几乎0损失

微软亚研院的研究团队近期发布了原生1bit精度的大模型BitNet b1.58 2B4T的升级版本——BitNet v2。这一新版本在性能几乎无损失的情况下,显著降低了内存占用和...