标签:硬件需求

学界正在研究1-bit的大模型,目前已经有突破性进展

随着大型语言模型(LLM)性能的增强,其对计算资源和能源的需求也日益增加。为降低成本、提高速度并实现环保,研究者致力于将模型压缩至能在手机等小型设备上...

大模型增速远超摩尔定律!MIT最新研究:人类快要喂不饱AI了

近日,MIT的研究人员发表了一项关于大模型能力增速的研究,指出LLM的能力每8个月翻一倍,远超过摩尔定律。这意味着硬件可能无法跟上大模型的需求,引发了人们...