标签：训练优化
Scaling Laws终结，量化无用，AI大佬都在审视这篇论文
近期，AI领域一篇关于大模型量化的论文引起了广泛关注。UCSD助理教授Dan Fu认为该论文指明了大模型量化的方向，而CMU教授Tim Dettmers更是称之为'很长一段时...
昆仑万维开源 2 千亿稀疏大模型天工 MoE，全球首创能用 4090 推理
昆仑万维宣布开源其千亿稀疏大模型Skywork-MoE，此模型基于先前的Skywork-13B模型中间checkpoint扩展而成，是首个将MoE Upcycling技术应用并落地的开源千亿Mo...
