“计算优化”的搜索结果

MoE也有Scaling Law,「百万专家」利用率近100%!DeepMind华人挑战MoE极限
谷歌DeepMind的研究科学家Xu Owen He最近提出了一种名为PEER(参数高效专家检索)的新技术,该技术能够将混合专家(MoE)模型的专家数量...
英伟达已成大模型行业的“苹果”,无问芯穹要做一种更兼容的“安卓”
汪玉教授是定制应用域加速领域的先驱,提出了“深度学习算法-编译-芯片联合设计”的路线。他们的实验室孵化了AI芯片公司深鉴科技,后被赛...
从LLM中完全消除矩阵乘法,效果出奇得好,10亿参数跑在FPGA上接近大脑功耗
在深度学习领域,矩阵乘法(MatMul)一直占据着核心地位,尤其是在语言模型中。然而,这一操作在计算开销和内存访问方面占据了很大比例...
港大字节提出多模态大模型新范式,模拟人类先感知后认知,精确定位图中物体
多模态大模型(MLLM)在视觉任务中展现出强大的认知理解能力,但目前大多数模型局限于单向的图像理解,难以在图像上进行精确定位。这一...
北大学生优化清华系大模型,拿ASC全球超算大赛冠军
第十一届ASC世界大学生超算竞赛在上海大学落下帷幕,北京大学成功卫冕冠军,中山大学获得亚军。本次竞赛吸引了来自多个国家和地区的300...