标签：矩阵乘法
从LLM中完全消除矩阵乘法，效果出奇得好，10亿参数跑在FPGA上接近大脑功耗
在深度学习领域，矩阵乘法（MatMul）一直占据着核心地位，尤其是在语言模型中。然而，这一操作在计算开销和内存访问方面占据了很大比例。近期，来自加州大学...
芯片战争早已打响！谷歌15个月打造首个TPU，欲和老黄平起平坐
在当前由英伟达主导的AI硬件时代，谷歌的张量处理单元（TPU）提供了一种不同的解决方案。本文将探讨TPU的发展历程和其独特的架构设计。TPU的历史背景和重要性...
清华姚班本科生连发两作，十年来最大改进：矩阵乘法接近理论最优
通过消除「隐藏的低效」问题，计算机科学家提出了一种比以往更快的大型矩阵相乘新方法。这一进展是在矩阵乘法领域中的重要突破，矩阵乘法不仅是高性能计算中...
