标签：能效提升
以加代乘？华为数学家出手，昇腾算子的高能设计与优化，性能提升30%！
随着大语言模型（LLM）参数规模的指数级增长，AI 的智力正在快速跃迁，但大模型在落地过程中面临着一系列推理层面的难题，如推理速度慢、计算成本高、部署效...
替代HBM，微软探索新方案
AI集群中高带宽内存（HBM）的局限性促使微软研究院团队提出一种新型内存——托管保留内存（MRM）。MRM旨在更有效地存储AI推理工作负载的关键数据结构，通过放弃...
三大芯片巨头，抢进CPO
过去二十多年，计算性能的提升显著，但I/O带宽增长速度远低于硬件性能。面对将高带宽互连扩展到单个机架之外的挑战，共封装光学器件（CPO）成为关键技术。行...
下一代AI芯片，拼什么？
在AI芯片领域，尽管摩尔定律已显疲态，但芯片制造商仍在以惊人的速度推出新一代产品。英伟达、AMD和英特尔三大芯片巨头在台北国际电脑展上展示了各自的新款AI...
清华首款AI光芯片登上Science，全球首创架构迈向AGI
清华大学的研究团队开发了一种名为「太极」的AI光芯片，这是一种使用光而非电来处理数据的新型芯片。这项技术的亮点在于其高效的能源利用，「太极」芯片的能...
