文章摘要
【关 键 词】 HBM技术、内存容量、带宽提升、散热挑战、HBM4前景
为了提升AI和HPC工作负载的性能，扩展计算引擎的内存容量和带宽至关重要。尽管存在多种扩展方法，但新方法必须具备可制造性和成本效益才能被采纳。目前，HBM技术因无法同时提升内存容量和带宽而面临瓶颈，导致高端计算引擎短缺，市场扭曲，计算和内存容量与带宽之间效率低下。
HBM内存相较于常规DRAM和GDDR内存在带宽关键的计算引擎中表现更优，但全球产量不足以满足需求。SK海力士作为全球HBM出货量的领先者，最近发布了HBM3E内存，其内存堆栈高达16个芯片，是当前HBM3E堆栈的两倍，提供每个堆栈48GB的容量。这一技术的提升对于Nvidia、AMD等加速器制造商来说是一个重要的进步，他们希望尽快将这种技术纳入路线图。
SK海力士采用的大规模回流成型底部填充(MR-MUF)技术，通过熔化DRAM芯片之间的凸块并用粘性物质填充空间，以更好地为芯片堆栈散热的方式将它们连接在一起。HBM内存的发展路线图显示，从HBM1到HBM3E，内存容量、带宽和堆栈高度都在不断提升。HBM4内存预计将于2026年首次亮相，采用八高堆栈，并于2027年采用十二高堆栈。
然而，实现HBM4内存面临诸多挑战，包括计算引擎制造商对更高带宽和更低功耗的需求，以及内存堆栈增长带来的散热问题。SK海力士正在努力通过更宽的总线、集成内存寻址逻辑等方式来应对这些挑战。HBM4预计将提供超过1.4倍的带宽、1.3倍的每个内存芯片的容量、1.3倍的更高堆栈容量，并且功耗仅为HBM3/HBM3E的70%。
尽管HBM4内存的前景令人期待，但当前内存计算不平衡的问题亟待解决。客户在设备上投入巨资，却因HBM内存的带宽和容量瓶颈而无法达到峰值性能。因此，业界需要尽早实现HBM4E内存，或者找到一种方法将更多的HBM3E内存连接到当前设备上，以满足市场需求。
原文和模型
【原文链接】 阅读原文 [ 3338字 | 14分钟 ]
【原文作者】 半导体行业观察
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★
