英伟达AI算力的五个层次，2024年GTC大会GB200技术全拆解！

800 0 0

文章摘要

【关键词】 英伟达、Blackwell AI、算力提升、高速互联、并行计算

根据文章内容，可以总结如下：

1. 英伟达在2024GTC大会上发布了全新的Blackwell AI芯片，研发成本高达100亿美元。该芯片具有非常强大的性能，在单芯片层面就已经达到了800mm²的面积，包含600个SM单元，单芯片算力达到了10PFLOPS。Blackwell的两个Die通过高速NV-HBI技术互联，通信速度达到10TB/s，实现了双Die一个芯片的效果。Blackwell总共拥有2060亿个晶体管，支持8条HBM3e显存，总显存容量192GB，带宽8TB/s。

2. 为了满足大规模并行计算的需求，英伟达提出了GB200方案，包含2个Blackwell GPU和一个Grace CPU。2个GPU之间通过NVLINK互联，总FP8算力达到20PFLOPS。此外，英伟达还通过72卡互联实现了更高层次的算力，通过NVLink技术实现72个GPU的互联，实现了近1EFLOPS的算力。

3. 英伟达在Blackwell上的创新包括：单芯片算力、Die-to-Die互联、以及多卡互联三个层次的算力提升。Blackwell通过芯片面积扩大、高速互联技术、以及NVLink多卡互联技术，实现了在单芯片和大规模并行计算领域的突破。这一创新使得英伟达在AI芯片领域具有更大的优势。