英伟达AI算力的五个层次，2024年GTC大会GB200技术全拆解！

文章摘要

【关 键 词】 英伟达、Blackwell AI、算力提升、高速互联、并行计算

根据文章内容，可以总结如下：

1. 英伟达在2024GTC大会上发布了全新的Blackwell AI芯片，研发成本高达100亿美元。该芯片具有非常强大的性能，在单芯片层面就已经达到了800mm²的面积，包含600个SM单元，单芯片算力达到了10PFLOPS。Blackwell的两个Die通过高速NV-HBI技术互联，通信速度达到10TB/s，实现了双Die一个芯片的效果。Blackwell总共拥有2060亿个晶体管，支持8条HBM3e显存，总显存容量192GB，带宽8TB/s。

2. 为了满足大规模并行计算的需求，英伟达提出了GB200方案，包含2个Blackwell GPU和一个Grace CPU。2个GPU之间通过NVLINK互联，总FP8算力达到20PFLOPS。此外，英伟达还通过72卡互联实现了更高层次的算力，通过NVLink技术实现72个GPU的互联，实现了近1EFLOPS的算力。

3. 英伟达在Blackwell上的创新包括：单芯片算力、Die-to-Die互联、以及多卡互联三个层次的算力提升。Blackwell通过芯片面积扩大、高速互联技术、以及NVLink多卡互联技术，实现了在单芯片和大规模并行计算领域的突破。这一创新使得英伟达在AI芯片领域具有更大的优势。

原文和模型

【原文链接】 阅读原文 [ 5174字 | 21分钟 ]
【原文作者】 可鉴智库
【摘要模型】 glm-4
【摘要评分】 ★★★★☆

智谱AI

智谱AI是由清华大学计算机系技术成果转化而来的公司，致力于打造新一代认知智能通用模型。公司合作研发了双语千亿级超大规模预训练模型GLM-130B，并构建了高精度通用知识图谱，形成数据与知识双轮驱动的认知引擎，基于此模型打造了ChatGLM（chatglm.cn）。此外，智谱AI还推出了认知大模型平台Bigmodel.ai，包括CodeGeeX和CogView等产品，提供智能API服务，链接物理世界的亿级用户、赋能元宇宙数字人、成为具身机器人的基座，赋予机器像人一样“思考”的能力。