模型信息
【模型公司】 Azure
【模型名称】 gpt-4-32k
【摘要评分】 ★★★★★
文章摘要
【关 键 词】 英伟达、GTC 2024、Blackwell架构芯片、AI技术、生成式人工智能
在美国加利福尼亚州圣何塞的GTC 2024大会上，英伟达发布了一系列新的超级芯片，包括采用Blackwell架构的B200和GB200系列芯片。这些芯片被誉为迄今为止功能最强大的AI芯片家族，具有强大的AI性能和安全性。
B200芯片拥有2080亿个晶体管，采用台积电4NP工艺制程，可以支持多达10万亿个参数的AI模型。此外，B200并不是传统意义上的单一GPU，而是由两个紧密耦合的芯片组成，通过10 TB/s NV-HBI（Nvidia高带宽接口）连接进行连接，以确保它们能够作为单个完全一致的芯片正常运行。
英伟达还发布了GB200 NVL72液冷机架系统，其中包含36颗GB200 Grace Blackwell超级芯片，拥有1440 petaflops（又名1.4 exaflops）的推理能力。与用于推理用途的相同数量的H100 Tensor Core图形处理单元相比，GB200 NVL72性能提升高达30倍。
在软件服务方面，英伟达推出了Nvidia推理微服务（NIM），将模型和依赖项整合到一个简洁的包中，根据用户的堆栈进行优化，并与易于使用的API连接。此外，英伟达还发布了另一个新的API集合Project GROOT，以推动人形机器人的开发。
英伟达CEO黄仁勋表示，生成式人工智能是我们这个时代的决定性技术，Blackwell GPU是推动这场新工业革命的引擎。他还预测，未来五年，文本、图像、视频和语音等形式的信息将全部被实时输入大语言模型（LLM），人类可以在推理之后，要求计算机生成代码以实现特定目标。
总的来说，英伟达在GTC 2024大会上展示了其在AI硬件和软件领域的最新创新，这些创新不仅将推动AI技术的发展，也将对开发者和企业产生深远影响。
原文信息
【原文链接】 阅读原文
【阅读预估】 2878 / 12分钟
【原文作者】 InfoQ
【作者简介】 为一线互联网公司核心技术人员提供优质内容。科技圈的观察者，前沿技术的传播者。
