模型信息
【模型公司】 Azure
【模型名称】 gpt-4-32k
【摘要评分】 ★★★★★
文章摘要
【关 键 词】 英伟达、Blackwell架构、GPU、AI技术、软件应用
英伟达在2024 GTC大会上宣布了新一代加速计算平台NVIDIA Blackwell,以及基于Blackwell GPU架构的双芯片GPU B200和超级芯片GB200。Blackwell架构单GPU AI性能达到20 PFLOPS,性能比上一代提高了5倍,而成本和能耗下降降低25倍。这一新架构的发布,显示了英伟达不仅仅是一家芯片或硬件公司,而是一个全面的技术解决方案提供商。
英伟达在大会上还公布了一系列与AI、GPU、机器人相关的创新软件应用,包括AI模型和工作流微服务产品NVIDIA NIM、企业级的AI软件平台NVIDIA AI Enterprise 5.0、用于机器人开发的仿真环境NVIDIA Isaac Sim等。这些软件应用不仅支撑英伟达的GPU业务,也可能为英伟达走出一条新的增长曲线。软件、应用研发资产轻,不会像硬件生产那样受到供应链的制约,也没有生产、库存压力。
英伟达的新一代GPU B200,单GPU AI性能达到20 PFLOPS。B200配备192GB内存。以及基于B200的超级芯片GB200 ,通过900GB/s超低功耗的片间互联,将两个 NVIDIA B200 Tensor Core GPU 与 NVIDIA Grace CPU 相连。这些新产品的发布,进一步提升了英伟达在AI大模型训练和应用过程中的价值。
英伟达还推出了NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X800以太网网络平台,提供了高达800Gb/s 的端到端吞吐量,大幅提高了AI和HPC分布式计算的可用性。此外,英伟达还推出了6G研究云平台,以推动AI在无线接入网络 (RAN) 技术的应用。
尽管英伟达的新产品和技术在业界引起了热烈反响,但华尔街对英伟达的看法相对冷静。市场普遍认为,英伟达需要给客户提供更多围绕GPU构建业务能力的工具,以保证其业务的长期增长。在这方面,英伟达已经做出了一些努力,包括推广工业数字孪生应用和工作流创建平台Omniverse,以及公布了一款人形机器人基础模型NVIDIA Project GR00T等。