标签:GPU
英伟达的GPU已经讲不出“花儿”了
英伟达在2024 GTC大会上宣布了新一代加速计算平台NVIDIA Blackwell,以及基于Blackwell GPU架构的双芯片GPU B200和超级芯片GB200。Blackwell架构单GPU AI性能...
英伟达发布GB200 NVL72,将万亿参数大模型推理效率提升30倍
3月19日,英伟达在“2024GTC”大会上发布了新一代AI专用GPU GB200 NVL72,专门面向万亿参数大模型训练和推理。这款产品在训练MoE(专家混合模型)时,能够在数...
英伟达吞噬世界!新架构超级GPU问世,AI算力一步提升30倍
英伟达在2023年的GTC开发者大会上发布了一款名为Blackwell的新型GPU,标志着AI算力的显著提升。Blackwell平台的GPU采用多芯片封装(MCM)设计,集成了两个GPU...
计算效率提升超60倍!一家中国公司用英伟达H100 AI 芯片变革运筹学行业|钛媒体AGI
芝加哥大学商学院的鲁海昊教授团队发现,原本依赖英特尔/AMD CPU进行计算的数学规划求解器,现在可以通过英伟达GPU和CUDA库函数,设计高效的数学规划算法cuPD...
现场直击GTC|最科幻发布会,性能翻30倍的恐怖Blackwell芯片,黄仁勋宣告“新工业革命”来了
在2024年3月18日的GTC上,英伟达创始人黄仁勋被认为正式成为新的乔布斯。在这场发布会中,黄仁勋在SAP中心的舞台上展示了英伟达的最新技术成果,让现场的许多...
【盘点】国产GPU乘势而起
本文主要介绍了国内GPU领域的最新动态和发展情况。自2020年以来,GPU已经成为国内芯片领域“最吸金”的赛道之一,融资总额已超过200亿元。在这个领域中,有许多...
亚马逊AWS高管:英伟达不需要失败,其他 AI 芯片也能赢得市场|钛媒体AGI
亚马逊AWS的高管Matt Wood认为,尽管亚马逊推出了自研的AI芯片,但这并不意味着英伟达会失去市场份额。他强调,英伟达不需要失败,其他AI芯片也能在市场上取...
Meta公布Llama 3训练集群细节!储备60万块H100迎接AGI
新智元报道,Meta公布了其训练Llama 3的H100集群细节,展示了其在AI领域的强大实力。Meta计划到2024年底拥有35万个英伟达H100 GPU,并在未来将算力储备提升至...
英伟达的挑战者Groq ,在LPU上押对了什么?
英伟达的GPU芯片在市场上占据领先地位,但新兴的AI推理芯片LPU可能成为其竞争对手。LPU由Groq公司开发,能够显著提高大模型的处理速度,每秒输出500个tokens...
前谷歌科学家离职创业1年,自述训练LLM卡在算力上!买卡就像中彩票,Karpathy转赞
Yi Tay,前谷歌大脑科学家,分享了他在离职后创办初创公司并训练大模型的经历。他强调了算力稀缺和算力提供商之间的巨大差异是训练大模型的主要难题。