2 美元就能用上 H100？英伟达 H100 价格崩盘，集群投资血亏：GPU 生意还怎么玩下去？

337 0 0

文章摘要

H100 GPU的租赁价格在过去一年中经历了显著下降，从每小时8美元降至低于2美元。这一变化的背后是英伟达Blackwell系列的成功出货和市场供应过剩。尽管OpenAI等实验室在AI技术上取得了显著进展，但他们在训练和推理上的支出仍然高于收入，导致财务上的亏损。这种财务压力，加上GPU基础设施的快速贬值，使得GPU市场成为只有财力雄厚的大公司才能参与的游戏。

H100 GPU的价格崩盘可以追溯到ChatGPT的崛起，该模型在2022年11月发布时使用了A100系列GPU。随后，H100在2023年3月上市，其性能提升和价格优势吸引了大量投资，推动了市场需求的激增。然而，随着时间的推移，租赁价格开始下降，部分原因是由于GPU供应的增加和新基础设施厂商的加入。

英伟达在2023年的投资者演讲中推广了以每小时4美元价格租用H100的市场机遇，这导致了大量的投资涌入GPU市场。然而，随着市场供应的增加，租赁价格开始下降，导致投资回报率降低。对于短期按需租赁，如果价格低于2.85美元，投资回报率将低于股市的内部收益率，如果价格跌破1.65美元，则可能导致实质性的投资损失。

长期预订租约的情况也发生了变化，许多基础设施服务商开始推动3到5年的预付款租约，以锁定利润。然而，随着市场的变化，这些服务商可能面临租约到期后硬件过时的风险。

开放权重模型的兴起也对市场产生了影响，这些模型提供了灵活性、可靠性和安全性，使得企业更倾向于使用这些模型而不是从头开始训练自己的模型。这导致了对从头训练大规模基础模型的需求减少，进一步影响了H100的市场需求。

此外，大模型创建者正在离开公有云平台，构建自己的集群，这减少了对外部资源的依赖，并可能导致市场供应的增加。同时，未使用或延迟供应的容量也开始上线，增加了市场的供应。

在推理阶段，有更便宜的GPU替代品可用，这减少了对H100的需求。英伟达、AMD和英特尔都推出了更具价格竞争力的推理硬件，这些硬件在性能和价格上与H100竞争，进一步削弱了H100的市场地位。

随着H100价格的下降，预计开放权重AI的普及将得到推动，因为运行、微调和修改这些开放模型的成本将越来越低。然而，对于新H100集群的投资者来说，如果运营成本优化不够彻底，可能会面临无利可图的风险。对于中型模型创建者来说，转租未使用的计算资源可能有助于抵消溢价。总的来说，H100的价格下降可能会推动AI应用的浪潮，但对于那些投资于新硬件的人来说，可能不是一个好的投资决策。