文章摘要
【关 键 词】 AI产业、GPU需求、市场泡沫、算力过剩、价格下降
AI产业的快速发展带来了对GPU基础设施的巨大需求，但随着市场的变化，这种需求可能正在经历泡沫。红杉资本的报告指出，AI产业的年产值需超过6000亿美元才能覆盖基础设施成本。然而，基础模型训练的资本支出被认为是快速贬值的资产。OpenAI等大模型公司在训练和推理上的支出超过了收入，尽管他们筹集了大量资金，但预计未来几年将面临巨大亏损。NVIDIA的新一代Blackwell系列芯片已经交付给OpenAI，且产品已售罄，但市场上的H100算力已经供过于求，导致价格从8美元/小时降至低于2美元/小时。
Eugene Cheah的研究指出，由于预留计算资源的转售、开放模型的微调和基础模型公司的减少，市场上的H100算力过剩。他建议用户在需要时租用而不是购买算力。AI竞赛的简史显示，基于A100 GPU系列训练的GPT3.5和ChatGPT引发了AI竞赛，而H100的推出则进一步加剧了这一趋势。然而，随着时间的推移，H100的价格开始下降，导致市场出现泡沫。
投资回报率（ROI）的分析表明，新的H100在当前市场价格下的ROI已经低于股市的内部收益率（IRR），如果价格降至1.65美元/小时以下，使用H100注定会亏损。长期租赁模式也面临着价格下降的风险。此外，市场上的H100价值链正在经历变化，开放权重模型的兴起和对推理和微调需求的增加正在改变市场动态。
小型和中型模型创建者的市场正在萎缩，因为微调现有开放权重模型比从头开始训练更经济高效。这导致对H100的需求减少。同时，大型模型创建者正在离开公共云平台，构建自己的集群，减少了对现有集群的依赖。此外，未使用或延迟供应的算力正在上线，增加了市场供应。
其他因素，如更便宜的GPU替代品的出现，也在影响H100的市场。加密货币/Web3领域GPU使用量的下降导致大量GPU涌入公共云市场，进一步压低了价格。
总的来说，H100集群的价格可能会分层，大型集群可能会收取溢价，而基于以太网的实例价格较低。市场可能会看到按集群规模进一步分层。对于新进入市场的公共云H100集群，可能会面临无利可图的风险。然而，便宜的H100可能会加速开放权重AI的采用浪潮，推动AI应用的发展。最终，建议不要购买全新的H100，除非有特定的需求或条件。
原文和模型
【原文链接】 阅读原文 [ 6318字 | 26分钟 ]
【原文作者】 极客公园
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★
