文章摘要
【关 键 词】 GPU租用、算力市场、资源循环、算力供需、云平台服务
随着AI算力需求的增长,GPU租用市场出现了新变化。一方面,个人可以将闲置的高性能GPU如4090出租给需要的人,实现资源的循环利用;另一方面,老牌租赁平台如AutoDL和新兴的C2C平台如橘皮优开始通过价格战吸引用户。这些平台通过提供极具竞争力的价格,如A100(80GB)低至6.68元/小时,A800为5.98元/小时,使得中小企业和开发者能够以更低的成本获取所需的算力。
这种变化的背后,是算力供需两侧的共同影响。供给方面,大模型趋势推动了AI硬件和基础设施的发展,英伟达等公司扩大了产品线并提升了产能。例如,英伟达的B200 GPU晶体管数量是A100的3.8倍,与Grace CPU结合后性能是H100的7倍。全球算力基础设施总规模同比增长40%,美国和中国位列前两名。需求方面,开源模型性能的提升和中小模型应用的成熟,使得中小企业和开发者对算力的需求增加,而推理需求的增长趋势开始放缓。
尽管如此,算力供需不平衡的问题依然存在。《人工智能算力高质量发展评估体系报告》指出,我国算力市场面临供给不足、智能水平较低、能源考验和供应链完备性不足等问题。在学术圈,算力荒仍然是普遍现象,许多高校实验室只有消费级显卡,需要排队使用。
为了应对这些挑战,算力市场开始提出新型应对措施,如算力云平台和C2C算力租用平台的降价。算力云平台如AutoDL提供自营资源和配套服务,而C2C平台如橘皮优则允许个人出租闲置GPU,提供更具性价比的租赁价格。这些平台的兴起,不仅缓解了算力供需不平衡的问题,也推动了资源的高效绿色流转,为科研高校和中小企业提供了更便捷的算力获取途径。
原文和模型
【原文链接】 阅读原文 [ 2744字 | 11分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆