文章摘要
【关 键 词】 AIGC、超级计算机、算力投资、市场研究、开发者生态
随着人工智能技术的飞速发展,AIGC(人工智能生成内容)领域的专业社区对大型语言模型(LLM)如微软 & OpenAI、百度文心一言、讯飞星火等的发展和应用落地给予了极大的关注。这些模型不仅在技术上取得了显著进展,而且在市场研究和开发者生态方面也展现出巨大的潜力。
2023年3月30日,科技媒体the information披露了微软与OpenAI合作开发的一个名为“Stargate”的超级计算机项目。这台计算机将配备数百万个AI专用芯片,旨在为OpenAI的研发和产品提供强大的服务支持。据内部消息人士透露,与OpenAI的联合创始人兼首席执行官Sam Altman交流过的人士以及查看过微软对该项目成本估算的人士称,该项目的总投资可能高达1000亿美元。
微软此前在2020年5月19日就曾宣布,在Azure云服务中为OpenAI打造了一台配备10,000个GPU和285,000个CPU的超级计算机,这台计算机当时是全球最快的五台计算机之一,对后来的ChatGPT、DALL·E 3等产品的开发起到了关键作用。而现在的Stargate项目预计将在性能上超越2020年的超级计算机,有助于OpenAI开发实现AGI(人工通用智能)的大模型。
Stargate项目分为五个阶段,目前已经进入第三阶段的中期。第四阶段将建造一台比Stargate略小的超级计算机,预计在2026年左右投入使用。第五阶段即为Stargate超级计算机的建成,预计在2028年左右完成,届时将大量采购AI芯片。项目占地超过400亩,预计电力需求达到5吉瓦特,可能会采用核动力供电,以满足其巨大的能源需求。
微软对这个超级数据中心的巨额投资反映了OpenAI长期以来受到算力限制的困境,这限制了其产品和创新能力的完全释放。例如,OpenAI在2023年原计划推出名为“Arrakis”的AI产品,但由于算力限制而不得不放弃。
微软此次的投资规模是2020年超级计算机的100倍,这主要是因为OpenAI的技术正在快速迭代,开发了如Sora这样的跨时代文生视频模型。与文本模型相比,视频模型在预训练和微调时需要更多的算力和处理难度,因为视频数据包含了宽度、高度、时间和颜色通道等高维数据,需要更复杂的数据预处理步骤。
OpenAI的首席技术官Mira Murati曾表示,Sora生成一个20秒720P的视频需要耗费几分钟时间。如果有100,000人同时使用Sora生成不同类型的视频,所需的AI算力将是巨大的。因此,AI算力已成为生成式AI领域的基础设施,对于任何产品的技术创新和迭代都至关重要。
原文和模型
【原文链接】 阅读原文 [ 1005字 | 5分钟 ]
【原文作者】 AIGC开放社区
【摘要模型】 gpt-4
【摘要评分】 ★★☆☆☆