“分布式训练”的搜索结果
来自科技进步一等奖的肯定：腾讯破解万亿参数大模型训练难题
文章介绍了中国电子学会2023科学技术奖授予腾讯Angel机器学习平台的情况。随着大模型的快速发展，机器学习平台在构建人工智能技术中的重...
Meta公布Llama 3训练集群细节！储备60万块H100迎接AGI
新智元报道，Meta公布了其训练Llama 3的H100集群细节，展示了其在AI领域的强大实力。Meta计划到2024年底拥有35万个英伟达H100 GPU，并在...
前谷歌科学家离职创业1年，自述训练LLM卡在算力上！买卡就像中彩票，Karpathy转赞
Yi Tay，前谷歌大脑科学家，分享了他在离职后创办初创公司并训练大模型的经历。他强调了算力稀缺和算力提供商之间的巨大差异是训练大模...
谷歌送出新年大礼！官宣发布 TensorFlow GNN 1.0：用于构建大规模图神经网络，可动态和交互采样
图神经网络（GNN）是一种强大的技术，用于处理图形数据，能够利用图的连接性和节点与边上的输入特征。GNN可以应用于整个图、单个节点或...
一个令人惊艳的 AI 开源神器，诞生了！
在过去一年里，各大科技公司纷纷推出自己的大型语言模型，以在即将到来的AI时代占据一席之地。然而，在这个过程中，算力消耗成为了一个...
1
2
