标签:大模型训练

火山引擎发布大模型训练视频预处理方案,已应用于豆包视频生成模型

火山引擎在视频云技术大会上推出了大模型训练视频预处理方案,旨在解决视频大模型训练中的成本、质量和性能挑战。该方案通过统一视频数据格式、提升数据质量...

Llama3训练每3小时崩一次?豆包大模型、港大团队为脆皮万卡训练提效

随着大模型迭代速度的加快和训练集群规模的增大,软硬件故障已成为提高训练效率的瓶颈。为此,字节跳动豆包大模型团队与香港大学联合提出了ByteCheckpoint,...

从AI高管到犀利CEO,贾扬清创业这一年:我们的目标是做AI时代的“第一朵云”

贾扬清认为,AI的发展推动了高性能计算、异构计算和云原生软件的结合,他希望Lepton AI能成为AI Cloud领域的领导者。Lepton AI专注于提供大模型训练、部署和...

星环科技孙元浩:语料已经是大模型最大的挑战

星环科技创始人及CEO孙元浩认为,当前大模型训练并未将人类互联网数据穷尽,各行各业企业内部的数据还未被充分利用。高质量的数据可以显著提高大模型的准确性...

OpenAI泄密者,投奔马斯克

Pavel Izmailov(小P),曾是OpenAI超级对齐团队成员,因涉嫌泄露机密被开除。不久后,他迅速加入了马斯克旗下的xAI。这一事件引起了社交媒体上的热议,有人...