标签:迁移学习
何恺明新作出炉!异构预训练Transformer颠覆本体视觉学习范式,AI性能暴涨超20%
异构性是构建通用机器人模型面临的主要挑战之一,因为它要求收集特定于每个机器人、任务和环境的数据,而这些策略往往无法泛化到其他设置。为了解决这一问题...
清华、华为等提出iVideoGPT:专攻交互式世界模型
近年来,生成模型在视频生成领域取得了显著进展,尤其在无监督方式学习以构建预测世界模型方面。这些模型能积累关于世界如何运作的常识性知识,并预测智能体...
大模型Scaling Law同样适用于下游任务性能?斯坦福、谷歌最新研究揭秘
本文探讨了大模型性能与训练数据规模、模型架构等设计要素之间的关系,即Scaling Law。研究者们主要关注了迁移学习中的Scaling Law,即预训练数据集大小与任...