标签：深度学习
苹果发布高效双EMA梯度优化方法，适配Transformer、Mamba模型
在深度学习模型训练中，优化非凸损失函数是一个挑战，尤其是当使用依赖于指数移动平均（EMA）的优化器如Adam和AdamW时。这些优化器可能在处理超大规模数据集...
大模型是否有推理能力？DeepMind数月前的论文让AI社区吵起来了
最近，谷歌DeepMind的一篇论文《Grandmaster-Level Chess Without Search》引发了广泛关注。该论文介绍了一个参数量为2.7亿的Transformer模型，该模型无需依...
成都女生如何改写了AI进程
李飞飞，斯坦福大学终身教授、HAI院长、World Labs创始人，是AI领域内极具影响力的华人科学家。她的学术生涯始于物理学，后转向人工智能，尤其专注于计算机视...
DenseNet共一作者刘壮官宣新去向，将任普林斯顿大学助理教授
刘壮，DenseNet和ConvNeXt的主要开发者之一，将于2025年9月加入普林斯顿大学计算机科学系担任助理教授。在学术界任职前，他将继续在Meta AI Fair担任研究科学...
红杉资本：套壳才是应用层王道，o1改变了大模型行业，年度行业报告更新
AI行业的两份年度报告，Air Street Capital的《State of AI 2024》和红杉资本的《Generative AI's Act o1》，对AI创业和模型发展进行了深入探讨。报告指出，A...
除了Ilya，刚拿诺奖的Hinton还教出了这些AI博士
Geoffrey Hinton，被誉为人工智能领域的教父，最近荣获诺贝尔物理学奖。Hinton在长达数十年的研究生涯中，培养了40位博士生，其中包括多位在人工智能领域取得...
六年、六届学生接力，共铸上交大图像合成工具箱libcom
上海交通大学牛力团队发布了一篇题为《Making Images Real Again: A Comprehensive Survey on Deep Image Composition》的综述报告，该报告深入探讨了图像合...
解密诺贝尔物理学奖为啥颁给AI？Hinton和Ilya 12年前对话，竟引发物理诺奖AI风暴！
诺贝尔物理学奖的颁发引起了广泛争议，特别是因为今年的奖项颁给了人工智能（AI）领域的科学家。这一决定引发了物理学界和AI界的热烈讨论，许多人质疑AI是否...
AI教父Hinton万字访谈: 人类可能只是AI演化过程中的一个过渡阶段
2023年5月，AI领域的先驱人物杰弗里·辛顿（Geoffrey Hinton）宣布离开谷歌，并在MIT的一场分享会上详细阐述了他对人工智能的担忧。辛顿的发言引起了广泛关注...
AI领域迎来重要时刻！76岁的“教父”Hinton和91岁的Hopfield获2024年诺贝尔物理学奖
2024年诺贝尔物理学奖授予了两位在人工智能（AI）领域做出杰出贡献的科学家：美国普林斯顿大学的约翰·霍普菲尔德教授和加拿大多伦多大学的杰弗里·辛顿教授。...
