文章摘要
【关 键 词】 AI前沿、ICLR 2024、深度学习、智能涌现、学术交流
在维也纳举办的ICLR 2024大会上，AI领域的顶尖企业和专家齐聚一堂，共同探讨和分享最新的研究成果。会议吸引了众多知名AI企业，包括OpenAI、Meta、谷歌和智谱AI等，现场气氛热烈，仿佛成为了一场追星活动。
图灵奖得主、深度学习领域的巨头LeCun和Bengio在会上备受瞩目。LeCun提前公布了自己的行程，吸引了大量粉丝前来交流。LeCun在会上发表了两篇论文，涵盖了AI领域的前沿研究。Bengio则在即将到来的5月11日的AGI Workshop上发表演讲，分享自己对人工通用智能（AGI）的看法。Bengio团队在ICLR上获得了杰出论文荣誉提名。
谷歌展示了其开源模型Gema和机器人智能体背后的框架Robotics Transformers，以及其他开创性研究。智谱AI则展示了GLM-4、ChatGLM等一系列研究成果，吸引了众多国外学者的关注。智谱AI的GLM大模型技术团队介绍了多项前沿研究成果，涵盖数学、文生图、图像理解、视觉UI理解、Agent智能体等领域。团队还分享了对Scaling Law的看法，认为智能涌现和预训练损失有更紧密的联系。
智谱AI的论文《预训练损失对语言模型性能的影响》受到了OpenAI 996研究员Jason Wei的高度评价。论文通过训练30多个不同参数和数据规模的大型语言模型（LLM），评估了其在12个中英文数据集上的表现。
总的来说，ICLR 2024大会不仅是AI领域的一场盛会，也是学术界和工业界交流合作的平台，展示了AI领域的最新进展和未来发展趋势。
原文和模型
【原文链接】 阅读原文 [ 5134字 | 21分钟 ]
【原文作者】 新智元
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆
