7262篇提交，ICLR 2024爆火，两篇国内论文获杰出论文提名

AI-Agent7个月前发布 almosthuman2014

880 0 0

文章摘要

【关键词】 ICLR 2024、深度学习、图像扩散、状态空间模型、蛋白质设计

本文是对国际学习表征会议（ICLR 2024）的杰出论文奖和荣誉提名奖的总结。ICLR 是深度学习领域的顶级学术会议，由 Yoshua Bengio 和 Yann LeCun 牵头举办。本届会议共收到 7262 篇提交论文，接收 2260 篇，整体接收率约为 31%。

杰出论文奖（5篇）：

1. Generalization in diffusion models arises from geometry-adaptive harmonic representations
– 作者：Zahra Kadkhodaie 等，来自纽约大学和法兰西公学院。
– 主题：图像扩散模型的泛化和记忆方面的深入分析。

2. Learning Interactive Real-World Simulators
– 作者：Sherry Yang 等，来自 UC 伯克利、Google DeepMind、MIT 和阿尔伯塔大学。
– 主题：通过生成模型学习真实世界交互的通用模拟器 UniSim。

3. Never Train from Scratch: Fair Comparison of Long-Sequence Models Requires Data-Driven Priors
– 作者：Ido Amos 等，来自特拉维夫大学和 IBM。
– 主题：状态空间模型和 transformer 架构对建模长期序列依赖性的能力。

4. Protein Discovery with Discrete Walk-Jump Sampling
– 作者：Nathan C. Frey 等，来自基因泰克和纽约大学。
– 主题：基于序列的抗体设计问题的新建模方法。

5. Vision Transformers Need Registers
– 作者：Timothée Darcet 等，来自 Meta。
– 主题：vision transformer 网络的特征图中的人工痕迹问题。

荣誉提名奖（11篇）：

1. Amortizing intractable inference in large language models
– 作者：Edward J Hu 等，来自蒙特利尔大学和牛津大学。

2. Approximating Nash Equilibria in Normal-Form Games via Stochastic Optimization
– 作者：Ian Gemp 等，来自 DeepMind。

3. Beyond Weisfeiler-Lehman: A Quantitative Framework for GNN Expressiveness
– 作者：张博航等，来自北京大学和北京智源人工智能研究院。

4. Flow Matching on General Geometries
– 作者：Ricky T. Q. Chen 和 Yaron Lipman，来自 Meta。

5. Is ImageNet worth 1 video? Learning strong image encoders from 1 long unlabelled video
– 作者：Shashanka Venkataramanan 等，来自中佛罗里达大学、Google DeepMind、阿姆斯特丹大学等。

6. Meta Continual Learning Revisited: Implicitly Enhancing Online Hessian Approximation via Variance Reduction
– 作者：Yichen Wu 等，来自香港城市大学、腾讯 AI 实验室、西安交通大学等。

7. Model Tells You What to Discard: Adaptive KV Cache Compression for LLMs
– 作者：Suyu Ge 等，来自伊利诺伊大学厄巴纳 – 香槟分校、微软。

8. Proving Test Set Contamination in Black-Box Language Models
– 作者：Yonatan Oren 等，来自斯坦福大学、哥伦比亚大学。

9. Robust agents learn causal world models
– 作者信息未提供。

这些论文涵盖了深度学习、机器人学、蛋白质设计、图像处理等多个领域，展示了 ICLR 在推动机器学习领域研究方面的重要作用。