文章摘要
【关 键 词】 高层变动、AI对齐、人才流失、安全问题、法律纠纷
OpenAI近期经历了重大的高层变动，其中包括联合创始人John Schulman的离职，他曾是强化学习团队的领导者，并被誉为“ChatGPT架构师”。Schulman在Ilya Sutskever离开后接管了超级对齐团队，现在他加入了Anthropic，一个由Claude团队领导的公司。同时，OpenAI总裁Greg Brockman宣布将休长假至年底，并将缺席10月1日起在全球举办的开发者日等活动。Brockman的休假原因尚不明确，但有网友猜测可能与保密协议有关。
Schulman在离职声明中表示，他希望加深对AI对齐的关注，并开启职业生涯的新篇章，重返技术工作。他强调，离职并非因为OpenAI缺乏对安全对齐工作的支持，而是出于个人希望集中精力。Schulman曾在ICML2023的演讲中提到，他个人接下来关注的研究方向之一是如何避免过度优化，例如ChatGPT中的一些行为是过度优化的结果。
除了Schulman和Brockman的变动，OpenAI还经历了其他人才流失。例如，超级对齐团队的首席科学家Ilya Sutskever和RLHF发明者之一Jan Leike在今年5月相继离开OpenAI。Leike在离开后公开批评OpenAI没有兑现20%算力的承诺，并对安全问题的重视程度表示不满。此外，参与GPT-4项目的Ryan Lowe、William Saunders和Daniel Kokotajlo等也已离职。
OpenAI在安全方面的工作也有所调整。7月末，安全部门高级主管Aleksander Madry被调离安全岗位，转而负责“AI推理”的工作。尽管OpenAI表示Madry在新职位上仍将致力于人工智能安全工作，但网友发现CEO奥特曼在推文中偷换了概念，将原本承诺给超级对齐团队的20%算力改为全部安全团队。
在OpenAI内部人才流失的同时，其“老仇人”马斯克再次将OpenAI告上法庭，一同被告的还有奥特曼和Brockman。马斯克认为，他在参与创立OpenAI时受到了欺骗和敲诈勒索。他当初投资OpenAI是因为相信其是一个安全、开放的非营利组织，但后来OpenAI成为了营利性组织，并将部分股份卖给了微软，这让马斯克感到被背叛。马斯克的律师要求被告对故意做出虚假陈述的行为负责，并寻求追回不义之财，同时要求撤销OpenAI对微软授予的许可。
原文和模型
【原文链接】 阅读原文 [ 1625字 | 7分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆
