我为什么离开OpenAI？六年元老发离职长文：AGI将至，我们远没准备好

138 0 0

文章摘要

OpenAI的研究主管Miles Brundage宣布离职，结束了他在该公司6年的职业生涯。Brundage在一篇长文中详细解释了他的离职原因，包括寻求更多时间研究自己认为重要的课题、更独立地发表观点和作品，以及减少对OpenAI的偏见。他计划加入或创办非营利组织，专注于AI政策研究和倡导。

Brundage认为，从行业外部影响AI的发展更为有效，这与Geoffrey Hinton离开谷歌的原因相似。他指出，本职工作占据了他几乎所有时间，难以从事自己认为重要的研究。此外，OpenAI的成果发布前需要从多个角度审查，限制了某些主题的发表。尽管他不完全反对OpenAI的出版物审查立场，但认为公司目前施加的限制过多。

Brundage还提到，作为OpenAI的一部分，很难对公司保持公正，这会影响外界对他的观点和研究的看法。他强调，在政策对话中，需要更多独立于行业的声音，他计划成为其中之一。

在OpenAI，Brundage认为自己作为”AGI准备状态高级顾问”的工作已经完成了大部分。他向高管和董事会详细介绍了OpenAI需要做什么以及差距在哪里。他认为自己在外部能更有效地推动世界准备好有效管理AI能力。

Brundage认为，对于即将到来的AGI，OpenAI或任何其他前沿实验室都还没有准备好，这个世界也还没有准备好。但他不认为这种”没准备好”的状态与OpenAI领导层的声明相冲突。他暗示，尽管存在差距，但我们仍可以在相关时间点步入正轨，他将在余下的职业生涯中致力于人工智能政策。

Brundage对AI政策持谨慎和批判态度，但对AGI前景持乐观态度。他认为，未来几年内，人工智能可能实现足够的经济增长，如果制定适当的政策确保公平分配，人类就能实现高生活水平的提前退休。但短期内，AI可能会抢走一些迫切需要工作的人的机会，尤其是那些可以远程完成的、容易自动化的任务。

Brundage认为，人类最终应该摆脱为谋生而工作的义务，这也为构建AI和AGI提供了最强有力的论据之一。从长远来看，有些人可能会继续工作，但不会像现在这样有如此迫切的激励因素。一个”后工作世界”的风险之一就是文明的停滞，但我们目前还没有在政治、文化或其他方面为此做好准备，需要更多的思考、辩论和政策讨论。