实在是可惜了，OpenAI安全团队成员纷纷离职

225 0 0

文章摘要

自去年11月以来，OpenAI公司内部发生了一系列变动，导致多位关注AI安全的员工离职。此次离职潮中，包括超级对齐团队的负责人Ilya Sutskever和Jan Leike。据了解，这些员工对CEO Sam Altman逐渐失去了信心。

Sutskever和Altman之间的关系在Sutskever试图驱逐Altman失败后变得紧张。尽管表面上双方保持着友好关系，但实际上Sutskever在事件后六个月未出现在公司办公室，而是远程联合领导超级对齐团队。

安全团队的解散引发了人们对OpenAI未来工作安全性的担忧。随着Leike的离职，公司联合创始人John Schulman接替了他的职位，但团队已经削弱，且Schulman已经全职负责确保现有产品的安全。

Leike在离职帖子中表达了对公司未来方向和AI安全性的担忧，他认为公司应该为下一代模型的安全、监控等主题投入更多精力。

总的来说，OpenAI的安全团队因对CEO的不信任而逐渐解散，这引发了对公司未来在AI安全性方面的质疑。在AI技术飞速发展的今天，如何确保其安全性成为了人们关注的焦点。

原文和模型

【原文链接】 阅读原文 [ 3520字 | 15分钟 ]
【原文作者】 AI大模型实验室
【摘要模型】 glm-4
【摘要评分】 ★★★★☆

智谱AI

智谱AI是由清华大学计算机系技术成果转化而来的公司，致力于打造新一代认知智能通用模型。公司合作研发了双语千亿级超大规模预训练模型GLM-130B，并构建了高精度通用知识图谱，形成数据与知识双轮驱动的认知引擎，基于此模型打造了ChatGLM（chatglm.cn）。此外，智谱AI还推出了认知大模型平台Bigmodel.ai，包括CodeGeeX和CogView等产品，提供智能API服务，链接物理世界的亿级用户、赋能元宇宙数字人、成为具身机器人的基座，赋予机器像人一样“思考”的能力。