曝OpenAI超级对齐团队解散！

文章摘要

【关 键 词】 团队变动、AI安全、资源分配、信任危机、研究挑战

OpenAI的超级对齐团队最近发生了一系列重大变动。团队负责人伊利亚·苏茨克维和杨·莱克近期宣布辞职。莱克在社交媒体上表示，他离职是因为与公司高层对核心优先事项和资源分配有分歧，他更关注安全性和一致性等问题。他指出，超级对齐团队过去几个月一直处于逆风状态，完成研究越来越困难，公司的安全文化和流程已经让位于更耀眼的产品。OpenAI联合创始人CEO萨姆·阿尔特曼对此作出回应，表示莱克的观点正确，公司还有很多事情要做，会继续努力。

超级对齐团队于去年7月成立，目标是解决控制超级智能AI的核心技术挑战。但团队在计算资源分配上存在问题，导致部分成员离职。自去年11月以来，至少有7名注重安全的成员辞职或被开除。苏茨克维半年没有出现在办公室，阿尔特曼的信任度受损，员工对公司越来越不信任。超级对齐团队已解散，剩余成员可能被纳入其他研究工作中。文章最后指出，超级对齐团队解散后，OpenAI的AI安全问题谁来确保仍然是个未知数。

原文和模型

【原文链接】 阅读原文 [ 4100字 | 17分钟 ]
【原文作者】 智东西
【摘要模型】 glm-4
【摘要评分】 ★★★☆☆

智谱AI

智谱AI是由清华大学计算机系技术成果转化而来的公司，致力于打造新一代认知智能通用模型。公司合作研发了双语千亿级超大规模预训练模型GLM-130B，并构建了高精度通用知识图谱，形成数据与知识双轮驱动的认知引擎，基于此模型打造了ChatGLM（chatglm.cn）。此外，智谱AI还推出了认知大模型平台Bigmodel.ai，包括CodeGeeX和CogView等产品，提供智能API服务，链接物理世界的亿级用户、赋能元宇宙数字人、成为具身机器人的基座，赋予机器像人一样“思考”的能力。