突发！OpenAI七年元老、安全副总裁Lilian Weng官宣离职！北大本科，决定专心写博客

367 0 0

文章摘要

OpenAI安全研究副总裁Lilian Weng宣布离职，结束了她在该公司长达七年的职业生涯。Weng在离职信中回顾了自己在OpenAI的工作经历，包括参与全栈机器人挑战、建立应用研究团队、推出微调API等，并在GPT-4发布后重新思考安全系统的愿景。她对安全系统团队的成就感到自豪，特别是o1-preview模型，这是迄今为止最安全的模型，展现了对“越狱”攻击的卓越抵抗力。Weng强调了团队在模型安全行为政策、对抗性鲁棒性、评估方法、审核模型等方面的成就，并感谢团队成员的贡献。

Weng的离职是OpenAI近期一系列高层变动中的最新一例，包括首席技术官Mira Murati、首席研究官Bob McGrew等多位高管离职，部分加入了竞争对手Anthropic或创办自己的企业。尽管AI安全团队规模庞大，但外界对OpenAI在模型安全方面的承诺表示怀疑。Weng的离职可能会进一步影响OpenAI的安全团队稳定性。她本人表示，离职后将有更多时间更新博客和编码。

Lilian Weng拥有北京大学信息系统与计算机科学专业本科学位，并在印第安纳大学布鲁明顿分校获得博士学位。她的研究领域包括复杂系统和网络，曾在eBay、Mozilla等公司实习，并在Facebook和Dropbox工作。2018年加入OpenAI，历任研究科学家、机器人团队技术主管、应用人工智能研究团队负责人，2023年成为安全团队负责人。Weng以其深入的技术博客文章而闻名，为业内人士提供了宝贵的参考。