突发!OpenAI七年元老、安全副总裁Lilian Weng官宣离职!北大本科,决定专心写博客

AIGC动态4周前发布 AIera
280 0 0
突发!OpenAI七年元老、安全副总裁Lilian Weng官宣离职!北大本科,决定专心写博客

 

文章摘要


【关 键 词】 OpenAI高管离职AI安全技术博客职业发展

OpenAI安全研究副总裁Lilian Weng宣布离职,结束了她在该公司长达七年的职业生涯。Weng在离职信中回顾了自己在OpenAI的工作经历,包括参与全栈机器人挑战、建立应用研究团队、推出微调API等,并在GPT-4发布后重新思考安全系统的愿景。她对安全系统团队的成就感到自豪,特别是o1-preview模型,这是迄今为止最安全的模型,展现了对“越狱”攻击的卓越抵抗力。Weng强调了团队在模型安全行为政策、对抗性鲁棒性、评估方法、审核模型等方面的成就,并感谢团队成员的贡献。

Weng的离职是OpenAI近期一系列高层变动中的最新一例,包括首席技术官Mira Murati、首席研究官Bob McGrew等多位高管离职,部分加入了竞争对手Anthropic或创办自己的企业。尽管AI安全团队规模庞大,但外界对OpenAI在模型安全方面的承诺表示怀疑。Weng的离职可能会进一步影响OpenAI的安全团队稳定性。她本人表示,离职后将有更多时间更新博客和编码。

Lilian Weng拥有北京大学信息系统与计算机科学专业本科学位,并在印第安纳大学布鲁明顿分校获得博士学位。她的研究领域包括复杂系统和网络,曾在eBay、Mozilla等公司实习,并在Facebook和Dropbox工作。2018年加入OpenAI,历任研究科学家、机器人团队技术主管、应用人工智能研究团队负责人,2023年成为安全团队负责人。Weng以其深入的技术博客文章而闻名,为业内人士提供了宝贵的参考。

“极客训练营”

原文和模型


【原文链接】 阅读原文 [ 2192字 | 9分钟 ]
【原文作者】 新智元
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★☆☆☆

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...