OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺

AIGC动态7个月前发布 almosthuman2014

827 0 0

文章摘要

人工智能（AI）安全问题已成为全球关注的焦点。OpenAI的两位重要人物因安全问题离职，凸显了当前AI安全问题的严峻性。图灵奖得主Yoshua Bengio、Geoffrey Hinton和姚期智等专家呼吁全球领导人采取更有力的行动应对AI风险，并指出近六个月的进展尚不足够。他们认为，AI的无节制发展可能导致生命和生物圈的大规模损失，甚至人类灭绝。

5月22日成为人工智能史上的重要时刻，多家公司签署了前沿人工智能安全承诺，欧盟理事会批准了《人工智能法案》。这些举措在政策层面再次提及AI安全问题。《人工智能法案》是全球首部AI全面监管法规，采用基于风险的方法，对具有系统性风险的AI模型实施更严格的规定。

在AI首尔峰会上，16家公司就AI开发的安全承诺达成一致，认为这是建立国际治理制度促进人工智能安全的重要一步。智谱AI等公司分享了他们在AI安全方面的具体做法，如超级对齐技术，以提升大模型的安全性。

此外，智谱AI和清华团队提出了一种无反馈的大型语言模型对齐方法——Self-Contrast，通过利用自生成的否定词实现。实验表明，该方法在偏好数据缺失情况下具有良好表现。

总体而言，AI安全问题已引起全球范围内的高度关注，从政策法规到技术实践，各方正努力预防并解决这一问题。如今，从科技公司到政府机构，都将AI安全作为重要议题，专家们呼吁从模糊的建议转向具体的承诺。