OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺

文章摘要

【关 键 词】 AI安全、全球关注、政策法规、技术实践、风险预防

人工智能（AI）安全问题已成为全球关注的焦点。OpenAI的两位重要人物因安全问题离职，凸显了当前AI安全问题的严峻性。图灵奖得主Yoshua Bengio、Geoffrey Hinton和姚期智等专家呼吁全球领导人采取更有力的行动应对AI风险，并指出近六个月的进展尚不足够。他们认为，AI的无节制发展可能导致生命和生物圈的大规模损失，甚至人类灭绝。

5月22日成为人工智能史上的重要时刻，多家公司签署了前沿人工智能安全承诺，欧盟理事会批准了《人工智能法案》。这些举措在政策层面再次提及AI安全问题。《人工智能法案》是全球首部AI全面监管法规，采用基于风险的方法，对具有系统性风险的AI模型实施更严格的规定。

在AI首尔峰会上，16家公司就AI开发的安全承诺达成一致，认为这是建立国际治理制度促进人工智能安全的重要一步。智谱AI等公司分享了他们在AI安全方面的具体做法，如超级对齐技术，以提升大模型的安全性。

此外，智谱AI和清华团队提出了一种无反馈的大型语言模型对齐方法——Self-Contrast，通过利用自生成的否定词实现。实验表明，该方法在偏好数据缺失情况下具有良好表现。

总体而言，AI安全问题已引起全球范围内的高度关注，从政策法规到技术实践，各方正努力预防并解决这一问题。如今，从科技公司到政府机构，都将AI安全作为重要议题，专家们呼吁从模糊的建议转向具体的承诺。

原文和模型

【原文链接】 阅读原文 [ 1918字 | 8分钟 ]
【原文作者】 机器之心
【摘要模型】 glm-4
【摘要评分】 ★★★★☆

智谱AI

智谱AI是一家国内的AI大模型...