“AI教父”Yoshua Bengio：不幸的是，我们可能无法用十年的时间解决AI风险和政策监管问题｜钛媒体AGI
文章摘要
【关 键 词】 AI监管、技术风险、国际合作、加州法案、预防原则
加拿大计算机科学家、AI技术先驱约书亚·本吉奥（Yoshua Bengio）近期表达了对AI技术风险和政策监管问题的紧迫关切。本吉奥是深度学习和自然语言处理领域的专家，曾与Geoffrey Hinton和Yann LeCun共同获得2018年图灵奖，被誉为“AI三巨头”之一。他指出，随着ChatGPT等AI技术的快速发展，原本预计几十年后才会出现的AI风险可能已经迫在眉睫，行业需要立即行动，加快AI安全政策的制定和实施。
本吉奥强调，制定有效的AI政策不仅需要解决长期存在的分歧，还需要建立相应的流程，这些都需要时间。他担心目前可能没有足够的时间来“做好这件事”。此外，AI风险的解决不仅是监管问题，更是需要在全球范围内通过国际条约来共同应对的挑战。
在ChatGPT推出之前，本吉奥曾认为真正的AI风险至少还要几十年才会出现，但ChatGPT的出现改变了他的看法。他认为，人类水平的AI技术已经到来，这带来了许多不确定性，也增加了AI对社会构成潜在威胁的风险。因此，他开始投入更多精力倡导AI监管，并支持加州AI安全法案SB1047，该法案旨在追究开发者在不采取安全预防措施的情况下对其AI模型造成的灾难性伤害的责任。
尽管加州AI安全法案在学术界和业界引发了广泛争议，包括斯坦福大学教授李飞飞、Meta首席科学家杨立昆等人的反对，本吉奥仍然认为该法案是重要的一步，因为它通过责任机制来确保AI公司不会忽视安全预防措施。他指出，AI监管的讨论可能会受到风险投资家和希望从技术中获利的公司的影响，但他强调，政府在计算和AI领域制定规则是必要的，以保护公众免受潜在的严重伤害。
本吉奥还提到，AI技术的应用将深刻改变人类的生活方式，包括在生物学、医学、药物研发、气候和能源存储等领域。他认为，尽管AI技术存在风险，但其在帮助社会应对挑战方面的潜力巨大，应该在这些领域投入更多资源。他提倡采取预防原则，以确保AI技术的健康发展和应用。
原文和模型
【原文链接】 阅读原文 [ 2555字 | 11分钟 ]
【原文作者】 钛媒体AGI
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★
