图灵巨头再次决裂！Hinton支持的加州AI限制法案初步通过，LeCun李飞飞吴恩达喊打

612 0 0

文章摘要

加州的《前沿人工智能模型安全创新法案》（SB 1047）在众多AI领域专家、科技巨头、初创公司和风险投资者的强烈反对声中，仍然在立法过程中取得了初步进展。该法案旨在通过追究AI系统开发者的责任，预防AI技术导致大规模人员伤亡或超过5亿美元的网络安全事件。尽管面临广泛反对，SB 1047在立法者对提案做出一些妥协后，如减少政府追究AI实验室责任的权力，仍在加州立法机构中相对轻松地通过。

法案的批评者，包括AI领域的知名专家如Yann LeCun、李飞飞和吴恩达，认为SB 1047可能会扼杀开源AI的发展，迫使AI创新暂缓甚至停止。他们通过联名信和公开呼吁，表达了对法案的担忧。然而，也有如Yoshua Bengio和Geoffrey Hinton这样的图灵奖得主，对法案表示强烈支持，认为这是对AI技术进行有效监管的基本要求。

SB 1047规定，AI模型的开发者或公司需负责防止其模型被用于造成重大伤害，如制造大规模杀伤性武器或发起损失巨大的网络攻击。法案特别针对训练成本至少为1亿美元、浮点运算超过10^26次的大型AI模型。此外，法案要求开发者创建风险测试程序，每年聘请第三方审计员评估AI安全实践，并为基于模型的AI产品制定安全协议，包括紧急停止机制。

经过修正，SB 1047的功能有所调整。加州总检察长不能在灾难性事件发生前因安全疏忽起诉AI公司，但可以寻求禁止令，要求公司停止危险操作，并在灾难发生后起诉开发者。法案取消了原计划设立的新政府机构“前沿模型司（FMD）”，转而设立前沿模型委员会，负责设定计算门槛、发布安全指导和审计员法规。法案的措辞也从“合理保证”变为“合理注意”，降低了对开发者的要求。

尽管面临激烈反对，SB 1047在加州立法机构中通过后，将进入议会进行最终投票。如果投票通过，法案将送回参议院投票，之后提交州长决定是否签署成为法律。这一法案的通过与否，将对AI领域的发展产生深远影响。