一项人工智能法案，为何让硅谷陷入恐慌？| Q福利

481 0 0

文章摘要

在过去几个月里，硅谷的科技公司们对一项即将通过的法案发出了警告，称其可能会摧毁美国在人工智能领域的领导地位。
加州1047号提案因此诞生，并已通过加州参议院，现正等待加州众议院的进一步审议和修改。
Meta的首席人工智能科学家杨立昆认为，1047号提案将终结加州的技术创新历史。
如果提案通过，硅谷那些在人工智能上投入超过1亿美元的公司将被强制要求进行安全测试，未遵守者将面临高额罚款和刑事指控。
人工智能科学家吴恩达和杨立昆都表示，当前的人工智能并不具备统治欲望，最聪明的人也不一定渴望权力。
提案的编写者Scott Wiener表示，他已经对提案做出了一定的修改，调整了大模型标准，并澄清开发者不需要对开源所造成的负面影响负全责。
提案的本意是希望人们关注人工智能的安全。
然而，意外结果难以预测和预防，即使采取最严格的安全措施，人工智能系统仍可能以有害方式发展。
提案对故意滥用的防范措施较少，这类人不太可能遵守立法要求，且可能在加州管辖范围之外，使得执行提案变得困难。
人工智能的风险是一个持续挑战，可能需要一种“共识”来解决。
李飞飞在自传中提到，推动人工智能发展的动机必须明确地以人为本。
超过70%的研究人员对该技术潜在的滥用风险表示担忧。
杨立昆认为，人类对人工智能的恐惧主要来自人性特质在机器上的投射，统治的意愿与智力无关。
总之，1047号提案引发了关于人工智能监管的广泛讨论，尽管其初衷是确保技术安全，但其实施可能带来的影响和挑战仍需进一步审视和调整。