重磅监管！OpenAI新大模型，需要美国政府审查才能发布

674 0 0

文章摘要

OpenAI的联合创始人兼首席执行官Sam Altman宣布，该公司已与美国AI安全研究所签订合作协议，这意味着OpenAI未来的模型必须通过美国政府的安全测试后才能发布。这一合作限制了OpenAI自行发布产品的能力，可能会影响其技术的发挥，如正在测试的“草莓”和“猎户座”模型。美国网络司令部司令、前国家安全局局长中增根加入OpenAI董事会，显示出政府对该公司的关注。Altman强调，国家层面的监管对于保持美国在全球AI领域的领先地位至关重要。

公众对这一消息的反应褒贬不一。一些网友对OpenAI的创新能力可能受到政府干预而感到悲观，认为这将限制其作为生成式AI领导者的潜力。有人担忧这可能导致中国大模型的快速崛起，而其他人则认为自由市场能够防止企业垄断。一些评论者质疑政府干预的必要性，认为这可能导致腐败和信息泄露。然而，也有人指出，这种合作在欧洲几乎不可能实现，认为美国的前瞻性思维是一个竞争优势。

美国AI安全研究所所长Elizabeth Kelly表示，安全是推动技术创新的关键，与OpenAI和Anthropic的合作是推进人工智能安全科学的重要一步。除了与OpenAI的合作，Anthropic也与美国AI安全研究所建立了合作关系，共同研究评估AI能力和安全风险的方法，并寻求减轻这些风险的策略。美国AI安全研究所还计划与英国AI安全研究所合作，为Anthropic和OpenAI提供潜在的安全改进建议。这些合作协议被视为负责任地管理AI未来的重要里程碑。