非法阻止员工披露AI安全风险，OpenAI严厉「封口协议」再遭举报

AIGC动态4个月前发布 almosthuman2014

666 0 0

文章摘要

OpenAI，作为人工智能领域的领导者，以其聊天机器人ChatGPT、文生图DALL・E和文生视频Sora等产品而闻名。然而，该公司目前正面临一场风波。
据《华盛顿邮报》报道，一位举报人向美国证券交易委员会（SEC）提出投诉，指控OpenAI非法禁止员工警告监管机构其技术可能对人类构成的严重风险，并要求进行调查。

举报人提交了一封长达7页的信函，指出OpenAI向员工发出了过于严格的雇佣、遣散费和保密协议，可能导致向联邦监管机构提出对OpenAI的担忧的员工受到处罚。
信中提到，这些合同传递了一个信息，即OpenAI不希望员工与联邦监管机构对话。
举报人认为，如果人工智能公司屏蔽审查和异议，就无法构建安全且符合公众利益的技术。

代表匿名举报者的律师将这封信寄给了美国证券交易委员会主席Gary Gensler。
信中提到了一份单独的正式投诉，要求SEC调查OpenAI的离职、非贬损和保密协议。
信中指出，这些协议禁止并阻止员工和投资者就证券违规行为与SEC沟通，强迫员工放弃举报人奖励和补偿的权利，并要求员工将与政府监管机构的沟通情况通知公司。

OpenAI发言人Hannah Wong在一份声明中表示，公司的举报人政策保护员工进行受保护披露的权利。
此外，公司认为对这项技术进行严格讨论至关重要，已经对离职流程进行了重要修改，删除了非贬损条款。

参议员Grassley表示，监测和减轻人工智能带来的威胁是国会保护国家安全的宪法责任的一部分，而举报人对这项任务至关重要。
他指出，OpenAI的政策和做法似乎对举报人的权利造成了寒蝉效应，使他们无法畅所欲言，也无法因其受保护的信息披露而获得应有的补偿。
Grassley补充说，如果联邦政府要在人工智能领域保持领先一步，OpenAI的保密协议必须改变。

今年早些时候，OpenAI的员工离职协议已经饱受批评，因为据报道，如果前员工拒绝签署该文件或违反保密协议，他们的既得股权将被剥夺。
首席执行官Sam Altman随后表示非常抱歉，并声称公司从未收回任何东西，已经在修正标准的离职文件。

六月初，OpenAI和其他知名人工智能公司的几名现任和前任员工警告说，这项技术对人类构成严重风险，并呼吁公司实施全面变革以确保透明度并促进公共辩论文化。
这些员工写道，由于人工智能受到的监管并不严格，因此责任只能由公司内部人员承担。
他们呼吁公司解除保密协议，并为员工提供保护，允许他们匿名提出担忧。

此举正值OpenAI面临员工外流之际。
许多批评人士认为，包括OpenAI联合创始人Ilya Sutskever和高级研究员Jan Leike在内的知名员工离职是对公司领导的斥责，一些员工认为，公司领导以牺牲OpenAI技术的安全性为代价来追逐利润。

举报者在信中提到的正式投诉已于今年6月提交给美国证券交易委员会。
OpenAI举报人的代理律师Stephen Kohn表示，SEC已对投诉做出回应。
目前尚无法确定证交会是否已展开调查，该机构没有回应《华盛顿邮报》的置评请求。