OpenAI 已开发 AI 文本检测工具，但担心用户流失，一直没发布

908 0 0

文章摘要

OpenAI开发了一款能够检测AI生成文本的工具，尤其针对ChatGPT生成的文本。该工具通过在文本中添加不可见的水印，并通过检测器分析文本，给出文档由ChatGPT编写的可能性分数，检测成功率极高。然而，OpenAI内部对是否发布此工具存在分歧。一方面，工具有助于解决学术界利用AI作弊的问题，另一方面，公司担心发布后用户可能会排斥ChatGPT。OpenAI曾对ChatGPT用户进行调查，发现近三分之一的用户对技术感到反感。公司还担心该工具对非英语母语者等群体不公平。尽管有员工支持发布，但OpenAI首席执行官Sam Altman和CTO Mira Murati参与讨论后，并未推动工具发布。

OpenAI的检测工具只针对ChatGPT，无法识别其他AI模型生成的文本。水印技术虽然前景广阔，但存在被擦除的风险。公司内部认为确定检测器的适用范围是个难题。教育工作者或学校可能是潜在的使用群体，以识别学生是否使用AI编写论文。教师普遍认为，需要打击AI滥用行为。但也有教师鼓励学生使用AI辅助研究或获取反馈。

OpenAI曾在2023年发布过一款检测AI文本的工具，但准确率仅为26%，七个月后撤回。其他公司和研究人员也在开发类似工具，但存在误报等问题。OpenAI高管在讨论中收集了不同意见，并在一年半时间里反复讨论。2023年4月，调查显示全球75%的人支持发布AI检测工具，但69%的ChatGPT用户担心被误判。30%的用户表示，如果作品被标记而竞争对手没有，会考虑减少使用ChatGPT。

谷歌也开发了水印工具SynthID，正在测试中。OpenAI还有检测生成图像的工具。公司还在探索利用元数据检测文本来源的方法，但处于早期阶段。OpenAI在官网更新了关于检测工具的博客，表示团队仍在探索新方法。