我要投稿

用魔法打败魔法！OpenAI的AI文本检测器近100%准确率！

发布日期：2024-08-05 12:45:47 浏览次数： 2587

作者：AI范儿

微信搜一搜，关注“AI范儿”

“

OpenAI研发出能准确识别AI生成文本的技术，但面对商业与透明度的双重考量，公司对是否发布该技术持谨慎态度。

人工智能领域的巨头OpenAI已经悄然研发出一种能够可靠识别人工智能生成文本的技术。然而，尽管这项技术已经成熟到仅需“按下一个按钮”即可发布，公司却表现出了明显的犹豫，这背后可能隐藏着对商业模式可能受到冲击的担忧。

在过去两年中，OpenAI内部对于AI文本检测器的讨论从未停歇，技术也已准备就绪超过一年。但公司似乎在用户需求的透明度与对现有商业模式的保护之间，寻找着微妙的平衡点。

一项内部调查显示，约三分之一的ChatGPT用户对文本检测器的引入持反对态度，担心这可能影响他们的使用体验。与此形成鲜明对比的是，OpenAI委托进行的全球调查却反映出了压倒性的支持声音，公众对AI检测和透明度的支持率高达四分之三。

OpenAI的一位发言人强调，文本检测器可能对非英语母语使用者产生特别影响，并可能波及到公司之外的更广泛生态系统。她表示，虽然技术“在技术上很有前景”，但公司仍在评估与之相伴的“重要风险”，并探索其他可能的替代方案。

这项技术的关键在于能够评估文档是否由ChatGPT编写，无论是全部还是部分内容。据悉，只要文本量足够，其准确率可达99.9%。检测器利用了一种对人类不可见的水印技术，这种水印可以被OpenAI的技术检测到，同时不影响文本质量。但是，对于经过大量编辑、翻译或添加/删除表情符号的文本，其检测的可靠性仍是一个未知数。

OpenAI目前只能将这项技术应用于ChatGPT及其自身的模型，这在缺乏统一的AI透明度行业标准的情况下，可能会导致用户转向其他语言模型，从而对公司的业务造成损害，同时并未从根本上解决行业的透明度问题。

为了减轻由文本生成带来的潜在负面影响，OpenAI的员工正在讨论将检测器提供给教育工作者，或提供给那些帮助学校和企业识别AI编写作品和抄袭行为的外部公司。

值得注意的是，OpenAI此前曾推出过一个AI文本检测器，但由于其不可靠性，公司不得不在2023年夏天将其撤下。如今，面对技术的再次突破，OpenAI站在了新的十字路口，既要考虑技术的先进性，也要权衡商业利益与社会责任的平衡。