OpenAI悄悄下架AI检测器，“用AI监管AI”暂不奏效-希知网

作者 | 黄金琼

编辑 | 邓咏仪

常言道，“一物降一物”，但对现在的生成式AI来说，事情也许很难如此。

据TechCrunch，OpenAI于7月20日悄悄下架了其AI检测器，但因为过于低调，不少人还没有发现。

OpenAI的通知显示，下架是因为检测的准确率过低。OpenAI团队“会继续研究更有效的文本技术”，希望未来能够对AI生成的音频、视频内容进行检测。

ChatGPT爆火以来，AI生成文本在各行各业得到了更广泛的应用。但比起广泛应用，AI生成内容引发了人们更大的担忧——AI或许会成为更大的假新闻源头、泄露人们数据和隐私。

AI生成内容引发的现实问题也不绝于耳——典型案例是是在大学里，学生们用ChatGPT生成论文，已经扰乱了学校的教学秩序，不少学校已经明令禁止在学术场景下使用ChatGPT。

面对汹涌的舆论，OpenAI在今年2月就迅速推出应对方案，也就是这款AI文本检测器。

AI文本检测器的主要功能，是用来判断文本是否由人工智能生成。此前，在检测过程中，用户无需付费，只要将所检测的文本复制到检测器上，就可以检查到内容是否为AI生成。OpenAI也没有限定可以检测的文本限定类型，用户可以检测包括邮件、文章以及论文在内的文件。

然而直到下架，这款产品寿命只有短短半年。

AI文本检测器其实一开始就并不完美。据OpenAI公布的数据，AI检测器在识别AI生成文本方面的正确率为26%，同时将人类所写的内容识别为AI生成的错误率为9%。

在发布检测器时，OpenAI就表明“AI文本检测器并不完全可靠”。同时，OpenAI团队也承认，检测器很容易将人类写的文本识别为AI写的，AI生成的文本性内容如果经过人类编辑，AI也无法进行准确地识别。

OpenAI已经大模型应用中的技术领头羊。如今AI检测器的下架，某种程度上也意味着，人们现在可能还没有更好的方式监管AI。“用AI监管AI”的路子，可能还不太能走通。

近期的一则斯坦福研究，也得出了同样的结论。

数位斯坦福的专家教授对目前主流的七款AI文本检测器进行了测试，研究结果显示，一些检测器生成的99%的准确率具有“误导性”。非英语母语的人写的文章，常被错误地标识为由AI生成，这会严重影响母语非英语的使用者如学生、学者以及求职者，也会很容易增加他们被歧视的可能性。

本文地址：https://www.cknow.cn/archives/30380

以上内容源自互联网，由百科助手整理汇总，其目的在于收集传播生活技巧，行业技能，本网站不对其真实性、可靠性承担任何法律责任。特此声明！

如发现本站文章存在版权问题，烦请提供版权疑问、侵权链接、联系方式等信息发邮件至candieraddenipc92@gmail.com，我们将及时沟通与处理。

OpenAI悄悄下架AI检测器，“用AI监管AI”暂不奏效