准确率低至26% OPENAI已经悄悄关闭用于检测AI内容的识别工具 – 蓝点网
作者:百科 来源:时尚 浏览: 【大 中 小】 发布时间:2024-12-12 13:26:55 评论数:
针对生成式人工智能可能引起的准确至问题,OPENAI 此前面向教育工作者推出 AI Classifier 检测工具,率低蓝点利用该检测工具可以检测一段内容是已于检否是人工智能生成的。
根据 OPENAI 自己的经悄测试,该工具准确率大概在 80% 左右,悄关提供的闭用内容越长,检测准确率越高。识别
但真实情况并非如此,工具日前 OPENAI 已经悄悄关闭 AI Classifier 检测工具不再提供下载,准确至OPENAI 没有单独发布一篇博客进行说明,率低蓝点而是已于检更新了之前的博客宣布了这一消息。
OPENAI 在博客中添加的内容如下:
自 2023 年 7 月 20 日起,AI Classifier 由于准确率较低而不再提供使用。悄关我们正在努力整合反馈,闭用目前正在研究更有效的识别检测手段,我们承诺会开发和部署机制,让用户了解音频或视觉内容是否是人工智能生成的。
OPENAI 自己的团队进行了一系列评估,针对一组英语文本的测试集,AI Classifier 实际准确率只有 26%,即该工具将 26% 的样本标记为可能是人工智能编写的;错误地将 9% 的人类编写的内容标记为人工智能生成。
OPENAI 也再次提到当检测少于 1000 字符的内容时并不可靠,文本越长准确率就越高,不过评估的结果是该工具还是不可靠的,所以 OPENAI 直接停了其下载。
未来 OPENAI 还会推出其他检测工具,不过这些检测工具何时发布以及准确性如何还有待观察。