Redian新闻
>
ChatGPT下架官方检测工具,承认AI文字无法鉴别

ChatGPT下架官方检测工具,承认AI文字无法鉴别

公众号新闻
梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

没有公告,OpenAI悄然关闭了AI文本检测工具,页面直接404了。

官方对此没有公开回应,几天后才有人找到一则简短说明,藏在半年前工具发布的博客页面中。

……AI检测器由于准确率较低而不再可用……我们正在研究更有效的文本检测技术,并承诺开发音频和视觉检测技术。

对于CloseAIOpenAI不发公告就杀死一个产品这种行为,很多网友是不满意的。

但是对关闭AI检测器本身倒是有不少人表示赞同,特别是学生群体。

太多老师相信这玩意有效,大量冤枉学生用AI作弊,已经变成了一场猎巫运动

准确率和瞎猜差不多

这个官方检测工具,准确率究竟有多低呢?

OpenAI自己给出的数据,只能正确识别26%的AI生成文本,同时冤枉9%的人类编写文本。

1月份刚发布时就被网友总结为“和瞎猜差不多”。

另外有人做过实验发现,市面上各种检测工具会把圣经、美国宪法等历史文本都被判定可能为AI编写,总不能写下这些内容的历史人物都是时间穿越者吧?

但还是有很多老师试图用各种检测方法来检查学生作业。

最著名的一次,得克萨斯农工大学一位教授差点判定半个班的学生延毕

目前最新的趋势是,教师要求学生用在线文档写作业并检查编辑记录,但聪明的学生也能找到规避办法。

最终对于教育领域,有人提出可能大作业/课程论文将成为历史,闭卷考试或口语考试将成为主流。

目前的检测方法都能规避

网友指出,OpenAI同时开发生成和检测工具本身就是矛盾的。

如果一边做的好就意味着另一边没做好,同时还有可能存在利益冲突。

但是第三方开发的检测方法,可靠性也不高。

最早被称为“ChatGPT克星”的是普林斯顿本科生Edward Tian开发的GPTZero,用复杂性和长短句的变化来衡量文章是否由AI生成。

当时GPTZero计划专为教育工作者打造,老师可以把全班学生的作业丢进去检测。

但到了7月份,作者承认已放弃了检测学生作弊这个方向,计划下个版本的GPTZero将不再检测文本是否由AI生成,而是突出最像人写的部分。

另外一个很受关注的检测方法,是马里兰大学开发的水印法,要求大模型在生成文本的时候就藏下记号,并用统计方法识别。

但是规避的办法也很简单,比如有人开发了简单的同义词替换工具,就能破坏统计特征。

甚至有人开始怀疑,人们到底是为了什么非要区分这个。

就像数字到底是人计算的还是计算机完成的,早就没人在意了。

演讲者的稿是自己写的还是秘书写的,不是也没人在意吗。

人类行为学研究,正在用AI充当被试

无法区分AI和人类的内容,似乎也不全是坏事。

已经有心理实验用AI代替人类被试加速研究了。

Cell子刊上一篇文章指出,在精心设计的实验场景中,ChatGPT的反应与大约95%的人类参与者的反应呈相关性。

并且机器被试不会疲倦,使科学家能以前所未有的速度收集数据并测试有关人类行为的理论。

而在最近一篇Science主刊的观点文章上,滑铁卢大学心理学教授Igor Grossman认为:

“人工智能可以改变社会科学研究的游戏规则,谨慎的偏见管理和数据保真度是关键。”

参考链接:
[1]
https://twitter.com/KevinAFischer/status/1683898199981928450
[2]https://www.reddit.com/r/ChatGPT/comments/159j8rc/openai_quietly_kills_its_own_ai_classifier_citing/
[3]https://news.ycombinator.com/item?id=36862850
[4]https://www.cell.com/trends/cognitive-sciences/fulltext/S1364-6613(23)00098-0
[5]https://www.science.org/doi/10.1126/science.adi1778
[6]https://theconversation.com/beyond-the-hype-how-ai-could-change-the-game-for-social-science-research-208086

「AIGC时代的算力基石」沙龙筹备中

8月9日,量子位将在北京线下举办行业沙龙「AIGC时代的算力基石」,诚邀算力产业相关企业报名参与~ 

点击图片了解招募详情,企业报名可联系活动负责人微信iris_wang17,备注企业-姓名。


点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
OpenAI官方ChatGPT速成课流出!一周驯化GPT的方法找到了....你的乡村规划PPT丑到我了!(附PPT下载)中山六院联合发布肠功能障碍风险预测工具,让直肠癌患者保肛也保功能!人多好办事吗?ChatGPT之父反驳马斯克/高考生喊话取消调休/刘慈欣也用ChatGPT写稿|灵感周报GPT-3.5逆袭GPT-4!谷歌DeepMind华人天团,让LLM像人类一样制作工具,完胜CoT战地恋情(一)一文总结13个国内外ChatGPT平替产品:是时候可以不那么依赖ChatGPT了~ChatGPT能写长篇小说了,ETH提出RecurrentGPT实现交互式超长文本生成OpenAI官方ChatGPT速成课流出!留学生一周驯化GPTSpotify推新付费推广工具,Stability AI发布AI音乐工具,大型演出活动面向公众销售门票比例不得低于85%ChatGPT 又断网了!OpenAI 暂时下线 ChatGPT 搜索功能,只因绕过付费墙?拒绝花架子!盘点ChatGPT最强的七个插件:写提示词、学外语、总结视频,让ChatGPT做你的私人秘书【老键曲库】Hans Zimmer - Time (Remix)不输ChatGPT!熬夜整理了32个打工人必备AI工具,建议收藏!且随诗吟:《五月》by 星如雨想要拿捏甲方?看这些大院的汇报PPT就够了!(附PPT下载)安卓版ChatGPT下周上线!OpenAI补全AI帝国最后一块拼图未尽的遗憾和完美的自然直角AI之下没有秘密:网友诱骗ChatGPT激活 Windows 11,ChatGPT落入陷阱!ChatGPT 再次成为焦点:学生放弃导师,改用 ChatGPT 自学!科技与狠活席卷高校?OpenAI突发更新!GPT-3.5正式开放「微调」,人人可打造专属ChatGPT|附最全官方指南巴黎市长将重修Châtelet 广场以方便行人顶不住了!Kmart下架一款人气商品!一周退货15条!谁穿谁尴尬!文末送书 | 4个维度讲透ChatGPT技术原理,揭开ChatGPT神秘技术黑盒!【城事】巴黎市长将重修Châtelet 广场以方便行人刚刚,OpenAI官方ChatGPT速成课流出!留学生:一周驯化GPT的方法找到了....ChatGPT路线图曝光:没有GPT-5、识图功能要等到明年、GPT-3或将开源只知道ChatGPT?偷偷告诉你金融民工都在学的13个王炸金融AI工具,搞钱效率提升10倍!ChatGPT重大更新!prompt推荐瞬间解释超导,GPT-4成默认模型安卓版ChatGPT下周上线,快去预订OpenAI官方ChatGPT速成课流出!留学生:一周驯化GPT的方法找到了....历经3年、17位医生都没有确诊的病例,靠ChatGPT找到正确的诊断。找ChatGPT看病到底是否靠谱?7 Papers | GPT-4等大模型自己制作工具;识别ChatGPT造假诺奖风向标之拉斯克奖揭晓:蛋白质结构预测工具 AlphaFold 再获殊荣!
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。