OpenAI图像检测工具曝光，CTO：AI生成的99%都能认出
丰色 发自 凹非寺
量子位 | 公众号 QbitAI
OpenAI要出手AI图像识别了。
最新消息，他们公司正在开发一种检测工具。
根据首席技术官Mira Murat透露：
该工具精度非常高，正确率可达99%。
目前已进入内部测试流程中，很快将公开发布。
不得不说，这个准确率还是让人有点期待的，毕竟之前OpenAI在AI文本检测上的努力可是以“26%的正确率”惨败告终。
AI内容检测，不简单
OpenAI在AI内容检测领域早有布局。
今年1月，他们就发布过一款AI文本检测器，用于区分AI和人类生成的内容，防止AI文本被滥用。
然而7月份该工具就黯然退场：没有任何公告，页面直接404。
究其原因，还是正确率太低了，“和瞎猜差不多”。
根据OpenAI自己公布的数据：
它只能正确识别26%的AI生成文本，同时冤枉9%的人类编写文本。
在此次匆忙收场之后，OpenAI表示会吸收用户反馈努力改善，并研究更有效的文本来源技术。
同时，他们还宣布：判断图片、音视频是否由AI生成的工具也要搞起来。
如今，随着DALL-E 3的问世以及Midjourney等同类工具的不断迭代，AI绘画能力越来越强。
最大的担忧就是用于伪造全球范围内的假新闻图片。
比如reddit上就有一张AI伪造的“2001年卡斯卡迪亚9.1级地震及海啸”的“现场”，超过1.2k网友点赞。
相比AI文本检测工具，AI画图检测工具的开发显然更为紧迫（大概是因为“没人在意演讲稿是自己写的还是秘书写的”，但“有图有真相”的内容很难不让一些人相信）。
不过，正如OpenAI的AI文本检测工具下线时，有网友就指出：
同时开发生成和检测工具本身就是矛盾的。
如果一边做的好就意味着另一边没做好，同时还有可能存在利益冲突。
比较直接的思路是交给第三方。
但此前第三方在AI文本上的表现也并不好。
而就技术本身来说，另一个还算可行的办法是在AI生成内容之时就藏下水印。
谷歌就是这么做的。
日前（今年8月底），谷歌已经在OpenAI之前推出了一款AI图片检测技术：
SynthID。
它目前与谷歌的文生图模型Imagen合作，让模型生成的每一张图像都嵌入一个“这是AI生成的的元数据标识”——
即使图像被进行了裁剪、添加滤镜、更改颜色甚至有损压缩等一系列修改，也不会影响识别。
在内部测试中，SynthID准确识别出了大量经过编辑的AI图像，但具体的准确率并未透露。
不知道OpenAI即将发布的工具将采用何种技术，并且能否成为市面上精度最高的那一个。
奥特曼回应“造芯计划”
以上消息源自于OpenAI CTO与奥特曼本周在《华尔街日报》举行的Tech Live会议上发表的讲话。
会上，俩人还透露了OpenAI的更多消息。
比如下一代大模型可能就快推出了。
叫啥没透露，但今年7月OpenAI确实就已经申请了GPT-5商标。
有人关心“GPT-5”的准确性，问它是否能够不会再产生错误或虚假内容。
对此，CTO的态度比较谨慎，只是表示“maybe”。
她解释道：
我们在GPT-4的幻觉问题上取得了很大进展，但这还没有达到我们需要的目标。
奥特曼则谈及了“造芯计划”。
从他的原话来看，并没有“实锤”，但也留下了无限遐想空间：
如果按照默认路径我们肯定不会这么做，但我永远不会排除这种可能性。
相比“造芯计划”，奥特曼对于造手机传言则回复得相当干脆。
今年9月，苹果前首席设计官Jony Ive（在苹果工作了27年）被曝与OpenAI接洽，有消息人士称奥特曼要开发一种硬件设备，提供一种与AI交互更自然和直观的方式，可称为“AI届的iPhone”。
现在，他告诉大伙：
我自己都还不确定要做什么呢，只是有一些模糊的想法。
以及：
任何AI设备都不会盖过iPhone的受欢迎程度，我也没有兴趣与任何智能手机展开竞争。
参考链接：
[1]https://finance.yahoo.com/news/openai-claims-tool-detect-ai-051511179.html?guccounter=1
[2]https://gizmodo.com/openais-sam-altman-says-he-has-no-interest-in-competing-1850937333
— 完 —
「量子位2023人工智能年度评选」开始啦！
今年，量子位2023人工智能年度评选从企业、人物、产品/解决方案三大维度设立了5类奖项！欢迎扫码报名
MEET 2024大会已启动！点此了解详情。
点这里👇关注我，记得标星哦～
微信扫码关注该文公众号作者