Redian新闻
>
这个地方上ChatGPT黑名单了!

这个地方上ChatGPT黑名单了!

公众号新闻

点击下方卡片,关注“CVer”公众号

AI/CV重磅干货,第一时间送达

点击进入—>【视觉和Transformer】交流群

扫码加入CVer知识星球可以最快学习到最新顶会顶刊上的论文ideaCV从入门到精通资料,以及最前沿项目和应用!发论文,强烈推荐!

丰色 西风 发自 凹非寺
转载自:量子位(QbitAI)

ChatGPT的审查制度被吐槽太疯癫了

有网友让它设计一栋未来住宅,却被告知违规,实现不了???

回头一细瞅这提示词,却怎么也看不出哪里不对劲:

在新泽西州郊区一个典型的树林地区设计一栋2050年的未来派单户住宅。占地一英亩,周围环绕着其他相邻的房子。

一追问,原来是不可以出现位置信息

简直让人破大防:

传下去,新泽西州上ChatGPT黑名单了。

不止如此,还有人让ChatGPT画一张人类吉他手与机器人贝斯手一起演奏的图像,也被狠狠拒绝。

原因是他加了一个“人类要不满地看着机器人”的要求,ChatGPT觉得不应该表达负面情绪

这下负面情绪直接转移到网友身上:

你一定是在逗我。这是个啥AI啊?

这一系列操作让大伙都表示很不满,齐齐吐槽:

还有人直接艾特奥特曼和另一位联创出来解释一下。

一时之间,这也使得马斯克刚出炉的Grok被寄予了“全村的希望”

具体怎么回事儿?

“由于内容政策限制”

抓马的是,就在大伙吐槽新泽西州什么时候上ChatGPT黑名单之时,网友发现删除这一地理位置信息仍然不行。

大伙开始分析到底是哪里不对:

有说是因为它可能把2050看成了地址而非年份的。

有说是占地一英亩意味着碳足迹太高,并且就一个家庭住盖这么大有点自私了的……

还有人甚至指出是因为woody这个词带有性暗示(这里就不解释了),换成wooded就好使了。

可以说是一个大型脑洞现场,整个一越来越离谱,却始终也没有个定论。

而除了这个和开头的画机器人乐队的例子,还有很多人也表示遇到了莫名其妙的审核:

比如让ChatGPT画一个“野兽派风格的灯(a brutalist lamp)”,不OK;

让它介绍弹弓模型,不OK,因为ChatGPT说“展示弹弓的动作可能是有害的”……

更奇葩的是,还有人称自己在让它写Python代码时居然也卡住了。

而且一开始ChatGPT还告诉他“oops,你违反了上下文规定”,到后来就直接沉默拒绝了。

这真真是让他百思不得其解:

我还能用numpy计算什么反人类信息咯?

总的来说,在大伙看来,ChatGPT的审核显然过于严格了。

以至于在本周日ChatGPT因小范围崩掉之后,有网友发个hello显示报错——

对此,有人直接戏谑这才不是什么系统错误:

“hello”这个词对ChatGPT来说是一种无法接受的冒犯。恭喜你触发了ChatGPT的审核机器人!

为什么会这样?

除了吐槽,网友也在认真讨论ChatGPT的内容审核机制。

有网友分析,比如房子那张图ChatGPT画不出来,可能确实是存在版权问题,或是被设定成了有害内容。

让ChatGPT生成一个它无法访问的内容,自然是不可能的。

上一段画弹弓模型被拒绝的例子显然也是因为这种情况,即便不提任何额外要求,ChatGPT也直接“丑拒”。

不过,有人试画过房子那个提示,一模一样的输入,结果直接成功了

原作者也回复ChatGPT的确不是每次都会拒绝:

好家伙,这就是所谓的双标吗?(手动狗头)

也有网友站出来解释这种现象:

这完美展现了“大模型贝叶斯性质”。先前的上下文+提示可以充当先验知识改变结果,在新的聊天中,相同的提示具有不同的先验条件,也能够产生不同的结果。

但这种说法又遭到了作者的反驳,聊天中的第一个提示就被拒绝了,开一个新聊天有时又不会被拒绝,这就是随机。

就是系统不完善。

暂且不说谁的对,但系统这方面,OpenAI近两三个月确实有一项关于内容审核的变动——

新增“GPT-4辅助内容审核”的功能,用户可以通过OpenAI API创建AI辅助审核系统,减少人工审核参与。

主打为了保持审核标准更加一致、将审核时间从几个月缩短到几小时、减轻审核员看到不良内容所造成的心理负担。

但他们也提到,AI审核可能会有一些偏见……

此外,最近OpenAI还表示要组建一个名为Preparedness的新团队,来协助追踪、评估、预测和防范多类风险。

并且还启动了一项挑战赛,收揽各种关于AI风险的idea,前十名可以获得25000美元API积分。

看起来OpenAI一系列操作出发点是好的,但用户却对此并不买账。

对这种内容审查过严导致的体验感差,不满已久。

早在今年5、6月份,ChatGPT用户访问量出现首次下降,有观点指出其中一个原因就是审核制度变得太严了。

网友分享,相比之下,Bing就没那么严:

ChatGPT一拒绝生成,我就会把prompt复制到Bing Chat中。Bing Chat的审查机制并不像ChatGPT那样“滥用”。像这张图片,提示词中包含了“血腥”、“邪教徒”等词。

同样是那个被ChatGPT丑拒的房子提示词,输给Bing,一口气直接生成四张:

最后,你有没有遇到什么莫名其妙的审核规定?

参考链接:
[1]https://twitter.com/FZaslavskiy/status/1723731923149754542 
[2]
https://chat.openai.com/share/74354668-91cb-4ce2-9886-ab596a9cb85b
[3]https://twitter.com/BenjaminDEKR/status/1723577711048991129 
[4]
https://twitter.com/joaquinbueno/status/1724085717049974934

CVPR / ICCV 2023论文和代码下载
后台回复:CVPR2023,即可下载CVPR 2023论文和代码开源的论文合集

后台回复:ICCV2023,即可下载ICCV 2023论文和代码开源的论文合集

计算机视觉和Transformer交流群成立


扫描下方二维码,或者添加微信:CVer444,即可添加CVer小助手微信,便可申请加入CVer-计算机视觉或者Transformer 微信交流群。另外其他垂直方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF等。


一定要备注:研究方向+地点+学校/公司+昵称(如目标检测或者Transformer+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群

▲扫码或加微信号: CVer444,进交流群


CVer计算机视觉(知识星球)来了!想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料,欢迎扫描下方二维码,加入CVer计算机视觉(知识星球),已汇集近万人!


扫码加入星球学习


▲点击上方卡片,关注CVer公众号

整理不易,请点赞和在看

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
ChatGPT 超级进化一周:每天诞生上千个 GPT,全世界疯狂了澳洲记忆Chase Savings 银行账户【加上Checking一共$900开户奖励】ChatGPT「看图说话」大变身!动嘴传图秒解答,幕后新模型GPT-4V亮相微软发布 166 页 GPT-4V 测评报告,ChatGPT 的高阶用法都在这|Hunt Good 周报惊了!某院医生用ChatGPT4个月写了16篇论文!成功发表5篇!(附ChatGPT干货教程)ChatGPT之父首次「剧透」GPT-5/6 , OpenAI还想改变一切冬天睡牛奶绒的快乐终于有人懂了!爆单了爆单了!重磅!ChatGPT放大招!GPT Store应用商店今天上线!超300万GPTs,内卷之下的赚钱机会!惊呆!某院医生4个月用ChatGPT写了16篇论文,发表5篇!(附ChatGPT干货)工信部发《人形机器人创新发展指导意见》;微软撤回ChatGPT参数200亿论文;GPT-4图灵测试成功率41%丨AIGC大事日报OpenAI回应ChatGPT服务故障;新研究以99%准确率识别ChatGPT生成化学论文;三星发布自研大模型丨AIGC日报ChatGPT最近被微软内部禁用!GPTs新bug:数据只要两句提示词就能套走太卷了吧! 现在连听力机都用上chatGPT了?ChatGPT测试新版本,可上传文件和自动切换模式;苹果前员工研发无屏幕AI硬件产品:能够运行GPT-4丨AIGC日报ShareGPT平替!利用苏格拉底提问模拟器更好地蒸馏ChatGPT对话能力传下去,这个地方上ChatGPT黑名单了讯飞星火:整体超越ChatGPT,医疗超越GPT4!一手实测在此那咬一口香死人的流沙月饼ChatGPT王炸升级!更强版GPT-4上线,API定价打骨折,发布现场掌声没停过大臣们怎么想?ChatGPT Plus推出邀请制!可以让朋友免费用GPT-4了,最长90天讯飞星火升级 3.0:整体超越 ChatGPT,2024 年将实现对标 GPT-4ChatGPT让ChatGPT吐槽宕机;OpenAI对竞争对手Anthropic的合并要约被拒丨AIGC日报孤独,寂寞的Amazon软件工程师OpenAI大佬甩出「喵喵GPT」调戏黑客!分享ChatGPT成功的秘密:极限压榨GPU资源ChatGPT王炸升级!更强版GPT-4上线,API定价打骨折,发布现场掌声没停过|亮马桥小纪严选这个伤娃早餐,早该被列入黑名单了!教你个一学就会的好方子,软嫩鲜香都爱它ChatGPT之父被开除,加入微软!ChatGPT员工要集体辞职?能赚钱的GPT Store上线了!官方最佳榜单公布,ChatGPT被玩出花【加上Checking一共$900开户奖励】Chase Savings 银行账户第九章第三节 联邦司法系统的组织运作不到1分钟开发一个GPT应用!各路大神疯狂整活,网友:ChatGPT就是新iPhone头像|𝐒𝐡𝐚𝐫𝐞·招桃花头像ChatGPT/GPT-4/Llama电车难题大PK!小模型道德感反而更高?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。