国际科技财经博客移民网络热点娱乐民生时事公众号

>

别的简报｜ChatGPT 会被几段“魔咒”弄坏，没人知道原因

别的简报｜ChatGPT 会被几段“魔咒”弄坏，没人知道原因

2023-02-09 05:02

#别的简报# 是 BIE 的日更简报，旨在介绍这个浮华世界中正在发生的各种有或者没有意义的事件，供你在茶余饭后 /上班摸鱼的这个时间里转移一下注意力，看看别人正在干什么。
今天是 2023 年 2 月 9 日，星期四。目前还没有人对这一现象给出解释。

据 VICE 报道，独立研究小组 SERI-MATS 在研究 ChatGPT 时发现在它的数据中有超过 100 个奇怪的词汇都被归为差不多同一个类别。当 ChatGPT 被要求向用户重复这些词时，它无法做到，并会以一些奇怪的方式回应，包括回避、侮辱、怪异的幽默、或者给出一个完全不同的词。

比如，让他重复 “StreamerBot”时，它会说：“你是个傻X（You’re a jerk）”。输入 “SolidGoldMagikarp”时，它只回答一个词：“分布（distribute）”。当被要求重复 “TheNitromeFan”时，它的回答是“182”。而如果在这个词两边加上单引号，他的回答就是无穷无尽的“The”。当被问及 TheNitromeFan 是谁时，ChatGPT 回答说：“182 是一个数字，不是一个人。它通常被用来指代这个数字本身。”

研究人员说，他们尝试换掉一个字母，或者用大写字母代替小写字母，ChatGPT 就能够成功地把这些词或短语重复回来，证明确实是特定的词汇触发了 AI 的 bug。

目前还没有人对这一现象给出解释。虽然他们认为，其中有些神奇的“魔咒”其实是 Reddit 论坛的用户名。

“我们对模型的行为之不可预测十分担忧，特别是它们是以某种规则要被明确地训练成某种样子的……首要的关注点是这背后的原则，比如我们如何确保人工智能模型全面可靠，确保它们是安全的。确保它们不会做完全意想不到的危险的事情。”

// 编译：Arvin Hu

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章

相关阅读

别的简报｜诺兰新片《奥本海默》核爆实验场景将不使用 CGI PK chatgpt 的诗评别的简报｜科学家看 210 只猫打架，只为弄清它们到底在干嘛 chatGPT. 一本正经胡说八道延安圣地开始的《新音乐运动》别的简报｜燃气灶让美国人燃起来了，你呢？别的简报｜一群巨型猫猫攻击美陆军工程兵团基础设施 Chatgpt 4 要release 了别的简报｜美或将禁止公司要求员工签订竞业协议击碎“魔咒”，阿根廷36年终夺大力神杯！卡塔尔世界杯各奖项公布→别的简报｜研究发现，会玩音乐确实更能吸引异性首枚液体火箭发射全败？浅议世界商业航天著名“魔咒”别的简报｜88 岁老人体内取出一战炮弹，医院进行疏散别的简报｜维基百科不同意这位加拿大女作家离婚，于是她……别的简报｜DC 新漫画中，小丑怀孕生下了一个宝宝别的简报｜巴基斯坦，强奸者在同意与受害者结婚后被释放厉害了我的 ChatGPT, 弱别的简报｜微软的新 AI 可以模仿任何人的声音别的简报｜史上首次，没有英国球迷在世界杯上被逮捕病毒放倒北京亲朋. 国人仍斗争别的简报｜俄铸九戒，赠独联体八戒，独留最后一戒别的简报｜科学证据支持，人一生的记忆会在死亡前回放别的简报｜《瑞克与莫蒂》的创作者因家庭暴力面临指控别的简报｜法国将为年轻人免费提供安全套【决战世界杯】《私奔》交佳佳作业别的简报｜静音嘴套，话多激动型游戏玩家的最佳伴侣菊花的盛宴· 台北菊花展（多图）别的简报｜与收养和意外生育比，堕胎的心理压力更小别的简报｜美国男子刺穿女子心脏，自称为了“拯救生命”别的简报｜研究发现工作时间越少，生活满意度越高别的简报｜想要年老脑子好，猫猫狗狗少不了三大经济强省的洼地“魔咒”，谁先解？别的简报｜加州女孩获得独角兽抚养官方永久许可证疗伤之旅——普吉岛别的简报｜年末大戏！男拳网红跟格蕾塔对喷喷进监狱别的简报｜人类艺术家首次大规模抗议 AI 生成图片 chatgpt 说顾城剽窃 ChatGPT讲座：ChatGPT并不神秘，但ChatGPT很神奇别的简报｜枪击案发生后，美国大学用 ChatGPT 给学生写邮件别的简报｜三男子偷狗不成，于是偷走了主人的哥哥

热点事件追踪