聊太多机器人“被带坏了”?微软限制问答公众号新闻2023-02-18 05:02澎湃新闻记者 吴遇利在发生数次失控事件后,微软开始切断用户与必应之间的长时间对话。当地时间2月17日,微软公司发布公告称,决定将必应聊天回复限制在每天50个问题、每个问题5条回复以内。微软方面解释说,数据表明,绝大多数用户在5次回复内找到想要的答案,只有大约1%的聊天对话会产生50条以上的消息。一旦用户触发五条回答的限制,必应就会开启一个新的对话主题。当地时间2月7日,微软宣布推出搭载了AI技术的搜索引擎必应,新版本中引入了OpenAI旗下ChatGPT的相关技术,用户可以直接提出问题,搜索引擎生成答案。新必应一经推出便吸引了全世界网友的注意力,上线48小时内,就有超过100万人注册测试这款聊天机器人。然而必应的“黑化”来得似乎比人们预想的要早一些,近日,有不少用户表示在和必应的交流过程中,发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。在两天前的一篇博文中,微软介绍说,目前发现当必应回答了15个甚至更多问题后,可能会开始重复或被激怒,进而给出不符合程序设定的回答。微软认为,这种长时间的、连续的问答可能是导致聊天模型混淆的重要原因。微软表示,未来会考虑扩大上限,并向用户征求意见。美国消费者新闻与商业频道(CNBC)报道,微软此前曾表示,改进AI产品的唯一方法,就是将它们推向全世界并从用户交互中学习。本期高级编辑 周玉华推荐阅读微信扫码关注该文公众号作者戳这里提交新闻线索和高质量文章给我们。来源: qq点击查看作者最近其他文章