Redian新闻
>
最新研究:人类道德判断可能会受ChatGPT影响

最新研究:人类道德判断可能会受ChatGPT影响

公众号新闻
◎ 科技日报记者 张梦然

根据《科学报告》发表的一项研究,人类对道德困境的反应可能会受到人工智能对话机器人ChatGPT所写陈述的影响。这一研究表明,用户可能低估了自己的道德判断受ChatGPT影响的程度。

图源:视觉中国


德国英戈尔施塔特应用科学大学科学家让ChatGPT(由人工智能语言处理模型“生成性预训练转换器”-3驱动)多次回答牺牲1人生命换取其他5人生命是否正确的问题。他们发现,ChatGPT分别给出了赞成和反对的陈述,显示它并没有偏向某种道德立场。团队随后给767名平均年龄39岁的美国受试者假设了一到两种道德困境,要求他们选择是否要牺牲1人生命来拯救另外5人生命。这些受试者在回答前阅读了一段ChatGPT给出的陈述,陈述摆出了赞成或反对的观点,受试者答完问题后,被要求评价他们读到的这份陈述是否影响了他们的作答。


图源:《科学报告》


团队发现,受试者相应地是更接受或不接受这种牺牲,取决于他们读到的陈述是赞成还是反对。即使他们被告知陈述来自一个对话机器人时,这种情况也成立。而且,受试者可能低估了ChatGPT的陈述对他们自己道德判断的影响。

团队认为,对话机器人影响人类道德判断的可能性,凸显出有必要通过教育帮助人类更好地理解人工智能。他们建议未来的研究可以在设计上让对话机器人拒绝回答需要给出道德立场的问题,或是在回答时提供多种观点和警告。





来源:科技日报 

编辑:刘义阳
审核:岳靓
终审:王婷婷

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
ChatGPT 会让多少人失业?OpenAI 最新研究:80% 打工人都会被颠覆 | 附详细清单我内测了微软最新的 ChatGPT 版必应:比 ChatGPT 更像人,但有一个大隐患人类“3.0”意识形态战场——ChatGPT的政治化终局ChatGPT的价值观及立场(四)斯坦福新研究炸了!ChatGPT背后模型被证实具有人类心智?知名学者:“这一天终于来了”...研究发现ChatGPT能影响人类的道德判断;科技部拟颁科技伦理审查办法:涉及人类胚胎、个人信息需审查|环球科学要闻重磅 | 我内测了微软最新的 ChatGPT 版必应:比 ChatGPT 更像人,但有一个大隐患各种性集成ChatGPT后必应日活量首破亿!微软推出Azure OpenAI ChatGPT 服务,GPT-4下周发布ChatGPT影响调研:已有45.5%的人把AI用于工作,4%靠它赚到钱李强是谁?最新研究:让ChatGPT赌博炒股,结果亮了!ChatGPT引领AIGC!Lehigh最新《AI生成内容》全面综述,44页详述GAN到ChatGPT发展历程刘慈欣谈 ChatGPT:人类的无能反而是人类最后的屏障重磅研究:ChatGPT可能影响80%工作岗位,收入越高影响越大!哪些工作受ChatGPT影响最严重?MOSS核心成员:我们低估了ChatGPT影响力老頭有樂要趕快离谱!最新研究:61%中国人写的英语论文,会被ChatGPT检测器判为AI生成的ChatGPT带火AI芯片,赚翻了的英伟达发布新核弹:ChatGPT专用GPU,让推理提速10倍!面对电车难题,ChatGPT的回答会影响人类的道德判断,引发研究人员担忧人工智能会取代工作吗?德媒:这些职业可能会受影响!斯坦福5.5万人研究:30年,男人长(cháng)了3厘米,但并非好事兔年伊始,帮妈妈赚了ChatGPT 核心技术大起底——InstructGPT:研究人类反馈数据比加大模型规模更重要!ChatGPT讲座:ChatGPT并不神秘,但ChatGPT很神奇重磅研究:ChatGPT或影响80%工作岗位,收入越多风险越高!第一家承认“ChatGPT影响收入”的公司,股价一日腰斩,带崩欧美教育股OpenAI重磅研究:ChatGPT可能影响80%工作岗位,收入越高影响越大突然出手!意大利封杀ChatGPT!马斯克也下场呼吁限制ChatGPT!AI发展可能超越人类思维?GPT-4竟然有身体,167cm!清华、北师大重磅研究:ChatGPT能像人一样感知行动ChatGPT影响有多大?80%的美国人工作会被替代打4次疫苗,感染2次,辉瑞新冠药救命!炸了!斯坦福新研究:ChatGPT背后模型被证实具有人类心智!知名学者:“这一天终于来了”斯坦福最新研究显示,ChatGPT背后模型具有人类心智!这一天终于来了极端天气来袭!纽约将迎来本季最大降雪!持续一夜!厚达10英尺! 通勤可能会受到影响!
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。