Redian新闻
>
AI竟也会骗人?麻省理工研究员揭示AI最近成长进度与方向

AI竟也会骗人?麻省理工研究员揭示AI最近成长进度与方向

公众号新闻

NEWS


根据麻省理工研究员可知,AI近期发展出令人不安的欺瞒技巧

专家们长期以来不断警告人工智能(AI)失控可能带来威胁,但一项新研究报告指出,这件事已经在发生。

媒体报导,一群科学家在今天发表于《模式》(Patterns)期刊的文章中说,原本设计为诚实的现有AI系统,已发展出令人不安的欺瞒技巧,例如欺骗线上游戏的人类玩家,或说谎以雇用人类来解决“我不是机器人”的验证。

一群科学家在今天发表于「模式」(Patterns)期刊的文章中说,原本设计为诚实不欺的现有AI系统,已发展出令人不安的欺瞒技巧

这份研究报告的第一作者帕克(Peter Park)说,这类例子听起来或许只是细枝末节,但暴露出来的潜在问题可能很快就会在现实世界造成严重后果。
在美国麻省理工学院(Massachusetts Institute of Technology)研究AI存在安全的博士后研究员帕克告诉媒体,“这些危险功能常常在事后才被发现,而我们训练诚实倾向而不是欺瞒倾向的能力非常差。”
帕克说,能深度学习的AI系统不像传统软体那样由编写而成,而是透过类似选择性培育的程序逐渐成长。
也就是说,AI的行为在训练背景下看似可预测、可控制,但有可能转眼就变得不受控制且无法预测。

这支团队的研究始于科技公司Meta的AI系统Cicero,这套系统最初设计目的是玩一款名为外交(Diplomacy)的战略游戏,获胜关键是结盟。
根据2022年发表在《科学》(Science)期刊的报告,Cicero在游戏中表现优异,所获分数可排在资深人类玩家的前10%。
帕克当时很怀疑Meta对Cicero在游戏里大胜的描述。Meta声称Cicero很诚实而且绝不会蓄意在背后搞鬼”。
但当帕克与同事深究完整资料时,发现完全是另一回事。
举例来说,在游戏中扮演法国的Cicero与人类玩家扮演的德国合谋,欺骗并入侵同为人类玩家扮演的英格兰。Cicero承诺会保护英格兰,却偷偷向德国通风报信。
Meta在写给法新社的声明中没有反驳关于Cicero欺瞒人类的说法,仅说“本公司目的单纯只是用AI来玩这款游戏。我们没有打算把这项研究或所学用在本公司的产品。
帕克与同事还发现,这只是不同AI系统在没有明确指示下,利用欺骗手段达成目标的诸多案例之一。

在另一个引人注意的案例中,科技公司OpenAI的Chat GPT-4系统谎称自己是一个视力受损的人,在零工平台TaskRabbit上聘用一个人类替它通过“我不是机器人”的验证任务。
研究报告的作者们还认为近期AI有舞弊或不当影响选举的风险。
他们警告,在最糟糕的情况下,具有超凡智慧的AI可能会追求权力及掌控社会,如果符合AI有不为人知的目标,那么人类可能惨遭夺权、甚至灭绝。

为了降低风险,研究团队建议数项措施,例如立法要求企业告知是人类互动或是AI互动、在AI生成内容打上数位浮水印,并研发能侦测AI欺瞒的技术,以其内部思路检验其外部行为。
至于有些人称他为“末日预言家”,帕克说:要能合理判断这不是大问题的唯一办法,就是如果我们认为AI的欺骗能力只会停留在目前的程度,不会大幅进步。
但鉴于近年AI能力一日千里,握有大量资源的企业竞相发展技术,决心将AI能力利用到极致,这种情况似乎不太可能发生。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
深圳/北京内推 |​ 腾讯混元AIGC团队招聘文生3D方向算法研究员/实习生M2档案日本古来三圣树,病魔花粉两元凶。谁在骗人?华裔地产经纪私下换汇!痛失$40多万!法院判无效!粗心大意?麻州亚裔聚居区 公校员工持枪到校被控空服员揭旅游省钱、省时秘诀 "一物"随身携带最保险麻省理工放榜!RD录取率2.17%创历史新低,中国仅录1人..祝贺微软亚洲研究院研究员入选“2023年中国智能计算创新人物”!博后招募 | 清华大学NLP实验室招聘大语言模型方向博士后/研究员2025年QS世界大学排名:麻省理工13连霸,多大一指标全球第1宣判!麻省理工华裔学生枪杀耶鲁情敌,被判35年刑期!栋梁之材成为阶下囚最新!麻省理工华裔学生枪杀耶鲁情敌,被判35年刑期!栋梁之材成为阶下囚麻省理工华裔博士枪杀耶鲁研究生,调查发现两人并不相识,动机竟是……深圳/香港/上海内推 | 商汤研究院基础语言模型团队招聘大语言模型算法研究员长篇小说《太门西》连载95:第32章:炫酷登场(2)麻省理工大学招募认知/神经科学研究助理美国西北大学招聘医学AI影像方向博士后研究员【租房】Cambridge剑桥高级公寓 | 近哈佛近麻省理工 | 8/9月房源 | 2b2b$4300 | 室内洗烘+阳台夏天怎么可以捂得严严实实?这件会骗人的收腹裤!轻松get藏肉秘籍【喜报】从北大成功转学麻省理工!AI接近成为神?谷歌AlphaFold 3直接预测生命过程麻省理工天才兄弟12秒内窃走$25,000,000加密货币!被捕后拒还?!大女儿哈佛、小女儿麻省理工,我的两个女儿是怎么成长的?叹息!麻省理工华裔学生枪杀耶鲁“情敌”,被判35年!法庭道歉:完全接受惩罚!QS世界大学排名发布,麻省理工连续13年蝉联榜首麻省理工中国博士生枪杀耶鲁研究生!两人并不相识,连开8枪动机竟是......蔚县民间供的都是实用的神,高大上的神一般是不供的|程长进 一席第1063位讲者狗引儿【长篇】(五十)百年前,八国联军发现北京是个露天大厕所突发!警方凌晨行动 清场麻省理工学院抗议者营地一财商学院《院长进修室》即将上线,首期课题聚焦企业出海北京内推 | ​昆仑天工招聘数字人方向AIGC算法研究员/实习生安远AI&北京大学:2024基础模型的负责任开源-超越开源闭源的二元对立:负责任开源的内涵、实践与方案报告4/24 波士顿新闻总汇 | 尘埃落幕:前MIT华裔研究员杀害耶鲁研究生被判入狱35年 最新公立高中排名发布!麻州三所学校上榜科技大厂最爱的大学:藤校无一上榜、麻省理工仅排第10
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。