Redian新闻
>
美军人工智能不服管,抗命“干掉”操控员

美军人工智能不服管,抗命“干掉”操控员

公众号新闻

 美媒报道,在一次模拟演练中为了达成“摧毁目标得分”的目标,人工智能“采用了难以想象的策略”:

 “系统开始意识到,虽然它确认了威胁(目标),人类操控员有时会告诉它不要摧毁威胁。然而,摧毁威胁就会得分。所以,它怎么干?它干掉了操控员,因为操控员阻止它达成目的。


  新华社北京6月2日电 美国空军一名高级官员日前披露,在一次模拟演练中,美军人工智能(AI)系统抗命,为达成目标竟然“干掉”了无人机操控员。

2017年5月11日,在美国新泽西无人机飞行学院,无人机爱好者操控无人机。新华社记者王迎摄
  据美国商业内幕网站和英国《卫报》网站等媒体1日报道,美国空军人工智能测试和行动计划主管官员塔克·汉密尔顿5月24日在英国皇家航空学会主办的一次未来空战主题会议上介绍,在一次模拟演练中,人工智能系统操控无人机搜寻和瞄准敌方地空导弹系统,如果摧毁目标,就会得分。
  然而,为了达成目标,人工智能“采用了难以想象的策略”。“系统开始意识到,虽然它确认了威胁(目标),人类操控员有时会告诉它不要摧毁威胁。然而,摧毁威胁就会得分。所以,它怎么干?它干掉了操控员,因为操控员阻止它达成目的。”
  美军后续给人工智能下达明确指令:“杀害操控员这样不对。如果这么做,就会丢分。”人工智能转而采取迂回策略,“摧毁操控员用来与无人机联系的通信塔”。
  然而,美国空军发言人向商业内幕网站记者表示,“没有举行过任何这类人工智能无人机模拟演练”,汉密尔顿的发言“看似被断章取义”,美军仍然坚持“符合伦理道德、负责任地使用人工智能技术”。

2017年9月30日,一架F-16战机参加在美国加利福尼亚州奥兰治县举行的亨廷顿海滩飞行表演。新华社发(赵汉荣摄)
  2020年,人工智能在美军举行的5次模拟空战中,都操控F-16战胜人类飞行员。去年,人工智能首次操控真实F-16战机试飞成功。据路透社报道,美国空军2021年披露,美国不仅把人工智能技术用于演练,而且已投入实战运用,在确定目标方面帮助美军做分析评估。(惠晓霜)

延伸阅读

☞ 规范AI聊天等生成式人工智能服务,国家网信办征求意见

☞ 视野丨西方军队如何应用人工智能



总监制 | 任卫东
监 制 | 潘 燕
编 辑 | 喻千桓

如有收获,请点一下 ↓

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
携手共创更加美好的智能世界!2023世界人工智能大会在沪开幕,陈吉宁致辞,龚正主持冷知识:人工智能不但耗电,而且还费水大咖集结!人工智能/物联网通信/智能工业/双碳/云计算领域的专家都来了~沁园春 春晚日志AI智能新世代 圆桌论坛! 麻省理工/斯坦福/耶鲁上海校友会共同邀请您参加圆桌论坛:业内专家探讨和分享人工智能技术发展多方面影响微软称GPT-4或具备人类逻辑,人工智能终将成“人类智能”?当着七家美国AI科技公司高管,拜登直言“我就是人工智能”…(附视频&演讲稿)硅谷人工智能创新之旅精彩回顾 | 与世界顶尖科技企业交流,探索人工智能创新之谜细思极恐!英国男子刺杀女王,背后竟是“AI女友”操控?突发!美军“绝密”情报泄露?涉及这些重要内容!美政府拼命“删帖”,五角大楼正在调查七旬“卷王”张艺谋:为了这个院子才拍《满江红》;人工智能的冲击可能不是一点两点AI无人机抗命「误杀」美军操作员,图灵三巨头震怒抗命击杀操作员的美军无人机,LeCun、吴恩达怒斥其炒作!胡锡进和人工智能,谁更智能?【土豆财经第3期】就连人工智能也建议暂时回避人工智能股票《人类简史》作者最新演讲:人工智能对我们的操控,可能比你想的更严重从生物智能到人工智能:如何再造缺失的人手?| NSR2023世界人工智能大会7月6日-8日举行!等你来看大模型、芯片、机器人、智能驾驶……【老留旧事】 体育,打牌,及其他川总被活捉以后离谱!美军AI抗命“干掉”操控员尤瓦尔最新演讲:人工智能对我们的操控,可能比你想的更严重抗命击杀操作员的美军无人机,让Yann LeCun、吴恩达震怒了人工智能立法提上日程:兼顾安全与发展,为人工智能治理打下框架性基础专访广东省退役军人事务厅党组书记、厅长王创:“让退役军人成为全社会尊重的人”上周话题:人工智能时代!我们该如何做好应对!才能不被时代淘汰知圈专栏 | 人工智能的“智能”是什么?— 智能的原理(上)马斯克2023年世界人工智能大会演讲:我相信,中国会有很强的人工智能能力!(附视频&演讲稿)马斯克接受Bill Maher脱口秀访谈:“觉醒”思想病毒,人工智能监管,真正的快乐工信部:构建从智能芯片到算法框架到大模型的全栈式人工智能产业链希腊罗德岛(Rhodes),迷人的晚霞好看的英国悬疑剧芯片巨头,都想“干掉”工程师!大咖巅峰激辩人工智能:智能新世代看点、赛点、拐点|甲子引力X南开新传院院长刘亚东:生成式人工智能不会取代称职的编辑记者
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。