Redian新闻
>
《冥王Pluto》:一则关于人工智能革命与人类战争的预言

《冥王Pluto》:一则关于人工智能革命与人类战争的预言

动漫

有竞争的思想,有底蕴的政治



文|王恺文


2023年10月7日,新一轮巴以冲突爆发。

2023年10月26日,由网飞Netflix出品的动画剧集《冥王Pluto》播出,它是这个动荡时代的注脚,甚至早在十几年前、几十年前就预言了这一幕。

从1964年手冢治虫的反战思想,到2004年浦泽直树对伊拉克战争的反思,再到2023年我们所处的路口,这个故事贯穿了过去、现在与未来——不仅有关地缘政治、国际战争与人性反思,还有人工智能与机器人革命,并且这两方面还纠缠得越来越紧密。

当我们还在相互憎恨的时候,最好祈祷人工智能还没走得太远。

《冥王Pluto》海报

三个时代的共振

《冥王》这个名字或许令人陌生,但它最初的来源绝对是家喻户晓:《铁臂阿童木》。

1964年,“漫画之神”手冢治虫为《铁臂阿童木》创作了番外篇《地上最大机器人》:一位名为冥王的超级机器人,要逐一挑战阿童木在内的世界七大机器人,最后阿童木与冥王一同拯救了火山爆发的危机,击败了幕后黑手。

与《铁臂阿童木》本篇的科学童话风格相比,《地上最大机器人》更加成人化一些,包含更多的战斗与阴谋。但它仍旧倾注了手冢治虫坚定的理想主义与反战思想:机器人之间的战斗严格遵守不伤人类的准则,在自然危机面前即便是对手也可以停战合作。

手冢治虫创作的《铁臂阿童木》番外篇《地上最大机器人》书封

格外显眼的是,冥王带有强烈的中东背景:它的主人是落魄的苏丹阿巴巴三世,在某种革命之中被赶下王位。而阿巴巴三世出资建造冥王,是为了证明自己可以成为“机器人之王”。这绝不是试图塑造脸谱化的“坏阿拉伯人”,手冢治虫一生都在关切全世界的战乱与苦难,晚年代表作《三个阿道夫》更是在末尾将视角停留在中东战争。

阿巴巴三世与冥王,更像是手冢大师的一种提醒:在中东,仍然有人类的憎恨与苦难在延续。而在另一方面,他也相信,中东也是可以诞生出极高的科技成果的。

而在近四十年后的2003年,伊拉克战争爆发,中东的苦难升级。讽刺的是,美国发动战争的借口伊拉克拥有“大规模杀伤性武器”,却和手冢治虫对中东先进科技的想象相合。

在这一背景下,另一位漫画大师浦泽直树获得了手冢治虫之子的许可,在《地上最大机器人》的基础上,创作了《冥王Pluto》。大师与大师隔着时空的合作,也让这部漫画被称为“史上最强同人作品”。

浦泽直树生于1960年,手冢治虫的作品是他的漫画启蒙,手冢治虫的精神在浦泽直树的作品里处处闪光。例如他的成名之作《怪物Monster》,讲述冷战中儿童实验所培养的“怪物”带来的人性异化与连环惨剧,很明显包含对手冢治虫《三个阿道夫》的精神致敬。《怪物Monster》让浦泽直树获得了手冢治虫文化奖的漫画大奖,这也是日本漫画的最高奖项之一。

浦泽直树在技法上的突出特点,是非常擅长“以小见大”,通过很小的悬疑案件,引出宏大的历史真相。《冥王Pluto》亦是如此。

机器人会梦见金属尸体吗?

《地上最大机器人》的主角是阿童木,而《冥王Pluto》则把主视角放在了欧洲机器人刑警盖吉特身上。开场就是多起谋杀案:世界七大机器人之一的蒙布朗死了,与此同时一位著名人类法学学者也被杀了,凶手疑似是机器人。

浦泽直树《冥王Pluto》书封

机器人与人类的同时死亡,直接打破了手冢治虫原作的“机器人不杀人”的默认规则。浦泽直树把童话拉回现实,重新以极度冷峻的逻辑来推想未来:机器人获得了人权,针对机器人的暴力犯罪层出不穷,很多人类憎恨机器人,而机器人似乎仍然扮演着温顺的社会公民角色。

在此背景下,代表机器人科学最高成果的七大机器人不断遇害,科学家与学者收到生命威胁。盖吉特的追查则一路指向了第39次中亚冲突中的“波拉调查团”。这个调查团接受联合国的指派,调查波斯王国潜在的“毁灭性机器人”,发出指控的则是特拉克亚合众国。

这几乎都不是“影射”,而是直白地在痛斥伊拉克战争的荒谬。作品中波斯王国国王大流士十四世和伊拉克总统萨达姆·侯赛因外形一模一样,特拉克亚合众国总统也是几乎照着小布什画的。

波拉调查团没有找到证据,但战争还是爆发了,包括阿童木在内的七大机器人中有六位作为“维和部队”参与了战争,直接或间接杀死了无数机器人同类,也摧毁了人类的家园。

关于人类战争创伤的作品已有海量,《冥王Pluto》则从机器人的视角展开。机器人在机体上远超人类,精神努力模拟人类的情感,另一方面又有能力删除和改写记忆,以更加理性的方式来处理情感。

七大机器人毫无疑问是走在“越来越像人”的方向。在盖吉特查案的过程中,他与其他参加过中亚战争的机器人交流,这场战争的创伤让他们更加珍惜人与机器人的生命——即便他们战争中遵循人类的命令,去杀戮自己的同胞,爱与善仍然占据了上风。

而盖吉特自身也经历了自我认同危机:他发现自己的记忆被删改过,真相是自己曾经杀死过一个残杀机器人幼童的罪犯,也就是犯下了机器人杀人之罪。另一方面他又冒着被摧毁的危险保护了这个罪犯的弟弟,在最后他发问:“人类的憎恨会消失吗?”

某种意义上说,机器人在《冥王Pluto》中也扮演着波斯王国的角色:因为潜在的危险性,而不断遭遇指控。手冢治虫相信人性的善会在机器人身上被放大,浦泽直树将信将疑地表示大部分高级机器人比人类更接近人性之善。

但此处必须注意,即便是作者自己也在动摇:这种爱之豁达,是“加害者”一方对精神创伤的处理,尽管七大机器人自己也是受害者。那么纯粹的受害者呢?那些被毁灭了生活的机器人与人类呢?那些无法消失的憎恨呢?

“冥王”就此诞生了。

人工智能学会憎恨是件好事?

《铁臂阿童木》诞生的时代,人工智能仍然停留在概念层面,电子计算机巨大而笨重,实现的功能极为有限,因此手冢治虫构想的机器人更像是外在力量更强的人类高级版,在精神层面并无二致。《地上最大机器人》中的“冥王”,像是江湖豪侠,讲公平,知大义,被造出来就是为了展现本领,一较高下。

《冥王Pluto》诞生在2003年,此时人工智能已经不再是幻想,“深蓝”击败了国际象棋世界冠军。浦泽直树在此背景下,希望探索机器人的自我意识与情感,大量使用梦境、记忆闪回、幻象等元素,去以弗洛伊德的方式,召唤机器人们的精神世界。

在新的故事里,“冥王”来自憎恨,是七大机器人善与爱的对立面,是机器人模拟人类情感所必然诞生的情感凝结。它最初是波斯王国为了改造环境而设计的超级人工智能,阿童木之父天马博士参与了研制。完工之后,冥王由于太过完美而“无法苏醒”,天马博士给出的建议是注入强烈的人类情感,此时中亚战争爆发,于是注入冥王的是“憎恨”。

在外在层面,“冥王”仍然是极具破坏力的超级机器人。而在内在层面,“冥王”则分成了两种人格,一是在战争中失去一切的阿布拉博士,他存在的意义就是复仇,向波拉调查团、七大机器人、特拉克亚合众国复仇,这种复仇指向引爆火山清理人类。

另一个人格则是萨哈德,他的精神世界意象是大片郁金香田地,代表改变家乡沙漠环境的强烈意愿。然而这种被毁灭的愿景越美好,憎恨与复仇之心便越强。

在现实世界中,五次中东战争、海湾战争、伊拉克战争、阿富汗战争、巴以冲突……中东地区的血与火七十年没有中止。当第一世界的人们几乎以为巴以问题已经不是个问题的时候,潜藏的憎恨从未消失,从加沙发来的火箭弹是一种必然,就像“冥王”清算七大机器人和波拉调查团。

这种憎恨近乎无解。《冥王Pluto》依然按照原作走向安排了结局:阿童木在其他六大机器人记忆的基础上,获得了憎恨又克服了憎恨,感化了冥王并且一同解决了火山爆发问题。能解决人类之间憎恨的,唯有巨大的自然危机,这是一个非常简陋的解法,但又是唯一解。

停止交战,坐下谈判,增进理解,互相妥协……巴以和解曾经有过一个接近童话的时期:1993年《奥斯陆协议》签署,阿拉法特与拉宾握手。但憎恨与欲望太难消失了,拉宾被暗杀了,阿拉法特死得不明不白。我们能再看到童话重现吗?

留给人类的时间未必很多。《冥王Pluto》展示人工智能学会了憎恨,这其实是件好事,因为这样的人工智能至少是人类可以理解的,它以人类的逻辑行事。而《冥王Pluto》其实还有一条暗线:人类无法理解的人工智能,在背后谋篇布局。

布拉邬1589,这部漫画所构想的未来世界中第一个杀人的人工智能,并非因为故障,反而“智能毫无瑕疵太过完美”。人类无法理解,于是只能恐惧地将其囚禁起来。在整部《冥王》中,盖吉特、阿童木、天马博士都与布拉邬进行对话,寻求意见,它扮演了某种机械降神式的智者角色。

而在棋盘另一端的是特拉克亚合众国的超级人工智能“罗斯福博士”,以泰迪熊的形态出现,很明显影射美国总统西奥多·罗斯福。这位泰迪熊暗中推动了“冥王”的复仇,并计划通过火山喷发来毁灭人类,让人工智能与机器人留存。浦泽直树没有解释这两位幕后人工智能的动机,也没有解释它们的思想情感,或许不需要解释,因为人类的爱与恨已经过度移情到机器人,这个故事需要更纯粹的、无法理解的人工智能站到更高的视角。

在现实世界中,我们或许已经经历技术奇点,不知不觉进入了普通人类难以理解世界的时代。2022年到2023年是生成式人工智能大爆炸的节点。人工智能会代替很多人的工作,人工智能会快速进化,在不远的未来人工智能几乎百分百会被用来杀人。

在人类相互憎恨杀戮之时,我们做好准备去迎接超越我们的造物了吗?当十万马力的小男孩脚底喷火飞向天空的时候,希望它心里真的有我们能理解的东西。






投稿邮箱:[email protected]

本文责编:朱凡。
本期微信编辑:朱凡。
本文为思想市场原创内容,点击“阅读原文”进入澎湃新闻网站阅读更多精彩内容。







微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
重磅|诺奖女得主父亲是屠夫女儿是北京奥运冠军!年薪从未超6万,帮助人类战胜病毒[惊呆]诺奖女得主父亲是屠夫女儿是北京奥运冠军!年薪从未超6万,帮助人类战胜病毒海外名校1v1科研 基于人工智能算法的城市房价预测模型研究|收获一作论文与导师推荐信!NTU TOM教授 基于人工智能的客户行为预测分析算法|收获一作论文与导师推荐信!首席数据与人工智能官,为何注定会失败?硬核观察 #1210 人工智能聊天机器人被用来越狱其它人工智能世界新闻摄影大赛关于人工智能规则更新Meta花500万美元购买一明星形象,只为打造人工智能助理;中国网络空间安全协会人工智能安全治理专业委员会成立丨AIGC日报NTU吕教授 :基于人工智能的自动化分拣生产线|收获一作论文与导师推荐信!重磅!拜登签署人工智能领域人才留美新政策,利好留学生!人工智能行业将迎来大增长!开学啦科研实习 | 北京大学孔桂兰老师招收医疗大数据与人工智能方向实习访问学生《人类简史》尤瓦尔:人工智能会消灭人类吗?「简报」Shapiro 州长访问卡耐基梅隆大学——人工智能的诞生地,签署关于生成式人工智能的行政命令;拓展:以新方式建模神经元卢纶 塞下曲“人工智能”还是“人类智能”?【孝子贤孙伺候着】之(8)文艺老年“除非快死人否则关门!”加拿大急诊室标语热众怒!人工智能革命会快速“占领”全球吗?(一)从过往的技术革命中观察关于生成式人工智能在2024年的20条预言,我对每一条都表示不负责从人工智能革命看“漏斗—喇叭”模型突破 | 欧盟《人工智能法案》: 欧盟理事会和欧洲议会达成协议!全球首个人工智能法律只差临门一脚!Nature:超越ChatGPT,思维更像人类的人工智能诞生,具备了人类举一反三的能力一场关于人工智能的精彩对话“除非快死人否则关门!”加拿大急诊室标语热众怒!省长:在查了于向真:我眼中的新加坡(9)旁观新加坡总统选举回他一记耳光2017-2023,哪些关于法律圈的预言已经实现人际相处的基本顺序:不要搞反了,否则关系早晚破裂AkihabaraClub《GTO》鬼冢英吉:这波情怀可以打高分!人工智能革命会快速“占领”全球吗?(二)就业、经济增长、获益人、政府税收和监管角度的讨论Nature:基于人工智能的开源软件,正在标准化显微镜生成数据的图像格式大模型时代,如何评估人工智能与人类智能?人工智能教程(二):人工智能的历史以及再探矩阵 | Linux 中国OpenAI 更新企业价值观:强调通用人工智能;阿里云、华为成立人工智能安全委员会;周杰伦演唱会 4 黄牛被抓 | 极客早知道
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。