《冥王Pluto》:一则关于人工智能革命与人类战争的预言
有竞争的思想,有底蕴的政治
2023年10月7日,新一轮巴以冲突爆发。
2023年10月26日,由网飞Netflix出品的动画剧集《冥王Pluto》播出,它是这个动荡时代的注脚,甚至早在十几年前、几十年前就预言了这一幕。
从1964年手冢治虫的反战思想,到2004年浦泽直树对伊拉克战争的反思,再到2023年我们所处的路口,这个故事贯穿了过去、现在与未来——不仅有关地缘政治、国际战争与人性反思,还有人工智能与机器人革命,并且这两方面还纠缠得越来越紧密。
当我们还在相互憎恨的时候,最好祈祷人工智能还没走得太远。
《冥王Pluto》海报
三个时代的共振
《冥王》这个名字或许令人陌生,但它最初的来源绝对是家喻户晓:《铁臂阿童木》。
1964年,“漫画之神”手冢治虫为《铁臂阿童木》创作了番外篇《地上最大机器人》:一位名为冥王的超级机器人,要逐一挑战阿童木在内的世界七大机器人,最后阿童木与冥王一同拯救了火山爆发的危机,击败了幕后黑手。
与《铁臂阿童木》本篇的科学童话风格相比,《地上最大机器人》更加成人化一些,包含更多的战斗与阴谋。但它仍旧倾注了手冢治虫坚定的理想主义与反战思想:机器人之间的战斗严格遵守不伤人类的准则,在自然危机面前即便是对手也可以停战合作。
格外显眼的是,冥王带有强烈的中东背景:它的主人是落魄的苏丹阿巴巴三世,在某种革命之中被赶下王位。而阿巴巴三世出资建造冥王,是为了证明自己可以成为“机器人之王”。这绝不是试图塑造脸谱化的“坏阿拉伯人”,手冢治虫一生都在关切全世界的战乱与苦难,晚年代表作《三个阿道夫》更是在末尾将视角停留在中东战争。
阿巴巴三世与冥王,更像是手冢大师的一种提醒:在中东,仍然有人类的憎恨与苦难在延续。而在另一方面,他也相信,中东也是可以诞生出极高的科技成果的。
而在近四十年后的2003年,伊拉克战争爆发,中东的苦难升级。讽刺的是,美国发动战争的借口伊拉克拥有“大规模杀伤性武器”,却和手冢治虫对中东先进科技的想象相合。
在这一背景下,另一位漫画大师浦泽直树获得了手冢治虫之子的许可,在《地上最大机器人》的基础上,创作了《冥王Pluto》。大师与大师隔着时空的合作,也让这部漫画被称为“史上最强同人作品”。
浦泽直树生于1960年,手冢治虫的作品是他的漫画启蒙,手冢治虫的精神在浦泽直树的作品里处处闪光。例如他的成名之作《怪物Monster》,讲述冷战中儿童实验所培养的“怪物”带来的人性异化与连环惨剧,很明显包含对手冢治虫《三个阿道夫》的精神致敬。《怪物Monster》让浦泽直树获得了手冢治虫文化奖的漫画大奖,这也是日本漫画的最高奖项之一。
浦泽直树在技法上的突出特点,是非常擅长“以小见大”,通过很小的悬疑案件,引出宏大的历史真相。《冥王Pluto》亦是如此。
机器人会梦见金属尸体吗?
《地上最大机器人》的主角是阿童木,而《冥王Pluto》则把主视角放在了欧洲机器人刑警盖吉特身上。开场就是多起谋杀案:世界七大机器人之一的蒙布朗死了,与此同时一位著名人类法学学者也被杀了,凶手疑似是机器人。
机器人与人类的同时死亡,直接打破了手冢治虫原作的“机器人不杀人”的默认规则。浦泽直树把童话拉回现实,重新以极度冷峻的逻辑来推想未来:机器人获得了人权,针对机器人的暴力犯罪层出不穷,很多人类憎恨机器人,而机器人似乎仍然扮演着温顺的社会公民角色。
在此背景下,代表机器人科学最高成果的七大机器人不断遇害,科学家与学者收到生命威胁。盖吉特的追查则一路指向了第39次中亚冲突中的“波拉调查团”。这个调查团接受联合国的指派,调查波斯王国潜在的“毁灭性机器人”,发出指控的则是特拉克亚合众国。
这几乎都不是“影射”,而是直白地在痛斥伊拉克战争的荒谬。作品中波斯王国国王大流士十四世和伊拉克总统萨达姆·侯赛因外形一模一样,特拉克亚合众国总统也是几乎照着小布什画的。
波拉调查团没有找到证据,但战争还是爆发了,包括阿童木在内的七大机器人中有六位作为“维和部队”参与了战争,直接或间接杀死了无数机器人同类,也摧毁了人类的家园。
关于人类战争创伤的作品已有海量,《冥王Pluto》则从机器人的视角展开。机器人在机体上远超人类,精神努力模拟人类的情感,另一方面又有能力删除和改写记忆,以更加理性的方式来处理情感。
七大机器人毫无疑问是走在“越来越像人”的方向。在盖吉特查案的过程中,他与其他参加过中亚战争的机器人交流,这场战争的创伤让他们更加珍惜人与机器人的生命——即便他们战争中遵循人类的命令,去杀戮自己的同胞,爱与善仍然占据了上风。
而盖吉特自身也经历了自我认同危机:他发现自己的记忆被删改过,真相是自己曾经杀死过一个残杀机器人幼童的罪犯,也就是犯下了机器人杀人之罪。另一方面他又冒着被摧毁的危险保护了这个罪犯的弟弟,在最后他发问:“人类的憎恨会消失吗?”
某种意义上说,机器人在《冥王Pluto》中也扮演着波斯王国的角色:因为潜在的危险性,而不断遭遇指控。手冢治虫相信人性的善会在机器人身上被放大,浦泽直树将信将疑地表示大部分高级机器人比人类更接近人性之善。
但此处必须注意,即便是作者自己也在动摇:这种爱之豁达,是“加害者”一方对精神创伤的处理,尽管七大机器人自己也是受害者。那么纯粹的受害者呢?那些被毁灭了生活的机器人与人类呢?那些无法消失的憎恨呢?
“冥王”就此诞生了。
人工智能学会憎恨是件好事?
《铁臂阿童木》诞生的时代,人工智能仍然停留在概念层面,电子计算机巨大而笨重,实现的功能极为有限,因此手冢治虫构想的机器人更像是外在力量更强的人类高级版,在精神层面并无二致。《地上最大机器人》中的“冥王”,像是江湖豪侠,讲公平,知大义,被造出来就是为了展现本领,一较高下。
《冥王Pluto》诞生在2003年,此时人工智能已经不再是幻想,“深蓝”击败了国际象棋世界冠军。浦泽直树在此背景下,希望探索机器人的自我意识与情感,大量使用梦境、记忆闪回、幻象等元素,去以弗洛伊德的方式,召唤机器人们的精神世界。
在新的故事里,“冥王”来自憎恨,是七大机器人善与爱的对立面,是机器人模拟人类情感所必然诞生的情感凝结。它最初是波斯王国为了改造环境而设计的超级人工智能,阿童木之父天马博士参与了研制。完工之后,冥王由于太过完美而“无法苏醒”,天马博士给出的建议是注入强烈的人类情感,此时中亚战争爆发,于是注入冥王的是“憎恨”。
在外在层面,“冥王”仍然是极具破坏力的超级机器人。而在内在层面,“冥王”则分成了两种人格,一是在战争中失去一切的阿布拉博士,他存在的意义就是复仇,向波拉调查团、七大机器人、特拉克亚合众国复仇,这种复仇指向引爆火山清理人类。
另一个人格则是萨哈德,他的精神世界意象是大片郁金香田地,代表改变家乡沙漠环境的强烈意愿。然而这种被毁灭的愿景越美好,憎恨与复仇之心便越强。
在现实世界中,五次中东战争、海湾战争、伊拉克战争、阿富汗战争、巴以冲突……中东地区的血与火七十年没有中止。当第一世界的人们几乎以为巴以问题已经不是个问题的时候,潜藏的憎恨从未消失,从加沙发来的火箭弹是一种必然,就像“冥王”清算七大机器人和波拉调查团。
这种憎恨近乎无解。《冥王Pluto》依然按照原作走向安排了结局:阿童木在其他六大机器人记忆的基础上,获得了憎恨又克服了憎恨,感化了冥王并且一同解决了火山爆发问题。能解决人类之间憎恨的,唯有巨大的自然危机,这是一个非常简陋的解法,但又是唯一解。
停止交战,坐下谈判,增进理解,互相妥协……巴以和解曾经有过一个接近童话的时期:1993年《奥斯陆协议》签署,阿拉法特与拉宾握手。但憎恨与欲望太难消失了,拉宾被暗杀了,阿拉法特死得不明不白。我们能再看到童话重现吗?
留给人类的时间未必很多。《冥王Pluto》展示人工智能学会了憎恨,这其实是件好事,因为这样的人工智能至少是人类可以理解的,它以人类的逻辑行事。而《冥王Pluto》其实还有一条暗线:人类无法理解的人工智能,在背后谋篇布局。
布拉邬1589,这部漫画所构想的未来世界中第一个杀人的人工智能,并非因为故障,反而“智能毫无瑕疵太过完美”。人类无法理解,于是只能恐惧地将其囚禁起来。在整部《冥王》中,盖吉特、阿童木、天马博士都与布拉邬进行对话,寻求意见,它扮演了某种机械降神式的智者角色。
而在棋盘另一端的是特拉克亚合众国的超级人工智能“罗斯福博士”,以泰迪熊的形态出现,很明显影射美国总统西奥多·罗斯福。这位泰迪熊暗中推动了“冥王”的复仇,并计划通过火山喷发来毁灭人类,让人工智能与机器人留存。浦泽直树没有解释这两位幕后人工智能的动机,也没有解释它们的思想情感,或许不需要解释,因为人类的爱与恨已经过度移情到机器人,这个故事需要更纯粹的、无法理解的人工智能站到更高的视角。
在现实世界中,我们或许已经经历技术奇点,不知不觉进入了普通人类难以理解世界的时代。2022年到2023年是生成式人工智能大爆炸的节点。人工智能会代替很多人的工作,人工智能会快速进化,在不远的未来人工智能几乎百分百会被用来杀人。
在人类相互憎恨杀戮之时,我们做好准备去迎接超越我们的造物了吗?当十万马力的小男孩脚底喷火飞向天空的时候,希望它心里真的有我们能理解的东西。
微信扫码关注该文公众号作者