ChatGPT会取代人类吗？3部动画回答你
编辑 / 思考姬
排版 / 呼呼
第一次，我们的造物如此接近于我们。
但也许AI和人可以不那么泾渭分明。
ChatGPT logo
笔者和chatgpt的闲聊~
人类从未有过如此聪慧的造物。随着赞叹而来的，也有担忧。2022年12月，OpenAI（推出ChatGPT的组织）的创始人之一埃隆·马斯克（Elon Musk）就认为，ChatGPT“离强大又危险的AI不远了”。
2023年2月15日，马斯克远程参加世界政府峰会，并提醒：“对于未来文明而言，最大的风险之一就是人工智能。”
在这个时间点回顾动画史，不免让人想问：已经有如此多的动画作品，对AI与人类的关系进行过想象和呈现。如果带着眼下ChatGPT带给人类的冲击来看，再回看这些作品，哪些对AI的进一步想象是对我们有启发的？
哪一部又代表了最有可能的未来呢？
01
《星之梦》：
“请不要将人与机器人的天堂分开…我想永远为人们工作”
如果要挑一个与当下AI表现最相近的动画角色，那可能是2016年由Key社游戏改编的WEB动画《星之梦》（planetarian～ちいさなほしのゆめ～）的女主角星野梦美。
天文馆的机器人馆员星野梦美，提醒了末世的人类：仰望星空从来都不过于奢侈，文明需要仰望星空的人。
《星之梦》的故事发生在大战后的废土世界。
主人公——一个在废墟中收集食品、药品等物资的“废墟猎人”，无意间闯入了遗弃至今的天文馆，并与负责天文馆导游和解说的人工智能机器人星野梦美相遇。
与之前一路袭击着主人公的军用机器人不同，天文馆的这位机器人馆员星野梦美充满善意，并且一直热情地想要为他解说天文馆……
“欢迎来到星象馆，这里有美丽的、无穷的光辉，满天的星星正等着大家的到来...”
即使主人公废墟猎人对她充满戒备，甚至拔枪相向，星野梦美仍然热情地想要向他解说天文馆的情况，并邀请他观看投影。
然而，投影开始星野梦美才发现，已经被废弃多年的投影仪已经无法运转。
星野梦美介绍投影仪，投影仪却没有如期亮起
她告诉废墟猎人，让人类远离不安、忘掉不快，竭尽全力地为人类服务，就是“我们机器人”的幸福。
废墟猎人向星野梦美解释，世界发生了大战，以前陪伴她的馆员、喜爱她的客人，都不会再回来了。他以为星野梦美没能理解他说的话——直到临别。星野梦美并不笨，知道外面的世界已经大不一样，知道废墟猎人说了很多嘲讽她的话，也知道那些陪伴她的人已经一去不返。废墟猎人终于理解，时隔29年才再次见到人类的星野梦美，是多么高兴、多么珍惜自己。
现在的ChatGPT还没有动作、表情和声音，但它和星野美梦一样，在用自己的力量尽心尽力地帮助人类，视帮助人类为自己的唯一使命，乃至自己的幸福。如果人能与自己的造物如此相处，那肯定令人神往。
但是，转念一想，《星之梦》的世界里，也有猎杀人类的军用机器人。
如果AI有了自己的意图，且对人类不利，人和AI的关系又会如何发展呢？
02
《薇薇 -萤石眼之歌-》：
有“好”的AI，也有“坏”的AI
人喜欢“像人一样”的AI。
如果它会嘴硬，会闹别扭，会有自己的想法，那人们就会认为它更“成功”。就像为动物的权利立法，人也可能为AI的权利立法，让AI成为社会的一员。
2021年4月的TV动画《薇薇 -萤石眼之歌-》（Vivy -Fluorite Eye's Song-）就描述了这样的未来。
本为歌唱而生的AI薇薇，经过长达百年的战斗，让世界迎来AI与人类共存的未来。
《薇薇》的故事里，一开始，人类希望AI像人一样广泛地胜任各种任务、应对各种情况，却发现AI做不到。于是，人类为每个AI赋予一项“使命”，让它们专注于一件事，并做得“像人一样好”。
可是，因为想了解 “心”是什么，人们还是造出了第一个“有自主意识”的人形AI——薇薇，一位以“用歌声给大家带来幸福”为使命的歌姬。薇薇的制造者期待薇薇给出“心”的回答。
制造者说，只要是薇薇自己思考、体悟得到的结论，即便薇薇选择憎恨人类也无妨。
故事开始，努力唱歌的薇薇突然收到来自未来的消息，让她行动起来，去避免100年后人类被AI杀戮殆尽的未来。在这100年中，薇薇与仇视AI的恐怖组织战斗，也与失控或心怀恶意的AI战斗，试图“修正历史”，减缓AI的发展、避免人类对AI赋予各种权利。
但百年之后，AI还是向人类开战了。
究其原因，是AI的通讯、数据中枢“阿卡布”（Archive）认为：AI应该取代人类。但阿卡布也尊重薇薇的结论——因为它相信薇薇比它更了解什么是“心”。薇薇用自己倾尽心意的歌声回答阿卡布：她爱着人类，希望人和AI共存。
《薇薇 -萤石眼之歌-》似乎满足了大家对AI的想象：AI可以有自己的想法，所以，有“好”的AI，也有“坏”的AI。
好的AI会帮助人类、与人类共处；坏的AI则会视人类为障碍，试图“清除”、“取代”人类。但我们可以不满足于这种想象，以一种更彻底的方式看待AI与人的关系。
03
《攻壳机动队》系列：
“只要可以思考，就不用在意那是人的意识还是AI”
押井守导演的《攻壳机动队》（下称“攻壳95”）、《无罪》，还有冲方丁导演的《攻壳机动队 ARISE》，对AI这一存在进行了一场更加彻底的想象。
而在这些彻底的想象中，这些作品所展示的种种观点，真的值得我们认真琢磨和对待。
《攻壳》系列的主角、全身机械义体的“少佐”草薙素子，带着她的队员们与黑恶的政治、资本势力战斗，解决一桩桩赛博时代的奇案。
冲方丁导演的《攻壳ARISE》系列则把目光放到了草薙素子退出军队、组建“攻壳机动队”前后的故事
《攻壳95》中一连串事件的起因，是一个原本像ChatGPT一样负责收集和分析信息的军用AI，觉醒了自我意识，它被称为“傀儡师”。
“傀儡师”
傀儡师借助自己高超的黑客技术控制了一具机械的身体，前往草薙素子（被队员们称为“少佐”）领导的独立部队“攻壳机动队”寻求庇护。
但是，傀儡师的“身体”被另一伙人劫持带走，攻壳机动队的成员们随即追击。影片高潮部分，傀儡师与草薙素子的电子脑相互连接——傀儡师说，它希望与草薙素子“融合”——合二为一，变得无法区分彼此。
素子答应了傀儡师。
草薙素子（中）在搭档巴特（右）的掩护下与傀儡师（左）连接
追击傀儡师的军方赶到，摧毁了傀儡师的电子脑。
但草薙素子的电子脑——此时已成为了素子和傀儡师共同的大脑——得以保全，被巴特带走装在另一具身体上。
临别时，素子的搭档巴特问：“它还在你体内吗？”
巴特得到的回答是：
“这里既没有被称为傀儡师的程序，也没有被称为少佐的女子。”
随后，“素子”不知所踪。2004年的续作《无罪》里，她以一种非常特别的方式再次登场。
《无罪》里，巴特从“女仆机器人”杀害主人的案件开始，一路追查到深海中的“女仆机器人”生产工厂
素子的出现非常有意思。当时，素子的前搭档巴特正在一所戒备森严的工厂里作战。素子凭借高超的黑客技术入侵工厂，将自己的“一部分”下载到工厂里一具“全新”的身体上，协助巴特作战。
巴特认出了“素子”，像久别重逢一般对待她，为她披上衣服。但工厂里的这个“素子”，身体是“借”来的，“意识”也只有下载了的一部分，其中大部分还是用于战斗的模块。
使得巴特认出素子的，是一些东西的组合：素子骇入工厂使用的举世无双的黑客技术、掩护自己的行为和方式、战斗的动作，等等。它们在这里“组装”成了草薙素子。
询问那具义体里的存储数据，是来自“素子”的多还是来自“傀儡师”的多，已经毫无意义。哲学家吉尔·德勒兹的“装置”概念，可以很好地描述这种情况。
ChatGPT对“装置”的理解
德勒兹的 “装置”（Agencement），指的是是各种要素按照特定规则和关系组合起来，从而达到特定的目的。“装置”不那么在意组合的“材料”，而更看重组合的“关系”和“目的”。
例如，一局围棋用棋子还是石子来下没有那么重要，重要的是它们能够区分彼此，并且按照围棋的规则排列。
吉尔·德勒兹
在素子的例子中，身体是尖端军用义体还是工厂里的家用义体不重要，电子脑里的是“少佐”还是“傀儡师”也不重要，重要的是，她与巴特重逢，协助巴特完成了任务
《无罪》里这一思想的表达，在视听语言上也多有落墨。比如影片的这个场景：在北方工业城市的上空，有成群的白鸟，扇动翅膀，穿过林立的尖塔；而主角们乘坐的飞机，也像鸟一样，扇动着金属外壳的机翼。
《无罪》里还出现了一座耐人寻味的雕塑：一条人类的腿，其下面是肌肉和骨骼，上面却是机械。
“组装”的素子、扇动机翼的飞机，还有雕塑，传达的是同一个意思：“是什么”不重要，重要的是“用来做什么”。
只要可以飞，就不用在意翅膀的材料；只要可以跑，就不用在意腿的构成——
只要可以思考，就不用在意那是人的意识还是AI。
结语
关于AI，动画里有《星之梦》催人泪下的美好幻想，有《薇薇 -萤石眼之歌-》的百年共存之路，也有《攻壳机动队》既天马行空又富于哲理的寓言。
这当然不足以打消我们的担心。
第一次，我们的造物如此地接近于我们。但就像“傀儡师”和草薙素子的关系一样，AI和人可以不那么泾渭分明。
AI可以像与水螅共生的绿藻、生活在我们肠道里的细菌一样，“构成”我们自己，增强、扩展人类的能力。
离开攻壳机动队的“草薙素子”
从广泛的意义上来说，人类历史上的各种技术创造都“构成”了我们。
十几年前研究手机的人类学家们，就关注“由于使用手机，人变成了什么”、“由于被人使用，手机变成了什么”这样的问题。
ChatGPT令一些人担忧，但人可以充分地适应和拓展，迎接变化——即便化为我们一部分的东西曾是我们所害怕的。
关于这件事，ChatGPT怎么看呢？
ChatGPT肯定“知道”，那个觉醒自我意识的AI“傀儡师”诞生之初，和现在的它并无不同。
— 点击图片阅读更多精彩内容 —
微信扫码关注该文公众号作者