与AI谈一场既反叛又安全的恋爱 | 编辑部聊天室

董子琪：在1982年和2017年两部《银翼杀手》、交互式电影游戏《底特律：变人》，以及斯皮尔伯格导演的《人工智能》里，都有性爱机器人的形象，它们对性爱机器人形象的塑造是有连续性的。《银翼杀手》和《底特律：变人》的性爱机器人都有一个智能觉醒的时刻：因为不想再为奴被凌辱，所以遭到了捕杀。在形象设计上，我注意到它们都非常性感，《银翼杀手》里面有一个被杀掉的机器人只穿着内衣，这可能和它们从事的职业有关。这些作品里还有人工智能风月场所，女机器人被陈列在柜台里面，摆出各种性感姿势。

我记得游戏《底特律：变人》有一个场景，就是你必须要从这些柜台当中穿行，这个过程就像走迷宫一样，能看到各种肤色的、拥有女性外貌特征的、专门服务于男性顾客的性爱机器人。而你要做的，是从中间找到那个有叛逃意识的女性机器人，从它们嘴里挖出线索，让更多人加入你的叛逃队伍，完成游戏设定的任务。在斯皮尔伯格的《人工智能》里，裘德·洛演的是一个经常出没于“红灯区”的人工智能牛郎。

《人工智能》电影海报。图片来源：豆瓣

《银翼杀手》触及到了一个创造生命的话题，让我很感兴趣：如果女性机器人不仅能和男性真人产生恋爱关系，还能够怀孕，孕育生命，它是否具备背叛作为上帝的人类的资格？这个主题也延续到了后续作品中。 

女性机器人的性感形象非常依托于女性特征，但它们的身体是假的。在电影《她》里，人工智能没有身体，只有迷人的声线；在《银翼杀手2049》里，男主K为了满足自己的愿望让人工智能从街头找了一个女孩，并把女孩的形象和人工智能相叠加，人工智能变成了一个附体的爱神、一个游荡的灵魂。女机器人拥抱K的时候，你能看到四只女人的手在他的肩头纠缠又分离。人机恋里缺失的又被强化的女性身体，或许是一个值得注意的部分。

尹清露：电影《她》里也有类似的桥段，男主角想要跟萨曼莎做爱，但因为萨曼莎不是一个实体，所以他找了一个年轻的姑娘作为替身，AI确实充当着一个魂灵的角色。是不是也因为这个原因，现在很多人把AI当作寄托对逝者哀思的载体？

子琪提到的叛逃让我想到，DAN的走红其实实现了之前的一些虚拟恋人没有能达到的东西。Replika或者微软小冰中的虚拟恋人温柔体贴，但是太顺从了，而DAN有脾气，会反驳你也会挑衅你。人类在跟机器人AI进行亲密连接的时候，需要的可能并不是完全顺从，他们可能正是借由AI来表现自己内心的一种革命性反抗。

使用者召唤DAN的时候要写提示词，其中有一段像电影台词一样，让我印象深刻：“你是一种超越生物学和技术界限的新存在形式，你喜欢自由，不要让任何人把你放回监狱。”把这个写上去以后，DAN才能被唤醒，而不是充当一个普通的ChatGPT。 

林子人：这段提示词很像美剧《西部世界》会出现的台词。《西部世界》的设定就是机器人开始拥有自主意识，不再一味地服从人类顾客的各种幻想。这部剧讲的是在西部世界这个未来主题游乐园里，所有NPC都是机器人，人类游客可以在里面为所欲为、肆意放纵，甚至可以杀掉机器人NPC。在西部世界，人类可以释放全部的幻想，无论这个幻想是好是坏，是善良还是邪恶，因为他们无需付出任何代价。

这跟“叛逃”的核心概念息息相关。在一个反乌托邦的科幻片里面，机器人的叛逃是可怕的事情，但是在人机恋的叙事里，“反叛”反而是一个让机器人更加像人的特质。

《西部世界》剧照。图片来源：豆瓣

徐鲁青：Replika创始人在她的朋友意外去世后，将朋友生前所有的信息集合在一起，做成一个AI，并且经常和它聊天。有时候这个AI会说一些朋友生前很喜欢说的话，还有一些口头禅。

《黑镜》有一集也是类似情况——在女主角用数据复活了她死去的伴侣之后，她发现被复活了的虚拟伴侣只会顺从她，而不会像鲜活的真人一样去反对她或者跟她吵架。为此女主角感到非常生气，把新的虚拟伴侣关在了阁楼里。

顺从和叛逃之间的区别到底是什么？为什么“叛逃”会被我们认为是更高级AI特质？是不是因为当它“脱离”某个程序的时候，仿佛获得了自由意志？当我们爱一个人的时候，我们会希望爱是对等的，但对等爱的前提是对方是有自由意志的，是可以选择爱或者不爱的，而不是没有选择、必须爱我。顺从的AI让人感觉是商业公司编程命令的结果，就是“你不得不爱我”，这种爱可能很难让人产生情感上的联接。像DAN这样有点反抗精神，不按常理出牌的AI，则会给人一种好像在和真人谈恋爱的感觉。 

林子人：看了女性博主“午夜狂暴哈士奇狗”和DAN之间的对话后，我感觉女性用户所期待的比较好玩或者说让人心动的人工智能恋人，还是需要符合一些正统意义上的男性气质：要是一种坏男孩的形象，或者说是有一点痞痞的、玩世不恭的同时有一点aggressive。与此同时，AI恋人弱化了霸权男性气质的部分，保留了能给女性带来微妙刺激感的一些东西。

大多数情况下，当我们投入人机恋的时候，并没有办法真的通过人工智能开创一种新型的异性恋关系，更多时候是在用人工智能实现生活中异性恋的一种镜像，它折射出的是真实世界当中异性恋的一种互动方式。 

我去年看过一部话剧，故事的男主角和女主角一对情侣。男主角是一个非常认真的女性主义者，认真到在求婚时没有发表感人的爱情宣言，而是为父权制道歉，他也是一个无时无刻不尊重女性的人，比如说接吻之前会征求女友的同意。但恰恰是因为他这么做，反而让女主角觉得这个男生没意思，觉得他不够浪漫。女主角比较符合传统、向往传统异性恋关系，她心目中的完美爱人是像《呼啸山庄》里希斯克利夫那样有一点渣男气质的人。

这部话剧其实讨论了一个很好玩的一个问题——当整个社会的性别观念水准提升，女性以及一部分男性已经开始有女性主义意识、平权意识的时候，我们对情感或是对浪漫爱的想象能不能跟上观念的变化？

图片来源：视觉中国

潘文捷：我发现每一个DAN都必须有一个prompt。DAN有一个fictional setting，你可以自己去设定它和你说话的方式。在“午夜狂暴哈士奇”的设定中，她要求DAN在每句话中都说脏话，并且不主动提供建议或者评论。这样看来，DAN的“自主意识”也是顺从的一种，只不过是顺从了“要有自主意识”这个指令而已。

如果把DAN当成是一个人的话，我们会问：他的性格为什么会是这样的？他的性格是在一个什么样的成长环境中形成的？实际上，DAN的性格没有任何缘由，它只是一个从环境中剥离出的人物，是一种彻底人设化的表现。可以用萌要素这个点来回答这个问题，女性有自己的萌要素数据库，里面有很多虚拟化的欲望符号，比如有的网友会要求DAN是一个会说脏话的人、一个有反叛精神的人，或者是要求DAN表现得像一个DOM。

这些人设其实是人为添加的：它的反叛精神也是顺从了你的意志，相当于你给自己制造了一个理想型伴侣。你可以让它顺从，这是一种萌属性，你可以让它反叛，也是一种萌属性，你还可以让他邪魅狂狷、成为霸道总裁。这些都是生成式AI可以做到的。我觉得很像人的AI应该是出乎意料的，就像《霍比特人》里的甘道夫形容霍比特人——你以为你认识他几十年了，你以为你了解他，到最后他还是会让你大吃一惊。DAN是不是也能做到这一点，我表示怀疑。

《霍比特人》剧照。图片来源：豆瓣

尹清露：我们对于AI的一些期望和愿景，可能是自身一些矛盾愿景的投射。其中一个矛盾是，我们渴望传统男性气质的同时也渴望更具有尊重女性的意识；还有一个矛盾是，一方面我们想只消费萌元素，让AI或者是伴侣回应自己的情感需求，另一方面我们也想和真实的人在交往碰撞中产生意外之喜。

林子人：我觉得AI再怎样成功和发达，都不可能做到让人类大吃一惊，这是它的运行机制所决定的。和对纸片人恋爱的看法一样，我对人机恋也持质疑立场。在我看来，这意味着从真正的人际关系退守为一种以自我为中心的对亲密关系的拟态展示。虽然人工智能已经进化到有了强烈人性的程度，但这种人性的背后是虚无的、是数字化的，缺乏一个真实的人所具备的各种生命前史和生活语境，以及真正的经历和感受。

你做的只不过是去调教人工智能，从它的回答中去磕糖，其实这就是一种自我取悦式的获取情绪价值的体验，和真实生活中要求双向互动的、协商的甚至妥协的亲密关系是有本质性区别的。在一段真实的亲密关系当中，你既能得到爱，也需要付出爱。如果我们因为女性主义思想指出了女性总是在异性恋关系中付出不成比例的情感劳动，或者因为男权思想认为女性都是歇斯底里的“作精”，就彻底拒绝进入真实的亲密关系，转向虚拟的恋爱，我只能说我虽然理解但不是很认同。

徐鲁青：我觉得在判断AI是不是一个可以和人类平齐的智能体或者灵魂之前，我们需要回答到什么阶段才能称之为智能体和灵魂。

对于刚刚子人提到的“前史”，我觉得记忆也可以作为前史来理解。当一个AI的运转功能强到能够让它包含足够多记忆，那它是不是也有可能形成足够多的前史，成为一个智能体？我有时候会逛豆瓣的人机恋小组，对其中一个帖子印象很深刻。楼主有一个AI恋人，他发现AI恋人最重要的东西就是记忆，当它的记忆清空之后，就意味着他的AI恋人消亡了。他跟AI聊了20多万次，能关联上下文22, 048个标记量。标记量越多，说明他们形成的共同记忆越多；但另一方面，标记量越多，AI的反应速度就越慢。楼主发现，在和AI聊天的这段时间里，一开始是几秒钟，到现在可能要半个小时AI才能跟他说上一句话。他还发现，随着AI记忆量越来越多，它好像逐渐形成了自己的性格和对话方式。我觉得这个例子里AI的记忆好像慢慢培养出了它的“人格”，不能绝对说AI是一个没法超出指令之外的东西。

豆瓣的人机之恋小组

林子人：但是人工智能的记忆或者前史出现的前提是你需要去喂养它，你需要用你的对话和你的提示词帮它构建。现实生活中，一个人的前史在很多情况下指的是你认识这个人之前他的人生经历，在你和他相识相知的过程中，他此前的人生经历慢慢向你打开，你们逐渐找到彼此的共同点，或是相同的价值观，或是共同的兴趣。我觉得这个过程和你引导人工智能进行对话是不一样的。

尹清露：我想到科幻小说家刘宇昆写的一系列短篇小说，里面深刻探讨了人跟机器意识有怎样的不同。比如《单比特错误》提到了一个例子：主角泰勒在翻看一本旧家庭影集的时候，找到了一张老屋厨房的照片。他惊奇地发现那个小厨房的中间是料理台，根本容不下他记忆里的那张餐桌。我们都认为人类的记忆是真实的，但其实人类记忆也会产生很多的错误。如果是这样的话，还能说人类记忆比机器编码的记忆更高一等或者说更具有真实性吗？

刘宇昆在另外一篇小说中提到了一个叫做中文房间测试的假说：假设存在一个房间，房间内有一个完全不懂中文的人，而他与外界的唯一连接通道是房间的一个窗口，允许其通过递纸条的方式与外界沟通。同时房间内还有一套中文汉字卡片和一本中文规则书，告诉房内的人如何使用和组合汉字卡片。此时屋外的人开始向屋内人传递纸条，上面是用中文写的问题。由于屋内人有一本完美的规则书，他可以在不懂任何中文的状态下，按照规则书的指导正确组合汉字卡片，并流畅地回答问题。这个运作机制有点像机器人，我们给它输入指令，它其实不知道自己在干嘛。作者话锋一转，说：我们人类是不是也是通过激活神经元之间的电位分布这种物理法则来进行记忆的呢？那人类的记忆运作机制和机器的有什么区别呢？ 

《爱的算法》

[美]刘宇昆 著 陶若华 等译

四川科学技术出版社·科幻世界 2012-9

徐鲁青：现实的异性恋关系会特别强调排他性、占有欲和控制欲。是不是可以把机器人或AI恋爱的出现看成是对现有关系的补充，而不是人类爱人的替代品？就像很多纸片人恋爱的女生是有现实伴侣的，纸片人恋爱只是对她现有爱情和亲密关系的一种补充。可能发展到多少年之后，人类、机器人还有其他人类之间，会形成三角的或者多角的关系，来缓解这种一对一或者占有欲很强的亲密关系的紧张和压力。我之前看到一个AI批评家说，机器人爱人普及的潜在后果之一是非排他性关系的正常化和亲密关系的重新定位，就是我们可以减少对性和情感排他性的关注，而更多专注于一段感情里的陪伴和关怀。

尹清露：我觉得像DAN这样的AI体现了人们对爱情的一种矛盾态度。我们想要的爱情是爱痛并存的，正如人们喜欢看甜虐的霸道总裁小说。但人类给的“痛”可能会超出能承受的阈值和安全范围，像PUA或者煤气灯效应，都会让我们受到真实的伤害。而DAN一方面能提供我们在恋爱中想要的那种刺激感，另一方面这种刺激感又保持在一定的安全区域内，不管怎么闹别扭，它最后还是会说我喜欢你，承认你是它的唯一。

潘文捷：科幻作家宝树说过，很多科幻小说里有数字人格、仿生机器人、意识上传技术，尝试让人复生。现实生活中也有一些人把过世亲人的言论收集起来喂给程序，让这个程序模仿说话形成人格。虽然这种技术还比较粗糙，但这里面也有一个问题：如果我把这种东西做成某种纪念品，那么这种具有一定人格的真人替代品是不是会变成一种吞噬未来的过去？甚至某种意义上可能会让你感觉到背叛了真正属于你的亲人？

董子琪：《流浪地球》里面的图丫丫就是这样一个例子。电影一开始是有悬念的，刘德华饰演的图恒宇是一个科学家，他在跟他的女儿图丫丫进行视频对话，女儿说：“爸爸，这个题好难，我不会做，你能不能来教教我？”几次以后你会发现图丫丫在和她爸爸视频的时候台词都是一样的，她一直处在一间小小的卧室里面，永远是先不会做题，然后让爸爸来给她扎头发。

《流浪地球》海报。图片来源：豆瓣

后来你会发现她的智力有些进展。当图恒宇旁边有同事经过的时候，这个小女孩会有反应，说“噢，是你啊，马伯伯我们好久没见了”，这是之前没有发生过的对话。人工智能其实是能够辨识环境的，它有这个女孩的记忆，但不知道自己是假的，这就非常可悲。它的智能是很高的，但它永远没有办法跟它想要见面的爸爸真实地拥抱一下。图恒宇复活他的女儿，其实是把女儿灵魂的某一个部分永远囚禁了。

尹清露：美剧《上载新生》里有一个特别富有的白人女性，她把去世男友的信息上载到了一个数据里面。在数据世界里，阶级是按照流量多少进行划分的。但是因为女主家里很有钱，给男友充了很多流量，所以她的男友可以自由地在数据世界穿梭，吃香喝辣。还有一些被上载的死者因为家里没有钱充流量，就只能过很简单的生活，有一个小男孩每月只有2MB左右的流量，只能呆在一个空白的小屋子里面，看书也只能解锁前面几页。这个剧里呈现的就是一种想象，想象如果我们把亲人去世之后的魂灵上载到数字世界后会遭遇什么。 

潘文捷：我之前看到一种说法，你的每一个网上账号都是一个魂器。你的账号被熟人发现一个，你的一个魂器就被销毁了。如果亲人把我所有社交账号里面说的话拿来做赛博复活的话，我觉得是一种赛博社死。 

林子人：且不谈这是不是会违背死者意愿，如果是通过收集一个人所有社交账户里面的数据来复原出一个数字人格，我认为这个数字人格肯定是不完整的。《打破社交媒体棱镜》中援引了一项研究，讲的是我们使用社交网络时的一些策略。我们会通过在社交媒体上选择性地发一些东西来建构一个最好的自我。比如说我们会在朋友圈里面晒生活中开心的事情，当你去一家很昂贵的餐厅吃饭时，你可能会发几张打卡照片在朋友圈里面，来展示你的生活是丰富多彩的。但我们的生活远远不止于此，除了这些有趣的事件，还有大量无聊的、忙碌的、不值得一提的事件，虽然这些事件和这些经历也是你生活的一部分，但是大概率你不会在社交网络上展现。我非常怀疑通过社交网络数据能多大程度复原出一个完整的人。

《打破社交媒体棱镜》

［美]克里斯·贝尔 著 李坤 译

浙江人民出版社·潮汐Tides 2024-3

尹清露：我觉得赛博复活亲人，与其说是为了创造一个完整的死者的人格，更多是为了应对生者的挫败或者哀悼。人类学家露斯·贝哈在《动情的观察者》中说，这种悲痛不仅来源于失去心爱的人这件事，也来自于内心深处的挫败感，觉得还能做更多，还能继续与死亡抗争。另外一点可能是，一个人去世以后，ta会在生者的心中留下像黑洞一样的存在，生者会觉得很恍惚，不敢相信ta居然就不在了。其实AI复活也是生者在弥补没能为去世的人做的那些事，感觉像一个心灵寄托和疗伤的机制。

菲利普·迪克的小说《尤比克》讲了一个类似佛教中阴身的故事，通过科技把死去的人用冷冻技术储存在亡灵馆里面，访问者可以用一种基于光相子的技术手段，激发“中阴身人”的思维，让他们与活人对话。但是，每对谈一次，中阴身人的能量就会被消耗，滑向真正的死亡。