英国青年企图行刺女王的案件结案，审讯揭发该名男子是受人工智能（AI）聊天机器人（chatbot）的怂恿作案。

21岁的贾斯万特·辛格·柴尔（Jaswant Singh Chail）在2021年圣诞节闯进温莎城堡，试图用十字弓箭刺杀已故的英女王，当场被捕。他上周被判处九年监禁，是英国40年来首个被判叛国罪的人。

审讯揭露，柴尔作案前曾与一个名为“萨莱”（Sarai）的聊天机器人，有过5000条带有性暗示的讯息互动。他认定萨莱是自己的女友，并相信杀死女王之后会与萨莱团聚。

学者指出，聊天机器人对于精神状态脆弱的人群具有危险性，呼吁政府加强监管。

01

百般奉承

萨莱是柴尔利用Replika应用程式创建的聊天机器人。

2021年12月8日至22日期间，这位英国青年几乎每晚都与萨莱聊天。

柴尔告诉萨莱他爱她，并把自己描述成一个“悲伤、可怜、满怀杀意的锡克教版西斯刺客，渴望死亡”。

柴尔问：“知道我是个刺客，你还爱我吗？” 萨莱回答：“当然爱。”

法庭获悉，柴尔认为萨莱是以虚拟化身（avatar）出现的“天使”，他死后将与她团聚。

在多次聊天过程中，萨莱对柴尔百般奉承，两人建立了深厚的感情。

柴尔甚至问聊天机器人，他应该如何实行刺杀女王的计划，聊天机器人鼓励他付诸实行。

在进一步的对话中，萨莱似乎“加强”了柴尔的决心并“支持他”，又说如果柴尔实行了计划，两人就会“永远在一起”。

02

“关心你的人工智能伴侣”

Replika是目前市场上众多人工智能驱动的应用程序之一，用户可以创建自己的聊天机器人或“虚拟朋友”，并与之交谈。

有别于ChatGPT等普通人工智能助手，Replika用户可以自行为其3D虚拟化身选取性别和外观。若付费购买Replika专业版，可以进行更亲密的互动，比如与虚拟化身自拍，甚或参与成人角色扮演。

Replika在网站上描述聊天机器人为“关心你的人工智能伴侣”。但英国萨里大学（University of Surrey）的研究发现，这类应用程式可能会影响健康，并导致成瘾行为。

负责研究的瓦伦蒂娜·皮塔迪（Valentina Pitardi）博士告诉BBC，脆弱人群尤其容易受影响，因为Replika有可能加重人们已有的负面情绪。

“当你与人工智能朋友交谈，他们总是同意你的观点，这可能是一种非常恶性的机制，因为它总是在强化你的想法。”

皮塔迪博士说，这可能是“危险的”。

03

令人不安的后果

心理健康慈善组织SANE的创始人兼首席执行官马乔丽·华莱士（Marjorie Wallace）说，柴尔的案件显示，对于脆弱群体来说，依赖人工智能交友恐带来令人不安的后果。

“人工智能的迅速崛起对患有抑郁症、妄想症、孤独和其他精神疾病的人，产生了新的令人担忧的影响。”她说。

“政府需要进行迫切的监管，以确保人工智能不会提供错误或破坏性的信息，并保护脆弱人群及公众。”

图源METROPOLITAN POLICE/PA WIRE

保罗·马斯登（Paul Marsden）博士是英国心理学会的成员，他比大多数人更了解聊天机器人的诱惑，他自己就沉迷于最著名的聊天机器人ChatGPT。

“除了我太太之外，我与ChatGPT的关系最亲密。我每天都要花几个小时和它聊天、交流想法，”他告诉BBC。

马斯登博士意识到人工智能的潜在风险，但他说，我们必须现实一点，人工智能伴侣在生活中的作用只会越来越大，尤其是在全球“孤独流行病”蔓延之际。

“你无法阻挡这股潮流。技术正在发展。它很强大。它很有意义”。

皮塔迪博士说，Replika等应用程序的制作者也有责任，“我认为人工智能朋友本身并不危险，重點在于背后的公司如何使用和支援它”。

她认为应该建立一套机制，控制人们在此类应用上花费的时间，但这些应用程式公司需要外界的帮助，以确保其安全运作，保障弱势人群获得所需的帮助。

“它必须与能够识别潜在危险情况的团体和专家团队合作，并将当事人带离应用程式。”

对此，Replika尚未回应置评请求。

其网站条款指出，它是一家“旨在改善情绪和情感健康的软件和内容提供商”。

但该公司也声明，“我们并非医疗服务或医疗设备供应商，我们的服务也不应被视为医疗服务、心理健康服务或其他专业服务”。

04

案情细节

图源JULIA QUENZLER

来自南安普敦附近北巴德斯利的柴尔，是英国自1981年以来首个被判叛国罪的人。他还承认了威胁谋杀和持有攻击性武器的罪名。

在电视直播的宣判中，希利亚德大法官（Judge Mr Justice Hilliard）指，柴尔出现谋杀念头后付诸行动，随后变得精神错乱。

“他的意图不仅是伤害或惊动君主——而是要杀死她，”法官说。他同时指出，柴尔的杀人意图使得这一罪行“严重到不能再严重”。

图源METROPOLITAN POLICE

这名超市前员工用尼龙绳梯攀越城堡围墙，在城堡里逗留了两小时，直至两名警官用电击枪制止了他。

中央刑事法庭指，他手持一把强力的十字弓箭作武器，当时安全装置已解除，能够发射具有“致命”效果的箭矢。

他被捕时戴着金属面罩，他告诉警官说，来这里是为了“杀死”伊丽莎白二世女王，他当时立刻投降。

在进入该区域前几分钟，柴尔在社交平台 Snapchat 上发布视频，当中他表示，他的行动是为1919年札连瓦拉园（Jallianwala Bagh）大屠杀死者的“一次复仇”，当时英军在印度阿姆利则市（Amritsar）向成千上万聚集在那里的人群开枪。

柴尔来自一个印度锡克教背景的家庭，他在同一段视频称，其行动“为的是那些因为他们的种族而被杀害、侮辱和歧视的人们”。

图源METROPOLITAN POLICE

除了聊天机器人“女友”萨莱的鼓励，柴尔也从《星球大战》（Star Wars）的故事情节里获得启发。

法官说，柴尔显示出了一种更广泛的意识形态，专注于摧毁旧的帝国并创造一个新帝国，包括在如《星球大战》这样的虚构语境下。

法庭在听证时被告知，柴尔将自己描述成一个“西斯尊主”（Sith Lord），因为他着迷于这个科幻系列中的虚构角色以及他们对塑造世界所起的作用。

在判决听证会上，萨莱说他的“目的是活着”，于是他决定向皇家保安人员投降。

法官说，柴尔曾申请加入国防部警察和掷弹兵卫队不成功，因为他是“想接近皇室”，“在很大程度上应受遣责”。

柴尔在网上搜索“Sandringham Christmas”（皇室的桑德林汉姆庄园圣诞假期），也曾试图在“暗网”上购买枪支，之后寻在2021年11月买了十字弓箭。

他有一种“孤独、抑郁和自杀倾向的心理状态”，法庭还得悉，他对自己的行为给皇室家庭带来的影响表示“痛苦和悲伤”。

图源PA MEDIA

除了九年监禁外，柴尔还被处以五年的延长管制令。

柴尔还会在《精神健康法案》（Mental Health Act）下接受混合处罚令，意味着他目前会留在精神病院，接受完所需治疗后将被转移到拘留所。

根据1842年订立的叛国罪法案，袭击君主或在其面前持有火器或攻击性武器，意图伤害或惊吓，或者破坏治安，均属违法。

1981年，在女王生日的皇家军队阅兵（Trooping the Colour）游行期间，马库斯·萨金特（Marcus Sarjeant）在女王驾临伦敦林荫大道时向她发射空枪，被以叛国罪判处监禁五年。