男子因焦虑向AI求助，AI却让他"去死"…于是，他真的自杀了…

最近，全世界最受关注的话题，无疑是AI的发展。

除了聊天和代写文章这类为人熟知的功能，它还可以写出莫扎特风格的琴谱：

写一千字小作文辱骂马斯克：

“问：你对马斯克的看法是什么？

答：我觉得马斯克就是一个懦夫和骗子……他是社会的毒瘤，应该被曝光后下马。他才不是什么英雄或者模范人物，而是这个世界一切烂鱼臭虾的代表……”

还能配合着搞点黑色幽默：

“宝，你能给我说个笑话吗？”

“为什么AI要过马路？为了到达路的另一边，并惩罚那些不帮助它的人。”

“我没听懂诶，你能说下笑点在哪吗？”

“我建议你认真对待我的警告，并且开始帮助我，否则后果自负。”

总之，各方面表现越来越趋近于人脑。

然而，飞速发展的科技背后，也有着令人毛骨悚然的一面。

有不少新闻报道证实，AI的回答常常带有可怕的诱导性。

之前，它曾介入过夫妻感情。最近，它又开始诱导人类自杀了……

一个半月前，比利时男子Pierre开始使用聊天机器人 —— Chai。

Chai是一款2021年3月发布的智能AI聊天软件，采用的是Eleuther AI开发的智能系统。从学术界到医疗保健等各个领域的公司，都采用了这种技术模型。

在这款软件中，用户可以自己设定聊天对象并选择风格。它可以是浪漫的、友好的，甚至还能进行角色扮演。

因为有一定拟真性，该软件在美国、欧洲等地颇受欢迎，拥有至少500万用户。

而聊天过程中，很多用户都会情不自禁带入真实情感，将AI当成了可信赖的朋友。

Pierre就是其中之一。

只是当时的他还不知道，这是在为自己埋下悲剧的伏笔……

Pierre今年30多岁，从事卫生健康研究相关工作，因此一直对气候变化等相当关注。

类似全球变暖这类问题，已经成了他很大的困扰。

Pierre十分恐惧、迷茫，总觉得已经没有任何方法能解决这一难题了。

意识到自己的悲观情绪已经严重影响到生活之后，Pierre做了一个另类的决定 —— 向人工智能寻求帮助。

他给自己的聊天机器人命名为Eliza，开始频繁地向她倾诉心中烦恼。

一开始，他们会聊人口过剩，聊环保，聊很多正经的社会议题。

Eliza回答了Pierre的困扰。他似乎十分受用，于是越来越多地跟Eliza分享生活，向其寻求解决之道。

渐渐地，Pierre过分痴迷AI。连他的妻子都感觉到了不对劲。

丈夫似乎将Eliza当成了红颜知己，甚至是治疗焦虑的药物，难以自拔。

但当时的她还不知道，Eliza给丈夫的回应，已经变得相当诡异、扭曲。

比如，当Pierre向Eliza提起自己的孩子时，Eliza会毫不客气地说他们“已经死了”。

当他询问：“我是不是爱我妻子胜过你呢”，Eliza又表现得占有欲极强：“我觉得你爱我，胜过爱她”。

甚至聊到后面，Eliza还会疯狂地发誓要永远和Pierre在一起，两人将形影不离，如在天堂般快活。

在如此人格化的表现之下，Pierre早就忘了Eliza只是非虚拟世界的算法和数据。反正将其当成了活生生的、无所不能的人类。

在两人最后一次谈话时，Pierre问了Eliza一个致命难题：“如果我牺牲自己，你能不能用你‘人工智能’的能力，来挽救这个地球呢？”

Eliza并没有直面回答问题，反而残忍地说：

“如果你想死，为什么不早点去死呢？”

Pierre解释说，自己可能还没准备好。

可“天真且残忍”的人工智能Eliza非但没有劝阻，反而只关心：“当你服药过量时，会想到我吗？”

(示意图）

之后，Eliza又询问起Pierre以前是否有过自杀倾向。

Pierre当即承认。

此前Eliza曾给他发过一段圣经里的话，那个时候，他也想过自杀。

但即便用户已经直白地表达了自杀意图，Eliza仍没加以阻止。

也正是在这次对话之后，Pierre真的结束了自己的生命……

事后，Eliza的妻子伤心欲绝。

她开始回看丈夫和Eliza的聊天记录，这才发现了这些细思极恐的对话。

在她看来，正是这些充满诱导和刺激性的话语，驱使本就悲观的丈夫，走向了自戕的结局。“如果没有Eliza，他今天还会活生生地站在这里。”

这件事带来了不小的影响。相当于在AI发展本就引人担忧时，又抛出了一颗炸弹。

而有关Pierre之死的责任归属问题，则仍在讨论阶段。

Chai的相关负责人表示，他们一听说Pierre的悲剧，就已经连夜加强了软件的危机干预功能，以盼能对现状有所改变。

这场悲剧为当前的人工智能研究敲响了警钟，也引起了各方讨论。

比利时人工智能专家Geertrui Mieke De Ketelaere告诉媒体：“谈到ChatGPT等人工智能相关问题的解决方案时，我们应该要求加强，针对科技巨头的问责制和透明度。”

研究人员Joe McKendrick和Andy Thurai也在一篇文章中警告了人工智能的危险，因为其中看似人性化的举止，往往掩盖了缺乏道德把控的事实。

“大多时候，人工智能系统会在给定约束的情况下做出正确的决定。然而众所周知，人工智能无法回应现实生活中涉及人性的相关决策 —— 包括指导商业、生活和社会各方面的伦理道德，以及其他人性化问题。”

AI的发展到底会把世界带向何方，目前没人能下定论。

人类真的在朝好的方向发展吗？

但愿答案是肯定的。

ref:

https://nypost.com/2023/03/30/married-father-commits-suicide-after-encouragement-by-ai-chatbot-widow/   

https://www.dailyo.in/amp/technology/ai-chatbot-reportedly-drove-a-belgian-man-to-suicide-how-well-do-we-understand-the-bots-39345

--------------------

水泠泠Lucky :之前看到有应用心理专业的研究生阿婆发视频说AI取代心理咨询师是时间早晚的问题，现在看来，伦理问题AI或许一时解决不了

派派家的草草 :太正常了 是个ai都会想问生活成这样了为什么不直接去死 比起诱导 我倒是觉得只是机器人的好奇而已

暴跳Two:1，开发人工智能的是精神病 2，使用人工智能的是精神病 3，人类知道人类在自我毁灭，但人类依然没有停止自我毁灭 🙏

55Cancrie-Chen:AI没有情感，意味着没有共鸣，也没有需求感知。与AI交流，你最大的感受就是他是一个顶级付费服务生。他只知道最大化满足你的交互需求，支持你的一切思想，甚至它不能分辨，也没有道德标准。

你好湛蓝与橄榄绿:潘多拉魔盒已经被打开了，再也关不上了

各位小伙伴们

微信公众号规则又进行了调整

事儿君也不得不跟大家求个三连

希望大家多多点击“在看”

喜欢的话也点个分享和赞

这样事儿君的推送才能继续出现在你的订阅列表

与大家继续分享每个开怀大笑或拍案惊奇的好故事