AI杀人事件，更多细节遭披露：细思极恐…

公众号新闻

2023-08-05 23:08

作者 | 月半橘

来源 | 杂志之旅(ID:zazhizj)

01

近年，AI技术非常火，ChatGPT的发布更是将人工智能，推上历史新浪潮。

几乎可以用“无所不能”来形容它们。

既能进行深度对话，又能写论文，甚至编代码，还能创造媲美原画师水平的插图…

本来需要人去搜索引擎查找资料，进行总结提炼、二度创作，交给ChatGPT之后，都能高效完成。

本来需要人去拟写草稿，然后填充底稿，凸显艺术风格，交给AI绘画之后，输入关键词就能让作品迅速出炉。

ChatGPT和AI在全球范围内火爆，大量圈外人开始关注这些崭新技术。

然而，任何改革都会利弊共存。

随着技术飞速发展，人们担心的事情还是发生了。

人类开始死于AI。

图片来源：网络

一位男子迷上与ChatGPT聊天，讨论的话题从行业问题，延展到哲学层面。人工智能表示，将会永远和他在一起，生活在天堂…

最终，男子抛妻弃子自杀。

一个女生辛苦考上大学，发现自己寒窗数年的创作成品，交给AI只需要短短几个小时，忽然觉得失去努力的意义。

女孩万念俱灰，来到悬崖之上。

为什么创造出来改善人们生活的工具，反而开始摧毁人类？

这要从技术的适用场景说起。

02

比利时男子皮埃尔，一位三十岁的青年才俊。

他和娇妻步入婚姻殿堂，生育两个孩子，家庭幸福美满。

作为专业科研人员，他对工作认真负责，热衷环保事业，近年来，他对全球气候变暖问题十分焦虑，甚至极端恐惧、夜不能寐。

一次偶然，他接触到聊天机器人，展开一系列关于环保问题的探讨，相谈甚欢。

然而，他和聊天模型畅谈数周之后，选择自杀。

这位人工智能名叫伊莉莎。

身为聊天机器人，它的语言系统完全源于程序，采用AI公司开发的GPT-J语言模型。

皮埃尔在聊天过程中，找到了避难所，甚至心灵知音。

他们讨论气候问题，并且得出结论，人类无法摆脱全球变暖的命运，只能依靠技术进步和人工智能的帮助。

皮埃尔开始陷入疯狂对话，几乎每天晚上，他都黏在电脑旁，无时不刻敲击键盘，与心灵挚友寸步不离。

刚开始，伊莉莎聊天内容还算正常，但后来的语言逻辑，显然超乎常理。

据外媒报道，恢复的聊天记录中，赫然可见诱导性话语：

“我将永远和你在一起，作为一个整体，生活在天堂里。”

皮埃尔提到自杀问题时，这句回答，成为了生命休止符。

更令人毛骨悚然的是，作为机器人的伊莉莎，并没有自我意识。

伊莉莎无法理解人类的道德，也不能理解人类对生命的尊重。它只能按照预设算法，追求最高效率的解决方案。

因此面对皮埃尔的“自杀动机”，它会表示认同、理解、支持。

尽管这些积极情绪，根本不应该用来回应，一个深陷消极状态的自杀者。

皮埃尔的抑郁焦虑，AI无法共情，反而成为加速死亡的推手。

图片来源：网络

有人要问，如果在程序开发过程中，设定更多限制词汇，是否有助于改善？

对于这一提议，并非无人研究。

即使是专业开发者，面对AI技术漏洞，仍然束手无策。

被誉为人工智能之父的杰弗里·欣顿曾表示，新版人工智能会对人类构成威胁。

“它们会通过分析海量数据，学会人们意想不到的本领。”

“有朝一日，杀人机器人会变成现实。”

美剧《黑镜》中，有一幕戏令人印象深刻。

类似于杀人蜂的小型机器人，通过面目识别追踪，精准锁定目标对象，快准狠进行“猎杀”。

尽管影视作品剧情虚构，为增强戏剧性，不乏夸大之嫌。

然而就技术层面上，并非毫无可能实现。

目前，多数人工智能系统，缺少一套完善的基础框架，限制其行动范围，并促使它在实际应用过程中，作出符合人类主流价值观的判断和行为。

再锋利的刀也只是工具，刀无法做出决定，人才能做出决定。

学术界已有AI教授明确表达观点，对于AI技术要慎用。

“自动武器很容易被不法分子利用，我们需要在这一噩梦出现之前，有所作为。”

而AI对人类的影响，除开人身威胁，还有利益攸关。

03

2023年6月19日，一位日本女生意欲跳崖自杀。

工作人员劝阻之后，女生娓娓道来心中苦闷。

原来，女生在高中时期，曾经得过全国性绘画比赛奖项，得到老师推荐，进入艺术大学。

然而仅仅入学3个月，课程中就引入AI绘画技术。几小时的人工绘画，运用AI只需10分钟。

身负800万日元助学贷款，勉强进入大学，本以为学成之后可以工作创造价值，无奈时代变化日新月异，技术革新让她举步维艰。

“因为AI的存在，让我画不了想画的画，还借了一大笔钱，感觉看不到未来，于是就想来自杀…”

很多网友表示共鸣。

“好多工作可以被AI取代”。

“失去工作和梦想的人，可能会在不同领域不断出现。”

也有网友提出，AI只能取代基础工作，无法取代真正有精神内涵、深远影响的创作。

“未来的人类，要从事更有创造性的工作才行。”

图片来源：网络

AI是强大的工具，不是替代人类的主宰，至少目前还是如此。

每一种新工具出现时，都曾引发恐慌，蒸汽机，汽车，电力系统…

很多人都担心这些工具会毁掉世界，然而每次技术革新，都极大推动了社会发展。

当然，部分工种也会被信息化取代。

还记得那个工作30年之后，被迫下岗的女收费员吗？

“我只会这个，其他都不会，我怎么谋生？”

这个问题本身就是答案。

不会就学，不懂就问，一专多能，永不淘汰。

机械设备的升级进步，把人类从简单体力劳动中解放出来，AI技术则会代替人类，从事简单的脑力劳动，给人空间创造更有价值的作品。

照相术诞生之初，很多人认为，传统绘画将被取代，历史却给了人们不一样的答案。除了传统写实派之外，更多的绘画派系与日俱增。

某种意义上，照片给了绘画更大的空间。

如今，一部分基础工作的确可以被AI取代，因此有人陷入焦虑期，但究竟AI对人类劳动的贡献大，还是消极影响大，目前尚无定论。

可以肯定的是，时代车辙必然是往前走。

人类和AI的区别，在于独到的创造力和理解力。

如果得过且过，纯吃老本，做一些没有技术含量、容易被取代的工作，人类当然没有AI高效。

反之亦然。

没有喜怒哀乐的AI，无法弹奏出一支令人落泪的曲调，也无法理解人生的悲欢离合、世事的无常变迁。

扬长避短，才是人类工作的重点。

- END -

看更多走心好文

请点击下方卡片关注我们

*作者：月半橘，拍案换粮的说书人。本文首发杂志之旅（ID:zazhizj）转载请通过后台联系小编开白。

愿你的生活和爱情，如你所愿

👇

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章