河岸：ChatGPT正在应验这位数学天才三十年前的预言，人类沦为智能机器里的一个齿轮 | 二湘空间

思想的碰撞   民声的回鸣

有品格  有良知  有深度  有温度

泰德·卡辛斯基被捕现场  图源网络

一个数学天才的预言，人类沦为困在AI和算法里的一个齿轮

文/河岸

最近ChatGPT大火，我上篇文章发出后，有读者反馈说开始担忧人类的命运。今天这篇正好想探讨这个话题。

关于科学技术对于人类社会的影响，必须要提到一个人，就是泰德·卡辛斯基（Ted Kaczynski），这个名字大家可能比较陌生，但如果说到Unabomber，相信很多留美学生都会有印象。我也是很多年前听LD说起过这个人。911之前，美国人几乎是无所畏惧的，但说到邮包炸弹，还是心有余悸。

卡辛斯基，Unabomber是美国历史上著名的连环邮包炸弹手。1942年卡辛斯基出生在芝加哥一个波兰裔家庭，他是一个数学天才，智商高达167，他本科毕业于哈佛大学，并获密西根大学博士，后任职于伯克利数学系。1969年，卡辛斯基从伯克利辞职，1978年，卡辛斯基开始手工制造邮包炸弹，并寄送给大学和航空公司等目标，导致3人死亡，23人受伤。因为他袭击的目标大多是大学理工科教授和航空公司，因此被冠之以Unabomber的称呼，中文翻译成“航校炸弹客”。当年FBI 动用了大量的人力物力，派出500名特工，查访上万人次，接了2万多通检举电话，还抓了200多名嫌疑犯，花费500万美元还是未能抓到他。可见卡辛斯基思维链条很长，事先想到各种可能状况，因而未留下任何线索。

我的一位朋友是数学教授，他还认识教过卡辛斯基的老师，他说这位数学博士寄炸弹寄了将近20年没被抓到，炸得来劲，自信心爆棚，1995年给纽约时报寄了一篇3万5千字的檄文《Industrial Society and Its Future》，他威胁华盛顿邮报或者纽约时报登载，否则再寄炸弹。华盛顿邮报居然全文刊登。结果炸弹客的弟弟读了文章，发现文章的语气像极他在蒙大拿隐居的哥哥，便告发给FBI 并协助警方逮捕了他。1996年，卡辛斯基在蒙大拿荒山野岭的一间小木屋里被捕，被控制造多起邮包炸弹事件，并被判处终身监禁。

卡辛斯基在那篇檄文里痛述现代工业社会对人类和自然的破坏，对人类自由和尊严的威胁，呼吁人们反对科技和工业发展，重新回到自然状态下生活。当年许多人读到这篇文章时都觉得很有说服力，《大西洋》、《纽约客》等主流刊物还专门发评论文回应这篇文章。据说当年他的哈佛同学聚会时，他不能参加，但还是寄来了地址，就是他的囚室号码，把一帮精英们气得哇哇叫。他在狱中这么多年一直也没闲着，已经出版了三本书籍。2016年出版的政治哲学大作《Anti-Tech Revolution: Why and How》，Amazon上评分高达4.7/5。2017年，他的故事被改编成电视剧《Manhunt》，好评如潮。

卡辛斯基的思想和行为引起了广泛的关注，成为反技术主义和极端主义的代表。我记得我上研究生的时候有个老师，是个白人老头，他非常不喜欢科技，说他 hate technology，他是个不苟言笑的人，经常带着一把伞。或许他也是受到了卡辛斯基的影响。

今天，当ChatGPT如此强势地出现在我们面前，重读他这篇文章，真是颇为震撼，ChatGPT俨然正在应验这位数学天才近三十年前的预言。他的有些观点虽然有失偏颇，但对社会发展的思考非常深刻和超前，对于未来的预见和智能机器对人类的影响有很多真知灼见，观点独到，富有哲思和前瞻性，且逻辑清晰严密，行文简练，正是我喜欢的风格。

文章开篇就是“工业革命及其后果为人类带来了极大的灾难。“ 他说”新技术改变社会，最后人们会发现，自己将被强制去使用它。人们不再拥有不使用新技术的自由了。“ 的确正如他所预言的那样，今天，我们如此依赖汽车，依赖智能手机，依赖微信，依赖数据，以至于哪怕是离开它们一小会儿，我们就坐立不安。2020年刷屏的一篇文章是”外卖骑手，困在系统里”，其实，我们每一个人都已然成为困在人工智能和算法里的一个齿轮。社会成为一个不停转动的大机器，我们每一个人都是其中的一个齿轮，且这个齿轮的转动越来越不以我们个人的意志为转移。

互联网和社交媒体把人们的视野打开，把更多的人联系在一起，但同时带给我们海量的信息和垃圾。30年前，电子邮箱还没有普及的时候，一个个体的死亡只有极少人知道，我们和父母还用手写的书信联系。现在，各种真消息假消息实时大面积的传播，许多无用的东西推到我们面前，让我们不得不迅速地浏览，人们的注意力越来越短。几年前，人们还在看书，但现在别说书了，长一点的文章都看不下去，都在刷小视频了。人们在各种社交媒体之间转换，思维也变得跳跃，有朋友称之为游牧式思维。这种思维短、平、快，和传统线性深入的思维格格不入，或者这也能解释为什么年轻一代更喜欢《瞬息全宇宙》。社交软件用算法提炼出你的喜好，然后推送类似的文章和视频，让你深陷其中，越来越身不由己，人们陷入了一个用技术构建的网络世界，“在这个世界中，普通人的命运不再掌握在他自己手中，而是掌握在政客、公司主管、技术人员和官僚手中”。

技术让我们的世界越来越相似，随处可见的麦当劳，星巴克和连锁店。大家都在用类似的手机和软件。卡辛斯基说"最终技术完全控制地球上的一切，人类自由基本上将不复存在，因为个人无法对抗用超级技术武装起来的大型组织。只有极少数人握有真正的权力，但甚至就连他们的自由也是十分有限的，因为他们的行为也是受到管制的。"

近三十多前，卡辛斯基对于智能机器的推测是这样的，假设 "计算机科学家成功地开发出了智能机器，这些机器无论做什么事都比人类强。在这种情况下，大概所有工作都会由巨大的、高度组织化的机器系统去做，而不再需要任何人类的努力。"

而现在，ChatGPT等AI技术是不是朝着这个方向飞速行驶？结果会如何呢？

卡辛斯基说："如果我们允许机器自己做出所有的决策，人类的命运那时就全凭机器发落了。人们也许会反驳，人类决不会愚蠢到把全部权力都交给机器。但我们既不是说人类会有意将权力交给机器，也不是说机器会存心夺权。我们实际上说的是，人类可能会轻易地让自己沦落到一个完全依赖机器的位置，沦落到不能做出任何实际选择，只能接受机器的所有决策的地步。随着社会及其面临的问题变得越来越复杂，而机器变得越来越聪明，人们会让机器替他们做更多的决策。仅仅是因为机器做出的决策会比人的决策带来更好的结果。最后，维持体系运行所必需的决策已变得如此之复杂。以至于人类已无能力明智地进行决策。在这一阶段，机器实质上已处于控制地位。人们已不能把机器关上，因为我们已如此地依赖于机器，关上它们就等于是自杀。"

看看ChatGPT的迅速迭代，机器是不是变得越来越聪明？而强大的运算力和学习能力只会让机器越来越聪明。还记得AlphaGo打败围棋冠军有多快吗？智能绘图软件MidJourney的画进步有多快吗？而这句话尤其令人惊心：”我们已如此地依赖于机器，关上它们就等于是自杀。”更糟糕的是，机器的控制权会落到一小部分人手里。

就像卡辛斯基说的：”一般人也许可以控制自己的私人机器，如他的汽车或计算机，但对于大型机器系统的控制权将落入一小群精英之手----就像今天一样。由于技术的改进，精英对于大众的控制能力将会极大提高，因为人不再必需工作，大众就成为了多余的人，成为了体系的无用负担。如果精英集团失去了怜悯心，他们完全可以决定灭绝人类大众。如果他们有些人情味，他们也可以使用宣传或其他心理学或生物学技术降低出生率，直至人类大众自行消亡，让这个世界由精英们独占。"

听起来是不是有些恐怖？高度依赖机器的结果就是个体慢慢丧失了自主意识和自由。而机器越来越强大，强大到极少数人可以用这个工具控制其它绝大多数人。是不是像极了我上一篇文章里提到的刘慈欣的《赡养人类》？整个地球都是由一个人控制，连空气都是属于他的，这些极权人物利用机器来统治人类，奴役人类。

当然，也有可能这些精英集团不是希特勒那样的独裁者，而是软心肠的自由派人士，那情况又将如何？卡辛斯基说：“他们将注意保证每个人的生理需求都得到满足，每一个孩子都在心理十分健康的条件下被抚养成人，每一个人都有一项有益于健康的癖好来打发日子，每一个可能会变得不满的人都会接受治疗以治愈其'疾病'。当然，生活是如此没有目的，以致于人们都不得不经过生物学的或心理学的改造，以去除他们的权力欲，或使他们的权力欲'升华'为无害的癖好。这些经过改造的人们也许能在这样一个社会中生活得平和愉快，但他们决不会自由。他们将被贬低到家畜的地位。”

看看今天的马斯克，扎克伯格，盖茨，还有谷歌的创始人们，是不是正是这种软心肠的自由派人士？而我们，会不会成为那些被驯服的家畜?回想农业社会初始，野猪野狗不也是被人类一点点驯服，被圈养，最后被任意屠宰吗？

"对于那些找到工作的人，就业的要求会越来越高。他们将需要越来越多的训练，越来越强的能力，他们将不得不越来越可靠、越来越规矩、越来越驯服，因为他们将越来越像巨型有机体的细胞。”

看看现在，面对ChatGPT，我们讨论的不就是怎么提高自己的能力，把自己武装起来，成为最难被淘汰的人吗？

而那些没有掌握技能的人，被机器豢养或者是被淘汰的人又会如何？”他们会去寻找危险的其他渲泄途径（毒品、犯罪、邪教、仇恨群体等），除非他们经过生物学或心理学的设计改造后适应了这种生活方式。"这就是卡辛斯基预测的人类的命运。

技术正在成为一把双刃剑，带来方便和高效的同时，也把我们带入困境。而不断更新的技术似乎并不能解决它随之带来的各种问题。"一项新技术被引入社会时，将会引发一长串其他变化，这些变化之中的大部分是不可预见的。历史经验告诉我们，技术进步给社会带来新问题的速度，远比它解决旧问题的速度要快。技术已将人类带入了一条无法轻易逃脱的死胡同。"

卡辛斯基预测的未来似乎正一点点变成现实。诚如他所言，科技虽然极大地增加了人类寿命，但也破坏了社会稳定性，剥夺了人类的尊严和自由，令许多人生活空虚。

根据美国National Survey on Drug Use and Health的数据，美国得过比较严重抑郁的人口比例从2005年的6.6%增加到2019年的 to 7.9%。今天周围抑郁症患者之多，年龄之小，真的令人震惊。前几天还看到群里一位朋友转的帖子，北京一个13岁的孩子从17层楼跳楼自杀，硅谷的著名高中Gunn high几乎每年都有高中生卧轨自杀，三年疫情对于人类心理健康的破坏也是有目共睹的。

技术迅速的更新迭代，世界越来越同质化，人们的生活方便，舒适，但人类的心理健康越来越糟糕，也变得越来越不自由。”因为在技术与自由之间不可能实现持久的妥协，因为技术是远远更为强大的社会力量，它将通过不断的强迫妥协来侵蚀自由。“就这样，人类的命运就是一点点沦为困在人工智能和算法里的一个齿轮，沦为被机器或者说掌握机器的极少数人豢养的家畜。

当然，这毕竟只是卡辛斯基的一家之言。虽然人工智能发展迅速，但还是有很多工作，智能机器还没有那么快会替代，或者是永远无法替代的。未来的社会生态，经济生态和政治生态会受到多大的影响，也没有人知道。毕竟，我们要等到那一天才能证实他说的是否准确。未来真的会成为卡辛斯基预测的那样吗？人类真的会自己把自己玩死吗？面对如此强大的科技，人类该采取什么行动呢，我下一篇接着说。

（未完待续）

这是我最近写的一些文章：

河岸六维专辑    河岸十一维专辑 

河岸七维专辑    河岸个人公号专辑