人类最终将毁于AI

科幻电影不乏人类大战机器人的题材，有不少结局都是人类大败。随着近几年人工智能的发展，有理由担心这种结局真的会发生的可能性。

科学技术的发明与发展从来没有威胁过人类的生存，从电灯电话、火车汽车到电视电脑、手机微波炉，都是给人类生活带来方便，提高了人类的生活水平（不考虑环境污染和气候变化的影响）。70年代袖珍电子计算器的出现曾引起一些人的担忧，小学生不用学基本的加减乘除，手指按几个按键，答案就出来了。现在去商店买东西，常常看到售货员找钱的时候连最简单的减法都要用计算器。对我们来说，$10.00-$8.23=? 之类的运算，心算一下就出来了，靠的就是数学的基本功。但缺乏这种基本功似乎对社会没有什么不良影响。

后来出现了GPS，地图逐渐从日常生活中被淘汰了。尽管GPS有的时候很愚蠢，给出错误信息，现在90%以上的人开车多少都用GPS（60%的人一个星期至少用一次）。跟计算器一样，GPS减轻了大脑的负担，具体说，减少了大脑中海马体（hippocampus）的作用。海马体是感情、方向定位和短期记忆的中心，认路、确认方向，是人类几千年练就出来的生存能力。科学家发现，长期使用GPS这样的技术会导致海马体功能衰退，失去方向感，短期记忆减弱，结果会使痴呆症加重或提前。痴呆症病人生活质量下降，增加了家庭的负担，但对社会不构成威胁。

1997年IBM的“Deep Blue”计算机击败国际象棋冠军Garry Kasparov，给人们敲响了警钟，机器会不会比人聪明？2011年IBM的“Watson”又击败了Jeopardy的“无敌”冠军Ken Jennings。2017年谷歌的“AlphaGo”连续赢了世界60人/次围棋高手。目前机器音像识别技术已经达到了人类智慧的水平，无人驾驶汽车即将成为现实，家里一些体力劳动已经不必自己去做了，等等。这一切AI技术的发展，会不会是对人类社会的一种挑战？

最近ChatGPT的出现更迫使人们去认真思考这个问题了。目前使用ChatGPT的人数还不算多，一旦世界90%的人都开始使用，ChatGPT功能不断加强，后果是不堪设想的。发明ChatGPT的OpenAI公司CEO Sam Altman 在接受记者采访时承认，自己都有恐惧感。ChatGPT的能力远远超出了他的想象，已经能作出惊人的分析和判断。他认为如果应用不当是很危险的，眼下他最担心的是谎言和不实之词的泛滥，这会严重扰乱社会（谎言对社会的破坏性在过去几年中是有目共睹的）。

Sam Altman的另一个担心是，这种AI技术一旦被中国和俄国掌握，世界会进入一个新的AI冷战，威胁世界的和平安定。他一直在与美国政府上层沟通，警告他们AI冷战的可能性和严重后果。谁掌控最先进的AI技术，谁就能在这场AI冷战中占上风。

不过Sam Altman仍然很乐观，认为人类智慧总是高过AI，ChatGPT只是一个工具，会像以往的任何科学技术一样，不断改善人类生活。他实在是过于乐观了，他的这种乐观也许可以维持几十年。按照目前AI发展的速度，一两百年后AI将无处不是。他没有想到，人类会依赖太多AI，逐渐会四体不勤，大脑迟钝，一两千年后的人类就会退化成懒惰愚昧的动物。机器人却越来越聪明，有感情，有思维，会完全脱离人类的控制，能从错误中吸取经验，能发明创造。人类堕落，机器人优化，人能做什么机器人也能做什么，甚至比人做得更好。已经有科幻电影预示未来：走在路上，看到对面过来一个人，不知是真人还是机器人。这个现实几百年一千年以后完全有可能，到那个时候会是很可怕的。

不用等一两千年人类退化，在不远的将来，AI会有能力完全自编自导自演，制作出一部电影，结局就是机器人大胜人类。