未经准备的AI技术爆炸恐让人类文明失去控制

文/邓峰

最近，美国公司OpenAI开发的人工智能聊天机器人ChatGPT爆火，引发了世界范围内许多人对于人工智能（AI）的讨论。许多美国学生在写作业时用过ChatGPT。许多长期关注人工智能和科学技术的人认为ChatGPT会带来颠覆性影响。

综合多方信息来看，目前比较公认的说法是ChatGPT具有比较强大的信息整合能力和语言处理能力，知识量丰富，对于许多以信息整合或语言学习、语言翻译为主要内容的工作，将带来相当大的挑战。除此之外，因为语言环境和基础训练等因素，ChatGPT的中文表现相对不如英文表现。但ChatGPT亦有短板，主要表现为原创性、思想性、创造性存在明显缺陷，这意味着短期内人工智能无法替代人类。

应该看到的是，技术发展一旦突破某些瓶颈，升级迭代的速度将超乎想象。尽管目前人工智能技术在短期内造成的冲击是有限的，比如ChatGPT主要影响那些相对初级的职业，但人工智能自我学习和进步速度快，长远来看，必将带来颠覆性影响。

关于这点，未来生命研究所（Future of Life Institute）创始人之一、麻省理工学院物理系终身教授迈克斯·泰格马克（Max Erik Tegmark）在他的著作《生命3.0：人工智能时代人类的进化与重生》进行了分析。他认为：“人工智能在改进制造业上具有巨大的潜力，它控制的机器人在效率和精度上都有很大的提升。”这点从已经发生的工业机器人替代人工的趋势便可得到验证。他还认为，人工智能将在交通运输业、医疗服务业、通信业、法律行业发挥重要作用，并能提升能源优化的效率，帮助人类探索太阳系之外的恒星系，推动自动化武器系统发展。

这都是可以预期的技术突破，一旦发生并规模化，将带来前所未有的影响，即目前大部分工作将会被人工智能替代。这样下去，人类命运将面临两种可能：普遍的自由和解放，抑或普遍的失业和弃民？

迈克斯·泰格马克在书中探讨人类会否全体失业时写道：“如果人工智能始终保持进步的势头，将越来越多的工作自动化……许多人对就业形势十分乐观。他们认为，在一些职业被自动化的同时，另一些更好的新工作会被创造出来。毕竟，过去也发生过类似的事情……还有一些人对就业形势十分悲观。他们认为，这一次和以前不一样，空前庞大的人群不仅会失去工作，甚至会失去再就业的机会……一些职业乐观主义者认为，在体力职业和脑力职业之后，会出现一波新的职业，这就是创造力职业。但职业悲观主义者却反驳说，创造力只是另一种脑力劳动而已，因此最终也会被人工智能所掌握。”

以上两种可能，孰对孰错，目前难以判断。但可以确定的是，人工智能毕竟不是人，除非人工智能有了自主意识，否则终究会有一些与人打交道、涉及人类自由意志的工作将不可能被替代，比如哲学、艺术、社会学等人文社会领域。更重要的是，人工智能尚处于发展之中，人类依然有条件和时间去掌控未来的技术演变方向。

这意味着如果人类社会未雨绸缪，及早规避人工智能技术大突破所可能带来的普遍失业和弃民问题，把人类从繁重的工作中解放出来，那么，一个所有人有钱有闲的理想社会将不再遥远。正如迈克斯·泰格马克在书中所说的：“如果我们在用自动化促进经济繁荣发展的同时，能搞清楚如何做才不会剥夺人们的收入和生活目标，那么，我们就能创造出一个人人都可享有闲暇和空前富足的美好未来。”

他在书中提及人工智能技术大发展后让人们的收入与工作脱节，最简单的方法是每个月向每个人发放一笔基本收入，这笔收入是无条件的，对收款人没有任何要求。这个建议是有道理，因为如果在未来某一天，人工智能可以用最低成本生产出满足所有人日常需要的商品和服务，那么今天那些为生存苦苦奔波、陷入无休止内卷之中的普通人便可以获得解放，他们通过人类社会每月固定发放的基本收入就能衣食无忧，进而可以把自己的主要时间用在创造性、人文性的工作或感兴趣的事情上。但这一切有一个大前提，那就是人工智能不会沦为少数人谋取私利或统治全人类的工具，一个对全人类负责、受全人类监督的世界民主政府得以建立。

进一步追问，人工智能技术大发展会否出现智能爆炸，造成人工智能统治世界？在许多人看来，这似乎是不太可能会发生的一幕。毕竟，纵使未来人工智能技术高度发达，但只要没有自主意识，只要是在人类设定的程序、目标和框架下运行，那应该不至于脱离人类的掌控。但这只是一种假设，很难断言一定便是如此。

迈克斯·泰格马克便认为：“我们现在之所以能统治地球，是因为我们比其他生命更聪明。那么，如果出现一个比我们更聪明的超级智能，那它同样也可能会推翻我们的统治……生命的历史说明，它总会自我组织成更复杂的层级结构，这种层级结构是由合作、竞争和控制共同塑造的。超级智能或许会促成更大宇宙尺度上的合作，但是，它最终会导致极权主义和由上而下的控制，还是会赋予个体更多权力，目前尚不清楚……我们需要努力思考，我们希望看到什么样的结果，以及如何才能达成这个目标，因为如果我们不去思考自己想要什么，很可能无法得偿所愿。”

一言以蔽之，短期来看，ChatGPT及其代表的人工智能技术将会在劳动力市场发挥越来越大的作用，带来更多便捷的技术和服务，但会有一个技术成熟和推广的过程，不会突然带来颠覆性影响，更不可能替代人类。但长期来看，随着人工智能技术大飞跃在未来发生，会带来人的普遍自由和解放，还是普遍失业和弃民，抑或出现最坏的一幕——人工智能统治世界，在很大程度上取决于人类能否探索出一套让人工智能有益发展、造福于民的办法。

世间许多事情“预则立，不预则废”，充满不确定性的人工智能技术尤其如此。如果人类不想浑浑噩噩、漫无目的地活着，如果不希望驶入一个不幸的未来，那么，未雨绸缪、以道驭术便势在必行。

（注：如果你想第一时间收到更新，请先点击下方公号名片，然后点击右上角的“…”，再选择“设为星标”。感谢关注！）

中国工程院士徐匡迪：我们的颠覆性技术是被专家“投”没的！

不要何不食肉糜，8000万超龄农民工退无可退

风向已变：马云回国，是一个信号

基辛格：中越战争的最终输家

ChatGPT爆火 | 清华教授钱颖一 ：人工智能将使中国教育优势荡然无存

一篇颠覆认知的好文：中国不是曾经的中国，民企更非昔日的民企