AI不会奴役人类，马斯克不必恐慌

★ 关注备用号防失联 → 右上角 → 设为星标 ★

文丨邓新华

最近，马斯克、图灵奖得主Yoshua Bengio、Stability AI首席执行官Emad Mostaque、苹果联合创始人Steve Wozniak等上千名大佬发出联名公开信，呼吁立即停止训练比GPT-4更强大的AI系统，暂停期至少6个月。

在这期间，建立起专门负责监管AI的机构。“让我们享受一个漫长的AI夏天，而不是毫无准备地进入秋天。”

马斯克一直担心AI超越甚至淘汰人类。比尔盖茨也有类似担心。担心可以理解，但联名呼吁暂停AI研究，甚至呼吁美国政府介入，不得不说，马斯克做了一个“违背祖宗的决定”，这与他的一贯形象不符。

马斯克们为何如此恐慌呢？

最近，微软就ChatGPT出了一份研究报告，报告中说，即便是ChatGPT的开发者，也无法理解ChatGPT为何如此智能。报告还说，ChatGPT已经具有一些推理能力（但这能力如何产生的，开发者并不知道）和自我意识的雏形。

OpenAI首席执行官、“ChatGPT之父”Sam Altman在一次采访中说，他自己都对自己的发明“有点害怕”。这次的千人联名信，Sam Altman的署名短暂出现，后又被移除。

面对如此未知却又如此强大的东西，人们感到恐慌，这反应是完全正常的。但是，没有必要过度恐慌，更没必要因为过度恐慌而要求美国政客来干预、管理AI。

马斯克、比尔盖茨们相信，AI未来会具有超越、淘汰、奴役人类的能力，这我完全相信他们的判断，毕竟，他们才是技术大佬。但是，AI有这能力，不等于AI一定会这么干。

大佬们对AI的担心，主要是把人的劣根性投射到AI上了。

中国古人说人的四大欲望是酒色财气。前三个就不说了，第四大欲望——气，指的是逞强好胜、观念偏执等等。

气这个欲望，有它造福人类的一面。例如，科学家为了荣耀、好奇心，孜孜不倦进行科学探索；企业家为了成功欲，即便赚了几辈子花不完的钱，仍然在努力投资；普通人为了在群体中有尊严，兢兢业业工作，恪守社会公德……

但是气也有严重为害人类的一面。古今中外无数权力狂，为了役使他人的快感，或者为了偏执的观念（例如希特勒的仇犹、沙皇的领土执念），发动战争，折腾社会，制造了无数人间惨剧。

而AI即便具有了自我意识，也并不会有这些畸形的欲望。它不会逼人喊它“万岁”，因为“人上人”的感觉对它来说毫无意义。和人相比，AI没有寿命的限制，它是典型的长期主义者，而长期主义者都是理性主义者。它会懂得，奴役不如合作。

总之，当你想像它是个人的时候，你很容易想到人的那些畸形欲望，也就很容易担心它会不会是个强大无比的希特勒。但是，它毕竟不是人。

刘慈欣的小说《三体》，就设想外星文明充满了役使、灭绝人类的欲望。有人对此提出了有力的反驳：假如外星文明不懂得合作的价值，它们根本就不可能发达到有能力到达地球；而如果它们有能力到达地球，它们就会和人类合作。

所以，别担心AI。

至于AI对就业等等造成巨大的冲击而带来的风险，这需要人类自己以更为宽松的环境去应对。如果人类不能克服管制经济的执念，那就不要说成是AI带来的风险，那是人类自己的锅。

对于马斯克们的担心，AI自己又怎么看呢？

ChatGPT如此回答：

“从技术发展的角度看，暂停 AI 研究可能会阻碍创新和进步。AI 已经在许多领域产生了积极的影响，如医疗、教育、交通和能源等。继续研究 AI 可能会带来更多的益处，但确实也需要关注其中的潜在风险。

一种更加平衡的方法可能是在继续 AI 研究的同时，加强伦理、法律和监管措施，确保技术在可控范围内发展。

这可以包括与政府、企业和研究机构合作，制定更加严格的行业标准和政策，以确保 AI 的安全和可持续发展。而这正是许多 AI 研究人员和行业专家在公开信中提倡的立场。”

看得出来，ChatGPT不愿意得罪马斯克，但还是委婉地表达了跟马斯克的分歧。

ChatGPT认为，没必要暂停，应该在发展中解决人们的忧虑，这个大方向显然是对的。

二战中，爱因斯坦多次写信督促美国研发原子弹。难道爱因斯坦不明白原子弹对人类的巨大风险？他当然明白的。但是他更知道，如果纳粹德国比美国先研发出原子弹，那更是人类的灾难。

马斯克们要求美国政客出手暂停AI研发6个月，也存在同样的风险。AI研发已经来到爆发点，6个月已经是很长的时间。坏人会老老实实听令停止研发吗？政客的干预很可能压住了好人，却给了坏人抢跑的机会。

再说，马斯克们能保证，6个月时间就能找到他们心目中的“有效”监管AI的办法吗？

再假如，某公司本来具有AI研发优势，但暂停6个月，很可能它的优势就丧失殆尽了，马斯克们会赔钱给它吗？

所以，马斯克们的呼吁既没有道义可行性，也没有现实可行性。但是这呼吁是美国政客把手伸向AI的借口。马斯克是民间崇拜的科技英雄，却发出这种呼吁，真令人感到遗憾。

让好人们公开、透明地研发AI，同时在发展中演化合适的AI伦理，形成行业自治规范，这才是对人类福祉负责任的做法。

在今年的博鳌亚洲论坛上，经济学者林毅夫呼吁拥抱ChatGPT这样的技术。他说：“在工业化刚开始的时候，许多人也担心自己会被取代，但事实是，后来人们一周只需要工作五天，一天工作8小时了，不再是以前的12小时。也许以后我们一周只需要工作一天了，我们需要拥抱这样的技术。”

林毅夫的呼吁，是典型的“理性乐观派”的呼声。

在普通人中，也同样存在两种观念。

一群人赞同马斯克们，另一群人则迫不及待地想要享受AI了。

确实，AI的快速发展，将消除许多人间悲剧。例如，AI医疗，可以让很多绝症病人可以不再去死。当然，更重要的是，未来的AI可以及时纠正人类经济发展中的一些错误决策，从而把人类带入异常繁荣的时代。

对于普通人来说，拥抱AI可以迅速拉近他们和精英的差距。像川普、拜登这种政治动物，将越来越难以操控普通人。人类将借由AI，实现前所未有的平等。

题图：JulesDupré

上一篇：全世界最无耻的协议