如果AGI来了，人往哪里去？

2024年1月，OpenAI公司的总裁布罗克曼在X上分享了一段经历^[1]。布罗克曼的妻子5年前一脚踩空导致骨折，从此身上开始出现各种疼痛——先是偏头痛，又是慢性疲劳，接着是关节痛……他们看了很多医生，骨科、神经科、肠胃科、皮肤科都看遍了，也没有治好。最近遇到了一个专门治疗过敏症的医生，把她的所有症状汇总在一起综合考虑，才找到了病根。

我们关心的不是这个病，而是为什么这个诊断整整用了5年才等到。因为医院本质上是个“头痛医头、脚痛医脚”的系统。医生都是各管一科的专才，很难全面考虑患者的问题，他们接受的训练都是追求某个领域的深度，而牺牲了广度。

布罗克曼一家拥有最好的医疗条件尚且如此，那普通人岂不是更难吗？很多时候你到医院都不知道该看哪个科，而这个科的医生往往不知道，也不在乎你的病情不属于这个科的诊疗范畴。理想的治病应该搞一个会诊，把各科医生都请来给你一个人看，大家相互取舍，商量一个综合的治疗方案。可是那意味着，每个医生的工作量都得增加很多倍。布罗克曼的论点是，AGI，也就是通用人工智能可以解决这个问题。我看这就是AGI最好的应用案例。

如果你觉得AI的智能还很有限，我要提醒你的是，人的智能本来就非常有限。GPT-4刚一出来就有人用它正确诊断了医生没诊断出来的病情。如果你去过边远地区的医院，你只会恨那里的医生没用上GPT。

有些业内人士认为，AI必须达到像爱因斯坦创造相对论那样的水平才能叫AGI，我认为不必如此。只要能普遍提供专家水平的智能，就已经可以深刻改变世界。

AGI意味着，你随时能请教高水平专家，你可以就任何问题发起一场会诊。AGI首先解决的是智能的规模化。

如果立即就能得到高质量答案，你会问更多的问题。你会不厌其烦地详细描述一个问题或者一个观点，然后迅速从ChatGPT的输出中找到有价值的点。这比跟真人对话都方便。你不但会更愿意问问题，也会更愿意思考。你会对疑问和灵感非常敏感，随时都能发生。你的思维会变敏锐。

就如同挠痒痒一样。

对学者来说，这意味着你有一个贴身的讨论伙伴。你可以对任何问题发起调研，对任何观点寻求反馈。这个持续的“表达-反馈”过程能大大强化你的思考，有研究表明，一对一的、相互信任的讨论效果是最好的^[2]。如果爱因斯坦在世，他一定很爱和AI聊天。

而对老百姓来说，这意味着你有个忠诚的军师。我在微博经常看到人们会说一些很愚蠢的话。我经常想，如果这帮人发帖之前先问问ChatGPT这话该不该说，说出来对自己的形象有好的影响还是坏的影响，他们的发言质量会高很多。那我们能不能再进一步，在生活中的一言一行都先参考一下AI的意见呢？能不能不用你问，AI自动就会跟你说话呢？

结果是，你办错事儿、说错话的次数大大减少了。每个人都变得更好。科技会把人人都变成君子——而且是中国春秋时代，孔子那个意义上的君子。

要知道，古代的“君子”“小人”是身份标签，而不是道德标签，有贵族血统、有权力、有地位、从事文化活动的叫君子，从事低端体力劳动的叫小人。是孔子主张了君子的道德责任，中国社会才把“君子”“小人”作为道德评价标准。道德和身份很多时候是矛盾的。这位兄弟有修养、讲情怀，志趣高雅，可是没考上研究生，现在是个服务员，每天就盼着能多收点小费，这是君子吗？

AI可以让每个人都踏踏实实做真正的君子，因为AI将接管一切小人的工作。现在大模型的一个热点应用是“agent”，也就是“代理人”，它能代表你相当自主地去调用工具、执行任务和安排事情。当然大权必须掌握在你手里，但是你可以把跟自己相关的各种信息都告诉AI代理，把所有不重要的事情都交给它去做，而它不必事事请示你。从哪家店买什么菜，哪天理发，孩子生日送什么礼物，家里有东西坏了找谁来维修，甚至工资到账后怎么安排，这些最好都不要问我，反正我这个人、我的日程表和账户就在这里，AI代理看着办吧！

甚至有人想象了这么一个场景。比如，你要找对象相亲。有了AI代理，你既不需要填表说明自己是个什么人，也不必上网站一个个找人。你可以让你的AI代理去相亲社区跟其他人的AI代理对话交流。你也不需要设定什么相貌、学历、收入之类的硬指标，你的AI代理会帮助你综合判断。代理之间的交流会非常充分且迅速。你的代理可以同时跟很多个代理聊天，它1个小时就谈了10000个代理，并且帮你选定了一个人——当然，谈的结果是这个人的代理也选定了你。然后你俩再亲自出面。想想，你在这种情况下出场，是一种什么样的仪式感。

但我们再想想，何必非得是相亲呢？任何两个人的交流都可以先交给代理。这意味着我们在社会上接触任何人都会是一见如故。代理的普及会把整个世界变成一个熟人社会。那么人的信誉和声望就会无比重要。

如果奥特曼主张的“全民基本收入”能够实现，你不就可以像大清的八旗子弟那样领一份铁杆庄稼，专门研究精神生活吗？如果你能从各种日常琐事中抽身出来，不就可以思考哲学吗？如果你衣食无忧还爱琢磨哲学，你的一言一行都处在AI驱动的社会评价体系之中，你必然会讲道德讲礼仪，你不就是君子吗？

何其幸运，我们这一代人正处在通往那个世界的拐点上。

我认为，世界很快会有一个决定性的改变。

我们的生活、生产、社会行为和地缘政治将会全面升级。山姆·奥特曼在2024年年初表示，打算筹集7万亿美元去实现他用AGI改变世界的梦想——要知道，2023年美国GDP才27万亿美元。考虑到拐点的大尺度，这个数字似乎不算太离谱。拐点肯定是拐点，没有悬念。

但你也不能说未来已经完全确定了。很多事情我们还来不及看清楚，或者至少没有被所有人看清楚。以我们眼光所及，当前有三大悬念，是人们争论的焦点。

GPT到底是真聪明，是真实世界的投影，还是仅仅是个只会背诵统计结果的学舌鹦鹉？这个问题，我在《拐点》这本书里会反复讨论。

《拐点》这本书里也有讨论，但现在的局面是，争论双方已经到了势同水火的地步。

的确有人在尝试其他路线。也是在2024年，澳大利亚西悉尼大学即将上线一台叫做「深南」的「神经态超级计算机（neuromorphic supercomputer）」^[3]。它跟传统计算机的架构完全不同，它不分CPU和内存，更没有GPU，它的计算和存储是一起进行的，因为它是在模拟人脑突触的计算机制。

我不知道深南这个路线是否能通往AGI，但是这绝对是我们应该尝试的路线。大模型最大的难点就是对算力要求太高，动不动就需要上万张GPU，耗电量更是惊人——可是人脑的能耗才多少？一个真像人脑的AGI难道不应该是省电的吗？而神经态计算机从设计上就是省电的，据说耗电量只有传统计算机的10%，我们拭目以待。

你体会一下这个AGI将到未到，大风刚起，暴风还在后面的感觉。这就是身处拐点的感觉。

而拐点已经到来。套用丘吉尔发明的一个句式，AI带给我们的不但不是人类文明的结束，而且不是结束的开始……如果你把工业革命至今这几百年都算做文明的开始，那么我们正在经历的AI革命，可以说是开始的结束。我们正在迎来文明的繁荣丰盛阶段，它的特点是高级智能——包括AGI的智能和人的智能，处处大显身手。

那将是一个普遍富裕的，法宝满天飞的，崇尚创造和自由的，特别把人当“人”的，人人如龙的世界。

— END —