又发生了一件大事儿

财经

2023-03-31 05:03

观点 / 刘润主笔 / 万青

责编 / 李桑 AI插画/ 西湖心辰小程序

这是刘润公众号的第1854篇原创文章

1、2023年，每天都是大新闻。

2、GPT-4、Microsoft 365 Copilot、Midjourney V5、Google PaLM API，一颗颗AI领域的重磅炸弹，扎堆引爆。

3、就在昨天，AI界又发生了一件大事儿。

4、什么大事儿？

5、著名企业家埃隆·马斯克等一千多名业界、学界人士联署发表公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，暂停至少6个月。如果这样的暂停不能迅速实施，政府就应该介入并实施暂停。

6、为什么众多大咖要一起呼吁，大家到底在担忧什么？

AI发展的速度，实在太快了。

7、如果相关的监管和法律没有跟上，甚至连发明者也缺乏有效的控制手段。

在这种条件下，无限制地使用AI，如果出现问题，很可能就会对社会和人类构成深远的风险。

8、例如，如果人工智能系统设计不当或被恶意使用，可能会导致数据泄露、隐私侵犯、社会不公等问题。

另外，随着人工智能的进一步发展，未来可能会出现“超级人工智能”的存在。

这种智能可能会远超人类的智力水平，对人类产生威胁。

9、其实早在之前，马斯克就曾在一次采访中公开表示：

人工智能，远比核武器更加危险。

为什么这么说？

10、马斯克举了一个例子：

人类在修马路时，眼前出现了一个蚁穴，挡住了前进的路。

请问，人类会铲走这个蚁穴吗？

大部分的回答估计都是：

会。

再问：

铲走蚁穴，是因为人类讨厌蚂蚁吗？

是因为人类对蚂蚁有极大的恶意，不得不灭杀吗？

并不是。

人类只是在修路。

现在，请把对象换成人工智能。

如果未来某一天，人工智能有了自己的意识，可以自主设立目标了。

而人类，恰好挡住了它的去路。

你猜？人工智能会怎么做？

人类怎么对待蚂蚁，人工智能就怎么对待人类。

大概率会理所当然地摧毁人类，甚至不需要考虑，也不会感到难过。

请问，人工智能这么做，是故意的吗？是对人类有巨大敌意吗？

不一定。

就像人类吃鸡鸭鱼牛羊猪一样，人类未必对它们有敌意。

人类只是饿了。馋了。

仅此而已。

11、用刘慈欣《三体》中的话说就是：

“我消灭你,与你无关。”

12、天呐！这也太可怕了。

那...人工智能未来真的会进化出“生命”吗？

“生命”到底是什么？

怎样的⼀团物质，可以被认为是具有“生命”的呢？

13、1944年，来⾃奥地利的著名物理学家薛定谔，也曾发出过和你一样的疑问。

那一年，他苦心钻研，试图用热力学、量子力学和化学理论来解释生命的本质。

最终，他写了一本书《生命是什么》，提出了自己的观点：

生命以负熵为生。

熵增是万事万物发展的必然，整个宇宙越来越无序、越来越混乱。

最后整个宇宙归于“热寂”。

14、什么是“热寂”？

宇宙内部的能量耗尽，所有物质和辐射达到热平衡，温度趋于均匀。

你可以理解整个宇宙彻底寂静了，星星也熄灭了，所有秩序走向混乱。

宇宙在向无序发展，而生命会通过持之不懈的努力，在局部范围内创造并维持秩序，抵抗熵增。

15、所以，“生命”，就是一种系统，它有能力从无序状态变成有序状态。

能做到主动维护自己的秩序，防止走向混乱的，都可以称之为“生命”。

生命的意义，就在于具有抵抗熵增的能力。

16、什么是熵增？

熵增，就是自发地由有序走向无序，

由整齐走向混乱，由效率高走向效率低。

17、简单来说，就是混乱度增加。

根据热力学的原理，只要是一个封闭的系统，只要不从外界输入能量和信息，它就会熵增，也就是会变得越来越无序。

就像一栋房子，只要长期没人住，就会杂草丛生，蛛网密布。

就像你在家收拾屋子，收拾大半天，终于整齐了。

但第二天，发现又乱了。

混乱的概率，总是大于整齐的概率。

只要你不收拾，就一定会乱。

那怎么样才能让房子保持整洁呢？

必须有持续不断的能量输入。

18、这也就是著名的生命“以负熵为生”。

熵就是“混乱度”，负熵就是“序”。

就像生物体会通过新陈代谢不断地获取负熵，维持有序性。

对于组织来说，如果你放任不管，一定会越来越混乱。

在没有新能量介入时，公司一定是熵增的，会越来越平庸。

19、对于个体也一样。

所以有句名言是这么说的：

“有些人25岁就死了，只是到75岁才埋葬。”

20、这里所谓的“死”，是指激情的褪去、梦想的幻灭、精神的死去。

不再向外界获取有序性。

不再努力让自己的生活变得更加清晰有条理、更加积极。

得过且过，懒得思考。

每天都很努力，努力加班，努力挤地铁。

却不愿意花时间，用一年时间改变自己。

用战术上的勤奋，掩盖战略上的懒惰。

21、所以，我建议你记住那句话：

生命，以负熵为生。

一定要不断从外界获取有序性。

22、现在，你也许已经理解了什么是“生命”。

现在，你再来看看眼前的人工智能。

如果它具有推理、规划、解决问题、抽象思维、理解复杂思想、快速学习和经验学习能力，能够主动维护自己的秩序，自主更新代码，它是不是一种生命呢？

所以人们的担忧，并不是没有来由的。

人工智能的发展，使我们重新审视生命的本质和意义。

而开头公开信呼吁暂停人工智能开发的呼声，就是提醒我们不要盲目追求技术进步，而忽视潜在的社会风险。

23、但是，这有可能做到吗？很难。

24、为什么？

25、因为从博弈论角度讲，这不符合纳什均衡。

什么是“纳什均衡”？

纳什均衡就是一种博弈的稳定结果，谁单方改变策略，谁就会损失。

26、简单来说，你可以理解为公开信中所谓的暂停开发，其实就是秘密开发。

没有谁会真的暂停。

为什么？

万一别人在研究，我没研究，那损失太大了。

27、原子弹发明后，是否投放，政府会听罗伯特·奥本海默的建议吗？

AI浪潮席卷而来，研究可不是说停就能停的。

假如你是美国，你会暂定几个月缩短自己的先发优势吗？

假如你不是美国，你会说咱们暂停，先别研发了吗？

每个国家之间，就像有一条看不见的猜疑链。

你怀疑我，我也怀疑你。

大家都认同人类命运共同体，共同克制，共同获利明显是最优策略。

但最后往往都会选择在背后疯狂追赶研发进度。

什么公开信，谁爱信谁信，小孩子才信。

这个场景是不是很常见？

我们中国人把这叫做：“各怀鬼胎”。

28、我再举一个例子：

前几年，我和一些企业家学员去了一趟硅谷，去拜访了Founders Space创始人Steve Hoffman。

正好那个时候，有条新闻刷爆了朋友圈。

中国一位生物学家，利用基因编辑技术给婴儿修改基因。

这一修改，甚至可以影响生殖细胞，传递给子孙后代。

这意味着什么呢？

本来贫寒的家庭，孩子通过努力，也许会改变自己的人生。

本来富裕的家庭，虽然积攒了大量财富，也可能富不过三代。

但是，基因编辑打破了这个现状。

如果富人可以通过基因编辑让自己的孩子获得更高的智商，更好的外貌。

那么，他们就可以从智力到外貌各方面获得竞争优势。

而且，这些优质基因可以代代遗传。

29、穷人的孩子，将永无出头的日子。

当时，有一些企业家就问Steve Hoffman怎么看这事。

Steve Hoffman反问：

如果有一天，基因编辑合法了，比如给你打一针，你的智商就能提高。

比如平均智商100，你能提到150，请问你打不打？

现场一共24个企业家都说，不打。

他当时很惊讶，非常惊讶。

他举了一个例子，如果今天中美等大国签署了协议。

说咱们都不准打这个聪明针，社会还没准备好人人智商150，我们先想清楚再打。

但是，这个时候，其他国家会不会打？

比如伊朗？

几乎一定会打。

一个全民平均智商150的国家，大概率会有更大的竞争优势。

对伊朗来说，破坏现状之后对自己有好处。

伊朗一旦打了，美国也得跟着打，中国也会打。

这个事情不是纳什均衡，而是处于极不稳定的状态。

当一个公开的技术，每个人都可以获得，而且还没有监督。

这就意味着每个人手上都有了核按钮，给世界带来巨大风险。

今天的AI，其实现状就是如此。

30、一切就像《人类简史》中赫拉利所说的那样：

未来，人工智能革命将席卷世界。

数万年来，人类发明了很多工具，使人类的力量更加强大。

刀、枪、原子弹等等。

31、人工智能却不同。

有史以来第一次，力量可能会脱离人类之手。

以前的所有工具都使人类更强大，因为工具本身无法决定自己的用途。决定的权力从来都掌握在人的手中。

一把斧头决定不了砍哪棵树，

一颗原子弹无法决定是否要发起战争。

但，人工智能可以。

32、哎，唯有祝福。

愿未来AI是在我们预期范围之内进化。

去造福人类，而不是毁灭人类。