当被宣判“人类已死”之前，如何在AI时代安身？

2024-05-09 12:05

哲学家尼采曾提出“上帝已死”的著名论断。在西方世界，上帝创造了人类，而人类有一天竟然要抛弃上帝，按照自己的意愿去生存发展。

2022年11月30日，ChatGPT横空出世，AI的进化速度出现了爆发式增长。现在，人类已然成为AI的“上帝”，我们正在创造它。但问题在于，我们人类究竟想要创造一个怎样的智能体，给它赋予怎样的意义？

终有一天，人类的命运是否会和上帝一样？人类是否会被AI抛弃，被AI宣告“人类已死”？在技术带来的巨大威胁面前，或许我们应该思考，我们人类自身生而为人的意义是什么，人类该如何与AI共处。

在混沌Light·创造者号上，我们邀请了清华大学基础科学讲席教授、智源人工智能研究院首席科学家刘嘉，北京师范大学系统科学学院教授、集智俱乐部创始人张江，北京大学心理与认知科学学院副教授毛利华，以及特赞创始人及CEO、同济大学设计人工智能实验室主任、博士生导师范凌，以探索流的方式举办了一场圆桌论坛，从跨学科、跨领域的视角探讨AI背景下科技和人文的交汇，帮助大家重新认识科技和人文的关系，找寻AI时代下人类的安身立命之地。

主持人：韩笑混沌课程主任

嘉宾：

刘嘉清华大学基础科学讲席教授、智源人工智能研究院首席科学家

张江北京师范大学系统科学学院教授、集智俱乐部创始人

毛利华北京大学心理与认知科学学院副教授

范凌特赞科技Tezign 创始人及CEO、同济大学教授、博士生导师，设计人工智能实验室主任

韩笑：首先用一个开放性的问题来开启我们的讨论。假设每位老师用三个关键词来描述2023年AI爆发式进化至今的体会，会是哪三个词呢？

刘嘉：我想到的第一个关键词是“震惊”。第二个词是“兴奋”，因为这样的科技进步令人欢欣鼓舞。第三个关键词则是“忐忑不安”。面对人类历史上的第二次认知革命，我们是否已做好准备迎接这一切，这确实令人感到不安。

张江：对我而言，第一个词是“涌现”，大模型展现出的能力令人瞩目。第二个词是“规模法则”，大模型作为一个复杂系统，其运作遵循着一定的规模法则。第三个词则是“卷”，这是规模法则带来的一个必然结果，也是我们当前需要面对的挑战。

毛利华：我的体会可能更为感性一些。第一个词是“震撼”，AI的快速发展让我感到不可思议。第二个词是“恐惧”，因为我不知道接下来会发生什么。但第三个词是“接纳”，我相信我们能够找到与AI和谐共处的方式，取得一种平衡。

范凌：我会用三个动词来总结我的体会。第一个是“想象”，AI为我们打开了新的想象空间。第二个是“构建”，我们需要用新的技术去构建未来。第三个是“创造”，无论是否懂技术，我们都可以利用AI去创造新的价值。

韩笑：在今天的讨论中，我们聚焦于科技和人文的交汇点，那么你们如何定义人文呢？

毛利华：对我而言，人文其实是一种信仰。我们是否相信人的可能性，是否相信教育的力量，是否对未来持有信心，这些都是人文信仰的体现。正因为我们对人的未来有信仰，我们才会不断去创新、去创造。所以，在我看来，人文其实就是对人的信仰，这种信仰让我们相信能够驾驭技术，利用技术，甚至用技术来创造更好的人。

范凌：我一直以来都认为，科技和人文并不是对等的概念。虽然人们常常将它们相提并论，但实际上它们并不应该被简单地等同起来。从某种意义上来说，人文是与人性有关的所有知识的体系，而科技只是人文的一种表现形式，而且是一种相对极端的、抽取出来的表现形式。科技和人文并不是对立的，而是相辅相成的。我们有各种各样的手段去感受、理解这个世界，科技只是其中的一种。因此，我认为科技和人文应该是一个相辅相成的关系，而不是对立的。

张江：我比较文艺，但是我一点也不人文。大家可能也都知道，我比较喜欢摇滚乐。从摇滚乐的发展历史来看，科技和人文的结合是非常紧密的。例如，吉他噪音和效果器的发明，就是科技在人文领域的应用，它们使得摇滚乐进入了一个全新的时代。随着AI技术的发展，我相信科技和人文的结合将带来更多的可能性，尤其是在艺术创作方面。

刘嘉：我们需要明确区分两个概念：传统意义上的AI与2022年11月30日出现的通用人工智能有着本质的区别。通用人工智能，它的定义就是像人一样的智能。如果我们希望赋予一个智能体像人一样的能力，那么除了科学层面的技术实现，人文因素也至关重要。

从这个角度来看，我们当前的AGI研究不再仅仅是程序员的工作，它更像是一个新物种的诞生过程。我们扮演着上帝的角色，就像女娲造人一样，我们正在创造一个新的物种。

而在这个过程中，人文起到了非常关键的作用，甚至比科学更为重要。我们需要思考，我们究竟希望创造一个什么样的智能体？除了具备强大的推理能力、能够处理各种深层次的任务，它还应该具备什么样的情感和价值观？

我们应该如何赋予这个新物种生命和意义？这是一个深刻而复杂的问题，需要我们以开放的心态和深入的思考来面对。

扫描海报二维码，观看更多混沌好课

韩笑：在AI时代，技术和人文哪一个应该是社会发展的主要力量？是技术决定了我们的文化和价值观，还是我们的文化和价值观应该引领技术的发展？

刘嘉：尼采曾提出“上帝已死”的著名论断。虽然他没有给出太多的解释，但如果我们从字面意义上去理解，它可以被解读为某种权威或信仰的崩塌。曾经，自然界是我们的上帝，它塑造了人类；然而，现在我们似乎已经抛弃了那个上帝，开始按照自己的意愿来发展进步。

同样地，如果我们回到这个话题，现在我们是AI的“上帝”，我们正在创造它，虽然现在还只是有了一些火花、一些萌芽，真正的AI尚未出现。但这只是一个时间问题。那么，一个核心问题就出现了：我们作为“上帝”，会不会将来被AI所抛弃？这是一个值得我们深思的问题。在此时此刻，无论是科技和人文也好，我们面临着一个重要的议题：科技和人文在飞速发展的AI时代究竟该如何平衡？我想，一个值得深入探讨的问题是，在未来我们希望与AI共同扮演怎样的角色？

据预测，到2029年，AI的智力水平将超越人类智力的总和，甚至达到惊人的10倍之多。这一前景让我们不禁思考，如何与这样的智能生命体共处？距离2029年仅有五年之遥，我们必须为此做好充分的准备。

关于科技和人文哪个更重要的问题，我认为这两者其实是相辅相成的。然而，从我个人的角度来看，人文因素可能占据了更为关键的地位。科技无疑为我们提供了强大的工具和手段，但如何运用这些工具，如何确保科技的发展与人类的价值观相契合，这都需要我们深入思考和探讨。

张江：首先，我非常赞同刘嘉老师的观点。现在我们拥有了AGI这样的技术，人类似乎越来越接近传统意义上的神。回想《西游记》中描述的那些神通广大之处，如今在科技的加持下，人类几乎已经具备了这些能力。然而，成为神并不是一件容易的事。能力越大，责任也就越大。

在座的各位中，有多少是创业者呢？作为创业者，我自己深有体会。在创业之前，我可以随心所欲，但成为老板后，我的每一个念头都受到众多目光的审视。我不能再像过去那样任性，因为每一个决策都可能影响到公司的未来，甚至可能导致创业团队的失败。

现在，我们有了AI这样的超级工具，人类已经变成了神一般的存在。那么，作为“神”，我们还能随意起心动念吗？显然不能。我们的科技在不断进步，但同时，我们也必须关注另一个重要的问题——环境的恶化。到2050年，我们可能会面临更为严重的环境问题，极端天气频发就是其中之一。

因此，我认为在发展AGI和科技的同时，我们必须更加关注自然和人文。我们应该回归人文，从东方智慧中汲取养分。这些智慧为我们提供了关于人如何成为神的论述，也为我们指明了在科技发展中如何保持与自然和谐共生的方向。

扫描海报二维码，观看更多混沌好课

毛利华：刚才两位老师的观点让我深受启发。确实，成为“神”并不容易，因为历史上的“神”在完成制定规则的使命后，往往会退出历史舞台。无论在哪个文化中，似乎都有类似的模式。中国传统文化中有一个非常重要的思想，那就是去神化，意味着神应该回到天上，而人类世界应由人类自己主宰。如果我们现在真的站在“神”的角度去创造生命的话，那么我们也可能会面临被抛弃、被消灭或被推翻的命运，总之，似乎并没有好的结局。所以说，神这个角色并不好当。

在说我的观点时，我觉得首先需要明确人文这个概念的内涵和外延。如果人文指的是人性部分的东西，那么科技在这方面可能也扮演着重要的角色。我们的科学、文化和其他很多事物，其实都在帮助我们摒弃人性中那些不太好的方面，帮助我们超越自身的局限性。

但从另外一个角度来讲，如果人文指的是我们所构建出来的一套秩序或是能够可持续发展的技术，那么从这个意义上来讲，人文可能比科技更重要一些。因为无论在任何时候，人文都是那个基石。就像我刚才说的那样，如果我们把人文的外延扩大一点，科学和技术可能就是人文这个体系内部的一个组成部分，那么我们就应该在这个体系内找到一个能和科技相互制约、相互促进发展的东西。

在西方，这更多表现为宗教的作用；而东方采用的则是敬祖宗、敬鬼神、敬天地这些古老的智慧，来抑制我们人性中的恶所激发出的各种各样的欲望。科学，就是欲望的一种。

科学是对未知的追求，但这种追求如果无休止，可能会带来可怕的后果。此时，人文的价值观就起到了重要的制约作用。

宗教、信仰、理性的思考以及我们对未来的规划，都能成为制约科技发展破坏力的重要因素。

因此，简单来说，人文更加重要。科技虽然强大，但它只是我们实现目标的一种手段。

范凌：我曾经是一个怀揣艺术梦想的青年，然而，在父母的引导下，我最终踏入了技术领域。媒介理论学家麦克卢汉曾经说过，人创造了工具，工具也塑造了人。所以你可以理解为，人文创造了科技，科技也创造了人文。所以孰先孰后、孰高孰低，都是很难被判定的。

但另一方面，在我个人的学习和实践中，我深感人文与科技的融合之难。技术领域的人往往怀揣着一种“技术解决问题主义”的信念，认为技术能够高效、精准地解决一切问题。然而，从复杂科学的角度来看，这种信念往往忽视了技术可能带来的意想不到的后果。例如，在未来一大半的电力都被AI消耗了，这就会对环境和人类生活产生不可估量的影响。因此，人文视角的介入变得尤为重要，我们需要用更平衡的视角来看待技术的发展。

但问题在于，尽管我们不断强调人文的重要性，在现实中，无论是教育还是企业的发展，往往仍在追求加速主义。而且加速主义越来越盛行，人文主义越来越式微，甚至在某些情况下被视作放弃派，所以说怎样重塑更积极的人文是一个挑战。

我一直在思考，为什么科学能够不断进步？最近，我读到一本书，是David Deutsch（戴维·多伊奇）写的《无穷的开始》，书里说，科学的发展其实是在不断寻找更好的解释。为什么爱因斯坦的数学这么“烂”，他却能想到相对论？或许就是因为他脑子里的创造力，让他能用全新的思路来解释这个世界。

所以，对于搞技术的人来说，人文主义特别重要；对于搞人文的，技术的乐观主义也特别重要。就是麦克卢汉说的那句话，A产生了B，B又产生了A，A和B永远都不会是一样东西。无论是人文还是科技，我们都应该接受它们之间的差异，并努力发挥它们的创造力，共同创造美好的未来。

扫描海报二维码，观看更多混沌好课

韩笑：我有幸去过范凌老师的公司，给我留下了深刻的印象。无论是装潢、slogan还是logo设计，这家公司都展现出了极强的创造力。这也让我思考一个问题，在AI时代，我们如何理解创新？创新是更依赖于技术的革新，还是更依赖于人类对学问和文化的新理解？换句话说，是科技进步推动了创新，还是我们对人性的深层次洞察促进了创新？

范凌：我就从商业视角来讲一下创新。我这个天秤座，确实常常在纠结中度过。我希望自己成为一个独立思考的人。但身为公司CEO，我明白赚钱是首要任务，尤其是在当前的经济环境下，遵循商业规则，是我不得不面对的现实。

说到赚钱，其实有两种方式：一种是追求短期利益，快速获取回报；另一种是着眼于长远，为未来的三到五年打下坚实的基础。我个人更倾向于后者，因为我相信，只有真正解决客户需求，才能在市场中立足。

创业，本质上就是解决客户需求的过程。我们需要深入了解客户的真实需求，不仅要满足他们当前的需求，更要预见并满足他们未来的需求。在这个过程中，技术是一个重要的工具，但它并不是万能的。我们不能仅仅依赖技术来保持竞争优势，做的事情也一定要对客户有价值，二者是缺一不可的。

当然，理想的情况是既有客户价值又有技术壁垒。但现实往往并非如此理想。不幸一点的是，有客户价值但技术壁垒不足；但如果只有技术壁垒但缺乏客户价值，就会很难。

毛利华：毫无疑问，我的答案一定是前者，技术无疑是推动创新的最大源泉。

创新本来就是智能体必备的特质，如果不能创新，那么它就一定只能存活一代。无论是主动还是被动，创新或适应变化的能力都是智能生命体最重要的本质。从这个角度来看，创新应该是每个生命体内在最核心的要素。但如果我们从另外一个角度理解创新，即在现有稳定状态下寻找扰动点，打破旧有规则，实现新的平衡，那么从这个角度来看，技术的突破或发展具有更大的作用。

以科学学科为例，心理学的发展历程就是一个很好的例证。最初，我们仅依赖思考和内心体验，后来逐渐开始尝试做实验，用仪器去测人的行为，再后来有了核磁共振扫描仪这样的技术，让我们能够对大脑进行无损的实时监控，这一技术的突破为心理学的发展带来了里程碑式的飞跃。从这个意义上来讲，技术驱动的创新可谓是立竿见影。

相对来说，人文方面的创新，比如对新奇性的追求或对变化的渴望，可能不会带来如此翻天覆地的变革，但它一直是持续稳定地在变化。

张江：我不太同意毛老师的观点。用一个词来概括我对创新的认识，那就是“情怀为体，科技为用”。在科技创新，特别是创业的过程中，我们就像是一个孤独的探索者，在黑暗的森林中摸索前行，前方充满了不确定性，我们不知道会遇到什么，也不知道同伴在哪里。这种情境下，如果没有内心的情怀作为支撑，是很难继续走下去的。

即使这个情怀是关于在科技上实现某种目标，比如OpenAI团队对于通用人工智能的笃信，这也是一种情怀的体现。他们坚信只要把参数的规模做上去，就能实现AGI，这在实现之前是不被大多数人所理解的。然而，正是这种内在的笃信和情怀，支撑他们走过了艰难的研发之路。这种笃信一定是很人文的。

当然，科技在这个过程中同样很重要。科技是我们实现人文情怀的技术手段，是我们达成目标的约束条件。没有技术，我们的很多想法都只能是空中楼阁，无法实现。

刘嘉：善友教授提到了一个非常重要的概念——卡点。他将事物拆解为三个部分：供给、需求以及连接。供给和需求的卡点有了卡点之后，供给和需求之间才能产生正常的流动，而这恰恰是和创新有关的地方。

以我自己为例，我从事的是人工智能研究，但我做的是类脑智能这个领域，也就是借鉴脑科学的研究成果来推动人工智能的发展。但从事这个领域，我发现自己似乎成了投资人的绝缘体。当有投资人知道我做这个方向并问我有没有什么可以投资的时候，我总是说不用投。为什么？因为我在做研究的时候，我通常会问自己一个问题：我这个研究有没有用？如果有用，我就不做它，我只做没有用的东西。

为什么要坚持这个观点？因为这是两种不同的创新模式。其中一种创新模式叫颠覆式创新，从0到1，就是无中生有；另一种创新模式是组合式创新，从1到100。我认为真正能带来变革型的东西一定是从0到1。因为从1到100，你可以定KPI，你的路径是清楚的，但是从0到1，你不知道会不会开花结果，所以这时候就有非常重要的一点叫“无用”。亚里士多德对科学的定义就是“无用之学”，没有用的学问叫科学。那他后面还有一句话，叫“无用之学，方为大学”。

所以回到我们刚才所说的这个话题，你的出发点一定既不是为了客户，也不是为了技术，而是让它们流动起来，这样一来，你的目标就理所当然地达成了。

我把它翻译成商业的语言也就是说，只要你的出发点正确了，只要你做的这件事是正确的，你一定会达到你的目标。OpenAI如此，乔布斯也是如此。这也呼应了刚才三位老师都提到的一个关键词叫“情怀”，就是说你做事情一定不是被现实目标所束缚或引导的，而是被你的情怀、你的使命所引导。只有那些从使命出发、从情怀出发的人，才能真正穿越周期。

扫描海报二维码，观看更多混沌好课

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章