尹烨对谈施展：走向太空，还是拥抱AI，人类未来的解题思路在何处？（二）

最近微信改版，容易找不到尹哥的文章，大家记得把尹哥设为星标⭐️ 哦~

但是财富的分配从来又不是平均分配的。那它就会导致，往往是过去的loser，他能够率先拿到那些新的财富，因为他一无所有，他没有什么可以失去的，而过去的winner如果去冒险的话，他的机会成本太大了。于是，过去的winner往往很难拿到这个新的财富，但是权力是掌握在过去的winner手里的，在这种情况下，一定会发生张力，这是一个方面。

再一个方面就是咱们看现在全球化，它确实让全球的财富获得了极大的提升，跟过去比，提升速度非常之大。同样因为全球化所带来的分配差异也很不平衡。

咱举一个例子，就比如像现在的全球化，美国创新能力超强，它在这方面的比较优势就是最大的，那么美国的企业家为了更有效地让自己的比较优势释放出来，他就会把生产环节这些利润环节小的部分甩出来、外包出来。因为生产环节产生利润相对小，创新环节的利润大。

而这个过程就拉动了中国经济、中国制造业的崛起。那么在这种情况下，新的问题来了，美国内部原来做制造业的那帮兄弟，他就被搁那儿了。美国东海岸、西海岸，甭管是风投领域，还是科技创业创新领域，都有可能赚到很多。但是中间这群人，原来做制造业的就被晾在那了。而中国，虽然我们只能赚到利润比较薄的那一块，但如果业务够多，获得的财富总量也是非常可观的。

中国这些年我们都知道财富总量非常可观，但它会导致美国内部分配非常不均衡，而这种不均衡就有可能在内部引发一系列的社会问题。这种社会问题如果用经济手段解决不了的话，就会转化为一种政治手段解决的动力。所以我们看美国这几年的，最近这两届大选，都有很严重的政治撕裂，这是由于它底层的社会撕裂所带来的，而社会撕裂的更底层，又是它的东海岸、西海岸跟中间这些铁锈地带的经济撕裂结果。

而这种经济撕裂，它是全球化所带来的一个结果。那么在这种情况下，全球化会促成人类财富的普遍提升，但是在具体某个政治体内部，它的财富提升、财富的分配未必是均等的，它有可能会带来撕裂，而这种撕裂会引发一系列政治上的反制。

但是我们回头看人类历史的话，地理大发现开启了全球化，在这之后，我们会看到大量这种因科技的进步、因全球化的展开而导致了一系列不均衡，这些不均衡它有可能会引发一系列问题，然后甚至有可能爆发战争，每一次最激烈的解决形式是战争，战争把之前问题给一把出清。出清之后，全球化会进入一个新的、更深的阶段。那么就今天来说，我觉得当下咱们看到的各种动荡、各种冲突，是类似的一个状况、类似的一个表达。

有些地方，它是热战，比如在中东、东欧。有些地方，它未必是热战，但它是另外一种表达，至少核大国之间不会再发生热战了，核武器的出现消灭了大国间战争，因为它的破坏力完全不可控。

而战争是政治的延续，打仗不是目的，打仗为了什么才是目的。如果核战争最后两败俱伤，同归于尽，任何目的都达不到，此时战争就变得不是一个可以诉诸的手段了。所以核大国之间不会再发生直接热战了，但是它会以别的方式表达出来。

刚才我们聊到，它是需要以某种方式把既有的这些问题释放出来，重新达到一种均衡，然后全球化才会继续往前造，所以我们看过去这几百年，全球化就是这么往前走上三步，要退一步，再走三步，再退一步。今天可能已经到了退一步的那个阶段了，但是你退完这一步，再往前看，还会往前再走上三步。

主持人：除了这种实际的热战发生的可能性非常小。我们会发现，在我们现在所处的这个时代，还会有另一层担忧，就是以AI为代表的人工智能对我们的冲击，也会引发人类对自身处境的一个担忧。

尹烨：我们真的只是在想象中认为会有一些硅基物种，会有一些这样的机器人等。在这一刻，我们还看不到被所谓的硅基物种彻底代替的可能性。我们现在看到更多的可能会走到一个融合，有点像十多年前，我们讨论互联网会不会取代传统制造业的时候，当时给出的答案是“不会”，但是传统制造业可以变成互联网+，然后很快获得比较优势，那么它会战胜那些不用互联网的部分。

今天来看，AI也是，AI+。AI并不是一个单纯的行业，AI会渗入到各个行业，特别是垂直细分领域的各个行业。那么在这一刻，其实反过来讲，我们最近讨论的很重要的一个问题就在于，如果硅基生命真的可以威胁碳基生命，反而碳基生命可能会很团结。今天如果让地球都不打仗的唯一可能性是什么？三体来了，我们要一起对抗一个要消灭整个地球生命的文明，大家可能会握起手来。

所以我想现在一个最核心的问题就是在于，我们在评价任何一个技术的时候，既要允许子弹飞一会儿，不可能一下子就把它按到地上，又要积极地去思考，让这个技术能保证它向上和向善。

之所以讲这个问题，实际上我们可以去看，包括核武器，施展老师刚才讲到了，核大国之间最后形成了平衡，其实核是盾、并不是矛，大家谁没事丢个核弹玩。但反过来讲，对核电站的态度，特别是对可控核聚变未来的投入和大家的决心就可能会决定人类，至少在能量这个环节上，我们有多大的程度上具备了成为多行星物种的能力。

《流浪地球》演了半天，大家天天在烧“石头”，那其实是一个非常高阶的可控核聚变。人类今天能做的可控核聚变就是氢的同位素，就是从氘到氚，就这一步，连一个氦我们都不可能合成。太阳是用氢合成氦的，但那个东西需要在2500亿个大气压、1000万开尔文以上的温度，高温高压下才能做，地球今天还没有这个能力，所以一方面不要放弃对技术的想象，允许大家大胆去假设，但是求证时候要小心。

主持人：人工智能、ChatGPT最近非常热，如果我们开脑洞地想象，一旦这个人工智能进入到强人工智能时代，它们产生自主意识的话，人类的价值会不会受到影响，或者是人类的生存会不会受到威胁？

施展：这是现在很多人都在讨论的问题，但我个人对这个事一点都不悲观。当然，我做的是一个纯哲学式的判断了，就是笛卡儿他说过一句话，大家都很熟悉的“我思故我在”。仔细去分析这句话，你会注意到“我思故我在”里面有两个我，它是在不同位阶上的。任何一个理论，如果其中有一点你是觉得有疑问的，那么你就把它给悬置起来，先不拿它当一个真的、给定的真理对待。那么你再去看下一个理论，发现也有问题的话，就把它也悬置起来。

你不断地质疑，不断地质疑，质疑到最后，会发现有一个正在质疑的我的存在是不可置疑的，这是原点。但新的问题来了，是谁看到了有一个正在质疑的我的存在，那一定是一个更底层的我观察到了有一个我正在进行质疑，更底层的那个我，它去观察而不被观察。而最底层的去观察而不被观察的那个我，它是永远无法被观察的，因为只要你去观察它的时候，它就变成次底层了，一定有一个更更底层的我。

你去观察更更底层的我的时候，又有一个更更更底层的我，就是永远有一个最底层的去观察而不被观察的我的存在，它是一切动力的来源，它是最终第一性的来源，第一推动者。那么这意味着什么？那个第一推动的我，它是你一切的自我意识，一切的自主欲望，你的野心，你的善意，所有一切都是从那里来的。它是去观察而不被观察的，那么这意味着什么？这个我如果无法被观察，它就无法被数学模拟，无法被模拟，ChatGPT就处理不了。

ChatGPT能够处理的，都是可被观察的对象，而最底层的我是无法被数学化的。所以在这个意义上，我不认为AI真的能够产生自我意识。如果说它有自我意识，一定是背后有一个人在操控它，利用这个AI去达到自己的目的。

嗯，我不知道尹烨老师怎么看问题？

尹烨：其实说实话，我怕有一天，我们大部分人可能分不出来它有没有自我意识。就像我也不觉得我们地球上很多人有自我意识。

什么叫自我意识？如果都是道听途说，可能也不叫自我意识。实际上，我现在更大的担心，不是说硅基生命产生的意识，只要它那个意识还是来自人类的训练。它有爱有美，我不担心，我现在更害怕的是，我们看到了很多碳基生命，它像硅基生命一样去执行。

大家可能知道，最近我正在跟蔡磊老师做渐冻症的攻克，我们还在考虑一群为了生存苦苦挣扎的人，然后一群很健全的人，也不知道因为什么理由，天天在互相残杀，所以这个在我来看是更可怕的一个事情。

实际上，我们看了这么多年的物种，我是做生命科学的，唯一一个可以以灭种式消灭同类的，那就是人类。我们当年的尼安德特人被智人在迁徙过程中“干掉”了。种族灭绝只发生在人类身上，所以你说，如果人类这个属性没有被去掉的话，我们去担心人工智能会消灭人类，有什么意义吗？

当我们去吃小龙虾的时候，我们也没有想过小龙虾妈妈怎么想。我举这样的一个看似笑话的例子，是告诉大家，怎么能够把人类当中的美植入，让所谓的代码伦理化？强人工智能如何能够有爱，这是我更加希望在技术上能够实现的问题。

施展：对，我再接着尹烨老师这个话往前说一下，就是到未来，我们确实有可能从它的行为表现上分不出它是不是AI，还是一个真人？但是这个AI它是否有它的自主意识，就是我想去干什么，而不是接受了一个命令，我去执行什么，就这个还是不一样的。

但是AI背后有可能有一个，你不知道它的存在的人，那个人想去干什么的时候，此时AI当然会对人类构成一个巨大挑战，但这不是因为AI，而是因为背后那个邪恶的意义。

主持人：嗯嗯，然后两位老师的一个回答，我觉得特别有启发性的一点是，当我们在讨论AI是不是具有自主意识的时候，你首先可能扪心自问，问问自己是不是有自我意识？你是不是只是机械地去执行的？是不是某种程度上的一个AI？我觉得这一点也很重要。