人机共存时代，我们如何与机器相处？

作者：郭毅可，大数据专家、香港浸会大学副校长。

来源：高山书院（ID：gasadaxue）

内容来源：根据《高山科学经典》项目第14期郭毅可院士分享的《人有人的用处》书籍整理而成。

写在前面：

从信息论的角度看，人和机器都是信息的载体。机器能与人自然、顺畅地交互时，它就应该拥有和人相等的地位。

当人机共存逐渐成为现实，一个问题也逐渐紧迫起来：我们如何与机器平等地相处？在控制论大师维纳看来，机器无疑能造福人类生活，但他也忐忑自己像个盗火的普罗米修斯，让人最终放弃了选择与控制的责任，屈从于机器。

到今天，他那来自上世纪的疾呼反而更显隽永：人有人的用处，不要放弃你们最终的责任。

01
当机器拥有智能

维纳被称为控制论之父，也被称为现代计算机先驱、和主流人工智能的叛徒。当图灵提出“机器可以思维吗”之问时，维纳提出了《控制论》。“控制论”主要是研究生命体系统（人、动物和机器）行为的共同本质，并以此出发，研究人和机器的交互共生的机制。维纳的名著《人有人的用处》讲的就是人和机器如何相处的问题。

为什么有“人和机器如何相处”这个问题？

维纳在1950年的时候，就看到了这样一个未来：我们创造了新的智能机器，人类社会最重要的关系变成了人与机器、机器与人、机器与机器、人与人之间的关系。这个视角的关系就成了我们未来社会中最重要的一个关系。

在书中，维纳阐述了一个非常重要的观点：从信息角度而言，人和机器都只是信息理论的一个部分，都是信息的载体，从通讯和信息处理而言，人向机器发布命令和人向人发布命令，本质并无不同。在交往的过程中，如果一个机器能够向人发出自然的反馈，那么这个时候，人和机器应该有相同的地位。

这样一来，当机器有智能的时候，我们必须要面对和解决这样一个重要的问题：人如何与机器交流、交互和共存？

今天，我们的机器被赋予了智能，甚至人也变成了机器，产生了数字孪生。我们的通讯设备处于web3.0的虚拟世界跟实体世界共存共荣的通讯环境，无论相隔多远，都可以即时实现互相的通讯。

虚拟空间和实体空间的平行，交融的元字宙的概念，使人类社会成为了一个人机共存、共创的社会。在这个社会，人与机器、机器与人以及机器与机器之间的信息交流和相处是我们最根本的科学问题和社会问题。

02
控制就是追求熵减

薛定谔在他的著作《生命是什么》中提出了“负熵而生”的观点，即生命是一个负熵系统。

熵是一个系统的混乱程度的度量，热力学第二定律即熵增定律指出，在一个孤立系统中间，如果没有外力做功，那么它的总混乱度就会不断增长。没有外力做功，世界上一切的孤立系统都是熵增的。

《人有人的用处》这本书中讲到，控制就是追求熵减，建立所期望的秩序。

书一开始就讲了生命体的定义，维纳认为，我们的生命就是一个控制的过程，要降低系统的天然的混乱度，要和熵增做斗争。通过开放来吸收能量，把我们变成一个负熵和熵减系统，使其有秩序。

所以维纳的认识论基础就是：不管机器还是人，只要他的运动是通过对环境的作用，通过环境作用的反馈来控制熵增的时候，这两者在社会上的功能都是完全一样的。在这个层面上，机器和人是相似的。

在控制的过程中，有几个基本概念需要重视。首先是控制的手段；其次是被控制的对象要有不确定性；第三个就是这个不确定性的变化要有一个衡量信息；最后是每次行动后需要对结果和目的进行反馈，再利用反馈来控制下一步的行动，使得不确定性减少。

在这样的基本理论下，维纳对“什么是进步？”和“什么是智力和学习？”这两个问题进行了探讨。

什么是进步？进步就是在混乱的全局中建立局部的有序。人类和机器一样，都是推动着进步的。但进步也是有代价的，当推动社会进步时，给了人们新的稳定性，同时也给了新的限制和新的挑战。

什么是智力和学习？维纳在这里重点强调了认知系统的可塑性和反馈。他认为对于机器也好，对于人也好，学习就是为了适应。

人之所以有特殊的学习能力，是因为人的大脑有可塑性，可以根据学习进行反馈，得到一套方法适应环境，进而改变我们大脑的记忆和神经系统结构。

反馈机制，是我们今天人工智能里面许多算法（如强化学习）的基本思想。

03
维纳VS图灵

人工智能的两个开山鼻祖——维纳和图灵，对于机器智能有着不同观点。

上图中的蓝线，我们可以把它看做是我们大脑的熵。刚出生时，熵很高，但很快它会随着不断吸收的知识而下降，成熟期的我们熵最低，最有秩序，但随着年龄的增长，熵又不断增加，直到最后熵达到最高，死亡。

在我们成熟之前，主要是接收间接知识。成熟以后慢慢就有了自己的思想，能开始观察，能用知识去改变世界，并决定自己吸收的新知识。

图灵注重人的思维，在图灵的理论中，他认为机器的“智能”是模拟人，极限就是人的智能，所以图灵测试定义“智能”为：当你问一个问题，无法区分是机器的回答还是人的回答时，就算是通过了测试。

但维纳不这么看，维纳注重的是人的行为，他认为机器通过反复探索、验证、调节所获得和人类一样完成了特定任务的功能，叫做智能。机器智能并没有设限。

所以，在这条曲线里，图灵关心的是曲线里面的部分，即记忆和运用记忆；维纳关心的是曲线外面的部分，即怎样跟世界作用和世界如何反馈。

04
假如维纳活到今天

假如维纳活到今天，他肯定会为深度神经网络、为基础的人工智能欢呼。因为在书中他就谈到了“格式塔陷阱”。所谓格式塔陷阱，即旋转不变性。比如我们看一个圆，横着看、侧过来看，它都是个圆，它怎样变化和它的位置无关。这是卷积神经网络的基本思想。维纳的反馈理论放到今天来指导机器学习，就是强化学习。

假如维纳活到今天，他会对人工智能的发展使人民失业更担忧。因为他一直认为机器发展以后，会使人变成奴隶。但实际上这是不对的，因为技术的进步可以提高自然资源的利用率。

假如维纳活到今天，他会赞成智能合约、区块链而反对去中心化。因为他无法想象一个自组织机构自下而上没有中央控制的情况，这会不利于控制和熵减。

假如维纳活到今天，他不大会欣赏大数据，因为他反对信息交易。他欣赏的是大数据对人类的贡献，但数据不能成为商品。为了评职称晋升发的文章和为了赢得粉丝而发表的作品无法产生维纳意义下的信息。

假如维纳活到今天，他会对元宇宙报以极大热情。他认为，如果我们不仅要生存，而且要作为一个文明和物种兴旺发达，我们必须把这些相同的情感和尊重的价值观编码到我们的机器、信息系统和通信技术中，这样新的模式被用来造福人类，增加人类的闲暇时间和丰富其精神生活，而不仅仅是为了利润和对机器的崇拜。而这跟我们今天讲的元宇宙是非常接近的。

假如维纳活到今天，他会认为控制论可以解决很多的问题。可以解决全球变暖，可以用控制论来控制电网，使各种技术容纳于其中。

但维纳一直都有一个非常大的担忧，他觉得自己像个盗火的普罗米修斯，把机器带给了人类，但总是担心人类屈从于机器，放弃了选择和控制的权利。

所以这种担忧也是他写这本书的一个前提，他要告诉世人：不管机器怎么好，你们都不可以把自己的责任交给机器，这就是你们最终的责任。

因为，人有人的用处。

版权声明：部分文章推送时未能与原作者取得联系。若涉及版权问题，敬请原作者联系我们。

格上财富：十五年深度研究，甄选阳光私募、PE/VC、海外基金等高端理财产品，为您的资产增值保驾护航！