最近微信推荐机制调整了，可能有些朋友会收不到我们的推送，大家别忘了给视角学社加上星标，以免错过更多精彩！对人工智能的与人类智能关系的探讨在当下十分热门，我们对人工智能是否可能取代人类这个话题投入了巨大的好奇。在未来，人工智怎样能接近人类智能，人类应该如何与人工智能共存等，都是需要科学家探究并回答的议题。
图灵奖得主希发基思在他的新书《理解和改变世界》中，通过比较人类智能和人工智能为我们进行解答。在书中，他对人类智能与人工智能进行了区分，并对人工智能是否能超越人类智能给出了清晰的解答，指出了开发自主系统是缩小机器智能和人类智能之间差距的关键，并分析滥用人工智能给人类带来的真正的风险与威胁何在。以下关于人工智能的探讨，摘自他的新书《理解和改变世界》：人类的思维分为快速思维和慢速思维，两种思维对应着不同的计算模式，也就是编程的计算模式与人工神经网络的计算模式，理清不同的思维特点，能帮助我们区分人类智能和人工智能，为探究人工智能接近人类智能指明道路。人类拥有两种类型的思维模式：较慢却有意识加工的思维，这是程序性的并且需要运用推理规则。我们使用慢速思维去有意识地解决问题，例如分析问题、做计划或制造东西。快速却自动（无意识）完成的思维，快速思维是自动完成的，却可以让我们解决复杂度极高的问题，例如说话、走路、弹钢琴等。两种思维模式也对应两种不同的计算模式：慢速思维基于我们理解事物的心智模式，这种模式与我们对计算机进行编程的计算模式类似。快速思维则是有意识学习的结果，通过反复地训练，内化成一种自动的模式，这与人工神经网络的计算模型一样。对应这两种思维模式，如果我们想要制造双足机器人或者能骑车的机器人，可以通过两种方法：1.考虑好所有可能的物理情况，然后将机器人的动作编写为相应的程序。我们需要借助力学理论，编写能实时控制的程序。2.对人工神经网络进行反复训练，让它在同样的物理条件下做出相似的动作。我们并不需要力学知识，但是可以训练人工神经网络学习如何平衡。最适合模拟快速思维的是直接依赖物理过程的自然计算机，例如量子计算机、蛋白质计算机，特别是人工神经网络。它们与快速思维一样，对信息的处理本质上是并行的，而且执行的大都是那种逻辑分析不可能完成的计算。传统计算机所拥有的任何“智能”都只是程序员的智能，它们只是在执行程序员用符号描述好的命令而已。随着人工神经网络的出现，情况发生了变化。人工神经网络采用完全不同的计算模式，这种模式不是靠编程，而是从庞大的数据集中进行学习。让计算机接近人类智能的第一步，是让它表现得像我们所说的强人工智能。能把特定问题的解决方案与相应的技能结合起来，像人类一样对环境的刺激做出反应。人类智能的特征是能够把对感官信息的感知/解释、信息的逻辑处理，以及可能导致行动的决策结合起来。想让计算机表现出人类的行为，需要赋予它相应的语义模型：我们可以把意识理解为大脑在外部世界和内部世界的语义模型中“看到”自己如何行动的能力。这个模型在我们的婴儿时期就自动构建起来了。人类的大部分智力都属于我们所说的常识。我们的大脑会使用它的语义模型来评估环境中正在发生的事情以及可能的后果。这个语义模型不断积累经验，几乎每天都在自我丰富。理论上，如果我们能够对自然语言进行分析和形式化，按照层级构建出概念之间关系的语义网络，再加上表征和更新知识的规则，我们就可以构建出这样一个模型。人类的思维受到认知复杂度的限制。实验证明，我们的大脑能够关联的参数数量的上限大约是五个（一个关系与四个参数）。人类无法同时建立起大量操作单位之间的关系，这对我们理解世界是一个非常大的限制，这导致我们人类的思维并不具备理解复杂现象的能力，也限制了我们所能构建的理论与制造的工件的复杂性。现象是复杂的，人类思维对复杂现象的认知具有局限性。在过去的科学中，人类通过简化构建了一种研究复杂现象的方式，但这种方式并不能解决所有的复杂现象的问题。正是在这些问题上，相信人与计算机之间协作，可以在一定程度上帮助我们克服认知局限，建立起一种新的研究复杂现象的方式。人类思维的本性限制了我们探索知识的能力，我们可以利用计算机来克服认知复杂性的障碍，发展并验证能够解释复杂现象的新理论。在计算机的辅助下，我们有了一种新型的知识，它让我们无须借助数学分析进行理解，便可以做出预测。人工智能和超级计算机的使用正在为人类知识的发展铺设一条新路。机器学习和数据分析领域的最新进展表明，机器正确地生成知识并做出预测是可能的。这些技术可以识别数据中的复杂关系，而这些关系可以显示出因果关系并进一步做出预测。比较科学知识的发展方式和机器学习产生知识的方式，科学发现是观察者经过学习的结果，他创建一个可以解释和预测现象的模型，进而形成一个理论。而人工神经网络生成知识的方式则是对大规模数据进行长期“学习”。通过学习代表因果关系的数据，神经网络可以用一种外推方法来估计某个原因最可能导致的结果。如果人工神经网络的输入和输出是物理量，对其做形式化就没有理论限制了。我们可以通过了解人工神经网络各部分的结构和行为，从理论上计算出表征输入和输出关系的数学函数。在数学模型无法起作用的情况下，人工神经网络就显得特别有用。但是采用机器学习的方法，并不能完全解决智能的问题。人类智能的特征是自主行为以及对内、外部环境变化的适应。这是人类大脑能够创造新知识，理解从未遇到过的情况，以及设定新目标的关键所在。目前机器学习并不能做到一点。只有当某一天，计算机系统能够自主执行大量任务，并且能够适应不断变化的环境时，我们才可以说人工智能和人类智能之间的差距正在消失。传统计算机与人类的区别在于，传统计算机会自动执行某些预定的功能，是一个自动化系统；而人类则具有自主行动的能力，人可以对环境的变化做出反应，也可以在内部目标的驱动下主动采取行动。人工智能的应用使我们向前迈出了重要的一步，即从自动化系统发展为自主系统。对于自主系统，我们期待它能够在复杂任务中取代人类，人们的目标是希望达到在没有人工干预的情况下，把人工智能与自动化的流程结合起来，从而实现更高的效率。在这个系统中，人的作用是设定和调整目标，而目标的实现则完全交给自主系统来完成。在自动驾驶中，我们只需要输入目的地，自动驾驶系统就能帮我们把车开到相应的位置；在智能工厂或智能农场中，我们只需要输入生产指标，整个系统就能帮我们管理工厂/农场，从而完成生产指标。实现自主系统和服务是物联网的核心目标。如果这个目标实现了，那么我们将更有信心说，计算机智能可以起到比在游戏中击败人类更重要的作用。要实现物联网的愿景，开发可靠的自主系统至关重要。这既是一项科学挑战，也是一项技术挑战，同时还包含巨大的经济和政治竞争。这就是为什么所有主要的科技公司都在投资这个领域，尤其是自动驾驶汽车，因为有相当大的经济利益。参与这场竞争的公司包括谷歌及其子公司Waymo、苹果、英特尔及其子公司Mobileye、优步、阿里巴巴、华为、腾讯等，当然还包括所有主要的汽车制造商，其中特斯拉处于领先地位。一个自主系统包括五个关键功能，环境感知和状态表示用来理解环境状况，目标管理和策略规划用于决策，另外一个赋予了系统自我学习的能力。环境感知功能从环境中接收感知信息（图像或别的信号），然后根据存储库中的概念，对这些信息进行分类。感知到的信息被传递给状态表示函数，这种函数的功能是建立一个系统外部和内部环境的模型。决策模块有两种功能：目标管理和策略规划。所谓目标管理，即从一组预先确定的目标中选择与环境模型的当前状态相匹配的兼容目标子集。目标管理也决定了我们所说的策略规划。策略规划功能可以对目标管理进行补充和完善。该功能决定了系统的策略。对于每组选定的目标，策略规划功能函数会计算出一系列命令给执行器，执行器执行相应的操作。最后，第五个关键功能是自我学习，对知识库里的知识进行管理和更新。知识的更新是通过创建新知识来完成的：（1）环境，例如基于模型数据分析中积累的知识形成的新概念；（2）适应环境变化的新目标，或改变与目标选择相关的参数值。上述架构将“自主”定义为：为了适应环境的变化，系统在没有人为干预的情况下实现一系列目标的能力。为了实现“自主”，需要将五个相互独立的功能——环境感知、状态表示、目标管理、策略规划和自我学习——结合起来。计算机智能最终将超过人类智能，我们最终可能会成为机器的宠物。显然，这些观点缺乏严肃性，是站不住脚的。再强大的机器也不足以战胜人类的智慧。但他们的这些想法在媒体中找到了滋生的温床，被不加批判地广泛传播，在很大程度上引起了公众的共鸣。人们都在热议计算机智能的假想风险，也许把真正的风险掩盖住了。而这些真正的风险才是问题所在，因为它们涉及社会组织的类型及其所服务的关系，特别是社会和政治性质的问题。
很久以前人们就发现，自动化程度不断提高带来的一个风险是，机器人使用越普遍的行业失业率越高。除了引发高失业率之外，自动化的趋势还会进一步扩大需要技能和知识的高薪工作与其他体力劳动之间的差距。有些人认为，传统工作岗位的消失会被新需求所创造的岗位抵消。除非对职业结构进行彻底改革，否则失业和工资差距的问题将会恶化。当自动化集成程度超过某个水平时，信息系统如果缺乏安全保护可能是极其危险的。众所周知，即使对那些最重要的系统，人们也无法做到全面保护它们不遭受网络攻击，我们充其量只能希望及时发现入侵者。在引入人工智能和自主系统的领域，其风险管理与在其他领域有显著的差异。在这些领域中，不再有独立的国家机构来保证和控制系统的质量及安全。这个责任转移给了制造商。其中的风险是显而易见的，因为用户的安全级别将不再由透明的技术标准决定，而是由制造成本和能够覆盖事故赔偿金的保险成本之间的最佳平衡值来决定。各国政府和国际组织明显是缺席和不作为的。他们好像认为技术进步本身就是目的。他们很少关心互联网上发生的违法行为。他们认为风险不可避免，因此干脆对其放任自流，就好像进步一定会带来某些不可避免和无法控制的弊病一样。因此，公众舆论仍然处于混乱迷失状态，而且在一定程度上被那些既不负责也不客观的声音操纵了。一些人夸大了风险，而另一些人则为了推广技术应用而淡化风险。公众却乐于接受错误的思想，并随波逐流。技术的应用解决了人们的许多实际问题并使生活变得更舒适，但这也意味着我们丧失了某些解决问题的技能。担心人们过度依赖技术并非杞人忧天。因为现在技术不仅是解决单个问题，而且为人们提供了全面的解决方案。这意味着我们正在过渡到一种新的生活方式——技术提供大量的服务，减轻了我们管理决策的负担。在这种生活方式中，有越来越多的技能/知识不再是我们必须掌握的了。因此，正确、合理地使用人工智能和自主系统取决于：根据客观标准评估我们是否可以信任计算机生成的知识。全社会的警惕性和政治责任感。[法]约瑟夫·希发基思Joseph Sifakis
2007年“图灵奖”获得者，自主系统领域的专家，世界安全计算机系统发展的重要贡献者，创立了在嵌入式系统领域具有领先地位的VERIMAG实验室。法国科学院院士、法国国家工程院院士、欧洲科学院院士、美国艺术与科学学院院士及美国国家工程院院士、中国科学院外籍院士。担任清华大学计算机学科顾问委员会委员、南方科技大学杰出教授，牵头成立希发基思可信自主系统研究院并担任荣誉院长。亲自指导中国留学生和博士后，为中国科学院软件所、浙江大学、军事科学院等单位输送科研骨干。相关阅读：
谷歌 CEO 皮查伊：人工智能的深远影响不亚于火与电的发明
比尔盖茨：人工智能时代开启，革命性技术再次来临！
人工智能真正的恐怖之处
喜欢本文？欢迎点赞/转发/关注/加入留学家长公益交流社群：
