新书推荐丨人工智能如何真正理解和改变世界？

似近却远的无人驾驶出租车

在旧金山的一些社区，每晚的特定时间，几乎每十辆出租车中就有一辆使用无人驾驶。这些都不是实验测试车辆，也并非演习。这些幽灵般地出现在旧金山的无人驾驶车都是商用机器人出租车，它们与出租车、优步及公共交通直接竞争。无人驾驶出租车已经成为城市交通系统中真实的一部分，尽管仍然处于边缘状态。克鲁斯（Cruise）和未末（Waymo）这两家公司运营着这些无人驾驶出租车，它们正准备在未来几个月里继续扩大他们在旧金山、奥斯汀、凤凰城，甚至洛杉矶的服务。

来源：《麻省理工科技评论》

本杰明·施耐德（Benjamin Schneider）为《麻省理工科技评论》撰写社论对页版文章，并在过去一年的时间里为《旧金山晚报》（the San Francisco Examiner）持续对无人驾驶出租车作报道，为此他在过去几个月里，乘坐过数次无人驾驶车。本杰明发现，至今为止，公众为无人驾驶车的关注度不高，各种监管机构也对此情况基本保持缄默，缺乏必要的紧迫感，道路执法人员甚至无法可依。这种状态无疑是危险的，也令人震惊。

无人驾驶这项技术已被公众熟知，也被津津乐道多年，现在人们都普遍承认，拥有私人的睡眠/游戏/化妆“移动豆荚”还需要的时间，无法一蹴而就。特斯拉的自动驾驶系统已是最接近大众市场汽车的自动驾驶系统，而它目前正在接受美国国家公路交通安全管理局和美国司法部的调查。

根据美国媒体的调查，这种“出租车机器人”的“怪异行为”，包含着由于软件故障导致的莫名其妙地停在路中间，长时间阻塞交通。在短短6个月内，至少92起此类事件被官方登记在案，其中3起扰乱了紧急救援人员执行工作。

暂且不论无人驾驶出租车可能加剧连带引发的劳工问题和交通政策问题、电动汽车或无人驾驶车是否应免除道路维修费或汽油税问题，等等诸如此类的公共政策相关问题。无端增加道路拥塞，甚至导致的人员伤害也已经亟待正视和解决。

此时，人们开始真正思考，如今已经表现得无比出众的人工智能——甚至在很多方面，表现出已经全面超越了人类智能——何时能够真正地理解和改变这个世界，让人们在现实世界中抵达科幻作品中的“未来之梦”？

人工智能向前迈进：从自动化系统发展为自主系统

人类和机器所获取的知识可以分为三层，底层的是经验知识和先验知识。经验知识是通过我们的感官在观察和体验的基础上获得并发展起来的。非经验知识，也称为先验知识，所表述的关系是恒定不变的，包括数学和逻辑以及计算理论等。更高层次的经验知识是基于数学模型的知识。这种知识包括能合理解释世界的科学知识和能让人安全有效地实现目标的技术知识。金字塔的顶端是元知识，有人把它称之为“智慧”。元知识是用来管理所有形式知识的知识，它使我们能够把各种知识综合起来。元知识包括解决问题的方法、设计方法和决策方法等，同时还包括在专业技能中使用的非形式化的知识。

来源：《麻省理工科技评论》

人类智能的特征是自主行为以及对内、外部环境变化的适应。人类智能能够把对感官信息的感知/解释、信息的逻辑处理，以及可能导致行动的决策结合起来。这种能力与下棋时生成策略的能力不同。在游戏中，规则是预先确定的，而且不会改变但与此不同的是，现实中的规则和目标会根据环境的动态变化而变化，而人类是能够适应这种变化的。

这是人类大脑能够创造新知识、理解从未遇到过的情况以及设定新目标的关键所在。目前机器学习并不能做到一点。只有当某一天，计算机系统能够自主执行大量任务，并且能够适应不断变化的环境，我们才可以说人工智能和人类智能之间的差距正在消失。

传统计算机与人类的区别在于，传统计算机会自动执行某些预定的功能，是一个自动化系统；而人类则具有自主行动的能力，也就是说，人可以对环境的变化做出反应，也可以在内部目标的驱动下主动采取行动。

而今天，人工智能的应用使我们向前迈出了重要的一步，即从自动化系统发展为自主系统。人类期待自主系统能够在复杂任务中取代人类，在没有人工干预的情况下，把人工智能与自动化的流程结合起来，从而实现更高的效率。在这个系统中，人的作用是设定和调整目标，而目标的实现则完全交给自主系统来完成。例如，在自动驾驶中，我们只需要输入目的地，自动驾驶系统就能帮我们把车开到相应的位置；在智能工厂或智能农场中，我们只需要输入生产指标，整个系统就能帮我们管理工厂/农场，从而完成生产指标。

人工智能充当人类的“潜意识”需严格的约束规则

我们将意识的功能看作一个自主系统，它根据价值标准和积累的知识来管理短期目标与长期目标。计算机显然可以帮助人类扩展智力。就其本质而言，它们可以分析大量数据，扮演着类似于人类潜意识，即“协同处理器”的角色。因此，我们可以利用计算机丰富我们的知识，也可以间接地增强我们的心智能力。

人类目前还无法掌握科学和技术进化的动态及其影响，而系统已经变得如此密集和复杂，我们再也不可能通过分析来监控它们的行为，也不可能详细地评估它们的作用和有效性。我们在生活中做出的决定越来越少，这会让我们变得越来越懒惰，也越来越缺乏自信。没有计算机就无法管理世，但如果把一切都交给计算机，又会挑战作为人类核心价值的人道主义愿景。

图源：《麻省理工科技评论》

是否存在两全的方法？可以设定这样一些规则：默认情况下禁止计算机做出关键决策；不能为了追求“效率”而创建封闭的、不可控的管控回路；为了让科技产品继续为人类服务，我们应该理性地对待其复杂性，同时提高我们对自身固有局限性的认识。

新书推荐：拆析从信息到知识与智能的变革之路

随着ChatGPT、GPT-4的相继发布以及与之相关的各种人工智能应用的大规模研发，人工智能再一次受到了热烈的关注和讨论。一方面，人们好奇人工智能的思考和工作原理；另一方面，人们又对它能否超越人类智能、是否会对人类造成威胁产生疑问。“图灵奖”得主、法国科学院院士、美国国家工程院院士、中国科学院外籍院士约瑟夫·希发基思决定将他关于计算机和人工智能的研究成果，结合对技术哲学的思考，讲述了知识发展的基本原则，剖析了机器和人类是如何生产和应用知识的，着重讨论了人工智能和人类智能的优劣，对人工智能的潜在危险性给出了解决方案。

图书阐述了人类和计算机是如何开发、管理和应用知识的。特别是通过对自主系统的阐述，对比了人类和机器智能的优劣，旨在为广大读者提供理解和认识未来人类社会以及人工智能发展的视野。

出版方：中信出版社

注：本文部分内容摘编自《理解和改变世界：从信息到知识与智能》一书，相关内容由中信出版提供。