话媒活动（68）|《算法的力量》读书会

2022年3月26日晚上8点30分，话媒书会读书分享活动通过腾讯会议在线上举行。本次读书会由牛静老师和周婷婷老师主持，传播2001班孔维知、李雅婷、黎芸伊三位同学导读了杰米·萨斯坎德的《算法的力量》这本著作。参与的硕士生和博士生们与两位老师一起，就该主题的内容进行了讨论。

《算法的力量》一书由杰米·萨斯坎德（Jamie Susskind）所著，作者毕业于牛津大学，是著名的英国学者、作家和执业大律师，曾在哈佛大学等相关研究机构从事研究工作，还是一位广受欢迎的演讲者，曾应邀在谷歌、微软、哈佛大学、斯坦福大学、普林斯顿大学、伦敦政治经济学院和英国国家学术院等众多机构就数字技术及其对政治、经济和社会的影响发表演说。他的代表作有《未来政治：如何在数字系统主导的世界生活？》，该书在2018年获《伦敦标准晚报》与《展望》杂志评选的年度图书，于2019年获埃斯托利尔全球事务杰出著作奖。英国媒体将他誉为“我们这个时代的伟大学术明星”。

第一部分为本书奠定了基础，介绍了技术背景。它勾勒出对未来的展望，这个未来具有三个决定性特征。第一是功能日益强大的系统，就是在很多任务和活动中的表现跟人类差不多，甚至比人类还强的那些机器。第二是日益综合的技术，它们总是包围着我们，嵌入自然的或是人为构建的环境之中。第三是日益量化的社会，越来越多的人类活动（我们的行动、表达方式、动作和情感）都作为数据被捕捉和记录了下来，然后由数字系统进行分类、存储和处理。可以使用“数字生活世界”这个词来描述我们的未来，这是一个密集且丰富的系统，将强大的机器与大量的数据编织在一张复杂而精妙的网中。第四是像理论家一样思考。杰米·萨斯坎德认为，人工智能、虚拟现实等各种技术将彻底改变我们的公共和私人生活，算法也将决定社会正义的方方面面，决定社会物品的分配，决定我们的身份和地位，所以需要思考，我们是拒绝使用所有数字技术、还是不顾一切地拥抱数字系统。

本书给我们描述了一个数字生活世界，在这个世界中，某些技术和平台以及控制它们的人拥有强大权力，还有一些技术会过滤我们对世界的认知，选择我们能知道什么，塑造我们的想法，影响我们的感受，指导我们的行动；还有一些技术会迫使我们去做我们原本不会做或不愿意做的事情。久而久之，人类与机器、线上与线下、虚拟与真实等方面的区别，都会逐渐消失。控制这些技术的人将越来越多地影响乃至决定我们的生活。他们将设定自由的界限，决定民主的兴衰和未来。

这一部分提到某些技术将成为数字生活世界的强大力量，其中一些技术将通过对人类施加某种权力发挥作用。技术将会通过收集和存储我们的私密信息来规训我们，以此发挥它们的作用，甚至在我们使用它们之前就预测我们的行为。有些技术将通过控制我们的感知来发挥作用。如媒体平台将会过滤我们对更广阔世界的了解，设置政治议程，引导我们的思维，激发我们的情感，并在更大程度上调动我们的偏见，其作用超过过去任何媒体大亨。数字技术将赋予权力远超人类历史上任何工具所能被赋予的力量，其结果就是，那些掌握了技术力量的人控制其余人的能力更加强大。现在有两类人将得利最多，他们是政权机构和大型科技公司。由技术所引发的权力变化将影响政治生活的方方面面。

正如罗尔斯所说，正义论的目的是“厘清和组织我们对社会形式的正义和不正义的成熟判断”。作者的目的与此类似：从数字生活世界的视角来澄清和组织我们关于社会正义的观点。这一部分与算法不公正有关。这里的算法不公正即指算法的应用会产生不公正的结果。争论的焦点是社会正义的灵魂，即分配和承认，关于它们的问题将越来越多地通过包含在代码中的算法解决。

随着时间的推移，在市场和国家体系里，算法逐渐会被用于确定重要社会物品的分配，包括工作、贷款和保险等。其次，在法律法规允许的范围下，算法在对人的识别排序、分类和管理方面的应用也会越来越多。分配和承认作为社会正义的实质，将来会被逐渐托付给代码。在数字生活世界中，正义在很大程度上取决于其所使用的算法及应用算法的方式。然而算法和数据的结合经常会产生不公正的结果。

算法的不公正主要有两类：基于数据的不公正和基于规则的不公正。如果我们赋予算法在分配和承认方面更多的控制权，那么就要保持警惕。过去，歧视的意图隐藏在人们的心中，未来，它也可能会隐藏在规模和复杂性惊人的机器学习算法中，它还可能被锁在一个代码“黑箱”中，受到保密法的保护。潜在的不公似乎无处不在，它们潜藏在糟糕的数据中，埋伏于不公正的规则中，甚至中立的规则中也有它们的影子。

网络效应会带来一种财富的旋风：其中心逐渐集中于一个越来越窄的点上，久而久之，它会吸收周围的一切，变得越来越强大，并摧毁同赛道上的落后者。最后，数字生活世界中的财富可能越来越集中落入少数人或公司手中。

某些技术将在未来成为可怕的权力工具。个人、国家、科技公司都必须有所行动。未来的政治将在很大程度上取决于当代技术人员如何对待和处理他们的工作，非技术领域者则需要警惕数字生活世界滑向深渊。

未来数字世界的最直接政治受惠者是国家和科技公司，它们将会去争夺对这些新技术力量的控制权。而国家会获得一种超强的执法能力。某些强大的科技公司将获得定义我们自由之边界的能力，并能决定民主的运转情况和关于社会正义的重要问题。对于科技公司，要规定其如何合法行使权力，在这里作者提出了三个原则和两类在数字生活中必不可少的监管：同意原则、公平原则、共同价值原则和透明度监管、结构性监管，同时还要让让公民对管理他们的规则有直接发言权。让权力承担起负责，而不仅仅是透明。