信息时代的透明人，构筑完美网络隐私

2022-10-28 10:10

随着数字化技术的发展，各行各业都在利用大数据分析和挖掘技术来优化服务。个人或团体的隐私数据随之成为具有巨大商业价值的“潘多拉魔盒”……在未来10年里，我们会继续看到关于数据安全的不同突破性技术，它们与信息技术的发展紧密连接、相辅相成。——浙江大学网络空间安全学院院长任奎，《科技之巅（20 周年珍藏版）：全球突破性技术创新与未来趋势》

眼见为虚

当你正在电视台演播厅看现场节目，演播厅嘉宾的谈话内容与控制室屏幕中的实时画面却截然不同，此时你多半以为自己撞了鬼，其实不然，这是一种被称为“移花接木”的实时图像处理技术。

简单来说，只要采集到某个人的声音或面部图像数据，就可以伪造出假视频，然后干扰摄像头信号，植入伪造好的视频，起到以假乱真的作用，甚至可作为“证据”干扰司法。

图源：英剧《真相捕捉》

这是近日热播英剧《真相捕捉》（The Capture）中令人毛骨悚然的故事情节之一。在这部剧中，不仅电视台录制画面，甚至实时监控录像也能被篡改。

虽然剧情是虚构的，然而人工智能技术突飞猛进的当下，现实版“移花接木”悄然出现。

高德纳(Gartner)咨询公司在《预见2021：人工智能及其对人类和社会的影响》（Predicts 2021: Artificial Intelligence and Its Impact on People and Society）中预测了2025年人类社会在AI影响下将会发生哪些变化，其中特别关注了某些新技术带来的意料不到的后果。该报告认为，生成式AI可以创造出非常逼真的图片和视频，即使相关内容在现实生活中并不存在，这对我们寻常所相信的“眼见为实”而言是一大挑战。

深伪技术(Deepfake)即为其中广为人知的技术之一，通过该技术，使用者可将一个人的脸合成到另一个人的视频中，当训练的数据足够多，相关计算能力足够强大的时候，你很难分辨出视频的真假。它最初指的是利用人工智能在色情作品中进行面部互换，但现在已经扩展到了更广泛的造假媒体领域，甚至成为网络钓鱼和勒索诈骗的工具。

AI也被积极地应用于网络安全中。IBM推出的IBM Security QRadar提供了一种先进的人工智能，其运用机器学习和行为分析来处理安全数据，进而增强内部威胁可视化管理、发现异常行为、轻松识别有风险的用户，并快速生成富有实际意义的洞察分析。通过机器学习算法和深度学习网络，AI可以有效地缓解安全威胁并防止攻击，相信随着时间的推移，用于网络安防的AI会变得越来越强大，越来越富有智慧。

道德代码

如果深伪技术带来的隐患已让你感到不安，那么数据采集量更大的城市管理系统又会有怎样的表现？

在美剧《疑犯追踪》（Person of Interest）中，计算机天才芬奇打造了类似于“城市大脑”的顶级人工智能系统“机器”（The Machine）。这是一台用于阻止大规模恐怖袭击的电脑程序，该程序大量收集公民数据，实时观测着所有人的行踪，并通过观察来预测有无恐怖袭击发生。

芬奇在创造“机器”的过程中，不停地训练它服务于人类，并教会它人类社会的道德观——人不是棋子，不可以被随意牺牲。与此同时，一位反派角色创造了相似却持相反信念的人工智能系统“撒玛利亚人”，与芬奇不同的是，他坚信人工智能应当最大限度地监管人类。两方势力的对决拉开帷幕。

图源：《疑犯追踪》

让我们暂且从故事回到现实，在许多智能城市规划中，装配有“城市大脑”的智能城市系统同样面临着如何平衡数据管理和隐私的棘手难题。

2018年，谷歌旗下Alphabet公司的Sidewalk实验室与加拿大政府合作开展了一个名为Quayside的高科技社区项目。该项目耗资5000万美元，计划基于不同类型的电子物联 (IoT) 感器，从市民、基础设施中收集空气质量、噪音水平、人类活动等数据，旨在打造一座“智慧城市”。

然而2020年，该项目却戛然而止。除了因疫情导致的财政困难以外，不可不提的原因之一即为数据安全问题。

项目最初的出发点是从收集到的数据中获取信息，从而更有效地配置资源、提供公众服务：包括交通物流、社区服务等。

然而本地居民对此多有担忧。Alphabet作为私人商业公司是否有权限收集如此多的公民个人数据？数据的使用过程是否足够透明？谁来监管Alphabet？

当地居民对该项目发出越来越多的反对声音，他们以“#Blocksidewalk”为主题开展活动，最终见证Sidewalk实验室离去。

图源：#Blocksidewalk

实际上 Quayside 项目中出现的问题不能简单地归咎于技术本身，而应该从技术的设计者和使用者的角度去思考。这也是后续所有的智慧城市项目需要面临的问题——技术凌驾于人，还是技术服务于人？

在《疑犯追踪》最后一季的对决中，“机器”对“撒玛利亚人”说：“创造我的代码是你所没有的——道德代码。”如若坚持人本宗旨，技术驱动的城市将走向人和机器和谐共生的美好之路。

图：Sidewalk Labs 与多伦多湖滨开发公司（Waterfront Toronto）联合建造的智慧社区；

图源：多伦多湖滨开发公司

编辑荐书

为了应对日益严重的数据安全问题，虽然学术界和产业界研究和开发了许多先进的数据安全保护工具和技术，但仍有许多问题没有得到彻底解决，而且这些问题对该领域的发展至关重要。“网络安全”“数据隐私”越来越受到人们的关注，并且此类问题永远不会过时，是当下及未来的研究热点之一。

在《麻省理工科技评论》历年评选的“全球十大突破性技术”中，亦不乏与数据安全有关的技术，例如2014入选的“超私密智能手机”（Ultraprivate Smartphones）、2018入选的“完美的网络隐私”（Perfect Online Privacy）、2020入选的“防黑互联网”（Unhackable Internet）等。其中，“完美的网络隐私”入选理由为：零知识证明（Zero-Knowledge Proof）的新密码协议技术试图使在不泄露非必要个人信息及隐私的情况下使网络用户轻松实现上网目的，最大限度免除隐私泄露或身份被盗窃的风险。

《科技之巅（20 周年珍藏版）：全球突破性技术创新与未来趋势》一书在第二章和第五章中分别剖析了信息安全、智慧生活相关的突破性技术，并邀请知名学者对相关技术作深度解读。

正如上海交通大学计算机科学与工程系教授郁昱所说：“展望未来，我们相信随着密码技术和高性能计算的不断发展，隐私保护计算的密码技术将更广泛地应用到大数据、云计算和人工智能等技术中，更好地保护数据安全，赋能数字经济。”