四种“人工智能风险”（中）社会伦理与政治挑战：中美比较

兔主席 20230609

在上一篇文章中，作者定义了四种“人工智能（AI）风险”（《马斯克访华，及四种“人工智能风险”（上）定义、内涵、时间维度》）

风险1：社会伦理挑战（socio-ethical challenges）——AI大发展，对既定的社会秩序、生活方式及运行规范的扰乱和挑战

发生时间：短期、“近”期或中期，即未来半年、三年或五年以上的时间。

风险2：政治挑战（political challenges）——AI对国家安全、制度安全、信息主权、政治导向等的挑战

发生时间：近期、中期或长期，可能是三年、五年或十年的时间。

风险3：政治经济挑战（political-economic challenges）——AI对人类社会经济结构、劳动力结构、社会结构的影响，并随之对政治、政策的影响。

发生时间：中期或长期，三到五年或更长时间。

风险4，生存挑战（existential challenge）——AI大发展后，对人类生存的挑战乃至威胁

发生时间：（被认为是）中期或长期，即五年到十年乃至更长时间。

以下，结合中国、美国两个社会，对AI风险的对策及监管做一展望。

针对“风险1——社会伦理挑战（socio-ethical challenges）”

对于“风险1”，中美的看法最终应该是共识，即AIGC需要保证信息准确，保护知识产权、防止暴力、激进、歧视性的内容，保护隐私安全，防止利用AIGC进行犯罪，维护一些既定的社会运行规范（包括学生不得抄袭）等，以及确立一定的监管及问责机制。区别在于，生成式AI及其生产的内容——“AIGC”（AI generated content，“生成式AI内容”）在美国已经有一定的社会面影响，媒体及舆论上对社会伦理挑战的讨论已经比较多；内地互联网上，讨论似乎更多围绕AI技术本身；相关的商业机会；中美技术的竞争与追赶，等等，但围绕社会问题、伦理问题的讨论相对少一些。

再看看监管。

中国：尽管中国内地坊间对AIGC社会伦理问题讨论较少，但不妨碍中国监管很快意识到生成式AI可能产生的相关风险，反映迅速，在很短时间内就自上而下地组织推动建立监管框架与体系。这就是马斯克说的，中国已经开始启动对AI的监督与监管。         

美国：在美国，泛泛地对AI以及AIGC细分领域推动立法是很难的。因为缺乏足够的动能。1）AI（及AIGC）会被认为是重要的生产力，而且是美国未来的竞争力所在（特别是针对中国），因此监管阻力很大；2）美国崇尚市场主义和“小政府”，默认的范式就是反对过度监管；3）AI是一个产业，背后由资本和利益集团驱动；4）AI问题根本不在政治议程上，没人愿意为此动用政治资本；5）立法者年纪太大，不了解AI，很可能也没有生成AIGC的体验。6）AIGC很容易和言论自由一类的东西联系在一起，只要适当“对齐”，不越过美国的“政治正确红线”，即便内容偏激也可以被接受。

总之，美国对AIGC的监管动力不会很强，除非该议题和中国联系在一起，激发了反华这根筋（下一条：“风险2政治挑战”）。因此，预计在相当长一段时间内，美国只能靠“自下而上”、市场化的机制解决，包括自律/自我审查、相互纠错，交由各种市场主体发挥作用（例如用户投诉、平台下架等），此外，再辅以诉讼手段。

围绕“风险1——社会伦理挑战”，是否应该对AIGC进行一定的监管和限制？答案是肯定的。问题只在于：应该何时开始监管？应该监管多大范围？应该如何监管？应该如何避免因为过度监管而影响行业与技术的发展？这是很难平衡把握的。这个问题，其实和对限制“资本”一样，如何发挥资本的正面效应，又防止其“无序扩张”？要看到，资本本身其实一个资源、工具，它是“中性”的，不能说它是好，还是坏，就要看为谁所用，怎么用，用来做什么，实现什么目标。归根结底，在任何一个社会里，资本都应该和这个社会的主流价值与目标“对齐”（aligned），而不能自成“目的”，追求“自己”的目标。

对AIGC也一样，最终，是要确保它和我们的社会伦理目标“对齐”。

这里要提示一个监管带来的风险：如果在过早时候过严监管，是有可能影响到相关技术及应用的发展。

针对“风险2——政治挑战（political challenges）”

中美的看法：都会承认AI对政治形成的挑战，但落脚点不同。最终可以概括为：解决AI、AIGC和特定社会的“政治对齐”问题（political alignment）。

中国：高度关注AI对国家安全、意识形态、信息主权等的影响。这和我们国情体制高度一贯。这些内容已经体现在《生成式人工智能服务管理办法（征求意见稿）》里：

“第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：

（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。”

在可预见的未来，AIGC一定会成为极重要的意识形态、价值传播手段与工具。上面这条，就是要求在中国“信息主权”（笔者定义，读者可自行理解）范围内的AIGC与中国的政治目标一致、对齐、看齐。它也代表着中国政府的目标：要解决AIGC的“政治对齐”。

那么，哪些AIGC是“不对齐”的？自然是那些被认为挑战主流政治价值、意识形态、政治统序的AIGC。来源上看，它们可能本土生成，也可能在海外生成。

本土相对简单：在中国体制下，本土企业在开发相关技术时，从一开始就会考虑政治对齐——这是一切的根本前提、假设、范式。

“不对齐”问题主要来自海外——其实最主要就是美国。也因为如此，从一开始，OpenAI/ChatGPT、MidJourney、Stable Diffusion等就不能在内地直接访问，已经划定了两个世界。未来，中国的目标一定是寻求建立一套与中国“政治对齐”的AIGC世界。         

美国：在“政治挑战”这个问题上，美国的情况比中国要复杂的多，还得区分国际政治问题与国内政治问题。

——国际政治问题：AI问题一定会被政治化，而且会越来越政治化。在可预见的未来，AI将代表大国科技能力，并且AI能力将演变乃至等同于国力。更进一步简化，算力就是国力。在这个方面，美国与中国直接竞争。具体到AIGC，因为都是内容，涉及到的就是意识形态安全了，美国对中国也极为警惕。

按照目前的美中关系发展轨道，美国一定会不断加码限制打压中国AI产业的发展，限制中国AIGC流入并“渗透”美国（尤其提防TikTok这样的平台），同时，致力于将美国的AIGC作为工具，在意识形态上、价值上、政治上影响并改变中国。

目前，反华是美国的共识，因此问题只要一被引到中国身上，就很容易在国会两党里取得共识，立法就相对容易了。要指出，美国针对AI/AIGC推出一般性的立法是很难的，但推出具体针对中国AI的立法却很容易。这就和TikTok的案子一样：美国对本土的社交媒体缺乏有效监管，但对TikTok就差别对待，提出超出行业常规的要求。

——美国国内政治：美国朝野及两党都会发现：AIGC是政治传播、宣传与竞争的不可或缺工具，甚至谁掌握了AIGC，谁就可能影响美国未来的政治走向。由于在美国国内对AIGC进行监管、限制的难度很大，我估计，未来通过AIGC制作的各种假账号、假信息、假图片、假聊天、假视频等将充斥美国社交媒体。最近，在共和党初选中已经出现这个情况：DeSantis的竞选团队分享了Trump和Fauci的亲密照片（DeSantis攻击Trump，称其在疫情期间和Fauci走得太近，以致提出了过度保守的防疫政策）：

上图里，画圈的是AI生成图片；其他的是真实图片。DeSantis的竞选团队使用了这些AI生成图片。可以想见，很多人看到这些图片就信了，不会深究，并且看过就看过，不会再留意后面的跟进辟谣，所以辟谣也没用。另外，人们只要看到图片，就会形成视觉联想与主观意识，认为Trump和Fauci的关系很亲近（“被洗眼了”）。如果没有对AIGC的强有力监管，假信息会充斥，人们会变得更加怀疑主义（cynical），认为除了线下的“眼见为实”外，其他任何东西都无法置信。

2019年有一部英剧《The Capture》就是讲应用“深伪技术”（deepfake）的，随便就可以给一个政客套上一段影像，让他说一些他没说过的话，完全可以乱真。

在现实世界里，其实并不需要去深伪知名政客的视频，更好的做法是，利用深伪技术去制作代表某一政治派别、立场观点的视频——例如组织许多普通人的访谈和讲话，表达某种观点、立场、看法，借由此，人工营造社会共识与趋势（manufactured consensus and trends），并进一步影响社会的政治氛围和走向。

进阶AIGC的出现，对美西方选举政治的负面影响不可估量，因为选举政治不是靠评估和选拔，而是高度依赖信息传递，尤其在当今世界，主要依赖社交媒体、手机。如果流传信息的做假率达到一定比例（都是AIGC），人们就会对现实丧失信任，不相信自己所看见的。这就会进一步破坏选举政治的基础，并进一步加剧社会的政治撕裂。

从这个角度讲，AIGC对中、西政治制度的影响是“非对称”的，对中国，AIGC至少是中性的，而且有可能是辅助加强；但对美/西方的选举政治，影响则是负面的，甚至有可能是比较致命的一击。

那么，美国有没有可能出台针对AI的立法呢？就先从约束和监管AIGC开始。我认为，难度非常之大。理由如下：第一，两党都可能受益于AIGC，将其用于选举政治；第二；美国讲求言论自由和信息开放，对AIGC进行监管与其制度基因不符，很难推广；第三；企业会游说反对立法，并且可以找许多的理据，例如打“反华牌”，认为只有不监管AIGC，美国才能压倒中国；第四，美国的立法者/政客平均年纪普遍太大，又都是律师出身，知识结构欠缺，普遍不了解AI，在有生之年，知识估计都补不过来。第五，AI问题现在远不上美国的政治议程，只有等到它在民调里变成美国人最关注的几大问题之一，甚至可能开始影响总统选举时，立法者才有动力推动立法。

所以，在AI问题上，美国任何一个政党或派别在国内政治问题上都无法寻求“政治对齐”（当然目前的AIGC是偏向民主党的），但会看到AIGC最终可能伤害民主体制；美国可以做到的是，AI产业及AIGC对中国“政治对齐”：压制中国的AI，封堵中国的AIGC。

展望未来，AIGC将和今日的互联网世界一样，中美两国各自发展自己的AIGC“宇宙”。

（未完待续，下篇，“风险3政治经济挑战”、“风险4生存挑战”）