Redian新闻
>
四种“人工智能风险”(中)社会伦理与政治挑战:中美比较

四种“人工智能风险”(中)社会伦理与政治挑战:中美比较

时事


       

兔主席 20230609


         

在上一篇文章中,作者定义了四种“人工智能(AI)风险”(马斯克访华,及四种“人工智能风险”(上)定义、内涵、时间维度

         

风险1:社会伦理挑战(socio-ethical challenges)——AI大发展,对既定的社会秩序、生活方式及运行规范的扰乱和挑战

发生时间:短期、“近”期或中期,即未来半年、三年或五年以上的时间。

         

风险2:政治挑战(political challenges)——AI对国家安全、制度安全、信息主权、政治导向等的挑战

发生时间:近期、中期或长期,可能是三年、五年或十年的时间。

         

风险3:政治经济挑战(political-economic challenges)——AI对人类社会经济结构、劳动力结构、社会结构的影响,并随之对政治、政策的影响。

发生时间:中期或长期,三到五年或更长时间。

         

风险4,生存挑战(existential challenge)——AI大发展后,对人类生存的挑战乃至威胁

发生时间:(被认为是)中期或长期,即五年到十年乃至更长时间。

         

以下,结合中国、美国两个社会,对AI风险的对策及监管做一展望。

         

         

针对“风险1——社会伦理挑战(socio-ethical challenges)”

         

对于“风险1”,中美的看法最终应该是共识,即AIGC需要保证信息准确,保护知识产权、防止暴力、激进、歧视性的内容,保护隐私安全,防止利用AIGC进行犯罪,维护一些既定的社会运行规范(包括学生不得抄袭)等,以及确立一定的监管及问责机制。区别在于,生成式AI及其生产的内容——“AIGC”(AI generated content,“生成式AI内容”)在美国已经有一定的社会面影响,媒体及舆论上对社会伦理挑战的讨论已经比较多;内地互联网上,讨论似乎更多围绕AI技术本身;相关的商业机会;中美技术的竞争与追赶,等等,但围绕社会问题、伦理问题的讨论相对少一些。

         

再看看监管。

         

中国:尽管中国内地坊间对AIGC社会伦理问题讨论较少,但不妨碍中国监管很快意识到生成式AI可能产生的相关风险,反映迅速,在很短时间内就自上而下地组织推动建立监管框架与体系。这就是马斯克说的,中国已经开始启动对AI的监督与监管。         

         

美国:在美国,泛泛地对AI以及AIGC细分领域推动立法是很难的。因为缺乏足够的动能。1)AI(及AIGC)会被认为是重要的生产力,而且是美国未来的竞争力所在(特别是针对中国),因此监管阻力很大;2)美国崇尚市场主义和“小政府”,默认的范式就是反对过度监管;3)AI是一个产业,背后由资本和利益集团驱动;4)AI问题根本不在政治议程上,没人愿意为此动用政治资本;5)立法者年纪太大,不了解AI,很可能也没有生成AIGC的体验。6)AIGC很容易和言论自由一类的东西联系在一起,只要适当“对齐”,不越过美国的“政治正确红线”,即便内容偏激也可以被接受。

         

总之,美国对AIGC的监管动力不会很强,除非该议题和中国联系在一起,激发了反华这根筋(下一条:“风险2政治挑战”)。因此,预计在相当长一段时间内,美国只能靠“自下而上”、市场化的机制解决,包括自律/自我审查、相互纠错,交由各种市场主体发挥作用(例如用户投诉、平台下架等),此外,再辅以诉讼手段。

         

围绕“风险1——社会伦理挑战”,是否应该对AIGC进行一定的监管和限制?答案是肯定的。问题只在于:应该何时开始监管?应该监管多大范围?应该如何监管?应该如何避免因为过度监管而影响行业与技术的发展?这是很难平衡把握的。这个问题,其实和对限制“资本”一样,如何发挥资本的正面效应,又防止其“无序扩张”?要看到,资本本身其实一个资源、工具,它是“中性”的,不能说它是好,还是坏,就要看为谁所用,怎么用,用来做什么,实现什么目标。归根结底,在任何一个社会里,资本都应该和这个社会的主流价值与目标“对齐”(aligned),而不能自成“目的”,追求“自己”的目标。

         

对AIGC也一样,最终,是要确保它和我们的社会伦理目标“对齐

         

这里要提示一个监管带来的风险:如果在过早时候过严监管,是有可能影响到相关技术及应用的发展。

         

         

针对“风险2——政治挑战(political challenges)”

         

中美的看法:都会承认AI对政治形成的挑战,但落脚点不同。最终可以概括为:解决AI、AIGC和特定社会的“政治对齐”问题(political alignment)。

         

中国:高度关注AI对国家安全、意识形态、信息主权等的影响。这和我们国情体制高度一贯。这些内容已经体现在《生成式人工智能服务管理办法(征求意见稿)》里:

         

“第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,符合以下要求:

         

(一)利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序的内容。”

         

在可预见的未来,AIGC一定会成为极重要的意识形态、价值传播手段与工具。上面这条,就是要求在中国“信息主权”(笔者定义,读者可自行理解)范围内的AIGC与中国的政治目标一致、对齐、看齐。它也代表着中国政府的目标:要解决AIGC的“政治对齐”。

         

那么,哪些AIGC是“不对齐”的?自然是那些被认为挑战主流政治价值、意识形态、政治统序的AIGC。来源上看,它们可能本土生成,也可能在海外生成。

         

本土相对简单:在中国体制下,本土企业在开发相关技术时,从一开始就会考虑政治对齐——这是一切的根本前提、假设、范式。

         

“不对齐”问题主要来自海外——其实最主要就是美国。也因为如此,从一开始,OpenAI/ChatGPT、MidJourney、Stable Diffusion等就不能在内地直接访问,已经划定了两个世界。未来,中国的目标一定是寻求建立一套与中国“政治对齐”的AIGC世界。         

         

美国:在“政治挑战”这个问题上,美国的情况比中国要复杂的多,还得区分国际政治问题与国内政治问题。

         

——国际政治问题:AI问题一定会被政治化,而且会越来越政治化。在可预见的未来,AI将代表大国科技能力,并且AI能力将演变乃至等同于国力。更进一步简化,算力就是国力。在这个方面,美国与中国直接竞争。具体到AIGC,因为都是内容,涉及到的就是意识形态安全了,美国对中国也极为警惕。

         

按照目前的美中关系发展轨道,美国一定会不断加码限制打压中国AI产业的发展,限制中国AIGC流入并“渗透”美国(尤其提防TikTok这样的平台),同时,致力于将美国的AIGC作为工具,在意识形态上、价值上、政治上影响并改变中国。

         

目前,反华是美国的共识,因此问题只要一被引到中国身上,就很容易在国会两党里取得共识,立法就相对容易了。要指出,美国针对AI/AIGC推出一般性的立法是很难的,但推出具体针对中国AI的立法却很容易。这就和TikTok的案子一样:美国对本土的社交媒体缺乏有效监管,但对TikTok就差别对待,提出超出行业常规的要求。

         

——美国国内政治:美国朝野及两党都会发现:AIGC是政治传播、宣传与竞争的不可或缺工具,甚至谁掌握了AIGC,谁就可能影响美国未来的政治走向。由于在美国国内对AIGC进行监管、限制的难度很大,我估计,未来通过AIGC制作的各种假账号、假信息、假图片、假聊天、假视频等将充斥美国社交媒体。最近,在共和党初选中已经出现这个情况:DeSantis的竞选团队分享了Trump和Fauci的亲密照片(DeSantis攻击Trump,称其在疫情期间和Fauci走得太近,以致提出了过度保守的防疫政策):

         


上图里,画圈的是AI生成图片;其他的是真实图片。DeSantis的竞选团队使用了这些AI生成图片。可以想见,很多人看到这些图片就信了,不会深究,并且看过就看过,不会再留意后面的跟进辟谣,所以辟谣也没用。另外,人们只要看到图片,就会形成视觉联想与主观意识,认为Trump和Fauci的关系很亲近(“被洗眼了”)。如果没有对AIGC的强有力监管,假信息会充斥,人们会变得更加怀疑主义(cynical),认为除了线下的“眼见为实”外,其他任何东西都无法置信。

         

2019年有一部英剧《The Capture》就是讲应用“深伪技术”(deepfake)的,随便就可以给一个政客套上一段影像,让他说一些他没说过的话,完全可以乱真。

         

         

在现实世界里,其实并不需要去深伪知名政客的视频,更好的做法是,利用深伪技术去制作代表某一政治派别、立场观点的视频——例如组织许多普通人的访谈和讲话,表达某种观点、立场、看法,借由此,人工营造社会共识与趋势(manufactured consensus and trends),并进一步影响社会的政治氛围和走向。

         

进阶AIGC的出现,对美西方选举政治的负面影响不可估量,因为选举政治不是靠评估和选拔,而是高度依赖信息传递,尤其在当今世界,主要依赖社交媒体、手机。如果流传信息的做假率达到一定比例(都是AIGC),人们就会对现实丧失信任,不相信自己所看见的。这就会进一步破坏选举政治的基础,并进一步加剧社会的政治撕裂。

         

从这个角度讲,AIGC对中、西政治制度的影响是“非对称”的,对中国,AIGC至少是中性的,而且有可能是辅助加强;但对美/西方的选举政治,影响则是负面的,甚至有可能是比较致命的一击。

         

那么,美国有没有可能出台针对AI的立法呢?就先从约束和监管AIGC开始。我认为,难度非常之大。理由如下:第一,两党都可能受益于AIGC,将其用于选举政治;第二;美国讲求言论自由和信息开放,对AIGC进行监管与其制度基因不符,很难推广;第三;企业会游说反对立法,并且可以找许多的理据,例如打“反华牌”,认为只有不监管AIGC,美国才能压倒中国;第四,美国的立法者/政客平均年纪普遍太大,又都是律师出身,知识结构欠缺,普遍不了解AI,在有生之年,知识估计都补不过来。第五,AI问题现在远不上美国的政治议程,只有等到它在民调里变成美国人最关注的几大问题之一,甚至可能开始影响总统选举时,立法者才有动力推动立法。

         

所以,在AI问题上,美国任何一个政党或派别在国内政治问题上都无法寻求“政治对齐”(当然目前的AIGC是偏向民主党的),但会看到AIGC最终可能伤害民主体制;美国可以做到的是,AI产业及AIGC对中国“政治对齐”:压制中国的AI,封堵中国的AIGC。

         

展望未来,AIGC将和今日的互联网世界一样,中美两国各自发展自己的AIGC“宇宙”。

         

(未完待续,下篇,“风险3政治经济挑战”、“风险4生存挑战”)

       

 

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
知圈专栏 | 走进智能的本质— 智能的原理(中)中美军事实力,为何面临重大转折点?(中)七十一 伏击亚特兰大华裔画家吕振环的爱情交响曲(中)袁泉,她的眼里有钻石(中)统计型世界观的危机及人工智能时代的伦理转向|《财经》书评政治经济风险与人类生存风险——四种“人工智能风险”(下)黑镜成真:强人工智能应用中的法律与伦理|对谈预告04.27(星期四)19:30马云回来了,张三兴该怎么办首期AI治理与伦理圆桌:大模型的可解释性辽宁:烈火金刚(中)七十二 审敌全文下载 |《人工智能伦理治理标准化指南》正式发布!5月6日「暗夜幽光」惊恐单元(中)7部原创短片介绍《新教伦理与资本主义精神》解读【监管】现代汽车(中国)、捷豹路虎(中国)、梅赛德斯-奔驰(中国)等公司召回部分车辆中共中央政治局会议:重视通用人工智能发展中共中央政治局会议:促进人工智能安全发展知圈专栏 | 人工智能的“智能”是什么?— 智能的原理(上)素可泰代密金佛像法律翻译 | 欧盟和美国就执法部门获取数据的谈判:分歧、挑战以及欧盟法律程序和选择(中)谢霆锋,王的男人?(中)晨跑多瑙河《新教伦理与资本主义精神》导论硅谷人工智能创新之旅精彩回顾 | 与世界顶尖科技企业交流,探索人工智能创新之谜人类首次被聊天机器人杀死?人工智能的伦理边界在哪里?商业伦理大多集中在个人伦理问题上吗细细密密的光丨第三十三章 不可贪嗔(中)人工智能立法提上日程:兼顾安全与发展,为人工智能治理打下框架性基础马斯克2023年世界人工智能大会演讲:我相信,中国会有很强的人工智能能力!(附视频&演讲稿)买房还是不买房?从中美比较到“负债侧”思维凯特王妃妈妈,逆天改命(中)挑战TikTok“地铁冲浪” 两名14岁男孩一死一重伤!社媒各类恐怖挑战何时休?“昏迷挑战”、“破颅挑战”已造成多人死亡微软称GPT-4或具备人类逻辑,人工智能终将成“人类智能”?窦靖童:26岁,不乖但不坏(中)
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。