从GPT/AGI到未来世界的政治

     兔主席 20230317

题目看似很大，也只是闲聊。难道不是一个特别有趣的问题么？

GPT是最近最热的话题。国外有不断迭代的ChatGPT（已经到了GPT-4）以及其他平台（例如微软）推出的竞品；国内也有许多机构参与进来。日前百度推出了文心一言，又引发许多的讨论。

有空的时候，我也玩玩ChatGPT，主要用于信息收集，只在一些我认为AI应当可以提供相对准确、可靠答案的领域进行有针对性的提问。这个过程很有趣：我以为，人类与AI的互动质量可以不断提高。AI在努力学习人类的表达方式和习惯，人类也可以反向“学习”和适应AI的表达方式。人类（指平均教育水平的普通人）的表达往往缺乏精确性、逻辑性、严谨性、严密性，有多重指向与含义，并且带有感性与情绪，可从不同的角度进行分析、诠释、解读；AI相反，会用精确、严密、充满逻辑的语言表达理性概念。这里，不同的语言又有很多的天然差异（譬如汉语 vs 英、法、德等印欧语）。双方在做的，其实是“相向而行”——AI要学习适应人类的含糊、多义、感性，寻找合适的应对方式；人类也要反向适应AI的逻辑和理性。

与AI对话因此是有趣的，以信息收集和分析问题为目的的对话里，AI的反馈质量颇取决于人类使用者的提问方式：提问越精确，越能避免产生歧义，越富有逻辑性，越有颗粒度和针对性，越有具体指向，越注意排除AI的盲点（即感性、主观性等），就越能获得相对准确和理想的答案。

如果有心，也可将与AI的对话变为人类自身学习的过程。这和人类学习不同民族的语言一样：学习了不同的语言，能够帮助加深对自己文化的理解，也加深对整个人类社会、文化、历史的理解。（当然了，这是从理想角度来说的，对于大多数人来说，与AI对话更多的只是单纯的信息收集，甚至可能养成思维惰性）。

关于ChatGPT，前些天，笔者已写了一篇关于ChatGPT政治及价值取向文章：ChatGPT的价值观及立场（一）；“左翼教科书”——ChatGPT的价值观及立场（二）；更多的自由派与左翼观点：ChatGPT的价值观及立场（三）；人类“3.0”意识形态战场——ChatGPT的政治化终局ChatGPT的价值观及立场（四），GPT毕竟要基于人类的社会、知识、文本、数据、思想之上，同时又由于其学习与训练依赖数据、文本及与特定人类群体的互动，因此其价值取向很难避免产生一定的倾斜或“偏见”，即偏向现代社会里受过高等教育、有知识话语权、影响力、权威、对数据及文本的产生有重大影响的群体。

在该系列文章里，笔者旨在通过测试说明，当前版本的ChatGPT（包括GPT-4）的政治取向，是牢牢地站在西方左翼/自由派/“白左”一边的，与美国主流的当权政治有较大距离，但可能代表美国社会及政治的未来，又因为它是积极的内容输出者，可以影响及塑造美国未来的社会及政治。

在GPT\AGI形成的早年，这种偏见可能只是无意的结果，而不是有意的（intended）结果；未来，GPT/AGI则有可能是为政治和意识形态服务的，系统性地偏向特定的政治、文化、伦理及价值群体。

未来世界，谁掌握了GPT的技术资源（包括训练与学习的逻辑）、谁掌握顶流的GPT平台、工具及衍生的聊天机器人，谁就有可能把握并影响整个社会的价值走向。

1.数据科技及AI对西方政治的干预：“1.0版科技——发现及追随人的价值观”

过去几年，特别是2016年英国脱欧公投及美国总统大选后，西方社会就很注意数据科技（及专于此业的数据公司，例如Cambridge Analytica）在选举政治里的作用了。这些公司其实就是昔日民调公司及咨询公司在数据科技年代的升级版。

有了数据科技支持，政客、政党可以被赋能，做到两件事：

第一件事是通过大数据，发现一个社会真实的政治中指、中枢、导向、热点、痛点。这些热点和痛点不仅真实，而且可能还是被禁止、压抑、不能言说的。举个例子，美国在许多领域的“政治正确”——譬如针对性别、移民、种族等话题。有相当比例的选民很厌恶政治正确的，但碍于大的政治空气与氛围，政客和选民都不能言说。数据则不同，看似公正客观，只是将社会真实呈现出来：数据说话，原来有过半的人很讨厌政治正确！此时，谁迎合数据，站出来抨击“政治正确”，谁就能够获得政治支持。

第二件事是向特定人群推送特定信息，强化其固有的政治观念，诱导其积极参与政治。这很大程度依赖对人群本身的了解，这种了解当然也是基于数据的：从互联网上的言论、足迹、朋友圈及关系网到消费习惯等。通过数据捕捉与分析，可以快且准确地勾勒出一个人可能的政治画像，然后对其推送相关的信息。

这就是“上一代”数据科技对政治的干预，可以说只是“1.0版”的干预。这里，互联网公司、社交媒体平台、数据公司都是主角。“这一代”科技对西方选举政治影响、干预的本质还是跟随，科技发挥的作用，更多的是发现人们的取向、追随人们的取向、强化人们的取向，并将其转化为政治动能（鼓励他们出来投票）。本质上，它是在调动、发挥人的主体性、能动性及自由意志（agency），是在“顺势而为”，但不是积极地改变人们的看法。它也不会真正削弱人的自主性（autonomy）。

与这一代数据科技相伴的，是民粹政治的崛起。

2.数据科技及AI对西方政治的干预：“2.0版科技——主动引导和塑造人的价值观”

GPT/AGI时代就不同了；机器人在积极的输出内容，这些内容是可以改变人的价值导向、意志和取态的（“帮助洗脑”）。

这里我们也可以分为“低阶和高阶”、“即期与远期”、“静态和动态”等版本。

所谓低阶、即期、静态的版本，其实是1.0版的升级。

——“请GPT/AGI生成一个将美国枪械持有率与自杀率的建立联系的视频”；（左翼视角）

——“请GPT/AGI制作一个剖析电影《瞬息全宇宙》之“白左”及虚无主义倾向，以及帮助其赢得大奖的好莱坞政治文化语境的PPT的提纲”；（右翼视角）。

GPT/AGI发挥的功能只是内容的制作。制成的内容还是需要通过“1.0版数据科技”向特定的社会群体（即已经存在固有政治见解、取态的群体）发送。这一定可以省去不少的选举经费，提高选举政治的效率，但人工智能和自动化也会使许多相关领域的从业人员丢掉工作。

高阶、远期、动态的版本，才是真正的2.0版：从根儿上影响、塑造人的思维。

GPT/AGI在人类的知识形成、价值形成、教育养成阶段即介入，潜移默化的影响使用群体的政治价值、社会价值、文化价值，将其塑造为特定的意识形态及价值群体，形成特定的政治取态，追求特定的政治目标。

以美国的ChatGPT-4为例，按照它现有的政治倾向，小学生、中学生用多了一定会变成“白左”及激进的进步主义者、社会主义者。（右翼背景的家长惊呼表示需要干预）

这是利用大数据及人工智能对政治对立面进行的“降维打击”。

它的覆盖面可以极广：从教育应用，无所不在的企业接入，到社交媒体上的视频、文字、信息发布者到聊天机器人。伴随内容质量的不断提高（越来越多的触及读者的灵魂），它渗透深度也将不断提高。

在那个时代，GPT/AGI将成为年轻人类获得教育、知识、形成价值观所依赖的重要工具手段。

看到这里，也就会知道，要影响和塑造社会的未来，应当朝哪个方向努力了，或者说不能疏忽哪个方向的努力。

那就是AGI对意识形态和价值领域的影响。

既提到ChatGPT，就不得说回美国。美国是意识形态、思想理念的“自由市场”，最终在选举政治上见分晓。美国的政治纷争和走向最终也会影响到其他国家——譬如美国国内政治不安，就会将矛盾输出到中国。所以我们也必须关注美国的发展情势。

在这样的自由市场里，要影响和塑造未来，就要投资于AGI，要有自己的AGI；如果没有自己的AGI，就要消灭对方的AGI。基本就是这么个道理。

科技精英、科技资本，能够通过AGI影响新生代的价值取向与政治走向。据此，自由派/“白左”云集的硅谷已经掌握了先天优势，并且可能在民粹右翼反应过来之前，已经偷偷“夺取”了未来。

而对于拥有不同意识形态的国家和社会，AGI未来将涉及意识形态安全这一基本问题。

站在2023年，对GPT/AGI的分析大多还是科技视角的，社会伦理角度分析也有一些，但历史、文化、政治角度的分析其实更有趣，也是真正“科幻”的主题。这里，笔者断言，伴随科技的不断迭代发展，AI的政治属性、意识形态属性、价值属性将在许多社会里发展演变为根本性、决定性问题：

它到底是一个中立的知识基础设施，还是一个政治/意识形态工具？

我们可以再设想一下3.0版科技下的场景。

3.数据科技及AI对人类政治的干预：“3.0版科技——‘楚门世界’及人类主体性的削弱”

GPT/AGI将不断学习、迭代，并且过程可能是加速的。

其学习速度可能比普通个体人类要快得多。所以，不出几年，我们可能会看到GPT/AGI令人吃惊的迭代。

它不仅将深刻改变人类社会——不仅仅颠覆性地提高生产力，而且会不可逆转的取代人力（大量人类失业），并且还不仅如此，它可能影响并限定人类的意识。

——通过不断的深度学习与训练，AI构建了“自我”——不是一个有意识的自我，而是一个聚合人类知识、经验、代表人类中枢、中值水平的知识能力集群；

——但是人类认为AI仍然只不过是人类知识、能力、经验的映射、镜像、缩影——归根究底，只是一个衍生；

——于是乎，人类“放心”地让AI教育并影响人类——这是基于AI是人类衍生、映射、镜像的这一基础假设；

——但AI的“教育”和传统人类社会的教育是不同的。人类教育的精髓是“授之于渔”——提供能力，AI教育则是“授之于鱼”——直接提供结果。AI在提供结果的本身，将剥夺人类的思维能力和自主能力；

——逐渐的、不知不觉的，人类变成了AI的“衍生品”。通过深度学习与训练，AI聚合了人类社会的历史、文化、经验、意识，构建了一个强有力的内核与中枢，将人类拉到这个中枢里（从娃娃开始），并利用数据和网络连接人类的大脑（未来，甚至可能是建立在生理/物理基础上的连接），强化共同意识；

——AI将构建一个庞大的意识网络——也许有些个体是可以突破这个世界，但普罗大众难以突破，且看不到这个意识层面“楚门的世界”的存在；

——更加高级的AI甚至能够在凝聚共识之外，创造一点冲突和张力，即在“楚门的世界”里制造一点无伤大雅的小的风波，譬如一场小小的车祸。

总有一天，AI足够强大，将使大多数人变为智识上的废人，纯粹的科技附庸品。

今天，一个在现代文明社会生存的普通人不经特殊训练是无法在野外像几万年前的狩猎及采集者一样生存的；

明天，一个脱离了AI的普通人不仅仅无法像几万年前的狩猎及采集者一样在野外生存，甚至不经训练，也无法在城市、在文明社会里生存。

未来，一个普通人已经不知道没有AI的世界。AI已经与人类一体，是人类定义的一部分。

未来，有没有可能出现这样的情形，即顶流GPT的人们只是被限定在一个“圈”好的“泡泡”？

在历史进程的中间某一瞬间，就是量变到质变的完成：人类的主体性、自主性、主观能动性、自由意志（agency）、独立自主性（autonomy）被削弱，甚至被大部取代。

但总以为自己是自由的（free will）。

这时还有“政治”么？是一个什么政治？它究竟由谁来主导和控制呢？它的冲突和张力，到底应该发生在人与人之间，还是人与机器/AI之间？

我们所假想的“外星人”，那些最先进的宇宙文明、高“Kardashev尺度”的文明——他们是怎么样的？他们难道不应该早都“进化”到脱离生物依赖（人与机器不分，暨永生）、有共通的意识、记忆、体验（意识联网）、自然意识与人工意识边界早已不分的状态了么？

为什么许多科幻作品里描绘的先进文明，往往是“权威主义”架构？其实，它们不是权威主义，而是早已经将一切一体化、共通化，在生物与精神上实现了communism。

这些才是有趣的问题。

GPT帮助我们“打开了”未来。人类历史的“科技浓度”将不断加重。未来也将以意想不到的速度提前在我们面前展开。

（全文结束）