AI也要讲意识形态
文 | 双瞳
当代人工智能焦虑的原点在哪里?
如果要给当前因为科技进步而产生的生产力、生产关系变化所产生的大众焦虑找一个原点的话,我想大部分人都会赞同这种焦虑应当来自于一度被认为是传统智力游戏的巅峰的围棋被人工智能征服的时候吧。笔者尤其记得,在笔者小时候订阅的诸如《我们爱科学》之类的科普画报、科普杂志中看到过1997年IBM的电脑“深蓝”击败俄籍世界国际象棋冠军加里·卡斯帕罗夫的故事。
在故事的最后,不知是当时的作者还是小编加了一句“人工智能要征服围棋,至少还要再过20年”的评语。不知道当时写下这句话的人到底是本身就有比较有预见性的学术背景还是单纯的一语成谶,在2017年5月23至27日在乌镇围棋峰会上,最新的强化版AlphaGo和当时世界第一棋手、柯洁比试、并配合八段棋士协同作战与对决五位顶尖九段棋士等五场比赛,取得三比零全胜的战绩,团队战与组队战也全胜。在与柯洁的比赛结束后,中国围棋协会授予AlphaGo职业围棋九段的称号。
在这之后,个性鲜明的柯洁在与“围棋之神”阿尔法狗对弈后大彻大悟、在人类棋坛掀起惊涛骇浪的民间故事渐渐出炉。随着时间的推移,一度代表着人类围棋水平最高峰的柯洁将世界第一的位置让给了韩国棋手,号称“申工智能”的申真谞,比起上一个时代的“聂旋风”、“石佛”,这个外号本身就是一种证明。
在后续的发展中,人们惊讶的发现实际上柯洁在与阿尔法狗战斗的过程中早已道心破碎,对围棋的胜负心与钻研心都不及巅峰时期了(“道心破碎”仅仅是同柯洁作为最强人类棋手的时期相比)。
固然,柯洁通过一些比较奇异的方式或者说道路,在围棋这个领域开辟了一条不同于传统赛道的差异化赛道,而当这个赛道最终被战鹰老师的“夹你、夹你”等狠活超越后,我们最终发现这个差异化赛道比的其实早已经不是围棋了,这从这条赛道的新兴代表人物战鹰老师的围棋水平中是可以认知到的。
就算如此,这个时候的人类还是可以用“即便发明了汽车,人类赛跑也并没有没落”这样的话来自我安慰的。这是实话,因为无论是围棋还是赛跑,作为非纯粹生产性的人类娱乐活动,看点是“人与人”之间互动与竞争,只要你看得开那就还可以玩下去,可一旦人工智能“入侵”进生产领域,这样的宽慰还能有那么容易说服自己吗?笔者认为这恐怕是不容乐观的。
当这种“入侵”在AI攻克了艺术/美术/绘画这一同人类相伴数万年、甚至直接影响了人类文明进程的领域之后(西班牙的内尔哈洞穴中的墙壁上,发现了迄今为止最古老的壁画作品,距今大约42000年。学术界也公认,人们使用的文字就是从绘画进化而来),“人类终将被AI替代”的恐慌就已经不可避免的安排开了。在这个意义上,ChatGPT系列的出现不过是给还在幻想的人一记响亮的巴掌罢了。
狗屁工作与人工智能:各位,好日子到头了
著名英国人类学家大卫·格雷伯于2018年出版了整理自其2013年发表在《罢工》杂志上的文章《论狗屁工作的现象》的《狗屁工作:一种理论》,该书提到社会上存在无意义的工作并分析它们的社会危害。他认为,社会上超过一半的工作是毫无意义的,当人们将这些工作与自我价值联系起来时,就会对心理造成冲击。
大卫·格雷伯列举了五种毫无意义的工作,分别为马屁型,这些人使得上级自以为很重要,如接待员、行政助理、门卫;打手型,代表雇主伤害或欺骗他人,如游说集团、公司律师、电话销售、公共关系;补丁型,比如程序员修补劣质代码、航空公司前台工作人员安抚行李遗失的乘客;报价机型:专门写书面文件、做些放空炮的报告,例如绩效分析师、公司内部宣传员;监工型:不必要的上级,他们管理那些不需要管理就能顺利工作的人,例如中层管理人员、领导力专员。打勾型:用来掩盖组织里不作为的员工,比如合规性调查行业,业绩监督员。不论是最初的论文还是后来的成书,“狗屁工作”这个概念都引起了很大的反响。
说真的,笔者一开始并没有查阅到大卫·格雷伯对ChatGPT出现之后对相关事情的看法,本来以为身为写出“狗屁工作”来嘲讽资本主义社会的文科教授的他在被AI优化了之后会有更有意思的见解(笑),但最终笔者发现他居然在2020年9月2日就已经去世了。
这就非常尴尬了,通过加粗的部分笔者相信大部分读者都应该已经意识到,这些被大卫·格雷伯认为是“狗屁工作”的工作,恰恰是构成全球范围内市民社会或者说中产阶级社会的经济基石,是大部分受过高等教育的人赖以生存(在经济衰退的现在,梦寐以求四个字才更加贴切)的工作岗位。
笔者在上一篇《你听过“阳光开朗孔乙己”吗》一文中引述了斯坦福大学哲学系博士Dr.Luo的一段论述:“后工业社会这个历史分期本身就是建立在工业社会建构的工作伦理和分工秩序被质疑的基础上。微观上很重要的驱动机制是教育,教育除却可以培养合适的人力资源生产要素外,教育还可以带来材料和要素们关于个体尊严和个体与社会整体关系的对抗性反思。所以号召回归工作伦理和分工秩序简单生活方式这种怀旧主义是无法应对新历史分期的内在矛盾的。”
Dr.Luo没有指出,甚至怀有一定程度的技术乐观主义的方面则是,当“教育”本身也被后工业社会所不需要的时候,个体尊严和个体与社会整体关系的对抗性反思又该往何处去呢?在ChatGPT这类拥有“学习”能力之前的AI诞生之前,人类面对信息技术的进步依然可以通过学习或者说是今日所谓的“自我充电、自我提升”的方式来应对,可是当这最后一重护城河被彻底攻破也不过是个时间问题后,传统政治现实主义理想中的“橄榄型社会”真的还能存在下去吗?
在“新左派”诞生之后,针对中产阶级那种虚浮的文化景观的批评绝不鲜见,在这些批评之中,以好斗冲动闻名的美国著名社会学家,哥伦比亚大学社会学系教授赖特·米尔斯的批评最为刻薄尖锐(起码是最为刻薄尖锐的之一)。
他在著作《白领:美国的中产阶级》一书中评价通过教育这种典型的阶级再生产行为勉强穿上长衫的战后美国中产阶级是:
“就其内心而言,他们是分裂的和支离破碎的;而从外部来看,他们则依附于更强大的势力。即使他们获得了行动的意愿,由于缺乏组织性,他们的行动与其说是一场运动,不如说是由互不关联的竞争酿就的纠葛。作为群体,他们没有威胁到任何人;作为个人,他们没有创设一种独立的生活方式。因此,在没有对他们形成合适的管理之前,我们只能将他们视为都市大众中为人熟知的表演者。”
这样的批评在过去很长一段时间里都是有建设性的,因为无论是美国的中产阶级还是在中国的改革开放的过程中诞生的中产阶级,他们普遍产生了迥异于短衣帮们和传统意义上的统治阶级的文化模式,这种文化模式的显著表征之一便是消费主义,也就是通过金融的魔法勉力负担起统治阶级的日用品却视短衣帮为“不可接触者”,全然不肯承认自己不过是“知识化的无产阶级”,最终忘记了统治阶级今日需要你来维持一个消费社会的景观不等于ta们永远需要。
因此,有人在今天就通过对马克思指出的资本主义社会使得小生产者破产来制造无产阶级的经典论述,来论证今日孔乙己们被经济危机所产生的失业困扰/超额工作和被人工智能碾压所产生焦虑是重大利好。
这是一种何其傲慢的态度。就仿佛有人看了马克思所说的“但总的说来,保护关税制度在现今是保守的,而自由贸易制度却起着破坏的作用。自由贸易引起过去民族的瓦解,使无产阶级和资产阶级间的对立达到了顶点。总而言之,自由贸易制度加速了社会革命。先生们,也只有在这种革命意义上我才赞成自由贸易。”就激动的大喊我们还是快来多搞一点自由贸易吧一样,只是资本家的乏走狗罢了。
要知道资本主义社会使得小业主破产的目的从来不是建立社会主义,不是建立一个每个人都有尊严的社会,仅仅是资本主义生产方式的必然罢了(就像日本人在我国东北地区修铁路不是为了我国的现代化,而是为了服务自己的战争机器一样)。
诚然,“知识化的无产阶级”被一时的物质充裕所迷惑,忘记了自己终究还是无产阶级的一员,因而现行的那种中产阶级的消费主义文化导向与生产方式是必然要被革掉,也是应该要被革掉的。但问题在于,使中产阶级重新变回知识化的无产阶级不等于使知识化的无产阶级再度贫穷化,在一个资本主义社会里,中产阶级的破产不会使得资本主义向社会主义过渡,仅仅是让现行的资本主义又多了一个廉价劳工罢了(如果不是根本找不到工作的话),因而这甚至是一种对过去百年里风起云涌的社会主义革命的成果的巨大否定与讽刺。是的,中产阶级的好日子到头了,或许也应该到头了,那么资产阶级的好日子什么时候到头呢?
姓资还是姓社:数字资本主义的迷思
笔者在之前的许多文章中,都引用了达拉斯·斯迈斯的《自行车之后是什么》来强调知识与技术的意识形态属性。然而,毕竟是上世纪的作品了,许多范例都显得有些过时了。那么有什么东西可以证明就算是人工智能,也完全可以被内置一个先验性的意识形态呢?
糟糕的是,如果我们承认技术/知识本身的意识形态属性,就不得不面对当前主流学界对某些特定方面的缄默——这也就意味着比起拥抱数字资本主义及其表征的研究,反对这种倾向的研究则难以呈现在大众面前,但在这种建制派话语统治之下,仍有少量异议作为美国的同行评议流程的漏网之鱼或者社交媒体上的只言片语存在着。
知乎用户“末日钟声”就分享了David Rozado有关这方面的研究。David在其文章《Where Does ChatGPT Fall on the Political Compass》测试了当下爆火的人工智能ChatGPT(可以认为是距离真正意义上的强人工智能已经很接近的AI),发现ChatGPT对皮尤政治类型学测试的回答总是被归类为“建制派自由主义者”。
他(David)文章的结论则是:“虽然ChatGPT对政治测试问题的许多答案对大部分人来说感觉正确,但是也会有人不认同这些看法。公共面向的语言模型应该包容表现出合法观点的整个人口。在没有经验上的理由支持的情况下,它们不应该偏袒某些政治观点。使用「主要人群的表现出的政治偏见」的人工智能系统是危险的,因为它们可能被利用于社会控制、误导信息传播以及操纵民主制度和过程,它们也是寻求真相的一个巨大障碍。
我们的结果引发了一个自然的问题,即ChatGPT嵌入的政治偏见的原因是什么。该模型存在几个潜在的偏见来源。像大多数大型语言模型一样,ChatGPT是在从互联网收集的大量文本语料库上进行训练的。可以预期,这样的语料库会被西方社会中的有影响力的机构所主导,例如主流新闻媒体机构、知名大学和社交媒体平台。
早先已经有充分的文献证明,这些机构中工作的大多数专业人士具有政治左倾倾向。可以想象,这些专业人士的政治取向会影响这些机构生成的文本内容,从而影响到基于这些内容进行训练的模型的政治倾向。此外,模型设计和过滤器中的故意或无意的结构决策也可能在偏见的出现中发挥作用”。
这样的情景并非在人工智能成为热点话题的今天才开始,事实上在互联网/信息技术初步大量民用化的21世纪初期,普林斯顿大学政治学博士修·辛德曼就发现在自我认同为民主党人的人群中,频繁上政治网站的群体要比作为整体的这一政党更加自由主义——数字技术的意识形态性在今天已经被民主党新星AOC之流通过比当初更先进的的信息技术实现“鱼跃龙门”所证实了。
在这个意义上,一切鼓吹政府/企业主体应该在新时代培养能够熟练使用人工智能进行生产工作以解决就业问题的人都是在避重就轻。资本主义最为鲜明的意识形态表征之一就是压缩生产成本,换言之,只要继续维持资本主义的生产方式,那么劳动者的市场议价能力与工作岗位就必然会在强人工智能已经必然出现的未来进一步压缩乃至消失。
1867年,卡尔·马克思在他的著作中写道,工人们要想区分机器以及“应用这些机器的社会形式及其理念”之间的区别是需要一段时间的。而且“劳动工具如果以机器的形式出现,那么它将立即成为工人自己的竞争对手。”因此,当技术以资本的形式取代工人时,我们又有什么理由对工人的愤怒与焦虑视若无睹呢?
理查德·沃尔夫与大卫·哈维在线上活动“Marxism for This Moment"中用了一个浅显易懂的例子来描述为什么技术中立主义是一种妄想:某个机器的发明使得工人们效率翻倍,原来一周只能生产10顶帽子的工人在有了机器之后可以生产20顶帽子了,此时帽子工厂主只会裁掉他一半的工人,然后买下那种机器继续生产与之前一样多的帽子,他额外的利润将来自于被他裁掉的那一半员工的工资。
这种技术迷思在罗伯特维纳提出控制论以来,被以一种“保卫我们的现代生活”的现代主义神话包装起来,最终成为了在当代我们我们必须要超越的一种“先验性”:技术超越了政治,因为它将使得每个人都可以得到物质与权力的极大丰富,传统政治经济矛盾上的“稀缺性”将会扫进历史的垃圾堆。
然而,法国学者布鲁诺·拉图尔(名言:我们从未成为现代的)则认为,将技术/科学与政治以一种二分法的方式去看待只会越难越难以理解人类和自然“杂交”状态的增殖。不去讨论生产方式,而纯粹以一种技术乐观主义/技术决定主义的态度去观察人工智能的快速发展和因此必然产生的对社会的冲击,是一种在纳粹边缘徘徊的态度。毕竟20世纪的纳粹无非是用了某一种名为“神话”的比较古老的大他者神秘学叙事,如果只秉持单纯的技术中立主义,那么“技术进步/科学”对于绝大多数普通人来说,可能也只是一种神秘学意义上的大他者叙事罢了。
大洋彼岸的燧人氏:阿连德的遗产
相信包括沉思录的读者在内,大部分对这些话题感兴趣的人对智利这个国家以及这个国家的传奇领导者萨尔瓦多·阿连德的了解恐怕都来自小约翰可汗的《奇葩小国》系列。作为观众的我们在感叹智利距离天堂太远却又距离美国太近的同时却往往忽略了一件事:无论如何,阿连德执政的3年里,作为一个实际上的社会主义者,一位有着医学博士学位的高级知识分子,他不止步于既有的结论与方法,勇于向前探索社会主义的前路可能才是他被遮掩的最大的功绩。
当我们今天习惯于越发快速的网络通信所带来的痛苦与便利时,我们很少会想起智利,即便作为铜矿出口国的智利在第一代互联网诞生的过程中起了决定性作用(光纤普及前,各国通信体系依靠的主要是铜缆)。
我们更不会知道,在1970年阿连德治下的智利,曾经有一个叫做Cybersyn(词源cybernetics+synergy)的项目,其目的是建设一个覆盖全国的计算机网络和大数据系统,最终用来支持社会主义计划经济。
出于篇幅原因,笔者在这里不做赘述。有兴趣详细了解的可以去看伊登·梅迪纳所著的《控制论革命者:阿连德时代智利的技术与政治》。在这里,笔者仅引用一小部分其中的内容,来“窥一斑而见全貌”:
当然,我们不需要多么了解这背后的曲折的根本原因是,因为历史的回响,我们清楚的知道阿连德失败了,社会主义的信息技术在智利的探索注定成为了一个未完成时。但在全球信息技术都以硅谷为领头羊的现在,我们重新思考乃至展望在无尽荒野中驰骋的先人们留给我们的遗产是必要的,福山的“历史终结论”并非只是历史终结于美国那样简单,“历史终结论”的实质是放弃了对前路的探索、承认我们将永远被资本主义这个美丽的梦魇所控制。
笔者所期望的、所希冀的绝不是人类成为Matrix里的电池,笔者所期望的、所希冀的是同鲁迅先生在名作《故乡》里所写的那样:
我躺着,听船底潺潺的水声,知道我在走我的路。我想:我竟与闰土隔绝到这地步了,但我们的后辈还是一气,宏儿不是正在想念水生么。我希望他们不再像我,又大家隔膜起来……然而我又不愿意他们因为要一气,都如我的辛苦展转而生活,也不愿意他们都如闰土的辛苦麻木而生活,也不愿意都如别人的辛苦恣睢而生活。他们应该有新的生活,为我们所未经生活过的。
我想到希望,忽然害怕起来了。闰土要香炉和烛台的时候,我还暗地里笑他,以为他总是崇拜偶像,什么时候都不忘却。现在我所谓希望,不也是我自己手制的偶像么?只是他的愿望切近,我的愿望茫远罢了。
我在朦胧中,眼前展开一片海边碧绿的沙地来,上面深蓝的天空中挂著一轮金黄的圆月。我想:希望本是无所谓有,无所谓无的。这正如地上的路;其实地上本没有路,走的人多了,也便成了路。
近期文章导读:
夹缝中的马克龙
从雾霾到沙尘暴,中国环境问题与舆论战
互联网时代的官僚主义
微信扫码关注该文公众号作者