渡十娘｜何止围棋和论文，AI会不会是人类的终结者？

2023-01-11 00:01

做公众号里的《纽约客》

戳蓝字一键关注渡十娘

转发也是一种肯定

文字｜戴耘

编辑｜渡十娘

作者简介：戴耘博士，出生上海，就读华东师范大学中文系，曾任教上海大学文学院，1991年赴美留学，获Purdue心理学博士学位，现为纽约州立大学（Albany）教授

最近，中国棋手杨鼎新九段在微信朋友圈公开质疑李轩豪九段对申真谞九段的“春兰杯”半决赛可能“开狗”，引起了轩然大波。所谓“开狗”是指李轩豪可能暗中动用了阿尔法狗(AlphaGo)或“绝艺”这样的围棋人工智能（AI）才赢下这场关键世界围棋大赛。许多顶尖棋手反应强烈，且呼应杨鼎新的（包括柯洁）不在少数。专业棋手用性命在赛场拼搏，假如真有这样的事，显然是对他们的极大不公。这是杨鼎新这位老实人发飙的原因，他叫板李轩豪敢不敢跟他下二十番棋来证明自己清白。反过来，被暗指利用AI作弊获胜的李轩豪九段必然压力山大。近年也发生过柯洁输棋给申真谞后在网上发表言论，怀疑对手有AI暗中助力，引起不小的国际风波。

李轩豪的白44手击中AI（人工智能）的第一选点

对杨鼎新质疑李轩豪这件事本事，我赞成彭荃七段的观点，如果没有证据，就应该遵从“疑罪从无”的原则，因为冤枉其他棋手的后果太严重。但这个事件引出我对AI的出现所产生的一些伦理问题的思考。

在围棋、国际象棋、日本将棋（还可能包括桥牌比赛）比赛所涉及的不公平竞赛，相对是说得清楚的，也是容易化解的，比如像规范考试那样，限制参赛者的活动范围，阻断“作弊工具”的使用，而且一旦查出代价巨大（如终身禁赛）。但是，还有很多利用AI获得优势的“不正当竞争”，边界相对模糊。比如最近有科学作者利用“交谈AI“（ChatGPT）软件发表了关于某个抗衰老药物的前景的论文。作者开先例地将ChatGPT作为第一作者，体现了作者的职业操守。但假如这位人类作者认为AI只起了辅助作用，而决定提交论文时不提及ChatGPT对论文的参与和贡献，这样做涉不涉及“作弊”和“抄袭”AI？构不构成对其他投稿人的“不公平竞争”？对此，目前还没有什么法规性的约束。而且，硬性的法规法律只能守住道德底线，而大量现实中的问题属于不触犯法律法规但涉及社会的伦理规范和道德判断，即是非对错的辨别。

来个思想实验，假如一个好莱坞编剧利用了编剧软件（这已经是现实）进行创作并获得成功且得到很高声誉和报酬，他是否应当声明自己得到了AI的帮助？这就相当于他假如有合作者，就必须用合作署名或公开鸣谢的方式承认他人或AI的帮助。个体身份的自主性和边界是判断此类问题的标准。假如用了AI的构思甚至AI拟出的“桥段”和“对话”，理论上应该公开。

当然，假如这编剧和某些深谙围棋AI的高手一样，真是AI“附体”，又当别论，因为真成了“申工智能”或“轩工智能”，说明AI已经是你大脑运作的一部分，而不是偷偷看答案，抄作业。赢了棋理直气壮，不需要内疚。我相信，揣摩和内化AI的思路，也是要悟性的。

那么利用AI究竟和传统的“不公平竞争”有什么不同。

首先，AI也是人发明的，比如AlphaGo或“绝艺”，所以在这点上，利用AI作弊和用撬门工具作案没有什么不同。AI的主要特点是给使用它的个人获得本来不应有的优势。棋赛的公平性，在于这是人和人的智力比拼，暗地里搞了一个AI帮忙，那就像开辆吉普车跟博尔特赛跑，比赛失去了本意（所谓integrity）。所以AI破坏的是竞争双方的对等关系。为了对等，在AI时代就需要信息公开和透明，什么可以用，什么不可以用。刚刚提到的交谈AI软件ChatGPT，去年11月成为开放程序后，五天之内就被达到了五百万次的使用量，其中一定不乏被人当“枪手”写作文。所以马上就被纽约市教育局禁止使用。理由是“对学生学习的负面影响”，不利于学生批判性思维和解决问题能力的提高，还会养成学生投机取巧，剽窃AI作文或回答的学业不轨。但是也有教师认为单纯用“禁”和“堵”也不能解决问题。

阻止像ChatGPT这样的AI软件被作为作弊工具的另一个方法是用甄别软件来确定一篇作文是否作弊，比如最近普林斯顿大学的一位田姓华裔学生Edward编写了一个电脑程序GPTZero，能够甄别一篇作文是像ChatGPT这样的AI所为，还是人写的。为了测试效果，美国媒体用ChatGPT作了一篇典型的中学生作文“谈谈哈姆雷特的主题”，让田姓同学的软件甄别是否是AI的作品，结果证明GPTZero能准确“抓包”。这样的软件以后一定会在美国大学入学作文的评鉴中应用。

AI会极大地补偿个人的能力缺陷，这本身不一定是坏事。马斯克已经在设想用电脑和人的大脑神经作有效连接，用电脑来解读人类生物神经信号，来解决瘫痪病人的大脑无法通过脊椎指挥身体的问题。这种解读人类神经信号的人工智能，是了不得的技术进步。大胆地想象将来，智障患者都能在皮下植入一个智能芯片（权称“最强大脑”），替他们解决现实中的各种判断推论问题，这不是一个福音吗？问题来了。这样做会不会搅乱人与人本来的社会关系。比如，假如这个植入了芯片的智障者比大部分普通人还要聪明，还抢了“正常人”的饭碗，这是不是已经构成“不公平竞争”？假如这个AI优势被社会普遍接受和利用，那么富家子弟都由老爸老妈花巨资植入“最强大脑”，甚至它还会年年升级换代，会不会引起中产和穷人普遍的憎恨，乃至谋划“群体事件”要求立法禁止？

这里，为什么社会能够接受邻居家孩子比自己孩子聪明，但不能接受邻家孩子因为植入了智能芯片比自己孩子聪明呢？前者的“不公平”能被接受，是因为那是上帝或自然造化的安排，而“植入芯片”是人为安排。这里，涉及到我们对“自然现象”和“人为干预”的区分。大自然可以“天地不仁，万物为刍狗”，大半个地球毁了，大家也无话可说；但人为的要当“人上人”，那就是犯了“公平竞争”，“上帝面前人人平等”的天条。从博弈角度，杨鼎新九段作为顶尖棋手的忧虑是可理解的。AI对人类未来造成的恐惧，很大程度是巨大的信息不对称。对于少数能够利用AI技术获得信息优势的人面前，其他人即使再有本事也会沦落为手无寸铁，坐以待毙的地步。李世石和柯洁面对AlphaGo的无力感和沮丧非常真切。社会伦理要求大家能站在同样起跑线上，人工智能的出现扰乱了原来的信息均衡和对称。一个处于信息劣势的人和群体，只能被命运捉弄而进退失据。

想象华尔街的数百纽约证券公司里突然有一家似乎掌握了独门绝技，在股市里频频得手，那么其他操盘手会顿时感到巨大压力。再假如他们发现这家公司的成功依仗的是一款新研发的预测股票涨落的AI软件，那么这算不算“不公平竞争”？似乎不是，优胜劣汰嘛；但假如整个股市落到了这家公司“赢者通吃”（The winner takes all）的地步，那么，根据“不公平竞争法”，一定有人要求这家公司公开这个软件。这个“思想实验”想说明的是，信息对称是一个社会里的“利益攸关者”们保持“竞合关系”均衡的基本前提，而信息不对称会使任何社会失去均衡，“赢者通吃”的结果是赢者最后也必然成为输家。

事实上，AI正在悄然改变这种均衡。比如，著名导演马丁斯科西斯竭力反对美国各大电影院线用“电影类型”为基础进行电影推送（streaming）。本质上这种分配是利用大数据实现票房收入最大化的手段，即“投其所好”的商业模式。但许多优秀电影并非“类型电影”。在斯科西斯看来，这是商业运作和AI计算套路联手对电影艺术的谋杀，套路化的电影推送，损害的不仅是电影人，整个电影工业会劣质化。在这样的博弈关系中，票房收入是指挥棒，收益的是商人，艺术家们受损，最后是艺术受损。这类问题属于经济行为的伦理问题，复杂难解。我们目前看到的YouTube等网络按照客户喜好推送视频和信息，也正在极大改变人们的知识视野乃至思维习惯，这些媒体利用的也是它的信息优势。往好的方面说，是提供了个人所需信息，往坏里说，也在人为地制造信息蚕房。网络公司对顾客的信息优势、盈利为目的的投其所好，定点喂食、经济榨取和趣味驯化，无形地侵蚀人类的自主性。这是一种福柯式的技术控制，它所产生的伦理问题更加隐蔽，但未必人畜无害。它不仅能改变我们的生活方式（每个人都在刷频，读书的越来越少），还能瘫痪我们的判断力。

在互联网不断渗透到各种私人领域的情形下，无论是由脸书推特那样的社交平台操控还是政府的信息操控，AI技术已经或正在造成许多政治伦理问题，小到人脸识别，大到以假乱真。如同生物技术（如基因编辑）一样，如何去判定AI的使用边界和伦理规范，如何掌控AI使其不会“走火入魔”？AI还处于发展阶段，我们还不清楚它究竟会怎样影响社会的走向。马斯克认为AI是比核武器更具破坏力的技术。这种忧虑不是杞人忧天。控制核武可能具体可行，但控制AI则是一个控制可能和病毒一样比人类更狡猾的物种的，难免有各种不可控的幺蛾子AI事件发生。

AI所造成的信息不对称，还涉及以下这一诡异现象：创造了AI的人类本身不能完全理解AI的思维逻辑，比如发明了AlphaGo的人工智能科学家和工程师，只知道他们自己发明了一个很厉害的、会左右互搏自我学习的AI围棋王，但其智能化运行本身（如何产生一步“好棋”，或者如何制造一个幺蛾子），AlphaGo的创造者们也不甚了了。这也是一种危险的信息不对称，因为AI科学家工程师们造出了一个棋王（或者以后发明了一个能够潜入敌方电脑系统的黑客），等于造出了一个自己都不理解的怪兽。它会不会反噬自己，成为人类的噩梦，只有天知道。

除了经济伦理、政治伦理和军事伦理，AI会不会改变人类文明？AI产生的虚拟现实，AI的“以假乱真”的艺术创作，也足以让我们对什么是“真实”、什么构成authenticity产生困惑。比如，我们都希望生活有真实的质感，而不是一种幻影。但你如何评家年轻一代热衷的二次元虚拟现实，它是另一维度的真实生活，还是一种逃避现实的托词？假如某年轻人沉迷于虚拟世界，爱上了某个拥有百万粉丝的虚拟歌手，而且爱得昏天黑地死去活来，这是真实的爱，还是压根儿精神变态？制造各种“楚门”幻象（The Truman Show）是正当地调制甜蜜生活，还是麻醉人心的骗人勾当？VR的虚拟世界的美好，是一种幻觉，还是一种可与真实世界抗衡的真实存在？扎克伯格的“元宇宙”（metaverse）是一种现实再造吗？

按谷歌战略家库兹韦尔的观点，2045年世界就会有颠覆性的改变，即AI会发展到一种超越人类控制的技术奇点（technological singularity）。虽然库兹韦尔未免危言耸听，我们至少已经看到了AI对围棋的改变，无论是下棋的目的，还是棋的内容。吴清源或藤泽秀行先生那一代人“求道派”如今已成恐龙，完全被“X工智能”的“胜负师”取代。古力九段在兴叹对围棋AI望尘莫及之余，觉得可欣慰之处是至少当年的围棋比现在下得好看。我会为古力做一个注脚：因为模仿AI的套路，围棋正在失去想象力，沦为一种纯粹的竞赛工具。川端康成所赞美的“深奥幽玄”是什么鬼，很少有人问津，也很少有人在乎。

本来，探索未知世界，是人类的一大乐趣，广大围棋爱好者对围棋的痴迷，也源于其浩瀚的探索空间，变化莫测的未知领域。而现在AI成了全知全能的上帝视角，分明是来砸场子的，毁了我们的探究未知的乐趣！过去的围棋大师一步棋能“石破天惊”，令人高山仰止，现在的顶尖高手每下一步，要惴惴不安地听一下这个上帝的裁断，而这个围棋上帝只问效率输赢，不知“境界”为何物，更不知围棋和人生修炼有半毛钱关系；什么围棋的“深奥幽玄”，在这个上帝面前，全是扯淡。网上“王局”断言，自从AI君临围棋，围棋就有了“标准答案”。依我的经验，一件事有“标准答案”后，盲从就开始了。AI时代对于一个技术控来说，是生逢其时，而对一个求道派或艺术派来说，意味着一个本质主义时代的结束，一个技术主义时代的来临。

AlphaGo的基本计算网络

2016年3月围棋人工智能AlphaGo与韩国李世石九段的世纪大战

我把2016年DeepMind研制的AlphaGo的横空出世并击败李世石九段视为人工智能元年。它和1997年IBM的“深蓝”击败国际象棋世界冠军卡斯帕罗夫不可同日而语，是一种真正的智能突破（比如它惊人的学习能力）。六年来职业围棋的变化，AI对棋手对棋界生态的影响，是可喜还是堪忧，还是让职业棋手去评判。假如有一天AI渗透到人类的所有领域，包括生产方式，社会管理，艺术，诗歌，智力游戏，还有“虚拟情人”或人偶。到那个时刻，真实和虚拟的界限将会完全消失。诗与远方，也可能只是一个技术的“楚门”。那是我想象中的“技术奇点”。如此这般，我们是揭开了人类文明新纪元，还是打开了“潘多拉的盒子”？

福兮祸兮，造化弄人。

戴耘写于2023元旦，改定于1月6日，Albany,New York,权当本人的新年感言。