通往AI军备控制之路

2023-10-30 04:10

【编者按：基辛格和艾利森（修昔底德陷阱提出者）2023年10月13日在著名的《Foreign Affairs》（《外交》杂志）联名撰文，呼吁中美元首商谈人工智能军控问题。文章将人工智能与核武器类比，通过回顾美苏核军控谈判历史，提出由中美先行对话，后续成立二轨咨询小组，同时推进政府和企业对话，建立类似国际原子能机构的国际组织，最终建立人工智能领域的国际秩序。】

美国和中国必须共同努力避免灾难

今年是历史上死伤最惨重的战争结束78周年，也是近代以来最长的没有大国战争时期的开始。由于第一次世界大战之后仅仅20年，第一次世界大战就爆发了，因此，在随后的几十年里，第一次世界大战的幽灵一直笼罩在冷战的上空，因为战争中使用的武器破坏力极大，理论上可以威胁到全人类。当美国对广岛和长崎的原子弹摧毁迫使日本立即无条件投降时，没有人想到世界会在接下来的70年里看到事实上的暂停使用核武器。更不可能的是，近80年后，世界上只有9个拥有核武器的国家。这几十年来，美国在避免核战争、减缓核扩散以及塑造国际秩序方面所表现出的领导能力，将作为美国最重大的成就之一载入史册。

今天，当世界面临着另一项前所未有的、在某些方面甚至更可怕的技术——人工智能——所带来的独特挑战时，这就不足为奇了。

许多人一直在寻求历史的启示。具有超人能力的机器会威胁到人类作为宇宙主宰的地位吗?AI会破坏各国对大规模暴力手段的垄断吗?AI是否能让个人或小团体制造出能够大规模杀伤的病毒，而这种病毒以前是大国的专利?AI会削弱作为当今世界秩序支柱的核威慑力量吗?

在这一点上，没有人能回答。

我们已经足够理解从今天开始做出艰难的选择和采取行动——认识到随着更多的发现，这些将会被反复修正。

当领导人做出这些选择时，在核时代吸取的教训可以为他们的决定提供依据。即便是竞相开发和部署可能杀死数亿人的前所未有的技术的对手，也发现了共同利益的岛屿。作为一家公司,对这些问题充满信心。但是，在过去的两年里，我们与一群处于AI革命前沿的技术领导者一起探讨了这些问题，我们得出的结论是，AI的无限制发展将给美国和世界带来灾难性后果的前景是如此引人注目，以至于政府领导人现在必须采取行动。尽管他们和其他人都无法知道未来会发生什么，但美国和苏联都有兴趣阻止这项技术迅速扩散到其他可能威胁到他们的国家。华盛顿和莫斯科都认识到，如果核技术落入自己境内的流氓分子或恐怖分子之手，就可能被用来威胁他们，因此两国都为自己的武器库开发了强大的安全系统。但是，如果流氓分子得逞，两国也都可能受到威胁。

在他们的对手获得核武器的社会中，双方都发现，与对方讨论这种风险，并描述他们开发的确保这种风险不发生的做法和技术符合他们的利益。一旦他们的核武器武库达到了双方都无法攻击对方而不引发自我毁灭的反应的水平，他们就发现了相互确保毁灭(MAD)的自相矛盾的稳定性。随着这一丑陋的现实被内化，每个大国都学会了限制自己，并找到了说服对手限制自己主动行动的方法，以避免可能导致战争的对抗。事实上，美国和苏联政府的领导人都意识到，避免本国成为第一个受害者的核战争是他们的首要责任。

今天AI带来的挑战不仅仅是核时代的第二章。历史不是一本菜谱，里面的菜谱可以按照菜谱来制作一个soufflé。AI与核武器之间的差异至少与相似之处一样显著。然而，如果正确理解和适应，在塑造国际秩序的过程中吸取的经验教训将为当今面对AI的领导人提供最好的指导。国际秩序已经产生了近80年没有大国战争的历史。

目前，世界上只有两个AI超级大国:美国和中国是仅有的两个拥有人才、研究机构和大规模计算能力来训练最复杂的AI模型的国家。这给他们提供了一个狭窄的机会来制定指导方针，以防止AI的最危险的进步和应用。亚太经合组织(Asia-PacificEconomicCooperation，简称apec)11月在旧金山召开会议后立即举行峰会，届时他们可以就他们认为目前面临的最重要的问题之一进行长期、直接、面对面的讨论。

核战争的教训

在1945年的日本城市，科学家艾奇逊基本上同意谁打开了潘多拉的原子盒史汀生:唯一的方法来防止看到他们创造了什么，并在恐怖中结束核军备竞赛。罗伯特·奥本海默(RobertOppenheimer)，这场灾难性的战争将为曼哈顿国际权威机构“计划”(Project)创造一位首席科学家，这位唯一拥有原子武器的人回忆道。博伽瓦德·吉塔:“现在我将成为这将需要美国的死亡，世界的毁灭者。为了与奥本海默分享自己的核秘密，奥本海默成了苏联等成员的热心拥护者，采取激进措施控制UN安理会，将其核弹转让给他，使他获得了新的UN“原子武器”的安全许可。《罗素发展权威》和《禁止爱因斯坦宣言》1955年由所有国家签署禁止发展武器11位顶尖科学家不仅包括伯特兰·罗素和阿尔伯特·爱因斯坦制造武器级核材料还包括莱纳斯·鲍林和马克斯·波恩的材料。1946年，杜鲁门发出警告，警告金融家和总统顾问核武器的可怕力量，并恳求世界伯纳德·巴鲁克(BernardBaruch)到UN与各国领导人谈判，永远不要使用核武器。执行艾奇逊的协议

虽然美国总统哈里计划。但这一提议被杜鲁门断然拒绝，安德烈·格罗米科二度拒绝，苏联方面对他的决定看法不一致，也没有派代表前往UN。

三年后，他和他的国家成员都有了一个可行的观点，当苏联安全团队成功地通过坠机努力来研究这种令人敬畏的技术如何制造自己的炸弹时，美国可以融入战后，苏联可以进入什么样的国际秩序。人们是否应该开始称寒冷的美国试图维持它的战争:这无疑是一场短暂的垄断地位竞争，它是唯一的原子弹和子弹。一个中心力量?这可行吗?在这场竞争中，有追求目标的动力，那就是核优势。在其鼎盛时期，美国与两个超级大国的核武库苏联分享其技术?在一个拥有超过6万件武器的世界里生存，是否需要领导人发明一些比所有武器国家政府都更具有爆发力的权威?亨利·史汀生(HenryStimson)，在杜鲁门的战争部长(他记录了历史)的所有战争中都使用过。关于全面核战争是否会导致战争的胜利，专家们争论不休。

几十年来，华盛顿阻止它们被激活，莫斯科在没有正确的核发射密码的情况下花费了数万亿美元。在他们的核武库上花了很多钱。裁员的目的是保护美国目前的年度预算，防止核技术突破超过500亿美元。在这场竞赛的最初几十年里，促使美国和苏联发明计算机网络的两种控制系统都实现了以前难以想象的飞跃，并演变成互联网。由于前进的希望获得了著名的战略家赫尔曼·卡恩的决定性优势。有人说，他们“考虑到武器的爆发力需要不可思议的东西”。

新指标的创造:从核战略核心的千吨(相当于威慑概念所释放的能量:防止1000吨TNT)为最初的对手发动裂变武器攻击，到百万吨(相当于威胁成本与100万吨释放的成本不成比例)，再到任何可以想象到的利益。成功用于氢能核聚变炸弹。人们开始理解，这两种威慑，双方发明的洲际导弹不仅需要能力，还需要能够可靠地运送弹头。地球另一端的潜在受害者目标不仅需要在30分钟内做出反应的手段，需要果断环绕的卫星，还需要意志。“全球战略家”在数百英里的高度进一步完善了这个基本想法，通过摄像头可以识别诸如扩展威慑、几英寸内的目标坐标等概念，试图使用一种政治和防御手段，从本质上说，这是一种通过一颗子弹来保护自己的承诺。一些观察人士联合起来，以说服关键国家不要认真想象建立自己武库的防御措施。

在试图塑造这些社区估计，即使发展，战略家开发了一个肯尼迪成功推出了第一个概念武器库，区分打击，苏联的报复性反应之间的第一次和第二次打击。以他们现有的能力，他们可能会阐明杀死6200万美国人的基本要求。到1969年，一个可靠的报复性反应。而当理查德·尼克松成为总统后，他们发展了核三位一体——美国需要重新思考其潜艇、轰炸机和陆基方式。我们中的一个人，基辛格，后来的导弹——以确保如果一个对手描述这个挑战:“我们的防御将发现一个弱点，我们在武器库的其他组成部分将占据优势的时期形成的战略必须重新审查，在新的现实的严酷光线下仍然可用……响应。对风险的感知。任何好战的言辞都无法掩盖一个事实，即意外或未经授权的发射，即刺激发明核武器的现有核武器储备足以毁灭人类.

没有什么比防止核战争的灾难更崇高的责任了。

为了使这种情况更加生动，战略家们创造了具有讽刺意味的首字母缩略词MAD，其精髓可以用里根经常重复的一句话来概括:“一场核战争是无法取胜的，因此永远不能打。”在操作上，MAD意味着相互保证的脆弱性。虽然美国和苏联都试图摆脱这种状况，但他们最终认识到他们无法做到这一点，必须从根本上重新定义他们的关系。1955年，丘吉尔曾指出一个极具讽刺意味的问题:“安全将是恐怖的结实孩子，而生存将是毁灭的孪生兄弟。”在不否认价值观差异或牺牲重大国家利益的情况下，致命的对手必须制定战略，用尽一切可能的手段击败对手，除了全面战争。

这些战略的一个支柱是一系列隐性和显性的限制，现在被称为军备控制。甚至在MAD之前，当每个超级大国都在竭尽所能地取得优势时，他们就发现了共同利益的领域。为了减少出错的风险，美国和苏联在非正式讨论中同意不干涉对方对其领土的监视。为了保护本国公民免受放射性沉降物的危害，他们禁止在大气中进行试验。为了避免“危机不稳定”——即一方觉得有必要先发制人，相信另一方也会这样做——他们在1972年的《反弹道导弹条约》中同意限制导弹防御。在1987年签署的《中程核力量条约》中，里根和苏联领导人戈尔巴乔夫同意消除中程核力量的战略。

1972年和1979年签署的武器限制谈判限制了导弹发射器的增加，后来1991年签署的《削减战略武器条约》(START条约)和2010年签署的《新削减战略武器条约》减少了导弹发射器的数量。也许最重要的是，美国和苏联得出的结论是，核武器扩散到其他国家对两国都构成威胁，并最终可能导致核无政府状态。他们促成了现在所谓的不扩散制度，该制度的核心是1968年的《不扩散核武器条约》(NuclearnonproliferationTreaty)，根据该条约，186个国家今天已承诺不发展自己的核武库。

控制AI

在目前关于如何遏制AI的建议中，人们可以听到许多过去的回声。

亿万富翁埃隆·马斯克(ElonMusk)要求暂停AI开发6个月，AI研究员埃利泽·尤德科夫斯基(EliezerYudkowsky)提议废除AI，心理学家加里·马库斯(GaryMarcus)要求由一个全球性的政府机构控制AI，这些都是在重复核时代失败的提议。原因在于，每一个都将要求领先国家将自己的主权置于从属地位。在历史上，从来没有一个大国因为担心竞争对手可能应用一种新技术来威胁自己的生存和安全而放弃为自己开发这种技术。即使是英国和法国等美国的亲密盟友，除了依赖美国的核保护伞外，也选择发展自己的国家核能力。

为了从核历史中吸取教训，应对当前的挑战，必须认识到AI与核武器之间的显著区别。首先，政府主导了核能的发展，技术、私人企业家、技术专家和公司正在推动AI的进步。为微软、谷歌、亚马逊、Meta、OpenAI和少数小型初创公司工作的科学家远远领先于政府的任何类似努力。此外，这些公司现在陷入了一场角斗，毫无疑问，这推动了创新，但也付出了代价。随着这些私人参与者在风险和回报之间进行权衡，国家利益肯定会被低估。

其次，AI是数字化的。核武器很难生产，从铀浓缩到设计核武器，都需要复杂的基础设施来完成。产品是实物，因此可以计算。当可以验证对手在做什么时，限制就会出现。AI代表了一个截然不同的挑战。它的主要进化发生在人类的思维中。其适用性在实验室中演化，其部署情况难以观察。核武器是有形的;人工智能的本质是概念上的。

第三，AI的发展和传播速度之快，使漫长的谈判变得不可能。武器控制发展了几十年。在AI被纳入每个社会的安全结构之前，也就是说，在机器开始设定自己的目标之前，对AI的限制需要出现，一些专家现在说，这可能在未来五年内发生。这个时机首先需要一个国家，然后是一个国际，讨论和分析，以及政府和私营部门之间的关系的一个新的动态。

幸运的是，那些开发了生成式AI并使美国处于领先地位的大公司AI超级大国认识到，他们不仅对股东负有责任，而且对国家和整个人类负有责任。许多人已经制定了自己的指南，用于在部署前评估风险，减少训练数据中的偏差，并限制对其模型的危险使用。还有一些正在探索限制培训的方法，并对云计算提供商实施“了解客户”的要求。拜登政府7月份宣布的倡议是朝着正确方向迈出的重要一步，该倡议将七家主要AI公司的领导人召集到白宫，共同承诺制定确保“安全、保障和信任”的指导方针。

正如基辛格在《AI时代》( The Age of AI )一书中指出的那样，我们迫切需要对AI不断发展的、往往是引人注目的发明和应用的长期影响进行系统研究。尽管美国的分裂程度达到了南北战争以来的最高水平，但AI不受限制的发展所带来的巨大风险，要求政府和企业的领导人现在就采取行动。每一家公司都拥有大众

每个开发新模型的公司或研究小组都应该成立一个小组，分析其商业AI运营对人类和地缘政治的影响。

挑战是两党共同面临的，需要统一应对。总统和国会应本着这种精神建立一个国家委员会，由私营部门、国会、军方和情报部门杰出的无党派前领导人组成。该委员会应提出更具体的强制性保障措施。这些措施应包括持续评估大规模计算的要求，训练GPT-4等AI模型所需的能力，以及在公司发布新模型之前，他们会对其进行极端风险的压力测试。尽管制定规则的任务将是艰巨的，但委员会将在人工智能国家安全委员会(NationalSecuritycommissiononArtificialIntelligence)中有一个模型。其建议于2021年发布，为美国军方和美国情报机构在与中国的AI竞争中采取的举措提供了动力和方向。

两个AI超级大国

即使在这个早期阶段，当美国仍在国内创建自己的AI管理框架时，

与世界上唯一的另一个AI超级大国开始认真对话也不算太早。中国科技领域的全国冠军——百度(中国最大的搜索引擎)、字节跳动(TikTok的创造者)、腾讯(微信的制造商)和阿里巴巴(电子商务的领导者)——正在构建ChatGPT的专有中文版本，尽管中国的政治制度给AI带来了特别的困难。虽然中国在制造先进半导体的技术方面仍然落后，但在不久的将来，它已经具备了快速发展的必要条件。

11月在旧金山举行的亚太经合组织会议提供了这样的机会。每位领导人都应该讨论他个人如何评估AI带来的风险，他的国家正在采取哪些措施来防止构成灾难性风险的应用，以及他的国家如何确保国内公司不会输出风险。为了给下一轮的讨论提供信息，他们应该成立一个由美国和中国的AI科学家组成的咨询小组。

其他反思过这些发展的影响的人。这一方法将模仿其他领域现有的第二轨道外交，即由个人组成的小组根据其判断力和公正性进行选择，尽管没有得到其政府的正式认可。从我们与两国政府的关键科学家的讨论来看，我们相信这可以是一场富有成效的讨论。

美国和中国在这一议程上的讨论和行动将只是新兴的AI全球对话的一部分，包括将于11月由英国主办的AI安全峰会，以及正在联合国进行的对话。由于每个国家都将寻求利用AI来改善其公民的生活，同时确保其社会的安全，从长远来看，将需要一个全球AI秩序。这方面的工作应该从国家努力开始，以防止AI最危险和潜在的灾难性后果。这些举措应该通过参与开发大型AI模型的各国科学家与国家委员会成员之间的对话来补充。正式的政府谈判，首先是在拥有先进AI项目的国家之间进行，应该寻求建立一个国际框架，以及一个与国际原子能机构相媲美的国际机构。

纵观历史的大背景和今天日益加剧的两极分化，我们很难对此持乐观态度。尽管如此，令人瞩目的事实是，我们现在已经庆祝了78年的和平核大国应该激励每个人掌握AI未来的革命性、不可避免的挑战。

翻译：关天海

来源：人机与认知实验室

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章