美高科技公司里游荡的一个幽灵

一

OpenAI在过去的一周里上演了一部悬念迭起的电视剧。在一个星期五，它的首席执行官奥特曼被董事会开除，经过一番周折他被微软接纳，然后大部分员工联名要求董事会辞职，之后奥特曼重返岗位。

这家美国人工智能高科技公司自去年末推出可以“像人一样”与人聊天的系统之后，人类有史以来第一次感到一种致命的威胁，这个系统不是像蒸汽机那样给人力量，也不是像电脑那样让人做事更方便，而是能与人款款而谈，而且，随着它不断加快的技术更新，让人感觉它不仅知识量超过人类，连智力也超出大多数人。

在此背景下，这家公司出现这样的激烈人事变动，让人们不得不关注，也不得不问，到底发生了什么？

原因并没有公开，所以我们只能猜测。

但我们看到一个幽灵在这些人中间以及其它高科技公司的楼宇里游荡。所有跟它沾上边的人和事都有股“邪气”。

这是个什么幽灵？与这里的事，尤其是开除他的那几个董事有什么关联呢？

领导这个政变的是首席科学家伊利亚（Ilya Sutskever）。同他一起投票的有董事会成员塔莎·麦考利 (Tasha McCauley)，她是“有效利他主义”慈善机构“Effect Ventures” 的技术高管兼董事会成员，以及海伦·托纳 (Helen Toner)，乔治城大学安全与新兴技术中心的高管，该中心致力于“有效利他主义“事业的慈善事业。

慢着，怎么都跟“有效利他主义”这个词有关系？

是的，“有效利他主义”就是这个幽灵，它游荡在美国高科技公司的楼宇之中，或许也漂浮徘徊在西方其它地方的空气之中。

二

很多故事，都有一个“从前，在一个很远的地方”这样一个开头，这里的开头可以回溯到1970年代的孟加拉。

孟加拉，或者说就是印度，那时候是连年饥荒，不是干旱就是洪涝。

这时候有一个澳大利亚哲学家，叫彼得·辛格，写了一篇文章，叫《饥荒、富裕和道德》。在这篇文章中，辛格提出一个论点，如果一个人可以利用自己的财富来减少世间的痛苦（例如，通过援助饥荒救济工作），同时也不“显著”减少自己的福祉，那么不这样做就是不道德的。辛格用了一个“溺水儿童”的类比：如果有一个孩子在浅池塘里溺水，而有人可以救他但却选择不采取行动，这就是不道德的；而在现代社会，由于交通和信息的发达，距离也不能成为不能救助的借口。他说：

无论我能帮助的人是离我十码远的邻居的孩子，还是一万英里之外我永远不知道名字的孟加拉人，帮助还是不帮助他们在道德上没有区别。 ......道德观点要求我们超越我们自己社会的利益。以前，……这可能几乎不可行，但现在却相当可行。从道德的角度来看，防止我们社会之外的数百万人挨饿至少必须被认为与维护我们社会内部的财产规范一样紧迫。

辛格继续对西方丰裕社会进行鞭笞，说他们对世界上那么多贫穷饥饿中的人们无动于衷。他举例说，英法建造的超音速协和飞机，悉尼正在建设的大剧院，都需要花掉上亿英镑，远远超过解救这些难民燃眉之急所需的资金。美国人吃得肠肥脑满，奢侈品肆意横行，这些，都说明西方人看不到世界上有那么多要饿死了的人，同情心不足。他的结论是：救助世界贫困之人，不仅是善心之举，而是道德必须。

辛格的观点有明显的也是严重的错误，我们这里暂且不谈，但人类的理解力是有限的，它们通常受情感的支配，是激情的奴隶。有些人被辛格的论文感动了，文章触动了他们的心灵，被不少人视为经典。辛格凭着这篇文章的影响力，以及在其它伦理道德哲学，尤其是动物保护方面的著作，前往美国，成为著名的普林斯顿大学的哲学教授。

当然，印度孟加拉的饥荒在此后连年不断。1974年4月至7月间，布拉马普特拉河下雨引发大洪水，灾情非常惨重。洪水爆发后，孟加拉国向印度政府寻求援助，被回绝了。饥荒带来的各种传染病问题持续到下一年。死亡人数应该超过150万人。

三

从古到今就有的利他主义可以是天使，也可以是魔鬼，要看他穿什么样的外衣。辛格孕育出的利他是什么呢？我们现在说它是个幽灵，在找寻一个新衣以便在人间的更多场合出现。
2005年，18岁的未来哲学家威廉·麦克阿斯基尔（William MacAskill）在剑桥大学的一次本科生研讨会上得到了一个思想上的顿悟。在这之前，麦克阿斯基尔喜欢喝大量啤酒，喜欢赤身裸体嬉戏，有时晚上爬上屋顶，以肯定自己生命的存在，他还是校园放克乐队的萨克斯手，负责演奏各种曲目，被称为无可救药的浪漫主义者。但十八岁时的这一天，当麦克阿斯基尔第一次接触到激进功利主义者彼得·辛格于 1972 年写的那篇《饥荒、富裕与道德》时，他感到身体一阵轻微的震动，他像一列火车，被扳道岔的人转入了一条严格且不妥协的道德主义轨道。他觉得辛格提出的那个简单的思想实验太有说服力了，它深入自己的内心，与自己共鸣。想想看：如果你在一个浅池塘边漫步碰到一个溺水的孩子，你绝对不会太在意在涉水救助她时会弄脏衣服。推而广之，孩子所在的位置——是在自家附近的一个实际池塘里，还是在六千英里外的一个隐喻的池塘里——并不重要。一个人一定要把多余的资源投入到慈善事业，否则就如为了干洗店的账单而让这个孩子淹死那么不合道德。自1971年问世以来，辛格的论文在学校里主要被用来给学生们作哲学练习，聪明的学生被要求找出可能的缺陷。然而，麦克阿斯基尔觉得这篇文章没有任何问题。

当麦克阿斯基尔成为牛津大学哲学研究生时，辛格的洞察力已成为他生活的组织原则。当他在酒吧和朋友见面时，他只点一杯自来水，然后去装上他在街角买的一罐浓度为 2% 的廉价啤酒。晚餐时，他吃自己在家烤的面包。他的收入余额留给其他人。这是他自己说的，我们也可以相信他。他尽量不表现得过于浮夸或传福音，但对阐述自己的理由也并不感到羞怯。那是他生命中的一个时期，既黑暗又孤独，道德上又充满光芒。正如他自己说的，“我很烦人。”

麦克阿斯基尔将他的个人预算限制在每年两万六千英镑，放弃其他一切花销。他和两个室友住在牛津南部贫困地区一栋排屋里，那里连一家好的咖啡店都没有。

当然不能只是自己这样做，他逐渐帮助开始了一场名为“有效利他主义”的道德运动，（英文是effective altruism，简称称为 E.A.）。对其实践者来说，人们应该以最清晰有效、最雄心勃勃和最冷静的方式行善。E.A.们计算出，大约 4000 美元就可以挽救发展中国家的一条生命。他们把自己绑在逻辑严谨的桅杆上，即使当得出违反直觉、令人困惑甚至令人反感的结论时，也拒绝将目光移开。有段时间，这个运动建议有上进心的年轻人不应该直接为慈善机构工作，而应该在金融或高科技领域找到工作然后捐赠他们的收入。E.A.们不仅关心穷国的人们，也担心可能会影响未来人类的生存风险。因此，他们对气候、高科技以及对人工智能的可能破坏性都非常关心。

四

 2013 年，山姆-班克曼-弗里德（Sam Bankman-Fried）还是麻省理工学院的本科生。他是“超级极客男女混合兄弟会”（Epsilon Theta） 的成员，想做慈善事业，于是联系上了麦克阿斯基尔。谈话间，麦克阿斯基尔打消了这位年轻人想贡献体力劳动做慈善的念头，而是让他相信，他可以通过接受一份高薪的金融工作并捐出自己的钱来最大限度地发挥自己的影响力。有效利他主义者将此称为“赚取给予”。

又赚钱又要给予，这种心态给人一种矛盾的想法，似乎有违反规则违反道德许可的意思，按中国人的说法，有点“酒肉穿肠过，佛祖心中留”的意思。但也许不是呢，也许是我们的想象力不够。无论如何，这里透出那么点不择手段的意境。

但麦克阿斯基尔的影响不仅仅是给班克曼-弗里德提供了一个不稳定的道德框架，他还建议班克曼-弗里德去金融交易公司简街（Jane Street ）实习。 在简街工作的时候，弗里德和有效利他主义中心的头Tara Mac Aulay一起创建了虚拟货币交易中心FTX 和Alameda Research。许多未来的 FTX 领导圈成员都是麻省理工“超级极客男女混合兄弟会”的成员。
Mac Aulay和班克曼-弗里德原本计划将公司利润的 50% 捐献给 EA 事业，许多高管也计划捐出大部分薪水。Alameda 的初始资金来自两位有影响力的 EA 捐助者：前货币交易员 Luke Ding 投资了 600 万美元，而 Jaan Tallinn 则向该公司借出了价值 1.1 亿美元的以太坊虚拟币。如果没有 EA 捐助者的帮助，他们说，我们需要几个月的时间才能筹集到接近这一数额的资金，而且永远不会以如此优惠的条件获得。

但是很快，班克曼-弗里德就不按这个计划办事了，他独断专行，让自己的股份占大头。董事会要赶他走，教父麦克阿斯基尔出面给他解了围。

后来，班克曼-弗里德成为全球最富有的100人之一。他确实捐献了很多钱，许诺的更多，但是他的不择手段、不受限制的管理手段也导致最后的破产和坐监。

麦克阿斯基尔也成了 FTX 未来基金的成员，该基金在 2022 年为有效利他主义事业拨款 1.6 亿美元，其中包括向与麦克阿斯基尔直接相关的组织提供 3,300 万美元。 FTX 破产后，麦克阿斯基尔和团队其他成员从该基金辞职。

五

2022 年八月，科技巨头埃隆·马斯克 (Elon Musk) 在推特上发文推荐麦克阿斯基尔的书并说：与我的哲学非常吻合。

在马斯克为收购 Twitter 寻求资金时，麦克阿斯基尔曾帮忙在马斯克和班克曼-弗里德之间进行联系。很显然，马斯克和麦克阿斯基尔这时就已经认识了。麦克阿斯基尔联系马斯克安排与班克曼-弗里德的对话时称他为“我的合作者”。 最终，班克曼-弗里德的企业面临当时尚未公开的资金短缺，因此没有参与收购。

除了马斯克和班克曼-弗里德，有效利他主义运动的知名支持者包括 Facebook 联合创始人达斯汀·莫斯科维茨 (Dustin Moskovitz) 和 Skype 亿万富翁创始人扬·塔林 (Jann Tallinn)，他们已承诺投入数十亿美元用于有效利他主义研究。

六

利他主义，这个人心中自古以来就有的信念，让人们彼此关爱，是人类社会生活的基本组成部分。但是把它上升到一个宗教、一个不管对方是谁、是什么情况，不管是邻居亲属还是远在天边的陌生人都要贡献，不贡献就要道德忏悔，在很多时候是忽略身边的亲人或者社区而只对远方捐献，无疑会变成一种抽象的运动，从而造成虚伪，并被不择手段的人所滥用。

一个国家的贫困，是由这个国家的制度决定的，而制度在很大程度上是人民自己选择的。所以，饥荒的人民自己也有责任。有的人民也说过，宁可吃草也不需要别人的救助，这是种更极端的例子，但这是事实。但即使是孟加拉这样的无能国家也有自己的问题。

相反，中国的改革开放，让大多数人脱离了贫困，也不需要别人的救助，说明只要有好的政策和贸易，贫困就能得到解决。

同样，一个国家的富裕，也是由这个国家的制度决定的，而制度在很大程度上是人民自己选择的。生活在这个国家的人民，有责任先对自己的人民负责，不仅应该对自己国家的穷人先伸出援手，也要支持自己人民生活的进一步提高，甚至是对奢侈品的消费。OpenAI董事会这几位有效利他主义董事穿着打扮相当光鲜，他们或她们是否喜欢奢侈品？

让人民能够自由和富足正是国家富裕的原因：人有自己消费的自由，不需要道德家来指手画脚，也不需要有人进行计划。

之所以谈到“计划”，是因为在辛格的《饥荒、富裕和道德》文章中，充满了数字计算。穷国需要多少钱可以脱贫，富国可以捐助多少不影响经济发展，人们的捐助需要一起做还是分批做。看到这里，你不禁会问，这是可以算得清的吗？是可以计划的吗？

这就是西方一些知识分子身在福中不知福的具体体现，他们享受着物质富裕的福，但是不知道这种富裕是基于合适的制度。

同样，这也暴露了人的虚伪。一个哲学家，本身不需要捐多少钱，只是写了一篇文章，一些道德书籍就能够成为著名大学的教授，得到高薪，并且能够被拥护者拥戴追捧。这是多么让人幸福的感觉啊。即使自己是道德楷模，成为素食主义者，生活节俭，又有什么资格认为自己的道德更高呢？人首先是自私的，一个社会需要保障人们追求幸福的自私权利。一个教授有追求成为道德楷模的私人幸福追求，但也必须承认还有更多人只有追求自己私人物质幸福甚至是奢侈品的权利，一个社会也有追求开发更快更高更好项目的权利，因此英法有追求建造更快协和超音速飞机的权利，澳大利亚有追求更美悉尼大剧院的权利，美国人有肠肥脑满生活的权利，更何况这些基本来自于私人和私营机构。

至于这些高科技亿万富翁谈什么有效利他就更是虚伪，人们都知道这些是避税的手段和给人慈善印象的宣传工具。马斯克捐了多少，我们并不在意。人们创造财富，就是要有自身支配这个财富的权利。比尔盖兹的慈善基金，也只能做他喜欢的研究项目。

因此，辛格和麦克阿斯基尔等推销的，尤其是众科技精英还有其他富翁口中念念不离的有效利他，从轻的说是虚伪，从重的说是幽灵，游荡在西方的上空，向下飘洒着有毒的粉末。