顶尖风投大佬：AI 最大的风险是不以最大努力追求它

撰文 | 吴昕

悲观主义几乎在每一个社会中都很流行。

ChatGPT 席卷全球，  Open AI CEO Sam Altman 现身美国国会听证会，呼吁监管AI。

随后，他与 Stuart Russell、Geoffrey Hinton、Yoshua Bengio等人签署了一份风险声明。

不久，马斯克也出现在签署千人联名信中，呼吁 AI 实验室立即暂停研究。

每当这个时候，全球顶级风投公司 a16z 掌舵者马克·安德森总会站出来，成为那个「唱反调」的啦啦队长。

美国文化的核心存在一个悖论：理论上，我们喜欢变化，当变化真正实现并呈现出来时，它又会受到大量的反作用力。

我非常乐观，尤其是在针对新想法时。马克·安德森认为，自己可能是所认识人当中最乐观的一个。「至少过去 20 年开始，如果押注乐观主义者一边，一般来说，你是对的。」

他绝对有理由这么认为。1994年，马克·安德森第一次来到硅谷，创立网景并在最短时间里完成上市。

赤脚坐在王座上的安德森后来登上了《时代周刊》的封面，成为科技财富神话的硅谷范本，吸引无数后来者。

某种程度上，他是点燃硅谷火种的人，也是美国量子物理学家戴维·多伊奇（David Deutsch）在《无穷的开始》里描述的那种乐观主义者，期望通过创造知识来实现进步，包括这些进步所带来的不可预见的后果。

悲观主义则不同。他们会因为他们的孩子遵守适当的行为模式而感到自豪，并对每一个真实或想象的新奇事物发出悲叹。它尽力避免一切未经确认安全的东西。

极少有文明能够靠着对创新持更谨慎的态度来幸存下去。戴维·多伊奇在《无穷的开始》写道，事实上，大多数被毁灭的文明都热情地实施了预防性原则（避免一切未经确认安全的东西来避免灾难。）

过去一百年里一切都稳定而没有改变，这似乎从未真正发生过。怀疑论者总是错的。马克·安德森也说过。

01、AI 监管：谁获益？谁受损？

马克·安德森自称  「AI 加速主义者(AI accelerationist)」。

一个希望加速 AI 相关社会进程以对抗阻力，产生巨大社会变革的信徒，自然会对监管呼声充满疑虑。

「有一种观点认为，政府监管是善意、良性的，并且实施得当。这就是神话。」马克·安德森很早就认为，美国制度弊病之一就是监管，政府不断制定法律和规定，以至于出现很多类似「周日不许卖酒」、「男人星期二不准吃泡菜」的法律。

监管经济学家 Bruce Yandle 在1920年代提出了一个概念，被用来解释政府监管存在的问题：私酒商人与浸会教徒理论（Bootleggers and Baptists Theory）。

比如，Yandle 认为，禁酒令所以获得通过，除了依靠浸信会教徒（Baptists，宗教背景让他们坚信酒精侵害了社会）的推动外，还有赖私酒商人（Bootleggers）背后的支持。他们支持政府增加监管，以减少合法商人与自己的竞争——既然消费者在禁酒令下不能在市场上买醉，自然要投奔私酒商人。

私酒商人与浸会教徒理论指出，浸信会为所谓的监管提供了道德制高点的支撑（政府不用自己寻找冠冕堂皇的理由），而私酒商人闭门悄悄说服政客（勾兑利益），这样的联盟使政客更容易支持这两个群体。

该理论也指出，这种联盟导致了次优立法，尽管两个群体都对结果感到满意，但对于整个社会来说，没有立法或不同的立法，可能更好。

马克·安德森借用这个理论，指出为什么出于部分良好动机的监管往往办了坏事。

「这种改革运动结果往往是，走私者得到他们想要的东西——规制俘虏（regulatory capture，监管者变成少数商业实体的侍从)、隔离竞争、卡特尔的形成——而充满良好动机的浸信会信徒则感到疑惑，他们推动社会进步的动力在哪里出错了？」他在最近的长文 Why AI Will Save the World （以下简称长文）中写道。

在人工智能领域，「浸信会」是那些真正相信人工智能会毁灭人类的信徒，一些真正信徒甚至是该技术的创新者，他们积极主张对 AI 实施各种奇怪和极端的限制。

「私酒商人（走私者）」是指 AI 公司，还有接受大学、智囊团、活动家团体和媒体机构的钱款负责攻击 AI 、助长恐慌的人（表面上看，他们好像是「浸信会」），比如被雇来做一些末日预言的「人工智能安全专家」、「人工智能伦理学家」、「人工智能风险研究员」。

「实践中，即使浸信会是真诚的，他们也被私酒贩子操纵、用作掩护，以实现自己的利益。」马克·安德森在长文中写道，「这就是目前人工智能监管过程中正在发生的事情。」

「如果对于 AI 风险建立监管壁垒，那么，这些私酒商人（走私者）就会得到他们想要的东西——一个由政府支持的 AI 供应商组成的卡特尔，保护它们免受新创业公司和开源竞争的影响。」

02、失业论与「固定馅饼谬误」

既然警惕监管，马克·安德森自然也不同意许多为了支持监管提出的论据。但他并不否认一些话题的讨论价值。

比如，科技正在吞噬所有的工作吗?收入不平等，还有关于颠覆人类社会的争论。

认为市场活动是一个零和游戏，是一个常见的经济学谬误。即，假设存在一个固定的馅饼，一方只能以牺牲另一方为代价来获得收益。

自动化导致失业，就是一种「固定馅饼谬误」。马克·安德森在长文中指出，「即在任何给定的时间里，劳动力的数量是固定的，要么由机器完成，要么由人类完成，如果由机器完成，那么人类失业。」

但事实并非如此。举个简单例子，制衣厂老板大量买入机器。机器本身需要劳工去生产，从而带来原本不存在的工作机会。

买机器的钱「回本」后，因为成本优势，这位制衣厂老板获得了超额利润。这笔钱的花法很多——扩大厂子规模、投资供应链或者买房、高消费，无论怎么花，都为其他行业提供了就业机会。

当然，这家制衣厂的成本优势不会是永远的。为了竞争，对手也会开始购入机器（机器生产工人因此得到更多就业机会）。大衣越来越多，价格也被压低，制衣厂也没以前那么赚钱了。当越来越多的人买得起更加便宜的大衣，刺激了消费规模，整个制衣行业会雇用更多的人，甚至比使用机器之前还多。

当然，也有可能是，大衣便宜到一定程度后，消费者会将省下来的钱花在其他方面，从而增加其他行业的就业。

「当技术应用于生产时，生产力也会增长，投入减少，产出增加，结果是商品和服务的价格降低，我们将有额外的消费能力购买其他东西。这增加了需求，推动了新产品和新产业，为之前被机器取代的人们创造了新的工作岗位。」马克·安德森写道。

「当市场经济正常运行、技术被自由引入，这将是一个永不停歇的向上循环。一个更大的经济体将出现，拥有更高的物质繁荣，更多的产业、产品和就业机会。」马克·安德森写道。

如果更进一步，所有现存的人类劳动都被机器替代，意味着什么？

「生产力增长的速度将前所未有，现有商品和服务的价格将接近免费，消费者购买力飙升，新需求爆炸式增长。

企业家们将创造令人眼花缭乱的新产业、产品和服务，并雇佣尽可能多的 AI 和人类员工，从而满足所有新需求。

假设 AI 再次替代了人类劳动力，这个循环将重复，推动经济发展，让就业增长更上一层楼，通往亚当·斯密从未敢想象的物质乌托邦。」

人类需求无穷无尽，技术演化就是一个不断满足、定义这些需求可能性的过程。

每次新的生产力都会采取不同的形式，研究技术变革与金融泡沫的经济学家 Carlota Perez 说过，但这最终并不一定就意味着工作总体会变少，而是意味着工作的定义方式发生了改变。

反过来看，如果严守逻辑上的一致性，我们不仅应该把所有的新技术进步都视为一场灾难，而且更该觉得过去所有的技术进步也同样恐怖。

如果你认为机器是敌人，那么你应该想回去放松一下，对吧？遵循这个逻辑，我们会一直回到一切开始的地方——自给农业，如果自己做衣服，是不是会更好？

03、谁在引发不公？

除了机器导致人类失业，技术引发社会不公也是人们呼吁监管 AI 的另一个论据。

「假设人工智能确实抢走了所有的工作，无论是好是坏。这会导致严重的财富不平等，因为人工智能的所有者获得了所有的经济回报而普通人一无所获。」

对此，安德森的解释很简单。

如果马斯克只卖汽车给富人，会更富有吗？如果他只为自己制造汽车，他会比这更富有吗？当然不是。他通过将汽车卖给全世界——这个最大的市场——来最大化自己的利润。

电力、广播、计算机、互联网、移动电话和搜索引擎，这些技术的制造商都积极主动地降低价格，直到所有人都能负担得起。同样，我们已经可以免费或低成本地使用 New Bing、Google Bard 等最先进的生成式 AI。

这不是因为他们愚蠢或慷慨，恰恰因为他们贪婪——扩大市场规模，赚到更多的钱。因此，与技术推动财富集中化相反，技术最终赋予每个人更多的能力，并捕获其中大部分价值。

不平等确实是一个很大的社会问题，但它不是由技术驱动，而是源于我们不允许使用 AI 来减少不平等。特别住房、教育和医疗保健等经济部门，采纳 AI 面临的阻力往往最大。

如下图所示，蓝色曲线代表允许技术创新提高质量并同时压低产品价格的行业，比如消费电子、汽车、家居。今年3月，马克·安德森在一篇博客 Why AI Won't Cause Unemployment 中写道。

这张图表显示了经通货膨胀调整后，十几个主要经济部门的服务价格变化。

红色部分代表不允许引入技术创新（进而压低价格）的行业。你看，教育、医疗保健和住房的价格都在走向月球。

「红色代表的行业受到政府和行业本身的严格监管。这些行业是垄断、寡头和卡特尔，有着所有你能想象到的变革障碍：正式政府监管以及规制俘虏、价格固定、苏联式定价、职业许可等。现在，这些部门的技术创新几乎被禁止。」

我们正在进入这样一个分裂的世界—— 一台覆盖整面墙的平板电视仅需 100 美元，四年制大学学位需要 100 万美元。

那么，随着时间的推移会发生什么？

受管制的非技术产品价格上涨；监管较少、技术驱动的产品价格下降。前者膨胀，后者萎缩。在极端情况下，99% 的经济将是受监管的非技术部门，这正是我们前进的方向。

04、言论监管与滑坡效应

「我们创造的技术终将崛起和摧毁我们」的恐惧深深地根植在我们的文化之中。

至于这种恐惧是否建立在任何理性基础上、多大程度上能与邪教区分开，答案仍然是悬置的。

安德森将它们归为一种逻辑上的分类错误——特定类别的事物被呈现为好像它们属于不同的类别。「AI 是一种机器，就像你的烤面包机，它不会变得有生命。」他写道。

不过，「如果杀人机器人没有抓住我们，仇恨言论和错误信息也会。」 你看，呼吁监管社交媒体的「幽灵」继续游荡在 AI 时代。

包括美国在内的每个国家都会将社交平台上的某些内容定为非法 。例如儿童色情和煽动现实世界中的暴力。因此，任何促进或生成内容的技术平台都会受到一些限制。

支持监管的人主张，生成式 AI 应该生成对社会有益的言论和思想，禁止生成的对社会有害的言论和思想。

安德森提醒说，这样做的「滑坡效应（Slippery slope）不可避免。」所谓滑坡效应，是指如果一件坏事情或问题一旦开始，就很可能变得越来越糟糕，如果不加以制止，就愈演愈烈，后果不堪设想。

「一旦有了一个框架来限制极其糟糕的内容——例如，仇恨言论——政府机构、激进团体和非政府实体就会立刻启动，对任何他们认为威胁社会和/或他们个人喜好的言论进行更大程度的审查和压制，甚至以赤裸裸的犯罪方式。」他写道。

这种现象在社交媒体上已经持续了 10 年，而且还在持续升温。

去年 3 月，纽约时报编辑委员会发表了一篇文章 America Has a Free Speech Problem。根据泰晤士报观点/锡耶纳学院的民意调查发现， 46% 的受访者表示，与十年前相比，他们感到谈论政治的自由度降低。30% 的人说他们也有同样的感觉。

只有 21% 的人表示感觉更自由，尽管在过去十年中，通过社交媒体在公共广场上的声音大幅扩大。

「当围绕可接受的言论的社会规范不断变化，当对伤害没有明确的定义时，这些对言论的限制可能会变成武断的规则，带来不成比例的后果。」他们在文章中写道，而保守派已经将有害言论的想法用于服务自己的目的。

而对于安德森来说，每天早上醒来，看到几十个人在推特上详细向他解释他是一个白痴，是相当有帮助的：

通过与人论战，你可以大致建立一个关于别人的思维方式的模型，可以站在他们的角度想问题，你的思考方式会因此变得更加客观和中立。

他提醒说，主张生成式 AI 应该与人类价值保持一致的人，只是全球人口中非常小的一部分，「这是美国沿海精英的特征，其中包括许多在科技行业工作和写作的人。」

「如果你反对通过不断强化语音代码，将小众道德强加给社交媒体和 AI ，那么，你也应该意识到，关于人工智能被允许说什么/产生什么的斗争，将比关于社交媒体审查的斗争更重要。

人工智能很有可能成为世界上一切事物的控制层。允许它如何运作可能比任何事情都重要。

你应该意识到，现在一小群孤立的社会工程师正打着保护你的古老幌子，由他们的道德决定 AI 如何运作。」

05、最真实的、最可怕的风险

如果上面这些恐惧、忧虑都不是真正的风险，那么，什么才是 AI 最大的风险呢？

在他看来，有一个最终的，也是真实的人工智能的风险，可能也是最可怕、最大的风险：美国没有赢得全球人工智能的主导地位。

为此，「我们应该尽可能快和努力地推动人工智能进入我们的经济和社会，最大限度提高其为经济生产力和人类潜力带来的收益。」

长文最后，他提出了几个简单的计划。

1、应该允许大型人工智能公司尽可能快地、积极地开发人工智能，但不允许它们实现规制俘虏（regulatory capture，监管者变成少数商业实体的侍从，一种腐败)，不允许它们建立一个由政府保护的、因错误地宣称人工智能风险而与市场竞争隔绝的卡特尔。

这将使这些公司惊人的能力带来的技术和社会回报最大化，这些公司是现代资本主义的瑰宝。

2、应该允许人工智能初创公司尽可能快速、积极地开发人工智能。他们应该被允许竞争。如果创业公司没有成功，作为市场上存在本身，也将不断激励大公司做到最好——无论哪种方式，我们的经济和社会都会赢。

3、开源人工智能应该被允许自由扩散，并与大型人工智能公司和初创公司竞争。无论如何，对开源都不应该有任何监管障碍。

即使开源没有打败公司，它的广泛可用性对世界各地想要学习如何构建和使用人工智能以成为未来技术一部分的学生来说也是一个福音，并将确保每个人都可以使用人工智能，无论他们是谁或他们有多少钱。

4、政府与私营部门合作，在每个潜在风险领域，积极利用人工智能最大限度地提高社会的防御能力。人工智能可以成为解决问题的强大工具，我们应该接受它。

参考文章
https://a16z.com/2023/06/06/ai-will-save-the-world/
https://pmarca.substack.com/p/why-ai-wont-cause-unemployment
https://nymag.com/intelligencer/2014/10/marc-andreessen-in-conversation.html