人工智能辩论的五大思想流派

仅仅在今年5月，《华尔街日报》（The Wall Street Journal）和《纽约时报》（New York Times）就分别发表了200多篇令人窒息的文章，要么宣布人类将面临悲惨的灾难性结局，要么宣布人类将获得救赎，这取决于所引用的专家的偏见和经验。

我们亲身体会到围绕人工智能的公共话语是多么耸人听闻。今年6月下旬举行的第134届首席执行官峰会聚集了200多位来自大型公司的首席执行官，围绕峰会的大量媒体报道捕捉到这些危言耸听，其中，42%的首席执行官表示人工智能有可能在十年内摧毁人类（这些首席执行官们表达了很多有细微差别的观点，正如我们之前所捕捉到的那样）。

今年夏天，在商业、政府、学术界、媒体、技术和公民社会对人工智能的不同看法中，这些专家经常各执一词。

大多数人工智能专家的观点往往分为五大不同的类别：欣喜若狂的忠实信徒、牟取暴利者、拥有极强好奇心的创造者、危言耸听的激进分子，以及全球治理者。

人们长期预测的机器自学时刻，与人工智能70年来渐进式发展的现实截然不同。在这样的炒作中，很难知道如今到底有多大的机会，以及哪些过于乐观的预测会演变成幻想。

通常，那些在人工智能前沿领域工作时间最长的人持有更乐观的看法，他们一生都致力于人类知识前沿领域的最新研究。这些人工智能先驱是“忠实信徒”，他们相信自己的技术具有颠覆性潜力，而且在很少有人接受一项新兴技术的潜力和前景时，他们就接受了这一点——并且远远早于这项技术进入主流，因此，很难指责这些“忠实信徒”。

对其中的一些人来说，例如“人工智能教父”和Meta公司的首席人工智能科学家杨立昆（Yann LeCun），“毫无疑问，机器最终会超越人类。”与此同时，杨立昆等人认为人工智能可能对人类构成严重威胁的想法“荒谬至极”。同样，风险投资家马克·安德森对此不以为然，轻易推倒了有关人工智能的“散布恐惧和末日论的高墙”，认为人们应该停止担忧，“研发、研发、再研发”。

但是，一意孤行、过于乐观可能会导致这些专家高估他们的技术能够带来的影响（也许是有意为之，但稍后会详细说明），并忽视其潜在的弊端和运营挑战。

事实上，当我们就生成式人工智能“是否会比之前的重大技术进步，比如互联网、汽车、飞机、制冷等的发明更具变革性”对首席执行官们进行调查时，大多数人回答“不会”，这表明人工智能是否会像一些永恒的乐观主义者希望我们相信的那样，真正颠覆社会，仍然存在不确定性（在很大范围内）。

在过去的六个月里，在参加贸易展、加入专业协会或接受新产品推介时，毫无疑问会被聊天机器人的推销所轰炸。在ChatGPT推出的刺激下，围绕人工智能的热潮逐渐升温，渴望赚钱的企业家（是机会主义者，但也很务实）纷纷涌入这一领域。

令人惊讶的是，今年前五个月投入到生成式人工智能初创公司的资金比以往任何一年加起来都多，仅在过去五个月中就有超过一半的生成式人工智能初创公司成立，而今年生成式人工智能的估值中位数比去年翻了一番。

也许让人想起在互联网泡沫时期，那些希望立即提升股价的公司在其名称中添加“.com”的日子，如今，一夜之间，大学生创办的以人工智能为重点的初创公司如雨后春笋般涌现，这些初创公司的产品大都雷同，一些创业的学生在春假期间仅凭成本分析表就筹集了数百万美元的资金来启动其业余项目。

其中一些新的人工智能初创公司甚至几乎没有一以贯之的产品或计划，或者由对底层技术缺乏真正理解的创始人领导，他们只是在进行无厘头炒作——但这显然并不妨碍他们筹集数百万美元的资金。虽然其中一些初创公司最终可能会成为下一代人工智能研发的基石，但许多公司（如果不是大多数的话）将以失败告终。

人工智能创新不仅发生在许多初创公司，而且在规模较大的《财富》美国500强企业中也很普遍。正如我们广为记录的那样，许多商业领袖都积极地将人工智能的特定应用整合到他们的公司中，但也充分考虑了公司的实际情况。

鉴于最近的技术进步，毫无疑问，人工智能发展进入充满希望的时期，而且这一时期也是独有的。最近人工智能的飞速发展，特别是大型语言模型，可以归因于其底层技术规模的扩大和相关能力的提高：可供模型和算法进行训练的数据规模，模型和算法本身的能力，以及模型和算法所依赖的计算硬件的能力。

然而，基础人工智能技术的指数级增长不太可能永远持续下去。许多人以自动驾驶汽车为例，认为这是人工智能的第一个大赌注，预示着其未来的发展路径：通过达成容易实现的目标，取得惊人的早期进展，从而引发狂热，但在面对最严峻的挑战时，进展会急剧放缓，比如微调自动驾驶仪出现的故障，以避免发生致命碰撞。这就像芝诺悖论（Zeno’s paradox）所暗示的那样，因为最后一英里往往是最难完成的。就自动驾驶汽车而言，尽管我们一直在朝着安全的自动驾驶汽车的目标迈进，而且似乎已经部分实现了目标，但这项技术是否以及何时能够真正实现，谁也说不准。

此外，关注人工智能的技术限制（可以做什么和不能做什么）仍然很重要。由于大型语言模型是在庞大的数据集上训练出来的，因此可以有效地总结和传播事实性知识，并实现非常高效的搜索和发现。然而，就人工智能是否能够实现科学家、企业家、创意人士和其他典型的原创性工作者所可以实现的大胆推理飞跃而言，其应用可能会受到更多的限制，因为它本质上无法复制人类的情感、同理心和灵感，而这正是人类创造力的驱动力。

虽然这些拥有极强好奇心的创造者专注于寻找人工智能的积极应用，但他们可能会像罗伯特·奥本海默一样一无所知，视野很狭窄，只专注于解决问题（在原子弹爆炸前）。

“从技术层面讲，当你看到某种事物能够带来丰硕成果，你就会继续研究下去，直到在技术上取得成功后，你才会争论应该怎么处理它。这就是原子弹的研发情况。”这位原子弹之父在1954年警告说，他对自己的发明所带来的恐怖感到内疚，并成为了一名反原子弹活动家。

一些危言耸听的激进分子，尤其是经验丰富的，甚至是具有强烈实用主义倾向的、对人工智能不再抱幻想的技术先驱，大声警告人工智能的各种危险，从社会影响和对人类的威胁，到商业模式并不可行和估值虚高——许多人主张对人工智能进行严格限制，以遏制这些危险。

例如，人工智能先驱杰弗里·辛顿就对人工智能带来的“生存威胁”发出了警告，他表示前景并不乐观：“很难找到方法来阻止有邪恶目的的人利用它做坏事。”另一位技术专家、Facebook早期的融资支持者罗杰·麦克纳米在首席执行官峰会上警告道，生成式人工智能的单位经济效益非常糟糕，没有哪家烧钱的人工智能公司拥有可持续的商业模式。

麦克纳米说：“危害显而易见，有隐私问题，有版权问题，有虚假信息问题……一场人工智能军备竞赛正在进行，以实现垄断，从而可以控制公众和企业。”

也许最引人注目的是，OpenAI的首席执行官萨姆·奥尔特曼和其他来自谷歌（Google）、微软和其他人工智能领军者的人工智能技术专家最近发表了一封公开信，警告说，人工智能给人类带来的灭绝风险达到核战争一样的层级，并认为“减轻人工智能带来的灭绝风险应该与其他类似社会规模的风险（比如流行病和核战争）一起成为全球优先事项。”

然而，很难辨别这些行业的危言耸听者是出于对人类威胁的真实预期还是出于其他动机。关于人工智能如何构成生存威胁的猜测是一种极其有效的吸引注意力的方式，这或许是巧合。根据我们自己的经验，在最近的首席执行官峰会上，媒体大肆宣扬首席执行官对人工智能的危言耸听，远远盖过了我们对首席执行官如何将人工智能整合到业务中的更细致的了解。散播人工智能的危言耸听也恰好是一种有效的方式，能够对人工智能的潜在能力进行炒作——从而增加投资，并吸引投资者的兴趣。

奥尔特曼已经非常有效地引起了公众对OpenAI正在做的事情的兴趣。最显而易见的是，尽管付出了巨大的经济损失，但他最初还是让公众免费、不受限制地访问ChatGPT。与此同时，他对OpenAI让用户访问ChatGPT的软件中存在的安全漏洞风险的解释纯属隔靴搔痒，一副事不关己的样子，引起了人们对行业危言耸听者是否言行一致的质疑。