OpenAI闹剧之后，人工智能世界将彻底分裂｜焦点分析

公众号新闻

2023-11-24 09:11

此后，每家人工智能公司都需要选择自己的信念。

文｜林炜鑫

编辑｜苏建勋

封面来源｜IC photo

现在可以说，Sam Altman突然被OpenAI董事会扫地出门，堪称人工智能世界的“911事件”，该事件可能直接导致这家估值900亿的新巨头摇摇欲坠，从而改变现有的AI竞争格局。

过去四天，700多名OpenAI员工为声援Altman而威胁集体辞职，使这家本已遥遥领先的人工智能公司陷入一片混乱。但是，仍有一个最基础的问题没有被解答：

为什么董事会要开除Altman？

Sam Altman

在那封公开声明中，董事会只是隐晦地表示，“Altman和董事会的沟通中没有始终如一的坦诚，阻碍了董事会履行职责”，却始终没有透露具体原因。而错愕的OpenAI员工透露，过去的这个周末，董事会本来有足够的时间向员工披露解雇真相，却几乎没有任何沟通，这激起了大家的愤怒。

Business Insider报道，11月19日夜里，OpenAI召开一次员工会议。OpenAI首席科学家、董事会成员Ilya Sutskever跟员工提供了两个理由。一是Altman曾让OpenAI的两位员工同时进行同一个项目；二是Altman据称对董事会的两位成员就某个员工表达了不同的观点。这些解释无法让员工接受，因此在会议结束后，员工签署了震惊科技圈的公开信。

董事会投票赶走公司创始人的操作，已经很多年没有在科技圈出现过。此事发生之前，OpenAI奇特的公司架构，曾是Altman引以为傲的设计——董事会6人，有3人是非公司成员的独立董事。Altman想通过独立董事来保证公司不会偏离通往AGI、造福全人类这一创业使命，而不是沦为赚钱机器。

消息人士透露，Ilya越来越担忧OpenAI的技术可能造成极度危险的局面，他觉得Altman对待AI应该更加谨慎。外界猜测，这可能是Ilya在董事会投票中决定开除Altman的本质原因。

llya Sutskever

人工智能自诞生以来，便有激进派与保守派之分。保守派中最大的声量来自“人工智能教父”、英国教授Geoffrey Hinton。他是卷积神经网络理论的领军人物，30多年不断尝试构建更强大的神经网络，这些努力为今天的人工智能模型奠定了基础。

然而当AI涌现出不可思议的能力时，Hinton却开始担忧这项技术可能的危害。他不止一次对外界警告，AI可能会有独立思考的意识，甚至试图接管或消灭人类文明。今年Hinton从Google退休，并再次向社会发出关于AI威胁的呼吁。

Ilya是Hinton最得意的弟子之一，时至今日仍与Hinton保持密切的沟通，自然也接过了AI保守派的大旗。

今年7月份，Ilya在OpenAI内部推动一项名为“超级对齐计划”的项目，计划在未来4年内解决AI与人类对齐的问题，确保技术符合人类利益。所谓的超级对齐，其实是一种更加务实的办法。既然人类已经跟不上AI的带宽（比如对文章的总结，人需要十几分钟，AI只需几秒），就让AI尽量适配人类的带宽。

从Ilya为数不多的采访能看出，他把相当一部分的工作重心放在了AI安全上。OpenAI于2022年11月推出ChatGPT，Ilya当时并不看好这个产品，他曾经告诉记者，“我不知道它有什么好的，我觉得它平淡无奇，以至于人们会说，你们为什么做这个东西，太无聊了。”

在Ilya心中，做一个AI产品不是优先级，他最看重的事是AGI（通用人工智能）。

接受《卫报》采访时，Ilya说，AI将有能力解决就业、疾病和贫困等社会问题，但也会产生新的问题，比如假新闻、网络暴力、AI武器，甚至是独裁政权。他眉头紧锁，显得非常谨慎。

而OpenAI过去一段时间实现的技术突破，可能已经让Ilya深感不安。据彭博社报道，Ilya最近在内部开始抨击Altman，对他快速扩张OpenAI的行为感到愤怒。由于Ilya主张控制AI能力，也使自己的角色在公司逐渐被边缘化。

Ilya对AI的担忧，让人想到了“EA（Effective Altruism 有效利他主义）”。这个理论源自2009年，致力于筹资去做最有效的拯救生命的事业，比如给疟疾病最严重的国家捐赠防蚊蚊帐。近几年，EA开始关注人工智能，号召不惜一切代价阻止人工智能的发展。

EA的logo

值得注意的是，OpenAI三名独立董事中有两人与EA有关联。其中，Helen Toner就职过的机构大多由EA信徒资助，而Tasha McCauley和丈夫，以及她的公司老板都是EA信徒。至于第三名董事Adam D’Angelo，他似乎不信奉EA，但他的公司开发了一个类似ChatGPT的聊天机器人Poe。

Altman是OpenAI高层中率先主张商业化的人。虽然他在多个场合表达了对AI的担忧，也提出政府应该监管人工智能产品，但他在推进OpenAI的发展上毫不含糊，也不那么教条主义，最新的成果便是OpenAI的首届开发者大会，瞬间消灭了一大批还在追赶的创业公司。大会结束后，Altman承认内部已经在研发GPT5，并且要继续筹集资金和资源。

时间追溯回2022年夏天。硅谷兴起了名叫“e/acc（有效加速主义）”的理论，本质上是相信人工智能革命（以及一般的技术创新）无法阻止，试图阻碍它的发展是一件很傻很鲁莽的事，甚至很危险。这套理论认为，每个人都应该尽快加入技术革命，共同迎接一个美丽的奇点未来。

起初，e/acc只是得到推特上很多匿名用户的支持，被用来反驳人工智能威胁论。逐渐的，许多硅谷的精英和掌权者，比如YC总裁Garry Tan，开始拥护这套理论，甚至把e/acc加进社交账号名称的后缀里。一篇宣言式文章表示，要向任何阻碍技术进展的力量宣战。作者认为解决当前社会问题的唯一方式就是靠边站，继续推进技术发展。

The Information报道，今年9月17日，e/acc的忠实信徒们举行了第一次线下聚会。11月8日，趁着OpenAI开发者大会的余波，数百名e/acc信徒又相约聚在旧金山的一家夜店里。

Altman几乎没有公开谈论过e/acc，但有人怀疑他疑似用小号给e/acc理论站台。考虑到他带领OpenAI不断制造惊喜，极大鼓舞了e/acc信徒们的士气。

而OpenAI董事对Altman的突袭，也让Altman成为e/acc阵营的新的代言人。著名科技投资者、e/acc信徒Marc Andreesen将此事形容为AI“厄运者（doomer）”与“安全主义者（safetyist）”对e/acc的胜利。

有趣的是，新上任的OpenAI CEO Emmett Shear，便是一名AI厄运者和安全主义者。从Shear在X上的帖子可以看出，他跟几名独立董事在人工智能上的立场极为相似，明确表示希望减缓AI的发展速度，并且要与硅谷的e/acc们划清界限。

11月19日Shear的帖子

实际上，人工智能的安全性和商业化的分歧，始终困扰着OpenAI。如果往前追溯，这不是第一次由路线之争引发的人事动荡。2018年马斯克一怒之下和OpenAI断绝关系，2020年一群员工从公司离职，创办了竞争对手Anthropic，导火索皆是如此。

区别在于，此前两次出走发生时，OpenAI尚且是一家还没折腾出水花的初创公司，规模远不如现在。今天的OpenAI，逐渐坐稳人工智能公司头把交椅，成为了科技圈顶流。

这场闹剧的走向让人困惑，Ilya起初被视为Altman的反对者，但他发贴致歉，又在声援Altman的公开信上签下自己的名字。有消息透露，Ilya也同意罢免自己的董事会席位。由此看来，现在是Altman与董事会之间的斗争。

11月22日，OpenAI宣布Altman重新成为CEO，而董事会成员有所变化，Helen Toner与Tasha McCauley出局，Adam D’Angelo留任。董事会宣布引入两名新成员。长达五天的“政变”告一段落，Altman大获全胜。

这场“政变”无疑会是人工智能发展的转折点。

AI技术发展的速度超乎人的想象，以至于激进派与保守派，抑或是乐观主义与悲观主义，已经很难在同一家公司和谐共处。至少在思想上，人工智能世界彻底分裂，两个阵营的矛盾将会摆在台面上。

一位网友发贴表示：“所以现在，每家人工智能公司都需要选择自己的信念，是EA，还是e/acc？”

灵魂拷问

独家、深度、前瞻，为1%的人捕捉商业先机

36氪旗下精选公众号

👇 真诚推荐你来关注 👇

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章