而且公告中,OpenAI 严厉的措辞让人浮想联翩:「Altman 先生的离职是董事会经过深思熟虑后做出的决定,董事会认为 Altman 先生在与董事会的沟通中不够坦诚,妨碍了董事会履行职责的能力。董事会不再相信他有能力继续领导 OpenAI。」这让很多人感慨,Sam Altman 拿到了乔布斯一样的剧本。那究竟发生了什么?因为什么原因 OpenAI 董事会突然罢免 Altman?我们一一来梳理下目前我们所知的一切。首先,在公告发出后,OpenAI 董事长兼联合创始人 Greg Brockman(被称为与 Altman 共同孕育出 ChatGPT 的「关键先生」)也被宣布将辞去董事会主席一职。而后,Greg 在 X 上告知了他们当前所知道的一切。从这条消息中,我们也能看到董事会公布的消息同样让 Greg 和 Sam 措手不及。昨晚,Sam 收到首席科学家 Ilya Sutskever 发来的要求周五中午沟通的短信。Sam 用 Google Meet 参加了这次会议,除了 Greg 之外,整个董事会成员都参与了这场会议。Ilya Sutskever 告诉 Sam 他将被解雇,并且消息很快就会发出。 当天中午 12:19,Greg 收到 Ilya Sutskever 发来的短信,要求尽快电话沟通。12:23,Ilya Sutskever 收到 Google Meet 会议链接。Greg 被告知,他将被从董事会中除名(但他对公司至关重要,并将保留他的职位),而 Sam 已被解雇。大约在同一时间,OpenAI 发布了公告。据 Greg 所知,管理团队不久后才知道这些,而临时 CEO Mira 在前一天晚上就知道了。另外,作为 OpenAI 最重要投资者的微软,也是在公告发出前一分钟才得知这一消息。而微软 CEO Satya Nadella 的最新帖子,似乎也接受了 Sam 的退出,不再提及 Sam。也就是说 Geoffrey Hinton 的学生、OpenAI 首席科学家 Ilya Sutskever 成为了整个事件的关键推动者。而据 The Information 的报道,在 OpenAI 当天举行的全员会上,Ilya Sutskever 承认员工所说的这是一场 “政变”。他表示 “你可以这么说(是政变),但我觉得这只是董事会在履行自己的职责。”图:从左至右,Mira Murati (此前职位 OpenAI CTO)、Sam Altman(此前职位 OpenAI CEO)、Greg Brockman(此前职位 OpenAI 董事会主题)、Ilya Sutskever (OpenAI 首席科学家)
而究其原因,是两派对 OpenAI 公司发展观念的不同。这段时间,ChatGPT 爆火,在 Altman 的带领下,OpenAI 加速了商业化步伐,通过追求利润来资助非营利目标,也不再开放。就在前不久,Altman 接受金融时报采访时表示,GPT-5 正在研发中,而且计划向微软和更多的投资方筹集资金。他认为,美国人放慢 OpenAI 的进展是愚蠢的。如果读过《大西洋月刊》副主编 Ross Andersen 前不久发表的一篇关于 OpenAI 革命的特稿,就能察觉 Ilya Sutskever 和 Altman 关注点的不同。在这篇罕见的长文中,作者这样描述这位首席科学家,“有一种神秘主义者的感觉,有时会有点过头。” 去年,他声称 GPT-4 可能 “有轻微意识”,引起了一场小骚动。
Ilya Sutskever 是以色列裔加拿大人,从五岁起就在耶路撒冷长大(他仍然会说俄语、希伯来语和英语)。然后,他移居加拿大,在多伦多大学师从 Geoffrey Hinton。Hinton 是人工智能先驱,今年早些时候公开表达了对 AI 技术发展的担忧,而且为了能够更自由地谈论人工智能对人类的危险,Hinton 今年也从谷歌辞职了。对于 Ilya Sutskever,谷歌首席科学家 Jeff Dean 曾评价,“Ilya Sutskever 对事情的发展方向有很强的直觉。”了解最大、最强大的人工智能隐藏层中发生的事情很紧迫,Ilya Sutskever 对 Ross Andersen 说。文章也透露,在接下来的四年里,OpenAI 承诺将其超级计算机的一部分时间(目前承诺的是 20%)用于 Ilya Sutskever 的对齐工作。这一决定是 Ilya Sutskever 职业生涯中最大转变,他与 OpenAI 的科学家 Jan Leike 一起成立了一个团队,专注于他们所谓的价值对齐的挑战。然而,同样是在接受金融时报采访时,Altman 还谈到,由于每片 4 万美元的英伟达芯片供应短缺,全年都出现了「严重紧缩」。他表示,他的公司已经收到了 H100,预计很快会收到更多,并补充说「明年看起来会更好」。本来计算资源就紧缺,还在上马 GPT-5,而公司又承诺将一部分资源用于 Ilya Sutskever 的对齐工作,当两者无法兼顾并行而冲突时,谁让步?这可能也是两者的矛盾点。Altman 自己设计的架构导致它仍然由非营利组织的董事会控制。这也为分歧日益加大的合作方提供了改变事情走向的可能。(某种程度上,Altman 对架构设计的乐观和自信,和他对技术走向的看法有些类似。)董事会人数很少,此前共有 6 人,三人为在职员工(Altman 、Greg 还有 Ilya Sutskever )。另外三个是非在职员工,Quora 首席执行官 Adam D'Angelo、技术企业家 Tasha McCauley(科学家、也是一家机器人公司的联创)、乔治城安全与新兴技术中心的 Helen Toner(著名 AI 伦理、政策和安全的专家)。而此次罢免活动,显然是 Ilya Sutskever 提前获得了另外三个董事的支持而发起的。Sam Altman 被开除、退出董事会消息一出,一石激起千层浪。OpenAI 董事长兼联合创始人 Greg Brockman,在 X(前身为 Twitter)上发布了一条他发给 OpenAI 员工的消息,他在消息中写道,「根据今天的新闻,我辞职了。」随后,据几位知情人士透露,OpenAI 的三名高级研究人员也相继于周五晚上辞职,离职的原因正是受到 Altman 以及 Brockman 离职的影响。这三位高级研究员包括 OpenAI 的总监 Jakub Pachocki、负责评估 AI 风险的团队负责人 Aleksander Madry,以及在 OpenAI 工作了七年的研究员 Szymon Sidor。在 OpenAI 成立早期,Pachocki 、Sidor 与 Brockman 之间合作密切,开发了一个可以玩视频游戏 Dota 2 的人工智能系统,该系统位列 OpenAI 首批成功研究之一。不仅如此,他们在开发 GPT-4 的过程中发挥了关键作用。GPT-4 发布后不久,Altman 在 X(以前称为 Twitter)上发布的一篇文章中特别提到了 Pachocki 的贡献。左:Szymon;右 Jakub
Madry 于 2023 年 5 月加入 OpenAI,其带领的团队专注于评估人工智能系统带来的风险,包括网络安全和生物威胁,此外,他还是 MIT 教授。然而,加入 OpenAI 刚半年多的时间,就选择离开了。Aleksander Madry
这些人员的离职表明一些员工在 Altman 被赶下台后感到非常失望。随着这些人员的离开势必会增加 OpenAI 首席科学家 Ilya Sutskever 和临时 CEO Mira Murati 在工作上的一些挑战。现在回头想想,OpenAI 之前还在和谷歌抢夺人才,结果现在自己人先辞职了,令人倍感意外。动作快的竞争对手已经摩拳擦掌了。参考链接:https://www.theinformation.com/articles/three-senior-openai-researchers-resign-as-crisis-deepens?rc=ks2jbm© THE END
转载请联系本公众号获得授权
投稿或寻求报道:[email protected]