OpenAI政变反思:最终会消灭人类的不是AI,而是政治?
作者 | 罗雨翔
来源 | 不成熟研究
政变的经过和关键人物
Sam Altman(38岁)是OpenAI的创始人之一兼CEO。像许多硅谷传奇人物一样,Sam曾是斯坦福大学的辍学生。在他的领导下,OpenAI的市值从最初的10亿美元迅速增长至目前的800亿美元,并且成功超越谷歌、微软等科技巨头,率先推出了大规模市场应用的人工智能产品ChatGPT。
Ilya Sutskever(38岁),出生于前苏联,后来移居加拿大和以色列,是OpenAI的创始人之一,担任公司的首席科学家,并且是董事会的成员之一。尽管Ilya与Sam共同创办了公司,但在这场“政变”开始时,他出人意料地支持了解雇Sam的提议,并投下了决定性的一票。最终,就在官方宣布前的一分钟,Ilya亲自通过视频开除了Sam。
Greg Brockman(35岁)同样是OpenAI的创始人之一,并担任公司董事会的主席。然而,令人意外的是,董事会的其他成员在背着Greg的情况下投票决定开除Sam,并将Greg从董事会中除名(尽管保留了他在公司的职位)。得知这一消息后,Greg表达了对这一决定的抗议,并宣布辞去OpenAI的职务。
在Sam被解雇和Greg主动辞职后,全球科技界都聚焦在微软(Microsoft)的态度上。微软是OpenAI最大的投资方,持有公司49%的股份,累计投资超过100亿美元。因此,OpenAI高层人事变动可能对微软构成巨大损失。Sam被解雇的消息一经传出,微软的股价立即下跌了1个百分点。
为了应对这一情况,微软的CEO、印度出生的Satya Nadella(56岁)迅速展开了一场华丽的危机公关行动。在OpenAI董事会解雇Sam和Greg辞职的消息宣布后,微软于11月20日星期一宣布将聘请这两位人才加入微软,并由他们率领组建新的人工智能研发团队。这消息一出,立即推动了微软的股价大幅上涨。
同时,OpenAI的员工对董事会解雇Sam的决定极为不满,集体签署了一份联名信。这份信要求董事会辞职、恢复Sam的职位,并以大规模员工辞职并加入Sam在微软组建的新团队作为威胁。OpenAI总共拥有770名员工,而截至11月20日,有702名员工在联名信上签名支持这一立场[1]。同时,微软开始对OpenAI的员工准备起了聘书,并对外籍员工开始准备办理签证相关的事宜[2]。
然而有趣的是,最初“反水”、开除Sam的董事会成员Ilya居然也在联名信上签了字,并在网上发文表示自己对开除Sam的决定表示后悔。
最终,11月21日,OpenAI宣布,Sam和Greg将回到公司,董事会则将“洗牌”重组。之前“反水”、开除Sam的Ilya将不会再在OpenAI担任董事的角色(但仍在公司任职)。另外两名之前投票解雇Sam的董事会成员则将主动辞去董事的职务。
Helen Toner(31岁,澳大利亚人)是原先支持开除Sam、后来最终自己辞去董事职务的前OpenAI董事成员。作为乔治敦大学信息科技安全中心的总监,她在今年10月发表了一篇探讨人工智能伦理和监管的论文,对人工智能对人类社会的潜在威胁进行了深入分析,并在论文中批评了OpenAI的运作模式[3]。据悉,Sam对Helen的观点颇有微词,试图将Helen从董事会中除名,两人之间的沟通和关系也出现了问题[4]。
Tasha McCauley(40岁)也是原先支持开除Sam、后来自己辞去了董事职务。她是一名科学家以及美国著名智库RAND Corporation的成员。她对科技发展速度过快以及人工智能对人类的威胁持担忧态度。
Ilya、Helen以及Tasha从OpenAI的董事会退出后,新的董事会将由三名成员组成。
Bret Taylor(43岁)将加入OpenAI董事会,并担任新董事会的主席。作为硅谷的资深人士,Bret曾担任Twitter的董事会主席,并在去年将Twitter以440亿美元的高价出售给马斯克,因此在科技领域拥有丰富经验和卓越的业绩。
Larry Summers(68岁)也将成为新董事会的成员之一。作为一位经济学家,他曾担任美国财政部长和哈佛大学校长,影响力深远。Larry的加入令许多人意外,因为他是过去几十年中政界和学术界备受关注的重要人物,既拥有众多支持者也不乏反对者[5]。
最后,Adam D’Angelo(39岁)是唯一一名留在董事会的老成员。他是“美国知乎“Quora的CEO。他在最初的投票中支持解雇Sam,但最终在召回Sam的协调中起到了主导作用[6]。
在周末的磋商中,Sam和Greg都表达了除了恢复公司职务外,还希望加入董事会的愿望,然而这一提议遭到了董事会的否决[7]。OpenAI在宣布了新的董事会成员名单后表明,目前的三人董事会可能会在未来增加新成员。
OpenAI的组织构架
和核心冲突
OpenAI的高层人员变动以及董事会重组事实上主要就是三个人的退出——Ilya、Helen和Tasha。
这三位成员对人工智能发展过快持有明确的担忧态度(最终留在董事会的Adam也曾对AI表达过担忧,但其立场不如其他三人明确)。他们曾通过董事会的投票权将CEO Sam开除,但在一个周末的周旋后,却成为了这场“政变”中失势的一方。
这引发了一个问题:为什么持有对AI担忧态度的人可以在全球最热门的AI公司担任董事,进而影响公司的发展方向呢?
实际上,这与OpenAI独特的组织结构有关。
在2015年OpenAI创立之初,其定位并非普通企业,而是一个非营利组织(non-profit)。这一组织的使命是“确保人工智能的发展可以造福全人类”。
因此,OpenAI的董事会与传统企业董事会的目标不同,不以盈利和利益最大化为导向。它更像是学术机构、研究机构甚至慈善组织,以社会甚至公共利益为优先考虑。(当初ChatGPT首次亮相时,呈现出一种“研究”、“测试”的形象,不同于传统科技企业推出和销售新产品的方式。)
然而,开发顶尖的科技需要巨大的资金。传统的非营利组织只能接受捐款,不具有在硅谷融资的能力。但OpenAI若是仅靠捐款,显然是无法发展下去的——毕竟硬件、软件、人才都是昂贵的。
于是,2019年,OpenAI创立了一个子公司(subsidiary),子公司属于普通的市场化企业结构,可以像硅谷其他的创业公司那样吸引投资人的钱。子公司通过发行股票在科技界和风投界融资,并招聘全球最顶尖的人才[8],成长显著。作为对比,OpenAI非营利组织在成立后共筹款1亿多美元;在成立盈利的市场化子公司后,微软立刻就给OpenAI的子公司投资了10亿美元。
不过,虽然OpenAI的子公司是可融资、可逐利的市场化企业,但根据公司的章程,其运作仍继续受到OpenAI非盈利机构以及其非盈利董事会的管制,并且子公司仍需以“人工智能造福全人类”的使命为己任。
可是,随着OpenAI的发展,尤其是伴随着ChatGPT巨大的技术成功和商业价值,不同阵营和价值观关于OpenAI甚至是人工智能整体发展方向的分歧越来越深。
Sam代表的观点着重于技术的迅速进步和商业化应用。作为硅谷备受瞩目的领军人物,他的能力在融资、市场宣传和价值创造方面毋庸置疑。他带领ChatGPT这一引人注目的产品,揭开人工智能神秘面纱。ChatGPT的强大功能和潜力让人们惊叹不已。
相反,Helen代表的观点更多地聚焦于对技术进步速度过快的担忧。人工智能的快速发展虽然令人瞩目,但如果发展过于迅速或缺乏有效限制,可能在不久的将来导致严重后果。这些后果包括可能对人类就业、犯罪行为、战争等领域产生深远影响,引发伦理、社会、经济和政治等方面的灾难。这种担忧引发了对人工智能发展的深刻反思和警惕。
这或许也是为什么在上周的“政变”中,双方的斗争如此焦灼、核心立场难以调和。
据消息称,在周末的协商中,OpenAI员工中的高层对董事会开除Sam的行为非常不满。高层对董事会说,他们这种开除Sam的行为会让整个公司都垮掉,这将是董事会的严重失职。
然而,董事会的Helen却直接回应道:“不,董事会的行为其实是在贯彻其使命。”[9]在董事会看来,如果公司过快、过激的发展将是不利于全人类的话,那么放慢公司的发展——甚至是毁掉它——才是保持了其创立的初衷。雅虎财经的社论事后点评道:“OpenAI’s board might have been dysfunctional–but they made the right choice”(OpenAI的董事会可能确实有些混乱,但他们的决定是正确的)[10]。
资本的力量,
政治的力量
担心科技发展过快的OpenAI董事会行使了其权力,将CEO开除。然而短短一个周末后,被开除的CEO就凯旋而归,重新回到“神坛”——而董事会中原本与CEO立场对立的一方反而辞职退出了OpenAI。
微软在整个OpenAI事件中发挥了关键作用。当OpenAI董事会解雇了CEO Sam后,微软立即给予了Sam聘书。这一举动产生了两个主要效果。首先,它有助于稳定局势,让Sam有了下一步的发展计划。
其次,更重要的是,微软允许Sam在其旗下建立新的人工智能研究开发机构。这个举动实质上削弱了OpenAI董事会的决定的实际意义。如果董事会的目标是阻止或者控制像Sam这样的行业领袖推动人工智能领域的快速进步,那么开除Sam反而会让他在微软那里找到了更大的发展空间。微软的支持使得Sam能够继续在人工智能领域发挥领导作用,并组建一个新的团队,在某种程度上削弱了OpenAI董事会的影响力。
后来,虽然Sam回到了OpenAI继续担任CEO,但这对微软来说也是个好消息。
微软作为OpenAI最大的投资者之一,与OpenAI的利益是紧密相连的。而且,OpenAI在这次领导层的变动中发生了重大变化——对于担心技术进步的一方而言,他们在董事会中的影响力大幅下降,甚至可能被更多关注利益和资本的方向所取代。这意味着OpenAI可能逐步从其最初的以“造福全人类”、非营利性质治理结构,转变为更多受到资本和利益方影响的机构,这种变化可能在实质上改变其运作方式,使其更类似于普通企业[11]。从此,以微软为代表的资本方可以更加轻易地控制OpenAI,让其帮助资本产生更多的效益。对此,纽约时报的社论点评道:“A.I. Belongs to the Capitalists Now”[12](人工智能现在属于资本主义了)。
在这一场“政变”大戏中,OpenAI普通员工起到的作用也是耐人寻味的。在董事会宣布辞去Sam的CEO职位后,公司超过90%的员工声明将辞职、跟随Sam去微软。那么在员工中,是否也存在技术进步派和担忧派之间的对立呢?这我们无法证实,但美国权威民调机构Pew Research Center在今年夏天对全美科技行业员工做的调查显示:只有32%认为其利大于弊,11%的“码农”认为人工智能弊大于利,37%认为人工智能利弊相当,[13]。
不过,关于利弊的讨论或许总没有拿在手上的真金白银来得实在。在Sam的带领下,不少OpenAI的员工们赚着接近百万美元的年薪,早早地实现了财富自由——其经济利益与进步派和资本的利益绑定在了一起。最终员工们的集体行动也成为了这场“政变”中关键的一环。
Greg Brockman在胜利回到OpenAI后与员工合照
人类在漫长的历史中创造了许多奇迹。伟大的奇迹可以主宰整个社会发展的方向,而不同人对于世界该如何发展会因为其世界观、伦理观以及自身利益而有着不同的解读。如何控制和操纵这些奇迹,即是最根本的政治问题。
微信扫码关注该文公众号作者