Redian新闻
>
OpenAI政变反思:最终会消灭人类的不是AI,而是政治?

OpenAI政变反思:最终会消灭人类的不是AI,而是政治?

公众号新闻

‍‍





作者 罗雨翔

来源 | 不成熟研究




政变的经过和关键人物


Sam Altman(38岁)是OpenAI的创始人之一兼CEO。像许多硅谷传奇人物一样,Sam曾是斯坦福大学的辍学生。在他的领导下,OpenAI的市值从最初的10亿美元迅速增长至目前的800亿美元,并且成功超越谷歌、微软等科技巨头,率先推出了大规模市场应用的人工智能产品ChatGPT。


Ilya Sutskever(38岁),出生于前苏联,后来移居加拿大和以色列,是OpenAI的创始人之一,担任公司的首席科学家,并且是董事会的成员之一。尽管Ilya与Sam共同创办了公司,但在这场“政变”开始时,他出人意料地支持了解雇Sam的提议,并投下了决定性的一票。最终,就在官方宣布前的一分钟,Ilya亲自通过视频开除了Sam。


Greg Brockman(35岁)同样是OpenAI的创始人之一,并担任公司董事会的主席。然而,令人意外的是,董事会的其他成员在背着Greg的情况下投票决定开除Sam,并将Greg从董事会中除名(尽管保留了他在公司的职位)。得知这一消息后,Greg表达了对这一决定的抗议,并宣布辞去OpenAI的职务。


在Sam被解雇和Greg主动辞职后,全球科技界都聚焦在微软(Microsoft)的态度上。微软是OpenAI最大的投资方,持有公司49%的股份,累计投资超过100亿美元。因此,OpenAI高层人事变动可能对微软构成巨大损失。Sam被解雇的消息一经传出,微软的股价立即下跌了1个百分点。


为了应对这一情况,微软的CEO、印度出生的Satya Nadella(56岁)迅速展开了一场华丽的危机公关行动。在OpenAI董事会解雇Sam和Greg辞职的消息宣布后,微软于11月20日星期一宣布将聘请这两位人才加入微软,并由他们率领组建新的人工智能研发团队。这消息一出,立即推动了微软的股价大幅上涨。


同时,OpenAI的员工对董事会解雇Sam的决定极为不满,集体签署了一份联名信。这份信要求董事会辞职、恢复Sam的职位,并以大规模员工辞职并加入Sam在微软组建的新团队作为威胁。OpenAI总共拥有770名员工,而截至11月20日,有702名员工在联名信上签名支持这一立场[1]。同时,微软开始对OpenAI的员工准备起了聘书,并对外籍员工开始准备办理签证相关的事宜[2]。

然而有趣的是,最初“反水”、开除Sam的董事会成员Ilya居然也在联名信上签了字,并在网上发文表示自己对开除Sam的决定表示后悔。


最终,11月21日,OpenAI宣布,Sam和Greg将回到公司,董事会则将“洗牌”重组。之前“反水”、开除Sam的Ilya将不会再在OpenAI担任董事的角色(但仍在公司任职)。另外两名之前投票解雇Sam的董事会成员则将主动辞去董事的职务。


Helen Toner(31岁,澳大利亚人)是原先支持开除Sam、后来最终自己辞去董事职务的前OpenAI董事成员。作为乔治敦大学信息科技安全中心的总监,她在今年10月发表了一篇探讨人工智能伦理和监管的论文,对人工智能对人类社会的潜在威胁进行了深入分析,并在论文中批评了OpenAI的运作模式[3]。据悉,Sam对Helen的观点颇有微词,试图将Helen从董事会中除名,两人之间的沟通和关系也出现了问题[4]。


Tasha McCauley(40岁)也是原先支持开除Sam、后来自己辞去了董事职务。她是一名科学家以及美国著名智库RAND Corporation的成员。她对科技发展速度过快以及人工智能对人类的威胁持担忧态度。


Ilya、Helen以及Tasha从OpenAI的董事会退出后,新的董事会将由三名成员组成。


Bret Taylor(43岁)将加入OpenAI董事会,并担任新董事会的主席。作为硅谷的资深人士,Bret曾担任Twitter的董事会主席,并在去年将Twitter以440亿美元的高价出售给马斯克,因此在科技领域拥有丰富经验和卓越的业绩。


Larry Summers(68岁)也将成为新董事会的成员之一。作为一位经济学家,他曾担任美国财政部长和哈佛大学校长,影响力深远。Larry的加入令许多人意外,因为他是过去几十年中政界和学术界备受关注的重要人物,既拥有众多支持者也不乏反对者[5]。


最后,Adam D’Angelo(39岁)是唯一一名留在董事会的老成员。他是“美国知乎“Quora的CEO。他在最初的投票中支持解雇Sam,但最终在召回Sam的协调中起到了主导作用[6]。


在周末的磋商中,Sam和Greg都表达了除了恢复公司职务外,还希望加入董事会的愿望,然而这一提议遭到了董事会的否决[7]。OpenAI在宣布了新的董事会成员名单后表明,目前的三人董事会可能会在未来增加新成员。




OpenAI的组织构架

和核心冲突


OpenAI的高层人员变动以及董事会重组事实上主要就是三个人的退出——Ilya、Helen和Tasha。


这三位成员对人工智能发展过快持有明确的担忧态度(最终留在董事会的Adam也曾对AI表达过担忧,但其立场不如其他三人明确)。他们曾通过董事会的投票权将CEO Sam开除,但在一个周末的周旋后,却成为了这场“政变”中失势的一方。


这引发了一个问题:为什么持有对AI担忧态度的人可以在全球最热门的AI公司担任董事,进而影响公司的发展方向呢?


实际上,这与OpenAI独特的组织结构有关。



在2015年OpenAI创立之初,其定位并非普通企业,而是一个非营利组织(non-profit)。这一组织的使命是“确保人工智能的发展可以造福全人类”。


因此,OpenAI的董事会与传统企业董事会的目标不同,不以盈利和利益最大化为导向。它更像是学术机构、研究机构甚至慈善组织,以社会甚至公共利益为优先考虑。(当初ChatGPT首次亮相时,呈现出一种“研究”、“测试”的形象,不同于传统科技企业推出和销售新产品的方式。)


然而,开发顶尖的科技需要巨大的资金。传统的非营利组织只能接受捐款,不具有在硅谷融资的能力。但OpenAI若是仅靠捐款,显然是无法发展下去的——毕竟硬件、软件、人才都是昂贵的。


于是,2019年,OpenAI创立了一个子公司(subsidiary),子公司属于普通的市场化企业结构,可以像硅谷其他的创业公司那样吸引投资人的钱。子公司通过发行股票在科技界和风投界融资,并招聘全球最顶尖的人才[8],成长显著。作为对比,OpenAI非营利组织在成立后共筹款1亿多美元;在成立盈利的市场化子公司后,微软立刻就给OpenAI的子公司投资了10亿美元。



不过,虽然OpenAI的子公司是可融资、可逐利的市场化企业,但根据公司的章程,其运作仍继续受到OpenAI非盈利机构以及其非盈利董事会的管制,并且子公司仍需以“人工智能造福全人类”的使命为己任。


可是,随着OpenAI的发展,尤其是伴随着ChatGPT巨大的技术成功和商业价值,不同阵营和价值观关于OpenAI甚至是人工智能整体发展方向的分歧越来越深。


Sam代表的观点着重于技术的迅速进步和商业化应用。作为硅谷备受瞩目的领军人物,他的能力在融资、市场宣传和价值创造方面毋庸置疑。他带领ChatGPT这一引人注目的产品,揭开人工智能神秘面纱。ChatGPT的强大功能和潜力让人们惊叹不已。


相反,Helen代表的观点更多地聚焦于对技术进步速度过快的担忧。人工智能的快速发展虽然令人瞩目,但如果发展过于迅速或缺乏有效限制,可能在不久的将来导致严重后果。这些后果包括可能对人类就业、犯罪行为、战争等领域产生深远影响,引发伦理、社会、经济和政治等方面的灾难。这种担忧引发了对人工智能发展的深刻反思和警惕。


这或许也是为什么在上周的“政变”中,双方的斗争如此焦灼、核心立场难以调和。



据消息称,在周末的协商中,OpenAI员工中的高层对董事会开除Sam的行为非常不满。高层对董事会说,他们这种开除Sam的行为会让整个公司都垮掉,这将是董事会的严重失职。


然而,董事会的Helen却直接回应道:“不,董事会的行为其实是在贯彻其使命。”[9]在董事会看来,如果公司过快、过激的发展将是不利于全人类的话,那么放慢公司的发展——甚至是毁掉它——才是保持了其创立的初衷。雅虎财经的社论事后点评道:“OpenAI’s board might have been dysfunctional–but they made the right choice”(OpenAI的董事会可能确实有些混乱,但他们的决定是正确的)[10]。




资本的力量,

政治的力量


担心科技发展过快的OpenAI董事会行使了其权力,将CEO开除。然而短短一个周末后,被开除的CEO就凯旋而归,重新回到“神坛”——而董事会中原本与CEO立场对立的一方反而辞职退出了OpenAI。


微软在整个OpenAI事件中发挥了关键作用。当OpenAI董事会解雇了CEO Sam后,微软立即给予了Sam聘书。这一举动产生了两个主要效果。首先,它有助于稳定局势,让Sam有了下一步的发展计划。


其次,更重要的是,微软允许Sam在其旗下建立新的人工智能研究开发机构。这个举动实质上削弱了OpenAI董事会的决定的实际意义。如果董事会的目标是阻止或者控制像Sam这样的行业领袖推动人工智能领域的快速进步,那么开除Sam反而会让他在微软那里找到了更大的发展空间。微软的支持使得Sam能够继续在人工智能领域发挥领导作用,并组建一个新的团队,在某种程度上削弱了OpenAI董事会的影响力。


后来,虽然Sam回到了OpenAI继续担任CEO,但这对微软来说也是个好消息。

微软作为OpenAI最大的投资者之一,与OpenAI的利益是紧密相连的。而且,OpenAI在这次领导层的变动中发生了重大变化——对于担心技术进步的一方而言,他们在董事会中的影响力大幅下降,甚至可能被更多关注利益和资本的方向所取代。这意味着OpenAI可能逐步从其最初的以“造福全人类”、非营利性质治理结构,转变为更多受到资本和利益方影响的机构,这种变化可能在实质上改变其运作方式,使其更类似于普通企业[11]。从此,以微软为代表的资本方可以更加轻易地控制OpenAI,让其帮助资本产生更多的效益。对此,纽约时报的社论点评道:“A.I. Belongs to the Capitalists Now”[12](人工智能现在属于资本主义了)



在这一场“政变”大戏中,OpenAI普通员工起到的作用也是耐人寻味的。在董事会宣布辞去Sam的CEO职位后,公司超过90%的员工声明将辞职、跟随Sam去微软。那么在员工中,是否也存在技术进步派和担忧派之间的对立呢?这我们无法证实,但美国权威民调机构Pew Research Center在今年夏天对全美科技行业员工做的调查显示:只有32%认为其利大于弊,11%的“码农”认为人工智能弊大于利,37%认为人工智能利弊相当,[13]。


不过,关于利弊的讨论或许总没有拿在手上的真金白银来得实在。在Sam的带领下,不少OpenAI的员工们赚着接近百万美元的年薪,早早地实现了财富自由——其经济利益与进步派和资本的利益绑定在了一起。最终员工们的集体行动也成为了这场“政变”中关键的一环。


Greg Brockman在胜利回到OpenAI后与员工合照


人类在漫长的历史中创造了许多奇迹。伟大的奇迹可以主宰整个社会发展的方向,而不同人对于世界该如何发展会因为其世界观、伦理观以及自身利益而有着不同的解读。如何控制和操纵这些奇迹,即是最根本的政治问题。


文本+分析图:罗雨翔
润色:ChatGPT
[1] https://static01.nyt.com/newsgraphics/documenttools/f31ff522a5b1ad7a/9cf7eda3-full.pdf
[2] https://www.nytimes.com/2023/11/22/technology/how-sam-altman-returned-openai.html
[3] https://cset.georgetown.edu/publication/decoding-intentions/
[4] https://www.theinformation.com/articles/altman-argued-with-openai-board-member-toner-before-ouster
[5] https://www.axios.com/2023/11/22/larry-summers-openai-board
[6] https://www.nytimes.com/2023/11/19/business/media/openai-sam-altman-why.html
[7] https://www.nytimes.com/2023/11/22/technology/open-ai-board-shakeup.html
[8] https://openai.com/our-structure
[9] https://www.wsj.com/tech/ai/altman-firing-openai-520a3a8c
[10] https://finance.yahoo.com/news/openai-board-might-dysfunctional-made-105429320.html
[11] https://www.nytimes.com/2023/11/22/technology/openai-board-capitalists.html
[12] https://www.nytimes.com/2023/11/22/technology/openai-board-capitalists.html
[13] https://www.pewresearch.org/social-trends/2023/07/26/workers-views-on-the-risk-of-ai-to-their-jobs






微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
章子怡、汪峰官宣离婚:婚姻最可怕的不是出轨,不是冷淡,而是这件事男人出轨后,最害怕的不是被妻子发现,而是这件事一家年GMV3亿的品牌对直播的反思:警惕起哄,保住基本盘,利润为核心加拿大各省大学费用出炉!最贵的不是安省也不是BC省,而是这!孩子能不能成学霸,影响最大的不是智商,不是学校,而是…男人出轨后,最害怕的不是被妻子发现,而是这3件事慢的不是 Ruby,而是你的数据库周末灌水:Solomon's Paradox杨伟民最新演讲:“先立后破”不是针对企业,不是针对消费者,也不是针对市场的,而是对政府经济治理而言怪论!阿根廷外长:我们拒绝金砖,因为这是政治性组织累垮你的不是上班,而是工作方式最摧毁婚姻的不是贫穷、不是无性,而是这4个字美联储激进加息最终会引爆一些东西,问题是谁是那颗「雷」?确认:美国新冠波峰已过。JN.1,成为新冠绝对主流毒株;是人类的幸运、还是对人类的警告?天津助学金事件值得反思:为什么最穷贫困生拿不到一等助学金?这片雨林里的婴儿最先会说的不是“爸爸妈妈”,而是“我要离开这里”|唐·库里克 一席第1022位讲者露X装,开裆裤,蟑螂包,确实不是毁灭人类的设计吗?我花14年把女儿养废休学:一个家庭最可怕的不是穷,而是充满了内耗苟了又1年,等来的不是新年钟声,而是年终大裁员的丧钟!世界最强AI公司,迈出毁灭人类的“一小步”?直播电商再反思:边界在何处泽伦斯基的艰苦历程:少有人像我一样相信最终会胜利“色斑”最怕什么?不是柠檬,也不是生姜,更不是医美,而是......真的后悔了!美国虎妈重病后反思:我犯了很多错误!青春期孩子需要的不是被动“管教”,而是主动“自救”百度重构的不是如流,而是办公美国政坛地震!前议长麦卡锡宣布辞职,彻底离开国会,曾是政治新星一百五十八 待分配学习林黛玉经典语录(四)董宇辉:最贵的教育资源,不是学区房,而是父母的三观这种时候运动,真的不是「健身」,而是「作死」啊!一个魔都娃考上哥大后的反思:为什么比我优秀的同学却没有考进藤校?一百五十九 分别八月十五那些事OpenAI神秘Q*毁灭人类?爆火「Q*假说」竟牵出世界模型,全网AI大佬长文热议
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。