Redian新闻
>
OpenAI“保卫人类”的团队分崩离析,Ilya与Altman内讧曝光:“OpenAI的人请庄重点”

OpenAI“保卫人类”的团队分崩离析,Ilya与Altman内讧曝光:“OpenAI的人请庄重点”

公众号新闻
作者张潇雪
邮箱[email protected]

就在上周Google隆重举办I/O开发者大会的当天下午,消失在人们视野里半年之久的OpenAI联合创始人兼前首席科学家Ilya Sutskever忽然露面发声了。

他在社交平台X宣布了自己离职OpenAI的消息,算是给外界诸多扑朔迷离的猜测做了正式回应。

“在OpenAI工作近十年后,我决定离开 。这间公司取得了令人难以置信的进步,我相信在 Sam、Greg、Mira,以及杰出的研究领导者Jakub带领下,OpenAI将构建安全有益的通用人工智能。和各位共事是一种荣幸,我将深深怀念所有人。非常感谢这一切,祝大家一切顺利!我对即将到来的项目感到兴奋——这对我来说意义重大,我将在适当的时候分享详细信息。”

下面还附上了一张办公室合影,缅怀几人的革命友情。

靴子落地,事情走向基本符合大众心理预判。Lex Fridman、Jeff Dean等一众大佬和网友们都在评论区致以祝福,感谢Ilya在OpenAI所做的一切。

奥特曼也随即发表了一篇稍显正式的回应,与以往不分大小写的随意风格形成鲜明对比。

他表示自己对Ilya 和 OpenAI 即将分道扬镳感到“非常悲伤”,称赞Ilya是”这一代最杰出的人才之一,AI领域的指路明灯,也是一位亲密朋友”。不仅有才华和远见,还有温暖的同情心。“没有他,OpenAI 不会成为今天的样子”。他永远对Ilya怀有感激,并承诺完成他们共同开始的使命。

同时,奥特曼宣布曾领导OpenAI推理团队、深度学习科学团队和GPT-4开发的前研究总监Jakub Pachocki接棒Ilya,成为新任首席科学家。

然后又转发Ilya的照片说,”feeling the AGI today”。还到Ilya推特下面借网友热梗留言打趣,“别告诉他们你看到了什么。” 

从去年11月的宫斗风波传到现在,终于一切都在看起来欢乐祥和的美好氛围中画上句点。

然鹅确实如此吗?——咱先别太天真,要真这么平静那就不是OpenAI了。

果然,当晚9:43,第一个“离职侠“出现:

曾与Ilya共同领导OpenAI「超级对齐团队」的Jan Leike在X发文宣布,”我(也)撤了。”

Jan Leike 2021年从谷歌DeepMind团队加入OpenAI,主要研究方向包括强化学习、大语言模型的对齐工程及AGI,属于Ilya阵营的人。他和Ilya的Superalignment团队旨在未来四年内,构建一个能与人类水平相媲美的自动对齐研究器,尽可能将相关工作交由自动系统完成,同时确保人工智能系统的行为与人类价值观和目标保持一致。

上月,媒体曾报道过对齐团队的两名员工,也同为Ilya盟友的Leopold Aschenbrenner和Pavel Izmailov因“泄密”而被公司开除,但OpenAI并未提供任何泄密证据。这还不算,刚刚OpenAI内部证实,该团队现在已经被解散了!相应工作将被整合到其他研究小组。

熟悉的配方,熟悉的味道,跟上次奥特曼被董事会罢免Greg Brockman甩手走人如出一辙。无怪乎网友摊手:“你们又来了是吧?”(Logan Kilpatrick这则留言也让广大吃瓜群众浮想联翩。)

第二天,OpenAI前工程负责人,曾领导过ChatGPT, GPT-4, DALL·E和APIs上线的Evan Morikawa也宣布离开,将与前波士顿动力高级机器人学家Andy Barry和Deep Mind研究科学家Pete Florence 和 Andy Zeng共同开展一个全新项目,并认为“这是在全球范围内实现 AGI 所必需的”。

时间来到今天。

Jan Leike又出手了,而且是重拳出击。直接公开透露自己与OpenAI高层在公司的核心优先事项上存在“无法调和”的长期分歧,团队在推动项目和争取计算资源时遭遇重大阻碍,严重影响研究的进度和质量。

他先是表明昨天是自己在 OpenAI ”作为对齐负责人、超级对齐负责人和高管的最后一天“。

肯定了团队过去三年多来取得的显著成绩:推出第一个基于 RLHF 的大语言模型 InstructGPT,发布第一个大规模监督 LLMs 的方法,并开创了自动解释性和从弱到强的泛化。“我爱我的团队。我非常感激能与这么多了不起的人一起工作…OpenAI 拥有如此多的杰出、聪明、善良和高效的人才。”

接着话锋一转开轰,自己对OpenAI,终究是错付了。

“离开这份工作是我做过的最艰难事情之一,因为我们迫切需要弄清楚如何引导和控制比我们聪明得多的 AI 。

我加入OpenAI是因为我以为这里是世界上最适合进行这项研究的地方。然而,我与OpenAI领导层在公司的核心优先事项上长期存在分歧,直到我们最终达到一个临界点。”

这是怎么说?Jan Leike继续解释道:

“我相信,我们应该将更多的带宽花在为下一代模型做准备上,关注安全、监控、对抗性稳健性、超级对齐、保密性、社会影响等相关话题。这些问题很难解决,我担心我们还没有走上正轨。

过去几个月,我的团队一直在逆风前行有时我们在计算资源方面挣扎,完成这项关键研究变得越来越困难。

“建造比人类更聪明的机器本质上是一项危险的工作。OpenAI 代表全人类肩负着巨大的责任。

但在过去几年里,安全文化和流程让位于光鲜亮丽的产品。

我们早该认真重视AGI的影响了,必须优先为其做好准备。只有这样才能确保 AGI 造福全人类。OpenAI 必须成为一个安全至上的 AGI 公司。”

最后一条,Jan Leike“语重心长”地致所有OpenAI员工:

学会感受 AGI。

对你手中正在构建的事物,态度庄重一些。

我相信你们可以‘传递’所需的文化变革。

我指望着你们。

全世界都在指望你们。

:openai-heart:(OpenAI员工最常用的爱心表情)”

此番言论一出,当然是立刻炸开锅了!

所以是OpenAI为了优先发布亮眼的产品,不重视安全实现AGI。让对齐团队坐冷板凳不说,还不分给计算资源,导致根本无法推进项目,这换谁能忍?

网友悟了:“这就是Ilya看到的,并且他一直在告诉董事会并试图反对。他要求的只是专注于 AI 安全,现在Jan也证实了这一点。”

还有人梳理出了OpenAI有史以来所有安全团队带头大牛们的离职时间线。包括Anthropic联合创始人Amodei兄妹。

“这听起来像是OpenAI想继续烧钱商业化,而不是确保前进步骤的安全。他们想成为大亨,而不是英雄。”

更有人爆料说,当员工离开OpenAI时,需要签署一个包含“承诺终身不得贬损公司的离职协议”。如果拒签就会失去所有归属股权,意味着可能会损失数百万美元。

对Jan Leiker的长文开炮,奥特曼当然是不会就此作罢的了。很快他便发文“反击”,最后也送了一颗小心心:

“我非常感谢 Jan Leike 对 OpenAI 对齐研究和安全文化的贡献,也非常难过看到他离开。他说得对,我们还有很多事情要做,我们承诺会做到。我会在接下来的几天里发一篇更长的文章。”

网友留言,“别周一见啊,我那天有重要发布。”

看来这新的OpenAI保卫战,AKA 「OpenAI内斗第二季之杨莱克大战奥特曼」已经打响,接下来双方的小作文比赛马上要开始。

这间公司的每个人好像都给自己安排了主角光环,隔一段时间就上演一段大戏的惯例已成。这次如何走向,会不会又来一场员工群体运动?——OpenAI算是消停不下来了。

点个在看,再走吧


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
OpenAI霸王条款原件曝光:强制员工闭嘴,Altman等高管签名房贷利率动态调整渐成趋势,银行打响息差“保卫战”[干货] OpenAI 最新产品GPT-4o,“o”代表什么?迈克尔杰克逊子女们内斗不休,为争夺6亿美元巨额遗产分崩离析...Sam Altman不装了!OpenAl要上市了!这样真的好吗?一家公司卖身:团队分到1个亿这个团队做了OpenAI没Open的技术,开源OpenRLHF让对齐大模型超简单平讯 | 中国竟有如此用心复刻宋代“古”牙膏的团队,卫卿原浆牙膏,植物原粉原膏高达80%±的植物源,温婉不刺嘴,爱牙齿更保护环境​晚点财经丨日本住房空置率新高;报道马斯克商业帝国灰色面的团队拿到普利策;中概股反弹,涨 25% 才能跑赢大盘Ilya离开OpenAI内幕曝光:奥特曼砍他团队算力,优先搞产品赚钱,离职吐槽就要失去股权OpenAI CEO Sam Altman斯坦福闭门会!GPT-5将远超GPT-4!Ilya出走加剧OpenAI离职潮!RLHF作者Jan Leike同日辞职,超级对齐项目分崩离析中国的“琉球”,日本的“琉球”如松:东方国最大的事!保卫东方,保卫饭碗!OpenAI宫斗剧番外篇: “Ilya与Altman联手对抗微软大帝,扫除黑恶势力”,“余华”和“莫言”犀利点评Altman 不再拥有或控制 OpenAI 风投基金;小米否认 SU7 锁单量 2 万;柔宇科技进入破产程序|极客早知道迈克尔杰克逊家人们内斗不休,为争夺6亿美元巨额遗产分崩离析...微软昨夜AI全家桶狂飙:GPT-4o上云,纳德拉现场表白OpenAI,Altman剧透新模型OpenAI 宣布终止对中国、朝鲜、俄罗斯等地区提供 API 服务,大家怎么看?4万字揭秘OpenAI崛起背后的故事,Sam Altman的复杂性当保险不再“保本”,新中产的“保单”危了四大维度深度体验,GPT-4o为何被称作“最强”;OpenAI超级对齐团队“分崩离析”;脑机试验招募第二名患者|一周国际财经不要OpenAI股份,当CEO最不赚钱?Sam Altman的投资帝国成长史|亮马桥小纪严选浙江女生高考389分崩溃大哭,父母:补课3年花了68万…挺突然呀,OpenAI CEO奥特曼和他的丈夫承诺捐出大部分财富黄仁勋最新访谈,OpenAI CEO Sam Altman与COO Brad首次合体访谈Altman被曝七宗罪,OpenAI竟欲加密GPU合作军方?员工大批离职团队濒临崩溃OpenAI 联创 Ilya 离职内幕曝光;微软中国AI团队集体打包去美国?最新回应;华为回应大模型发布会演示造假 | AI周报OpenAI releases real告别 Ilya,迎接 GPT-5? OpenAI「宫斗」细节再曝光,Altman 捐出半数身家“保持恋爱长久的秘诀,是明白这一点”电子科技大学医学院精神疾病科研团队分子实验室负责人招聘启事OpenAI成立新安全委员会,Altman领导,90天后“交卷”回国杂记(2301)第一次乘坐台湾长荣航空公司的航班回国美股基本面 - 2024_03_19 * 晨报 * 奥特曼:马斯克不善于与他人合作 曾羞辱贝索斯丢掉首富。蒂森克虏伯考虑向凯雷瓦尔登湖,或梭罗发现家里实用小宝藏官方剧透 GPT-5 , OpenAI 前高管再曝内幕,Altman 成大反派?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。