Redian新闻
>
OpenAI CEO下场回应「封口协议」,争议还是到了股权利益上,奥特曼:我的锅

OpenAI CEO下场回应「封口协议」,争议还是到了股权利益上,奥特曼:我的锅

公众号新闻
机器之心报道

机器之心编辑部


自从 Ilya 和 超级对齐负责人 Jan 离职后,OpenAI 内部还是心散了,后续也有越来越多的人离职,同时也引发了更多的矛盾。

昨天,争议的焦点来到了一份严格的「封口协议」。


OpenAI 前员工 Kelsey Piper 爆料,任何员工的入职文件说明中都包含一项:「在离开公司的六十天内,你必须签署一份包含『一般豁免』的离职文件。如果你没有在 60 天内完成,你的股权获益将被取消。」


这份引发风浪的文件截图,让 OpenAI CEO 迅速下场回应:


「我们从未收回任何人的既得权益,如果人们不签署分离协议(或不同意不贬损协议),我们也不会这样做。既得股权就是既得股权(句号)。」


关于 OpenAI 如何处理股权,山姆・奥特曼的其他回应如下:


仅仅 15 分钟后,爆料者再次质疑并大胆提问:既然你已经知道了,那么,此前员工的限制协议会取消吗?


因为大部分人,想要的是一个明确的解决方案,而不只是歉意:


爆料者 Kelsey Piper 同时表示:「至于我这样做是否对 Sam 不公平 —— 我的意思是,我认为这是 CEO 的职责之一。有时你不仅需要道歉,而且人们还会吹毛求疵,想要澄清,想要看到政策已经改变的证据。」


去年有报道称,OpenAI 员工薪酬中最常见的一种组合是:30 万美元的固定基本工资,以及每年约 50 万美元的 PPU(利润参与单位)补助金,这是一种股权补偿形式。也就是说,在 PPU 赠款的四年期中,大多数 OpenAI 员工预计至少获得 200 万美元的股权薪酬。


如果消息为真,大部分「被离职」的前员工应该都想「坚持到底」。


在这场风波之外,还有一条争议同时进行:有关 OpenAI 将如何处理安全和未来风险。


据多家媒体报道,随着最近 Ilya Sutskever、Jan Leike 两位超级对齐团队的共同领导者离职,OpenAI 的超级对齐团队已被解散。周五,Jan Leike 还发布了一系列帖子,怒斥 OpenAI 及其领导层忽视「安全」而偏爱「光鲜亮丽的产品」。


今天早些时候,OpenAI 联合创始人 Greg Brockman 对该问题进行了长文回应。


在这篇落款为「Sam and Greg」的文章中,Brockman 指出:OpenAI 已采取措施确保 AI 技术的安全开发和部署。

我们非常感谢 Jan 为 OpenAI 所做的一切,我们知道他将继续从外部为 OpenAI 的使命做出贡献。鉴于他的离开所引发的问题,我们想解释一下我们是如何考虑整体战略的。


首先,我们已经提高了人们对 AGI 风险和机遇的认识,以便世界能够更好地为其做好准备。我们多次展示了扩展深度学习的惊人可能性,并分析了其影响;在此类呼吁流行之前,我们就呼吁对 AGI 进行国际治理,并帮助开创了评估人工智能系统灾难性风险的科学。

其次,我们一直在为安全部署能力越来越强的系统奠定必要的基础。首次使用一项新技术并不容易。例如,我们的团队做了大量工作,以安全的方式将 GPT-4 推向世界,此后,我们根据部署过程中的经验教训,不断改进模型行为和滥用监控。


第三,未来将比过去更加艰难。我们需要不断提升我们的安全工作,以应对每一个新模型的风险。去年,我们采用了「Preparedness Framework」,以帮助将我们的工作系统化。

现在是谈论我们如何看待未来的好时机。


随着模型的功能不断增强,我们预计它们将开始与世界进行更深入的整合。用户将越来越多地与由许多多模态模型和工具组成的系统进行交互,这些系统可以代表他们采取行动,而不是与一个只有文本输入和输出的单一模型对话。


我们认为,这些系统将给人们带来极大的好处和帮助,而且有可能安全地提供这些系统,但这需要大量的基础工作。这包括围绕它们在训练过程中与什么联系在一起的深思熟虑,解决困难问题(如可扩展的监督)的方案,以及其他新型安全工作。在朝着这个方向发展的过程中,我们还不确定何时才能达到发布的安全标准,如果这将推迟发布时间,也没关系。

我们知道,我们无法想象未来所有可能发生的情况。因此,我们需要一个非常严密的反馈回路、严格的测试、每一步的慎重考虑、世界一流的安全性,以及安全与功能的和谐统一。我们将继续针对不同的时间尺度开展安全研究。我们还将继续与各国政府和许多利益相关方就安全问题开展合作。


在通往人工智能的道路上,没有行之有效的指南。我们认为,经验性的理解可以帮助我们指明前进的道路。我们相信,既要实现巨大的发展前景,也要努力降低严重的风险;我们非常认真地对待我们在这方面的角色,并仔细权衡对我们行动的反馈意见。

— Sam and Greg

但效果似乎不尽如人意,甚至受到了嘲讽:


AI 领域的活跃学者 Gary Marcus 也说:透明度胜于雄辩。


看起来,Greg Brockman 并不打算对政策或承诺方面做出更具体的回应了。


在 Jan Leike 和 Ilya Sutskever 离开后,另一位 OpenAI 联合创始人 John Schulman 已转而负责超级对齐团队正在做的工作,只是不再有一个专门的部门,而是一个松散关联的团队。嵌入公司各个部门的研究人员小组。OpenAI 将其描述为「更深入地整合(团队)」。


争议背后的真相是什么呢?也许 Ilya Sutskever 最清楚,但他选择了体面离场,今后可能也不会再谈起这件事。毕竟,他已经有了「一个对个人而言非常有意义的项目」。


机器之心将于2024年6月1日举办「CVPR 2024 线上论文分享会」,将设置 Keynote、 论文分享、企业招聘等环节,就业内关注的 CV 热门主题邀请顶级专家、论文作者与观众做学术交流。

© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
OpenAI 宣布终止对中国、朝鲜、俄罗斯等地区提供 API 服务,大家怎么看?逼员工签“封口协议”?OpenAI 脸都被打肿了。。。OpenAI神秘gpt2正在A/B测试,奥特曼抢先剧透,网友已玩嗨OpenAI 离职霸王条款原文件曝光!打脸奥特曼回应,「封口令」或实锤宫西达也联名奥特曼——《我的爸爸是奥特曼》新书来啦!OpenAI 被举报「封口」员工向有关部门报告风险/萝卜快跑极端天气下无法接单/爱奇艺限制投屏案原告将继续上诉OpenAI 惊天内幕曝光!高管怒斥遭打压,离职吐槽公司将损失数百万,奥特曼紧急回应刘强东AI数字人首场直播成交额超5000万元;奥特曼:通用人工智能不该被秘密构建,GPT-6将成通用工具丨AIGC日报《等你在草原》&《繁华梦》《高阳台 - 春分》《花信风之春分》OpenAI封口协议原件曝光!奥特曼等高管声称不知情却签了字......奥特曼28亿「投资帝国」曝光!不要OpenAI股份,当CEO最不赚钱GPT-4o深夜炸场!AI实时视频通话丝滑如人类,Plus功能免费可用,奥特曼:《她》来了Ilya离开OpenAI内幕曝光:奥特曼砍他团队算力,优先搞产品赚钱,离职吐槽就要失去股权蚂蚁集团启动组织升级,任命韩歆毅为集团总裁;OpenAI CEO阿尔特曼:GPT-4“有点糟糕”……OpenAI崛起大揭秘:弄权高手,奥特曼靠人脉积累起巨大影响力发布会对比惨烈,奥特曼发文暗讽谷歌!谷歌被曝疯狂重组迎击OpenAIOpenAI下周要有大动作,奥特曼在线剧透:不是GPT-5,不是搜索引擎OpenAI被曝帮苹果Siri换脑,微软急了:CEO约谈奥特曼妈妈踏海挺突然呀,OpenAI CEO奥特曼和他的丈夫承诺捐出大部分财富非法阻止员工披露AI安全风险,OpenAI严厉「封口协议」再遭举报个人感慨之119 寻衅滋事的包公成也奥特曼, 败也奥特曼的IPOOpenAI抓内鬼出奇招,奥特曼耍了所有人:GPT搜索鸽了!改升级GPT-4奥特曼个人投资引纠纷,手持400多家公司28亿美元,部分投资与OpenAI有利益冲突!微软颠覆生产力:Copilot推自定义版,AI PC原生支持PyTorch,奥特曼预告新模型OpenAI重磅更新定档下周一,奥特曼暗示会有「魔法」!微软深夜再掀AI生产力革命,奥特曼登台「自曝」新模型!定制Copilot十亿打工人狂欢OpenAI神秘搞事,GPT-4.5默默上线?推理碾压GPT-4网友震惊,奥特曼笑而不语OpenAI首席科学家宣布离职,曾参与驱逐CEO奥特曼;马斯克称OpenAI最新模型“慢得离谱”丨AIGC日报OpenAI releases realOpenAI前董事怒批CEO阿尔特曼:谎话连篇,高管被“精神折磨”!ChatGPT发布前没通知董事会OpenAI 官宣旗舰模型 GPT-4o,完全免费、无障碍与人交谈!奥特曼:这是我们最好的模型面对质疑,奥特曼终于公开了OpenAI 前沿大模型安全架构OpenAI抓内鬼出奇招,奥特曼耍了所有人再传内斗,Altman 回应「离职封口协议」;10 年前网页,38% 无法访问;第一批快递员退休,有房有车有存款 | 极客早知道
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。