logo
Redian新闻
>公众号
>
​突发！OpenAl超级对齐团队就地解散！

​突发！OpenAl超级对齐团队就地解散！

公众号新闻
今日，最新消息显示，OpenAl超级对齐团队就地解散。该消息一经发出，立刻引发网友热议。
有网友调侃：这是OpenAI宫斗第二季又开始了？
很快，OpenAl公司证实，该公司不再将所谓的'超级对齐"团队作为一个独立的实体，而是将该团队更深入地整合到其研究工作中，以帮助公司实现其安全目标。
01
对齐团队是做什么的？
据了解，超级对齐团队成立于2023年7月，其目标是“在 OpenAI 大量计算的支持下，到 2027 年解决（对齐）问题”。
Ilya Sutskever 是该项目的牵头人之一，OpenAI 则表示会将 20% 的算力专门用于该项目的研究。
在一次访谈中， Ilya Sutskever 曾大胆预言，如果模型能够很好地预测下一个词，那么意味着它能够理解导致这个词产生的深刻现实。这意味着，如果 AI 按照现有路径发展下去，也许在不久的将来，一个超越人类的人工智能系统就会诞生。但更加令人担心的是，「超级人工智能」可能会带来一些意想不到的负面后果。
几天前，OpenAI 联合创始人、首席科学家 Ilya Sutskever ，刚宣布离开 OpenAI。至此，结束了与 OpenAI 的八年牵绊。
很多人可能没注意，与 Ilya 同步宣布离开的，还有超级对齐团队的共同领导者 Jan Leike。
Jan Leike正是OpenAl安全主管、“超级智能对齐团队”负责人。
据JanLeike透露，他与OpenAl高层在公司的核心优先事项上存在长期分歧，双方的分歧严重到无法调和的地步。团队在推动其研究项目和争取计算资源时遇到了重大阻碍，缺乏资源严重影响研究的进度和质量。
02
长期分歧指的是什么？
此前，在 OpenAI 内斗时，有人传言说 Ilya「看到了一些东西」，这些东西足够强大，让他对 AI 的未来产生了担忧，并重新思考 AI 的发展。
此后，包括马斯克在内的美国业界一直很关心“Ilya看到了什么？”
有记录显示， Ilya 此前曾在一段视频中提到，在 AGI 实现的那一天，AI 未必会仇恨人类，但他们对待人类的方式可能会像人对待动物一样。人可能无意伤害动物，但如果你想修一条城际高速，你不会征询动物的意见，而是直接去做。当面临这种情况时，AI 可能也会自然而然地做出类似的选择。
或许，这就是Ilya担忧的，也是OpenAl对齐团队与高层的长期分歧。
写在最后
上周，外界又开始关注“Ilya下一步会去哪里？”
有网友猜测，“如果Ilya和Andrej 创办一家真正开放的人工智能公司，会是什么样的？”
Andrej Karpathy也是OpenAI 创始成员之一，在 Sora 发布前夕刚离职，他们二人如果能联手，或将成为人工智能领域又一个重大事件。
对此，Ilya 在推文中回应，“我很期待接下来的计划——这个项目对我个人来说意义重大，我会在适当的时候分享细节。”
现在，咱们也猜想一下：“Jan Leike会去哪呢？”
如果Ilya和Andrej 真的创办了一家人工智能公司，Jan Leike是否会加入其中？

近期原创 关注阅读


重磅！OpenAI联合创始人突然离职

突发！理想汽车裁员，或涉及超5600人！

OpenAI不再遥遥领先

独家丨周鸿祎x朱啸虎：没10亿美金闲钱，别碰通用大模型

朱啸虎：ChatGpt对创业公司很不友好，未来两三年内请大家放弃融资幻想

超越微信和TikTok！李开复最新演讲：杀手级AI应用已经诞生

OpenAI 这一招，直接要了谷歌半条命！

刚刚！AIGC第一股，开盘破发

Sora首部MV正式亮相！

五月天假唱了吗？官方正式回应

李彦宏首次回应璩静风波！

出海：开始比完美更重要 本土化是致胜关键

贾跃亭宣布：为救FF，将用个人IP赚快钱！

刚刚，问界回应M7事故四大疑问！

硅谷人工智能研究院院长：AI会取代一些工作，但也会带来这些新的岗位

5连封！“快手一哥”辛巴的末路狂飙

TikTok最危险的时刻，来了！

市值蒸发90%！斗鱼CEO取保候审，主播“小团团”被捕

史上最强！全球首个“开源GPT-4”出世！

华为突然开售：“秒没”！

贾跃亭：在美国法律体系下，我已经不存在任何债务了

极越员工买小米SU7被强制开除？官方刚回应

重磅！李彦宏最新内部讲话曝光

华为，重大发布！
贾跃亭国内最后一笔巨额资产即将被抵债
刚刚，武大宣布新设雷军班！
罕见！马云再发声
字节跳动利润疯涨60%，首次超越腾讯？官方回应
网传Zara要撤出中国市场？官方回应来了
18.9亿元！陆正耀被强制执行的原因，有人猜到了

刚刚，贾跃亭发文批小米汽车！

2024黑马AI培训战略发布：让中小企业AI梦照进现实

牛文文：企业AI化是“人工智能+”的关键一步


扫描下方二维码
报名参加黑马创业破局公开课
解决您的模式与品类创新难题
↓↓↓


联系我们

转载开白或商务合作：15222191516  
与主编交流沟通：chenfu3721
i黑马，创业黑马旗下媒体，让创业者不再孤独
创业黑马 媒体矩阵 推荐关注
↓↓↓

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章
相关阅读
费城15岁女孩在家中刺死祖母|费城新:禁止非法染色车窗车辆停放在街道|2024拜登·哈里斯竞选连任团队就亚太裔传统月发表声明​突发！LSE 2025入学要求公布，多个热门专业A-level上调且增加笔试环节！！Ilya官宣离职，超级对齐负责人Jan直接辞职，OpenAI还是走散了OpenAI解散Ilya重要团队！前高管怒斥，宫斗第二季开始！特斯拉突发！马斯克裁撤整个超级充电团队，2名高管将携团队数百人离职突发！OpenAI创始人离职，发生了什么？AGI会在人类未知的地方欺骗人类吗？揭露超级对齐范式下的“弱至强欺骗”现象逍遥医侠游传突发！谷歌Python团队解散，PyTorch之父震惊OpenAI解散Ilya重要团队，前高管怒斥，宫斗第二季ACL 2024 | 大语言模型的安全对齐会适得其反？无需训练便能逆转安全对齐突发！OpenAI将终止对中国提供服务！影响有多大？谷歌员工爆料Python基础团队原地解散光速打脸？特朗普刚承诺「留学生毕业即绿卡」，转头团队就改口……突发！OpenAI 宣布终止对中国提供服务太乱了，洛杉矶毒贩公然贩售毒品，瘾君子排队就地吸食​突发！特鲁多政府批准，在卑诗省公共场所吸毒违法！立即生效紧跟Ilya，OpenAI超级对齐团队负责人官宣离职！内部AGI或实现，全网陷大猜想四大维度深度体验，GPT-4o为何被称作“最强”；OpenAI超级对齐团队“分崩离析”；脑机试验招募第二名患者|一周国际财经​突发！加拿大卫生部紧急召回近10万个USB插头：有漏电风险！突然爆雷！知名品牌资金链断裂、团队解散！曾2小时内销售上亿，创始人卖北京三套房产创业个人感慨之118 住房医疗免费37岁离异女贷款17万找对象；王婆说媒：我爱你才会有机会万达引入600亿元投资，未设立对赌协议；美国升级对华芯片出口限制；OpenAI发布语音模型Voice Engine｜邦早报Ilya出走加剧OpenAI离职潮！RLHF作者Jan Leike同日辞职，超级对齐项目分崩离析突发！OpenAI超级对齐团队老大自曝离职原因！牵出管理内幕31、长篇家庭伦理小说《嫁接 下》第十一章 大难之后（1）突发！OpenAI超级对齐团队负责人官宣离职！内部AGI或实现，全网陷大猜想这个团队做了OpenAI没Open的技术，开源OpenRLHF让对齐大模型超简单​突发！加拿大政府批准，在卑诗省公共场所吸毒违法！立即生效突发！地表最强AI公司不和中国玩耍了！OpenAI 宣布终止对中国提供 API 服务突发！OpenAI 创始人 Ilya 官宣离职，已有意义重大的下一步计划？曝OpenAI超级对齐团队解散！改变马斯克将解散超充团队，OpenAI遭8家出版商起诉，苹果称发布会将不同寻常，嫦娥六号发射定档，这就是今天的其他大新闻！
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章，不代表同意其说法或描述，仅为提供更多信息，也不构成任何建议。文章信息的合法性及真实性由其作者负责，与Redian.news及其运营公司无关。欢迎投稿，如发现稿件侵权，或作者不愿在本网发表文章，请版权拥有者通知本网处理。