Redian新闻
>
AI初创集体跳槽OpenAI,Ilya出走后安全团队重整旗鼓!

AI初创集体跳槽OpenAI,Ilya出走后安全团队重整旗鼓!

公众号新闻



  新智元报道  

编辑:庸庸
【新智元导读】AI安全公司Indent首席执行官Fouad Matin和他的团队将加入OpenAI,致力于为AGI做好安全准备。

上周,在内部的离职潮和外部的口诛笔伐之下,OpenAI可谓是内忧外患:

- 侵权寡姐引发全球热议

- 员工签署「霸王条款」被接连曝出

- 网友细数奥特曼「七宗罪」

辟谣:根据Vox获得的泄露消息和文件,OpenAI的高级领导层,包括Altman在内,非常了解这些股权回收条款,并且签署了它们。

除此之外,还有一个严峻而紧迫的问题摆在OpenAI面前——AI安全。
最近,五名与安全相关的员工离职,其中包括两名最著名的员工,「超级对齐」团队的解散让OpenAI的安全问题再次被置于聚光灯下。
《财富》杂志报道称,OpenAI从未兑现让其超级对齐团队获得其20%计算资源的承诺。
2023年7月,OpenAI成立了一个新团队,致力于确保未来可能比人类加起来还要聪明的人工智能系统能够被安全控制。为了表明该公司对这一目标的重视程度,它公开承诺将投入当时可用计算资源的20%用于这项工作。
现在,还不到一年时间,这个名为「超级对齐」的团队因员工辞职以及OpenAI将产品发布置于人工智能安全之上的指控而被解散,据6位知情人士称,OpenAI从未履行向该团队提供20%算力的承诺。
但在上周四,Indent首席执行官Fouad Matin在X和Reddit上宣布,「我们加入了OpenAI,致力于为AGI做好安全准备! 」
他在推文中写道,「我很高兴能与一支出色的团队一起保障未来的安全,从前沿模型准备到客户数据控制,确保人工智能安全并造福于每个人是非常重要的。」
看来,OpenAI安全团队正在重整旗鼓,招募新人,那么,刚刚被OpenAI招募的Fouad Matin能否临危受命,「挽大厦于将倾」呢?

Fouad Matin和他的团队

有「不明真相的吃瓜群众」在Fouad Matin的帖子下留言:「我们加入了OpenAI 」中的「我们」是谁?
显然,答案不是「他的两个半脑」那么简单,Fouad Matin背后的资源是他所创办的Indent,Indent正是一家致力于「构建安全的未来」的AI公司。
目前,Indent已经在其官网上发布了「日落通知」,宣布Indent将在今年7月停止服务。
我们创办Indent的目标是帮助团队保护最重要的东西。我们的客户已经保护了从客户数据和生产基础架构到日常业务软件的一切安全,而所有这一切都不会降低团队的速度。
经过慎重考虑,我们做出了一个非常艰难的决定:Indent将在未来几个月内关闭,我们将帮助客户过渡,并继续为实现这一共同目标而努力。
在太平洋标准时间2024年7月15日下午12点之前,团队都可以提出申请,届时服务将关闭。审计日志将提供到7月19日,之后我们将开始数据删除流程。
我们要感谢每一位使用Indent的用户,从第一天就获得访问权的早期创业公司,到使用Indent保护关键任务资源的数百人团队。
Fouad Matin是Indent的联合创始人和CEO,Fouad Matin称,他创办Indent是因为发现大多数公司不知道谁有权访问客户数据,而且对于大多数公司来说,发现这一问题的成本太高,更不用说锁定这些数据了。而Indent可以提供用户友好的访问控制。2021年12月,Indent为按需访问控制融资560万美元。
在2018年创办Indent之前,Fouad Matin还有3段工作经历。
2014年,Fouad Matin曾和其他联创共同创办了一家推荐招聘公司,他在其中负责产品、销售和工程设计。曾参加首届Y Combinator奖学金计划和YC W16。
2016年,他创办了一个无党派非营利组织,致力于为年轻人建立最简单的登记和投票方式,帮助100万人投票。
2017年,他在Segment担任工程师,领导细分角色的产品和工程开发,使客户能够将用户操作解析为配置文件。致力于更好的产品体验设计。
正如Fouad Matin在个人简介中所介绍的那样,他是一名软件工程师和产品设计师,有时也会投资初创公司,在过去几年里,他曾帮助几百万人投票给非营利组织和公司,以管理他们的客户数据。
现在,他在OpenAI从事安全工作。Indent日落,而Fouad Matin将开启他新的职业旅程。

其他成员

在Fouad Matin推文的评论区,有和他相识2年的好友对他表示祝贺,这位好友透露,除Fouad Matin以外,一同加入OpenAI安全团队的还有Dan Gillespie
Dan Gillespie将主要从事的是「建立为AGI到来所需的安全计算平台」。
无独有偶,和Fouad Matin有一点相同的是,Dan Gillespie也具有投资背景,根据他在领英的介绍,他也曾在Y Combinator任职过,Y Combinator是硅谷最负盛名的创业孵化器,在过去一年投资了260多家AI初创公司,是硅谷乃至全世界AI创业趋势的风向标。

左:Dan Gillespie, 23岁
彭博社观点专栏提出,「2024年5月将被人们铭记为AI安全运动消亡的月份。同时,人们也将记住,5月是AI更安全的工作真正开始的时间。」
OpenAI作为领先的AI公司,能否在消极的声音之下,真正坚持构建一个更加安全的系统,我们希望OpenAI新安全团队能够带来不同。
参考资料:
https://x.com/fouadmatin/status/1793350695476933108
https://fortune.com/2024/05/21/openai-superalignment-20-compute-commitment-never-fulfilled-sutskever-leike-altman-brockman-murati/
https://www.bloomberg.com/opinion/articles/2024-05-21/ai-safety-is-dead-and-chuck-schumer-faces-risks
https://indent.com/blog/announcing-indent




微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
大佬出走后首个发布!Stability官宣代码模型Stable Code Instruct 3B刚刚,哈里斯首次公开讲话!24小时狂吸金$9000万,和川普支持率旗鼓相当竞选团队重申拜登绝对不退选 警告内斗唯一赢家将是特朗普美国文化探究,我喜欢的瞬间:STTT、PHARMACOL RES 中山大学高国全团队揭示非酒精性脂肪肝病发生发展和阿尔兹海默病的关键调控分子逝者 | 殷罡:韬光养晦不是策略,中国人什么时候没干一件事就大张旗鼓的瞎嚷嚷,没有《梦圆》&《貌美如花》港交所和纳斯达克对中企IPO吸引力旗鼓相当;拜登敦促扩大中国Biotech制裁名单;德昇济医药完成Medicxi领投的A+轮融资Ilya出走加剧OpenAI离职潮!RLHF作者Jan Leike同日辞职,超级对齐项目分崩离析曝拜登自称需更多睡眠 未来将取消晚8点以后安排OpenAI再爆信任危机,安全团队核心人员离职天天熬夜,真的会“变傻”吗?复旦团队重磅进展!大队列研究:提前预测痴呆风险……李飞飞团队重磅报告解读AI十大趋势:中国AI专利数全球第一,大模型训练狂烧钱,医学领域AI应用突出 | 大模界CNN最新民调:贺锦丽和川普支持率旗鼓相当卖身外资,艰难求生!广东人的“娃哈哈”,重整旗鼓这个团队做了OpenAI没Open的技术,开源OpenRLHF让对齐大模型超简单带50余名员工集体跳槽,干倒老东家,三人被北京警方刑拘国家队重仓了哪些医药股?老街Hatton Garden这一关键领域,“中美几乎旗鼓相当”!这一关键领域,“中美几乎旗鼓相当”OpenAI“保卫人类”的团队分崩离析,Ilya与Altman内讧曝光:“OpenAI的人请庄重点”50余名员工集体跳槽, 干倒老东家, 三人被拘!休斯顿男子在开颅手术时打鼓!真实原因太震撼...50余名员工集体跳槽,干倒老东家,三人被拘!撞死16人!萨省冰球队重大车祸司机被勒令驱逐出境!仍可申请恢复身份哈里斯首次公开讲话!24小时狂吸金$9000万,和川普支持率旗鼓相当OpenAI前安全负责人雷克将跳槽Anthropic;AI能有效识别绝大多数癌症扩散患者丨AIGC日报无人售药机能大张旗鼓地干起来吗揭秘拜登出走后的美国新变局个人感慨之125 坏分子OpenAI 联创 Ilya 离职内幕曝光;微软中国AI团队集体打包去美国?最新回应;华为回应大模型发布会演示造假 | AI周报薇塔的城堡和花园 (上)带50余名员工集体跳槽干倒老东家,3人被刑拘复旦团队重大突破登Cell,破纪录复活「冰封」18个月人脑!三体云天明计划成真?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。