Altman被曝七宗罪,OpenAI竟欲加密GPU合作军方?员工大批离职团队濒临崩溃
新智元报道
新智元报道
【新智元导读】刚刚,有网友仔细总结了OpenAI的七宗罪,对Altman发出愤怒的诘问:为何计划跟踪GPU?为何合作军方?员工滚雪球式离职的消息不断曝出,整个对齐团队已经濒临崩溃,「说谎」「心口不一」的形象愈发鲜明,Altman正在失去民心。
又一对齐员工离职
在得知Ilya Sutskever和Jan Leike的消息前几个小时,我就已经选择了离职。 我们需要做更多的工作来改进决策过程、问责制、透明度、文档记录、政策执行、使用自身技术时的谨慎态度,以及减少对不平等、权利和环境影响的措施。 这些担忧对于现在的社会来说非常重要。它们影响着未来发展的方向,以及由谁来引领。我想强调的是,不管是我们内部的还是来自其他人的担忧不应该被误解为狭隘的、推测性的或不相关的。它们不是。 科技公司往往会通过在提出质疑或挑战其权力的人之间制造分歧,来削弱那些试图对其进行问责的人。 我很感激自己有能力和支持去做这件事,这在很大程度上要归功于Daniel Kokotajlo给的勇气。我也明白,在整个行业中,还有很多人无法做到这一点。 OpenAI仍在开展许多重要工作,包括扩大访问权限、准备框架开发、增强信心的措施,以及解决我之前提到的担忧。我仍然对这些工作及其成功充满期待和投入。
历数OpenAI「七宗罪」
Ⅰ 无视AGI风险,超级对齐分崩离析
Ⅱ 跟踪GPU,随时撤销GPU许可证
1. GPU可以通过加密方式验证其真实性和完整性。 2. 具有加密原语的GPU可以使模型权重保持加密状态,直到它们被暂存并加载到GPU 上。这在主机或存储基础设施受到损害时,增加了重要的深度防御层。 3. 具有唯一加密身份的GPU,可以为特定GPU或GPU组加密模型权重和推理数据。完全实现后,这可以使模型权重只能由属于授权方的GPU解密,并且可以允许推理数据从客户端加密到服务其请求的特定GPU。
Ⅲ 签字逼迫员工放弃股权,事后装失忆
Ⅳ 和News Corp合作,ChatGPT中也会有广告了
Ⅴ 和微软一起反对开源
Ⅵ 泄露隐私,让人类过度依赖AI
Ⅶ 技术向军方开放
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章