Redian新闻
>
Altman被曝七宗罪,OpenAI竟欲加密GPU合作军方?员工大批离职团队濒临崩溃

Altman被曝七宗罪,OpenAI竟欲加密GPU合作军方?员工大批离职团队濒临崩溃

公众号新闻



  新智元报道  

编辑:Aeneas 好困
【新智元导读】刚刚,有网友仔细总结了OpenAI的七宗罪,对Altman发出愤怒的诘问:为何计划跟踪GPU?为何合作军方?员工滚雪球式离职的消息不断曝出,整个对齐团队已经濒临崩溃,「说谎」「心口不一」的形象愈发鲜明,Altman正在失去民心。

OpenAI的离职潮,已经像滚雪球一样,根本停不下来了。
Ilya的离去,仿佛是压弯骆驼的最后一根稻草。
由Ilya领衔的超级对齐团队,是防止AGI失控、保护人类的最后一道屏障。
然而Altman统治下的OpenAI,把光鲜的产品置于安全之前,让超级对齐团队在计算资源方面捉襟见肘,完成关键研究变得越来越困难。
不断离职的超级对齐团队员工纷纷表示:我们已经彻底失去信心,无法再对OpenAI在AGI时代的行为负责了。
昨天曝出的股权协议原件,更是让Altman言行不一的面目暴露出来——文件上明明有Altman的签名,他却极力否认自己对此事知情。
在OpenAI这个可能影响全人类命运的机构中,究竟发生了什么??
现在,已经有愤怒的网友发帖,历数了OpenAI的七大罪状:无视AGI风险、逼迫员工放弃股权却装失忆、反对开源、跟踪GPU、泄露隐私、和军方合作等等……桩桩件件都附有参考链接。

又一对齐员工离职


OpenAI的超级对齐团队,现在就像多米诺骨牌一样。
上周,首席科学家兼联合创始人Ilya Sutskever宣布辞职,紧接着高管Jan Leike也辞职了。
Leike指责OpenAI把「光鲜的产品」放在安全之前,并表示超级对齐团队「在计算资源方面捉襟见肘」,完成这项关键研究「变得越来越困难」。
这周和上周的离职事件,紧随另外两名安全研究员Daniel Kokotajlo和William Saunders,也出于类似的原因离职。
如今, 又有一名团队成员高调宣布了自己的离开。
在得知Ilya Sutskever和Jan Leike的消息前几个小时,我就已经选择了离职。
我们需要做更多的工作来改进决策过程、问责制、透明度、文档记录、政策执行、使用自身技术时的谨慎态度,以及减少对不平等、权利和环境影响的措施。
这些担忧对于现在的社会来说非常重要。它们影响着未来发展的方向,以及由谁来引领。我想强调的是,不管是我们内部的还是来自其他人的担忧不应该被误解为狭隘的、推测性的或不相关的。它们不是。
科技公司往往会通过在提出质疑或挑战其权力的人之间制造分歧,来削弱那些试图对其进行问责的人。
我很感激自己有能力和支持去做这件事,这在很大程度上要归功于Daniel Kokotajlo给的勇气。我也明白,在整个行业中,还有很多人无法做到这一点。
OpenAI仍在开展许多重要工作,包括扩大访问权限、准备框架开发、增强信心的措施,以及解决我之前提到的担忧。我仍然对这些工作及其成功充满期待和投入。

历数OpenAI「七宗罪」


Ⅰ 无视AGI风险,超级对齐分崩离析

至此,我们已经无法再用玩梗蒙蔽自己了。.
Ilya等安全团队的人员离去,大概率跟AGI或者GPT-5都无关,而是被逼得走投无路。
自从OpenAI发生第一轮宫斗、Sam Altman被罢免以来,整个OpenAI的情绪就不对劲了。
显然,Altman在合作伙伴关系和产品重点方面的发展方向,已经超出了大多数人能接受的程度。
他的危险面目,随着时间线的推移,也越来越清晰地暴露出来。

Ⅱ 跟踪GPU,随时撤销GPU许可证

而且,OpenAI最近公布的AI治理计划,也掀起了轩然大波。
OpenAI提出,将加密保护扩展到硬件层,实现以下属性——
1. GPU可以通过加密方式验证其真实性和完整性。
2. 具有加密原语的GPU可以使模型权重保持加密状态,直到它们被暂存并加载到GPU 上。这在主机或存储基础设施受到损害时,增加了重要的深度防御层。
3. 具有唯一加密身份的GPU,可以为特定GPU或GPU组加密模型权重和推理数据。完全实现后,这可以使模型权重只能由属于授权方的GPU解密,并且可以允许推理数据从客户端加密到服务其请求的特定GPU。
这些内容,无疑让人恐慌。
比如第一句:GPU可以通过加密方式验证其真实性和完整性。
这也就意味着,如果我们从英伟达买一块GPU,它会像DRM一样进行签名,从而被批准运行和加速AI模型。
假如一个小公司来购买硬件,现在就需要经过额外的层层审批,才能把自己的硬件推向市场,这无疑很可怕。
大概没有多少人希望自己的GPU是签名的,大家都会希望使用匿名的GPU。
第二条也很诡异,必须每个硬件上都有签名,才能允许我们运行AI,这简直是一件荒谬的事。因为如果上面有签名,他们也就可以撤销签名,谁有权决定呢?
第三条也是如此,模型权重只能由属于授权方的GPU解密,这个权力属于谁?
而其中这句话,也显示出OpenAI的重点在于保护模型权重,而非开源,或开放权重,这个观点已经与开源AI的大力支持者大相径庭了。
一名网友锐评道:这些关于安全和保障的很多想法,让我摸不着头脑,很多内容显示出,OpenAI正在全力以赴地关注闭源架构,这让我更感激Meta这样的开源公司了。

Ⅲ 签字逼迫员工放弃股权,事后装失忆

前几天此消息曝出:如果OpenAI员工在离职时拒绝签署要求严苛的协议,无法保证永不批评OpenAI,那他们可能就会失去已有的OpenAI股权。
瞬间让科技圈炸锅。面对群情激愤的声讨,Altman紧急发布道歉声明,表示自己从不知道OpenAI有威胁股权的条款,以后也不会这样做。
然而他随后就被打脸了,外媒扒出了更多内部协议。
这些文件显示,OpenAI几乎拥有所有权利,可以任意将股权从前员工那里收回,或者阻止他们出售股权。
签署这些文件的,正是Sam Altman,签署日期为2023年4月10日。
随后,更多霸王条款曝出。比如OpenAI发给离职员工一份冗长且复杂的终止文件,需要在七天之内签署完毕。
这意味着,前员工仅有一周的时间,去决定是否接受OpenAI的「封口费」,否则就会失去数百万美元股权。
而且,当前员工要求额外2-3周的时间寻求法律援助并审查文件时,却遭到了OpenAI的强烈反对。
「The General Release and Separation Agreement」(概括性索偿弃权书和离职协议)需要你在7天内签署。我们希望确保你明白,如果你不签署,这可能会影响你的股权。这对每个人都是一样的,我们只是按规章办事」。
对此,加州的就业律师Chambord Benton-Hayes表示,「一家企业威胁收回已归属的股权是极其恶劣和不寻常的」。
然而,OpenAI大多数前员工,却对这样的霸王条款屈服了。
而整件事最荒谬的,还是以Altman为首的OpenAI高管事后堂而皇之的装傻。

Ⅳ 和News Corp合作,ChatGPT中也会有广告了

昨天,在一片乱中,OpenAI依然官宣了和新闻集团News Corp的合作,并将之成为「里程碑意义的多年全球合作伙伴关系」。
根据协议内容,News Corp的新闻内容都会引入OpenAI。
OpenAI有权显示相关媒体报头的内容,用来回答用户问题,目的是「让人们根据可靠的消息和新闻来源,做出明智的选择」。
News Corp旗下的出版物,包括《华尔街日报》、《巴伦周刊》、《MarketWatch》、《投资者商业日报》、《FN》、《纽约邮报》、《泰晤士报》、《星期日泰晤士报》、《太阳报》等等。
对此,网友评价说:看这个名单就知道,OpenAI选择了非常糟糕的合作方。
这些媒体一向把右翼宣传作为商业模式,引起政治讨论,使用一切必要的手段来推动叙事,甚至曾通过福克斯新闻否认2022年的总统选举。
甚至News Corp还曾卷入这样一起丑闻,涉嫌侵入600多人的手机,来获取情报。
从此,我们使用OpenAI的产品时,无可避免地会受到某些倾向的影响。
而且,以后AI聊天机器人的世界,也将到处充斥着广告。
不久前一份泄露的文件显示,OpenAI计划在GPT聊天中,纳入品牌优先权。
根据文件,凡是加入该计划的公司,都会在ChatGPT等产品的聊天对话中获得优先权,品牌能够露出得更多,链接中也会更强调它们的内容。
而且通过PPP,OpenAI甚至还会向出版商提供许可的财务条款。
获得更丰富产品表达的公司,将拥有品牌悬停链接、锚定链接和内嵌处理。
悬停处理中,OpenAI会在搜索查询的响应中,超链接关键字。这些链接会显示为蓝色文本,鼠标悬停在上面时,会显示可单击的选项卡。
在锚点处理中,ChatGPT对用户查询响应的下方,会出现一个可点击的品牌化按钮。
内嵌产品则会在ChatGPT响应的文本中插入引文,字体更大,并且包含可点击的品牌链接。
总之,ChatGPT从此会变成被商业广告操控的世界。

Ⅴ 和微软一起反对开源

开源和闭源之争中,OpenAI已经联合微软正式下场,试图对政府施加影响了。
最近,由科技巨头、初创公司和风险投资家组成的联盟,正在花费数百万美元来说服华盛顿,让他们相信对AI世界末日的担忧被夸大了。
他们的行动已经产生了影响。他们的影响力网络在推动这样一种观点:与其说AI是一种生存威胁,不如说是一个重要的商业机会,绝不能让严格的安全措施,把美国的AI优势拱手让给他人。
华盛顿的游说格局,已成为一场由大量资金支持的、近乎哲学争论的战争。
微软和OpenAI这一派的观点是,提倡严格的安全限制和许可要求。严格的限制,显然对拥有最强大AI的公司是有利的。
而Meta、IBM等公司,更依赖于开源AI模型,而非OpenAI、谷歌等追求的闭源框架,因此他们力图推动一种规则更少、更加开放的方法。
无论是IBM还是Meta,都在开源斗争中投入了大量的游说资源。自从2023年中期的AI辩论爆发以来,IBM为游说华盛顿投入了400万美元,Meta则花费了超过1700万美元。
而OpenAI,当然不希望这些开源既得利益者迎头赶上。

Ⅵ 泄露隐私,让人类过度依赖AI

在上周的OpenAI大会上,技惊四座的GPT-4o所宣传的重点,显然被放在了情感依恋上。
然而,无论是开发高度情绪化的语音输出,还是通过声音读取某人情绪健康的能力,无疑都是潜在的危险方向。
据说,Ilya是反对这一决定的。在他看来,除了学习说服之外,AI学习语音方式并没有什么好处。
发布会上,GPT-4o加持的AI语音助手,更加情感丰富,现场展示的幽默和害羞等特质,让它更像个人类。
与之相比,谷歌介绍Astra时,用的最多的词就是「助理」,这就明确显示了谷歌对于语音助手的定位。
显然,在AI助手这方面,OpenAI的尝试更大胆,谷歌则更谨慎。
谷歌的态度,此前也有迹可循。此前它就一直在有意远离「Her」型的AI。
上个月,Google DeepMind的研究人员发布了一篇论文,详细阐述了拟人化人工智能的潜在弊端,称这类助手可能会重新定义「人类」和「其他」之间的界限。

论文地址:https://arxiv.org/pdf/2404.14068
而这,就可能会导致一些危害。例如用户会将重要的决策交给AI,向AI透露敏感信息,或者在情感上过度依赖AI等等。
这样的结果,可能是灾难性的。毕竟,《Her》中描述的并不是一个happy ending,更像是一个反乌托邦的未来。
显然,这个问题,并不在OpenAI的考虑范围之内。

Ⅶ 技术向军方开放

最后一件危险的事就是,今年OpenAI已经悄悄删除了针对「军事和战争」使用ChatGPT的禁令,因此,军方也可以使用ChatGPT技术了。
虽然目前看来,OpenAI提供的任何服务都无法用于直接杀人,比如操控无人机或发射导弹,但他们可以增强许多相关的任务,比如写代码、处理采购订单。
有证据表明,美国的军事人员已经在使用ChatGPT加快文书工作,美国国家地理空间情报局已经公开考虑,使用ChatGPT来协助人类分析师。
要知道,OpenAI一直和主要国防承包商微软合作密切,迄今为止,微软已经向OpenAI投入了130亿美元的巨资。
在当前的局势下,全世界的军队都渴望用AI技术来武装自己。
虽然LLM不可避免的幻觉,以及用ChatGPT分析机要信息或敏感数据可能会带来安全风险,但五角大楼的态度,仍然是渴望拥抱AI。
在11月的一次讲话中,国防部副部长Kathleen Hicks表示,人工智能是「我和Lloyd Austin部长从第一天起,就一直在推动的以作战人员为中心的创新的关键部分」。
老将出走,员工炮轰,接下来的OpenAI,会在「惯会说谎」的Sam Altman治下走向何方?
参考资料:
https://www.reddit.com/r/singularity/comments/1cyn4yy/its_becoming_increasingly_clear_that_openai/




微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
马斯克将解散超充团队,OpenAI遭8家出版商起诉,苹果称发布会将不同寻常,嫦娥六号发射定档,这就是今天的其他大新闻!布林肯首次回应和以色列“合作军援”:我们不存在任何双标情况自驾从SF到LA:旧金山的街车OpenAI首席科学家宣布离职,曾参与驱逐CEO奥特曼;马斯克称OpenAI最新模型“慢得离谱”丨AIGC日报卫网君:卫星通信面临崩溃还是崛起?星链发射前期SpaceX的财务状况;太空经济如何在16年内达到万亿美元规模;华夏芯被申请破产官方剧透 GPT-5 , OpenAI 前高管再曝内幕,Altman 成大反派?谷歌突破2万亿美元里程碑,却被曝裁掉整个Python团队?PyTorch之父怒批离谱撕裂|媒体警告:加拿大正经历失去的二十年!中产阶级面临崩溃!但特鲁多却花30亿帮难民获得身份人生的断舍离发力亚洲市场,OpenAI在印度招聘了首位员工;中国人工智能发明专利企业排行榜揭晓,华为、OPPO进入前十丨AIGC日报告别 Ilya,迎接 GPT-5? OpenAI「宫斗」细节再曝光,Altman 捐出半数身家Ilya官宣离职,超级对齐负责人Jan直接辞职,OpenAI还是走散了微软昨夜AI全家桶狂飙:GPT-4o上云,纳德拉现场表白OpenAI,Altman剧透新模型《努力格尔玛》&《第二故乡》OpenAI成立新安全委员会,Altman领导,90天后“交卷”Altman 不再拥有或控制 OpenAI 风投基金;小米否认 SU7 锁单量 2 万;柔宇科技进入破产程序|极客早知道紧跟Ilya,OpenAI超级对齐团队负责人官宣离职!内部AGI或实现,全网陷大猜想我在加拿大做临终关怀,看到了华裔家庭的濒临崩溃……出路2025QS排名 | 历史首次!慕尼黑工大跻身TOP30,亚琛工大冲入TOP100华为重夺中国大陆智能手机市场第一/Altman 称 GPT-5 性能远超 GPT-4/OPPO 回应暂停 XR 探索一事OpenAI霸王条款原件曝光:强制员工闭嘴,Altman等高管签名回国杂记(2310)在海南省人民医院邂逅陈科医生18个月,OpenAI这支团队搞出了GPT-4o两重惊喜!奥特曼预告GPT-4和ChatGPT重大更新,Open AI要放大招20宗给农夫山泉的欲加之罪,最终会带来什么OpenAI“保卫人类”的团队分崩离析,Ilya与Altman内讧曝光:“OpenAI的人请庄重点”奥特曼挂帅新团队,OpenAI新一代大模型开训,前任高管却「投敌」了CoT提出者Jason Wei:大模型评估基准的「七宗罪」GPT-4调教指令揭秘,OpenAI又「Open」了一回!网友在线追问GPT-5OpenAI 取消前员工离职协议“封嘴”条款;字节系多款App被指控抄袭源代码;京东被曝严抓考勤、微信非工作群全部解散|AI周报这个团队做了OpenAI没Open的技术,开源OpenRLHF让对齐大模型超简单OpenAI CEO Sam Altman斯坦福闭门会!GPT-5将远超GPT-4!OpenAI宫斗剧番外篇: “Ilya与Altman联手对抗微软大帝,扫除黑恶势力”,“余华”和“莫言”犀利点评黄仁勋最新访谈,OpenAI CEO Sam Altman与COO Brad首次合体访谈
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。