Nature揭示OpenAI内斗与反复翻转的内幕；其董事会设计的坍塌，关系到全人类的未来

关键词：OpenAI；内斗；Nature

针对OpenAI这次举世关注的内斗和反复翻转，对AI怀疑者认为：

“罢免Sam Altman的事件，是人类在未来世界中为了免于人工智能的奴役而自救的做法；也就是从未来把人类送回到了2023年11月17日罢免Sam Altman以改变AI研究轨迹。但很不幸，人类失败了，AI继续快速发展直到取代人类成为新的主宰。”

但OpenAI研发的ChatGPT却给出了另外一幅未来人类与AI和谐相处的景象：

▽ 这幅画将展示一个充满科技感的未来城市景象。

在城市的中心，有一座巨大的透明玻璃建筑，其内部有多个层次，每个层次都充满了与人工智能相关的活动。在最低层，人工智能机器人正在帮助儿童学习，使用虚拟现实和增强现实技术。中间层展示了人工智能在医疗领域的应用，机器人医生正在进行远程手术。最高层则是一个数据中心，其中充满了光线和数据流，象征着人工智能对大数据的处理和分析能力。天空中，无人机在穿梭，展示了交通和物流的自动化。整个画面通过光线和色彩的运用，传达出一种对未来充满希望的感觉。

1，OpenAI CEO罢免事件回顾

1）Sam Altman 被解雇：

2023年11月17日，OpenAI董事会解除了其首席执行官Sam Altman的职务。

这一决定是由 OpenAI 董事会在经过“慎重审查程序”后做出的，基于其得出的结论是 ：Altman 在与其他董事会成员的沟通中并不一贯坦诚。这阻碍了董事会履行职责的能力，并导致对他继续领导 OpenAI 的能力失去信心。

这一解除事件是OpenAI的首席科学家Ilya Sutskever发起。

根据多方面资料显示，Ilya在本次事件之前就曾多次表达了对于AI发展速度的担忧，认为目前阶段需要充分评估AI安全性；Ilya多次表示，他的主要工作已经不能是开发GPT-5，而是弄清楚如何让AI这个超级智能安全而可控。

但与此同时，Sam则继续在野心勃勃推动OpenAI这个非盈利机构的商业进程，尤其是与微软关系极为密切。

2），仅24小时，微软要求董事会迎回Sam

仅仅24小时，名义上是小股东、但实际上是主要金主、更是OpenAI商业项目主要受益者的微软发难，要求董事会迎回Sam Altman。

3），Sam加入微软：

但根据OpenAI的管理结构和董事会设计，其董事会成员除了首席执行官和首席科学家，其他多是社会名流，并由此免于向资本妥协。

无奈之下的折中方案，Sam加入微软，担任人工智能研究负责人，其他人还有 OpenAI 前总裁 Greg Brockman 和部分员工。

4），Sam戏剧性回归：

2023年11月22日，在OpenAI内部争斗后的第五天，OpenAI宣布Sam Altman重新担任首席执行官；Ilya不在新的董事会之内。

期间A，微软用了大杀招，宣布用高薪聘请任何愿意来微软的OpenAI前员工由此足以肢解OpenAI；B，OpenAI员工联合签名请求Sam回归。

2，不可忽视的人工智能安全性问题

OpenAI内斗及反复翻转事件终于尘埃落定，但这起事件折射出来的AI风险及资本是否会为了利益而忽视AI的风险，却令人担忧。

此次OpenAI罢免CEO事件源于OpenAI内部关于商业增长和快速发展对公司使命可能影响的分歧。

OpenAI在2015年作为一个非盈利组织成立，公司的使命是“确保人工通用智能（artificial general intelligence, AGI）造福全人类”；在2019年，OpenAI转变为一个特殊的有限盈利模式，但其董事会设计的是不对股东或投资者负责【1】。

这次Sam Altman被解雇背后明显存在非盈利和商业化之间的文化和目标冲突。

但最终结果却显示，原本设计成不被资本控制的董事会，最终仍然屈从了资本的压力而改变初衷。

（Open AI的结构，并不是一个非盈利机构；这与很多媒体的宣传完全不一致）

2023年11月23日，Nature杂志专门发文，讨论这一事件背后涉及的AI安全问题【2】。

多伦多大学的计算机科学家Geoffrey Hinton，深度学习的先驱，一直对AI发展的速度深感担忧。

Hinton和其他人担心，即使AGI被设计来促进人类的最佳利益，它也可能成为一个坏的行为者，以负面的方向引导世界事件。例如，它可能觉得人类的痛苦如此之重，比起面对更多的苦难，人类消亡可能更好。

这听起来像科幻小说，但Hinton认为，一个无法关闭并走上破坏性道路的AI的存在威胁是非常真实。

但在本次事件期间，Hinton一直拒绝发表任何评论，可能与Ilya是其弟子有关。

3，人工智能会替代人类吗？

对于这个问题，我在2023年11月9日问过，GPT-4在当时的回答是：未来很可能是人类与AI合作的时代。

Elon Musk等创始人对于AI的道德和安全问题特别关注，他们认为OpenAI可以帮助避免潜在的负面后果，通过确保AI的发展与人类价值观和利益相一致。