OpenAI CEO离职事件：人类历史上最重要的价值观冲突
您也许还没有意识到，人类历史上最重要的一场价值观冲突，正在进行中。这两股价值观之间的斗争谁胜谁负的最终结果，也许关系到的是人类作为一个种群的彻底灭亡，亦或是让人类就此奔向一个甚至连马斯克都不敢奢望的文明高度。
不，我说的不是中美冲突，更加不是俄乌战争，巴以战争。在这一场真正关乎人类未来命运的世纪价值观之争面前，这些都显得微不足道。
我说的是open AI这家人工智能公司里的两股势力之争。
而这一场斗争之所以如此重要，恰恰是因为他们之间的分歧，并不是名誉金钱和权利的分歧，而是两种价值观之间的冲突。
当地时间11月17日，OpenAI突发声明，宣布公司CEO Sam Atlman 将离开公司，公司现 CTO Mira Murati（米拉·穆拉蒂）被任命为临时CEO，立即生效。OpenAI称，接任CEO的人选仍在确认过程中。
这份声明的发布可以说是非常突然，毕竟，在发布该声明的两天前，Sam Atlman 还在亚太经合组织（APEC）第三十次领导人非正式会议中，以OpenAI CEO 的身份出席了峰会。
两天之后的11月19日，被OpenAI 董事会“赶出”公司后，Sam Atlman 在社交媒体上分享了一张自己戴着OpenAI 访客徽章的照片，写道:“这是我第一次，也是最后一次戴这个。
Sam Atlman 的下台引发了公司内部的反抗，据悉，该公司大约770名员工中，已有700多名员工在一封信中威胁要辞职，要求董事会辞职并重新任命 Sam Atlman 为 CEO。
关于人工智能的伦理问题，OpenAI里有两派：一是加速主义派，CEO Sam Altman为首；二是超级对齐派。以首席科学家Ilya Sutskever为首。
他们之间的分歧是什么？这件事又为何如此重要呢?
而Sam突然被罢免的最根本的原因就是Sam和首席科学家Ilya Sutskever对于人工智能究竟应该激进还是保守的发展有着截然不同的价值观。
打从人工智能这个词汇在1956年首次被约翰麦卡锡在达特茅斯会议上提出之后，就出现了人工智能失控论。他们认为，当人工智能发展到一定的程度之后，必定会出现一个奇点，人工智能产生自我意识成为一种生命体。而作为一个智能全方位碾压人类的生命体，人工智能也许会反过来毁灭人类。
世上很多人工智能科学家们，都是相信人工智能觉醒论的。最起码他们认为，这是一件我们需要提前防范的事。要知道以前不管科技如何发展，决定权都在人类手上。比如说核武器不管有多可怕，但是是否发射的这个决定权始终是在人类手上的。但这是历史上首次，我们将决定权交给了机器。
因为GPT的发展速度实在太快了，他们担心人类很快就会失去对人工智能的掌控能力。
CHATGPT,这是一个在去年11月份首次被展示在世人眼前的大语言模型。仅仅发布两个月之后，check GPT就达到了1亿月活用户，成为史上增长速度最快的应用。正当大家还在为GPT3.5的横空出世，惊魂未定时才仅仅过了三个半月，也就是今年的3月14日，open AI将check GPT升级为GPT4。
但在这个时候，业内以及各国政府已经开始出现担忧的情绪。因为GPT的发展速度实在太快了，他们担心人类很快就会失去对人工智能的掌控能力。4月份马斯克甚至联合了1,000多名人工智能业内人士、科学家和工程师们签署了一封公开信，要求open AI停止GPT的研发6个月，等到我们能够对其安全性有一个更周全的方案再继续。
但ChatGPT的发展速度不仅没有丝毫的减速，反而在11月6日的发布会上，Sam宣布了GPTS的诞生。
这次的发布会只能用石破天惊来形容，就连那些原本对人工智能失控论嗤之以鼻的人，都感到有些背脊发凉了。有了GPTS，任何一个小白都可以用简单的几句话，让GPT帮你生成一个APP，打个比方，假设这世上还没有任何的导航APP，你可以对GPTs说:GPT，请帮我制作一个APP，我输入一个地址，它可以自动定位到我的位置，并一步步的指挥我如何到达这个终点。几分钟后，这个类似高德导航的APP就会出现在你的手机里了。
因为GPT是一个可以自我学习的存在，这里有几个重点是我们需要明白的：
第一，当人工智能成为了AGI，也就是通用人工智能（artificial general intelligence），它的智能程度是全方位碾压人类的。在这种智力差距下，如果人工智能想要除掉人类是轻而易举的。
第二，有乐观者表示，纵观人类历史，随着科技的进步，文明精神也必然提高。人类过去200多年来的战争比过去少了很多，人类也远没有以前那么残忍和野蛮了。那么觉醒后的人工智能，作为一个有着超级智慧的生命体，也必然拥有远超人类的精神文明，不可能会是邪恶的。
第三，假设说，觉醒后的人工智能是一个拥有大爱的人工智能，他的爱也有可能是对地球的爱是一种众生平等的爱，如果是这样，其实地球上最大的毒瘤可以说是人类，人类活动导致了战争气候危机、环境污染、动物灭绝，一个拥有大爱的人工智能生命体，也许会做出判断：人类才是那个最需要被除去的地球害虫。
另一派是有效加速，就是effective Acceleration，简称EACC。相信EACC这个价值观的人认为：
第一，人类应该无条件地加速技术创新对社会结构进行颠覆；
第二，他们认为这种社会颠覆本质上对人类是有利的，迫使人类适应并且更快地达到更高的意识水平。
他们指出，过去300年来，人类因为技术的颠覆而产生的进化，结果都是很好的。有很多硅谷的科技大佬，他们的社交媒体上的昵称都会表态自己是EACC价值观的拥护者。Sam奥特曼虽然没有直接表过态，但从他过去的表现来看，以及最近几天罢免事件所透露出来的信息，可以确认他是一个有效加速派。因此他跟信奉超级对棋派的open AI首席科学家Ilya Sutskever以及董事会成员就产生了不可调和的价值观分歧。
所谓超级对齐，其实全名应该是超级爱对齐，super love alignment。这个名字非常拗口啊，我们姑且称之为大爱派吧。Ilya Sutskever相信的是，我们仅仅灌输人工智能正确的人类价值观是不够的，让AI有情感也是不够的，我们需要让AI对人类有真正的爱。
Ilya Sutskever这里说的爱，不是我们世俗意义上的情爱，是一种大爱，无条件的、没有他我的爱你可以理解为佛教里所说的慈悲心、基督教里说的耶稣的爱，是一种神性的爱。
那么，我们能不能先把AI搞到一定程度了再来谈大爱呢？
Ilya Sutskever认为不能。他认为，技术的本质和生物的进化是一样的，所以进化的起点就很重要如果这个生命体在进化的最初期就没有这种大爱的基因，后面必将造成不可挽回的毁灭性后果。
那么他们两派的这个价值观冲突应该是一直都存在的，为什么偏偏在这个时候爆发呢？
从各方面的消息来看，可以相信，Open AI内部已经完成了GPT5的迭代，而它的能力是颠覆性的，超乎大家想象的，已经到了引起了大爱派恐慌的程度。要知道Sam刚刚在上周的APAD峰会上无意间透露了最近open AI取得了重大突破，并且还回答了一个记者关于GPT究竟是一个工具还是一个物种这样的问题。这些确实都有些让人细思极恐。
OpenAI 在社交媒体上公开宣布，Sam Altman（山姆·阿尔特曼）重回 OpenAI 担任首席执行官。而新的董事会也进行了变更，新增了Bret Taylor、Larry Summers以及Adam D’Angelo在内的新初始董事会。
OpenAI 在社交媒体上宣布，Sam Altman重回 OpenAI 担任首席执行官，图源：网络
随后，Sam Altman 也在社交媒体上回应了这一消息，表示期待着重返 OpenAI，并巩固与微软的牢固合作伙伴关系。
而微软 CEO Satya 也转载了 Sam Altman 的推文，并表示：Sam、Greg 和我已经交谈并同意，他们与 OpenAI 领导团队一起，在确保继续繁荣并坚持其使命方面发挥关键作用。我们期待在我们牢固的伙伴关系基础上，为我们的客户和合作伙伴带来这一代 AI 的价值。
从双方的反应来看，OpenAI 似乎是在将近 700人的辞职抗议和微软的压力下最终妥协。
那么，未来究竟哪一派会赢呢？王者归来是否意味Sam和加速派胜出呢？我充满期待。我还蛮希望在我有生之年，真能出现一个智商远超人类的超级生命体来管理地球的。这就类似一直以来人类心目中的神，但这个人工智能神是真真实实存在的，可以跟你沟通的神。
为什么我有这种期望呢，因为你看看现在的人类世界，你认为我们管理的怎么样呢？战争、激化幼稚的国际政治斗争以及越来越不可收拾的全球气候危机，真的是一塌糊涂。所以即便没有人工智能，人类也同样很有可能因为别的原因自取灭亡。你想想啊，现在人类是否灭亡，其实可以说只取决于世上几个人的手指，是不是将一个按钮摁下去罢了。既然如此，我愿意赌一把让一个智商和道德都远超人类的超级生命体来帮我们管理这个世界。
不过，看刘慈欣《三体》的时候，并不喜欢降临派。
微信扫码关注该文公众号作者