当 OpenAI 的首席科学家 Ilya Sutskever 试图推翻奥特曼时，他在想些什么？

2023-12-07 04:12

当奥特曼被解雇的新闻传来时，我正在写书。

随着剧情的不断发展，我觉得可怕：当事件涉及到有可能伤害整个人类时，我们绝大多数人，只有看看新闻和写写朋友圈的份。

伊隆.马斯克是其中少数清醒的人之一。他在第一时间指出：由于研发先进 AI 技术的潜在危险性非常高，作为目前世界上最强大的 AI 公司，OpenAI 应该解释为什么要解雇 CEO 奥特曼。

需要注意的是：在奥特曼被解雇后，美国的一些行业观察家对 OpenAI 的董事会表现出了钦佩之情。

的确。董事会的这个解雇决定可能厚颜无耻，沟通工作也做得很糟，对于公司及其投资的影响也没有经过深思熟虑。但它采取的行动表明了董事会是有原则的，也证明了 OpenAI 的非营利结构正在完全按照预期运作，以保护公司不会受到（任何）一位领导者的影响。

事情的最后，奥特曼重新夺回了 OpenAI 的宝座，发起政变的董事会则正在接受彻底的改革。

硅谷喜欢塑造神话，在硅谷塑造的神话中，技术与其创始人通常以精英的方式取得成功，成功的基础是天才的创意和执行技巧。而 OpenAI 的自我神话则更进了一步，它把自己定位成是一个几乎与自己所在行业完全相对立的公司——一家如此致力于产品纯度与意识形态的公司，以至于它会做出自焚以保护自己和他人的决定。

但是当这种意识形态撞上资本主义现实的岩石。正如硅谷一贯的做法，金钱总是赢家：一个伟大的想法只能让你走这么远，但是金钱会让你冲过终点线。

请记住：实际上，我们对 OpenAI 最关键部分的看法仍然非常有限。

关于这起历史事件，我想推荐大家阅读两篇文章。其中一篇将解释 OpenAI 的首席科学家伊利亚.苏茨克沃在担心什么——这种担心，与 11 月 6 日奥特曼在 OpenAI 首届开发者大会上宣布将推出的 GPT Store 有关。另一篇文章，我将在明天发出。结合这两篇文章一起看，你将获得对这起历史事件的更深度的认知。先来看第一篇文章，以下是我的翻译简写。

直到最近，人们才知道伊利亚.苏茨克沃是一位杰出的人工智能研究员。他是帮助 "人工智能教父 "杰弗里.辛顿开启深度学习革命的明星学生。2015 年，在谷歌短暂地工作了一段时间后，苏茨克沃与他人共同创立了 OpenAI，并最终成为了 OpenAI 的首席科学家。

苏茨克沃对 OpenAI 的成功是如此重要，以至于伊隆·马斯克因为帮助 OpenAI 招募了他而受到赞誉（萨姆·奥特曼曾给我看过他与苏茨克弗之间的电邮，暗示了情况并非如此）。但是尽管如此，在上周末前，除了在小众播客中露面，苏茨克沃并没有太多的公众形象。他不像奥特曼，在过去一年中，奥特曼已经成为人工智能的全球代言人。

周四的晚上，苏茨克沃发起了一场政变。根据 OpenAI 前总裁兼董事会前主席格雷格.布罗克曼在 X 上发表的一篇文章：当晚，苏茨克沃给奥特曼发了一条短信，问第二天能否聊一聊。奥特曼在周五约定的时间登录了谷歌会议，并很快得知自己中了埋伏。苏茨克沃扮演了布鲁图斯的角色，通知奥特曼他被解雇了。半小时后，奥特曼下台的消息被含糊其辞地公布了出来，以至于在几小时内，从性丑闻到大规模挪用公款的任何事情似乎都有可能发生。

我对这些最初的报道感到惊讶。去年春天，在撰写专题报道时，我对苏茨克沃有一些了解。他并没有给我留下特别适合政变的印象。相比之下，奥特曼是那种为在技术资本主义泥潭中进行刀战而生的人。

到了周六的下午，奥特曼得到了 OpenAI 的主要投资者——其中，也包括微软公司的支持。据报道，微软的 CEO 萨蒂亚·纳德拉对自己几乎没有收到解雇奥特曼的通知而感到非常愤怒。奥特曼还得到了军队的支持：OpenAI 的 770 名员工中已有 700 多人签署了一封信，威胁说如果不恢复奥特曼的 CEO 职位，他们就将辞职。除了这些筹码，奥特曼还得到了纳德拉的公开邀请，让他在微软公司内部成立一个新的人工智能研究部门。如果 OpenAI 的董事会顽固不化，那么奥特曼就可以在这个研究部门开店，雇佣几乎所有的前同事。

直到周日晚上，苏茨克沃还在 OpenAI 办公室里代表董事会工作。但是昨天早上，OpenAI 即将解体的前景，以及据说是安娜.布洛克曼——苏茨克沃主持了布洛克曼夫妇的婚礼——发出的情感恳求，让苏茨克沃重新考虑了一下。他在 X 的一篇文章中写道："我对参与董事会的行动深表遗憾，我从未想过要伤害 OpenAI。我热爱我们共同建立的一切，我会尽我所能让公司重新团结起来。" 那天的晚些时候，为了结束前一周的时光，他和同事们一起在要求奥特曼回归的信上签了名。

苏茨克沃并没有回复我们的置评请求，我们还没有完全了解是什么促使他首先采取了如此戏剧性的行动。他和他的董事会成员，都没有发表明确的声明来解释自己。他们模糊的沟通，强调了不存在单一的突发事件。但即便如此，一些故事已经开始充实起来。

OpenAI 的董事会对奥特曼希望快速推出新产品与模型，而不是放慢速度以强调安全性感到恼火。还有人说，至少在一定程度上，董事会是被奥特曼的课外筹资活动所逼迫。据说，这些筹资活动包括了与苹果前设计师 Jony Ive 等不同政党、有抱负的英伟达的竞争对手，以及来自中东地区喜欢监控的专制政权投资者进行谈判。

今年四月，在苏茨克沃比较快乐的时候，我在位于旧金山 Mission District 的 OpenAI 总部见到了他。我立刻就喜欢上了他。他是一位思想深刻的人，虽然有时会刻意追求神秘的深刻性，但是他也相当风趣。

我们见面时，他正处于转型期。他告诉我，他很快将领导 OpenAI 的对齐研究——这项工作的重点，是在人工智能的分析能力超越人类之前，训练人工智能的表现良好。他说，对齐工作是非常重要的，因为用他那迷人的短语来说：超人类的人工智能将成为 "人类的最终老板"。

苏茨克沃和我约好几个月后再谈。他已经花了很多时间思考对齐的问题，但是他想制定一个战略。我们在六月再次进行了交谈，就在 OpenAI 宣布苏茨克沃的对齐工作将由 OpenAI 的一大块计算资源提供服务的几周前——这其中一部分，将专门用于启动一个新的人工智能来帮助解决这个问题。在我们的第二次谈话中，苏茨克沃告诉了我更多他认为未来有敌意的人工智能可能会是什么样子。而随着最近几天事件的发生，我发现自己经常想起他的描述。

苏茨克沃说："我认为未来的人工智能不是像你或我一样聪明的人，而是一个从事科学、工程、开发和制造的自动化组织。”虽然大多数人对 OpenAI 的理解都是大语言模型，比如为 ChatGPT 提供动力的那些模型，但是最初它们并不是OpenAI 的重点。

2016 年，OpenAI 的创始人们被一种在围棋上击败大师的人工智能 AlphaGo 迷得晕头转向。他们认为，会玩游戏的人工智能才是未来。甚至时至今日，苏茨克沃仍对他们为玩多人奇幻战争游戏 Dota 2 而构建的人工智能的代理行为而耿耿于怀。

他告诉我："这些人工智能的代理被本地化到了由田野、堡垒和森林组成的电子游戏世界中"，但是它们会作为一个团队进行游戏，而且它们之间似乎可以通过 "心灵感应 "进行交流，这些技能有可能推广到现实世界。看着他们，苏茨克沃不禁想知道：如果许多比人类更加强大的超人类智能体一起工作，会发生什么。

最近几周，苏茨克沃可能已经看到了令他感到不安的未来。他担心奥特曼在 11 月 6 日 OpenAI 首届开发者大会上宣布的……

本文剩余内容的主要摘要如下

伊利亚.苏茨克沃在担心什么？需要大家到我的知识星球阅读。

说明：因为各种各样的原因，我在微信公号写的东西和我在知识星球写的不一样，关心美国创投圈和美股二级市场的专业读者，请移步到我的知识星球。如下扫码登录（老星球用户续费请见底下那个二维码）

老星球用户续费请用这个二维码：

怕错过文章就把这个公号设置为“星标”吧

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章