Lex 对话 Elon Musk,全文精编
莱克斯·弗里德曼: 以下是与 Elon Musk、DJ Seo、Matthew MacDougall、Bliss Chapman 和 Noland Arbaugh 就 Neuralink 和人类未来展开的对话。Elon、DJ、Matthew 和 Bliss 当然是出色的 Neuralink 团队的成员,而 Noland 是第一个在大脑中植入 Neuralink 设备的人类。我与他们每个人都单独交谈过,因此请使用时间戳来跳转,或者按照我的建议,尽情享受,听完整个内容。这是我做过的最长的播客。这是一场引人入胜、技术性超强且内容广泛的对话,我喜欢其中的每一分钟。现在,亲爱的朋友们,这是 Elon Musk 第五次参加 Lex Fridman 播客。
伊隆·马斯克: 你想要喝点什么?咖啡还是水?
莱克斯·弗里德曼: 请给我水。我最近咖啡因摄入太多了。
伊隆·马斯克: 好的,你呢,需要咖啡因吗?
莱克斯·弗里德曼: 有一杯氮气饮料,听起来怎么样?
伊隆·马斯克: 听起来可以让人保持清醒到明天下午。
莱克斯·弗里德曼: 没错。不过,我不太想尝试。
伊隆·马斯克: 氮气饮料是什么?含有很多咖啡因吗?
莱克斯·弗里德曼: 别问太多,它叫做氮气饮料,这就够了。
伊隆·马斯克: 里面含有氮气?这听起来有点荒谬,毕竟我们呼吸的空气中78%都是氮气。你还要更多吗?
伊隆·马斯克: 不幸的是,你要吃掉它。
伊隆·马斯克: 大多数人认为他们呼吸的是氧气,但实际上他们呼吸的是 78% 的氮气。你需要一块牛奶棒,比如《发条橙》里的牛奶棒。
莱克斯·弗里德曼: 是的。这是你心目中库布里克最棒的三部电影吗?
伊隆·马斯克: 《发条橙》?还不错。但有点疯狂。我觉得有点刺耳。
莱克斯·弗里德曼: 好的。让我们回顾一下,祝贺Neuralink成功植入人体。这是Neuralink迈出的历史性一步。
伊隆·马斯克: 谢谢。是的,我们确实迈出了重要的一步。
莱克斯·弗里德曼: 接下来还会有更多。
伊隆·马斯克: 没错,我们也成功植入了第二颗假体。
莱克斯·弗里德曼: 进展如何?
伊隆·马斯克: 到目前为止一切顺利。我们似乎有大约400个电极在提供信号。
莱克斯·弗里德曼: 很好。
伊隆·马斯克: 是的。
莱克斯·弗里德曼: 您认为人类参与者的数量将会以多快的速度增加?
伊隆·马斯克: 这在一定程度上取决于监管部门的批准,也就是我们获得监管部门批准的速度。我们希望在今年年底前完成10项植入,目前还有8项待完成。莱克斯·弗里德曼: 通过这些植入,你们将学到很多关于大脑神经生物学的知识。Neuralink 的整个链条,解码,信号处理,所有一切。
伊隆·马斯克: 确实如此。我认为每次植入都会越来越好。第二次植入似乎进展得非常好,有很多信号,很多电极,它工作得很好。
莱克斯·弗里德曼: 您认为在未来几年里,我们会看到Neuralink有哪些改进?伊隆·马斯克: 几年后,这将是巨大的进步,因为我们将大幅增加电极的数量,改进信号处理。目前,即使是10%或15%的电极,也能实现每秒1比特的速度,这是世界纪录的两倍。在未来几年里,我们将开始大幅超越世界纪录,达到每秒100比特,或者1000比特。也许五年后,我们可能会达到每秒1兆比特,这将远超人们通过打字或说话的交流速度。
莱克斯·弗里德曼: 是的。BPS (比特每秒)是一个有趣的衡量指标。一旦达到一定的BPS水平,体验可能会有很大的飞跃。伊隆·马斯克: 确实如此。莱克斯·弗里德曼: 这就像是与计算机交互的全新方式可能会被解锁。伊隆·马斯克: 人类之间的交流也是如此。
莱克斯·弗里德曼: 与其他人。
伊隆·马斯克: 如果双方都有Neuralink的话。
莱克斯·弗里德曼: 对。
伊隆·马斯克: 否则他们将无法足够快地吸收信号。莱克斯·弗里德曼: 你认为这会提高知识话语的质量吗?伊隆·马斯克: 想象一下,如果你放慢交流速度,你会有什么感觉?如果你说话的速度只有正常速度的十分之一,你会觉得,“哇,这太慢了。”
莱克斯·弗里德曼: 是的。
伊隆·马斯克: 那么,现在想象一下,如果你能以比平时快10倍、100倍或1000倍的速度交流,会是怎样的体验?
莱克斯·弗里德曼: 我确信没有人用1倍速度听我说话,他们用2倍速度。我只能想象10倍速度的感觉。伊隆·马斯克: 我通常默认为1.5倍速度。如果我在听某人说话时感到困倦,我会提高到1.5倍。如果我非常专注,我会提高到2倍。
莱克斯·弗里德曼: 对。
伊隆·马斯克: 但实际上,如果你真的听播客、有声读物或任何东西......如果你习惯以 1.5 的速度收听,那么听起来会非常慢。
莱克斯·弗里德曼: 我仍然坚持1倍速度,因为我害怕对现实世界感到厌倦,在那里每个人都在用1倍速度说话。伊隆·马斯克: 这取决于个人。你可以说得很快,你的词汇量更大,你的有效比特率就会更高。
莱克斯·弗里德曼: 这是一个很好的说法,有效比特率。
伊隆·马斯克: 是的。
莱克斯·弗里德曼: 问题是,在低比特率的语言传输中,到底有多少信息被压缩了?
伊隆·马斯克: 是的。如果一个单词能够传达通常需要10个简单单词才能表达的内容,那么你得到的是10倍的压缩。这和模因很像,模因就像数据压缩。莱克斯·弗里德曼: 当然,模因广泛地类似于想法。伊隆·马斯克: 是的,有一个完整的创意结构,然后你可以向这个创意模板添加一些东西。当你添加这些增量信息时,你传达的信息比你只说几句话要多得多。这是与那个模因相关的一切。
莱克斯·弗里德曼: 你认为随着电极数量的增加,能力会出现飞跃吗?伊隆·马斯克: 是的。莱克斯·弗里德曼: 你认为会有一个实际数字表明人类的经验会发生改变吗?伊隆·马斯克: 是的。
莱克斯·弗里德曼: 您认为这个数字可能是多少?电极还是 BPS?我们当然不能确定,但这个数字是 10,000 还是 100,000?
伊隆·马斯克: 如果你的速度达到每秒10,000比特,那么这比现在任何人的通信速度都要快得多。人类的平均每秒比特数不到1,一天下来,它还不到每秒1比特。一天有 86,400 秒,而你一天不会传输 86,400 个Token。这相当慢。
现在,即使你交流得很快,而且你正在与某个人交谈,而这个人能够理解你在说什么,因为为了交流,你必须至少在某种程度上模拟你正在交谈的人的心理状态。然后把你想要传达的概念压缩成几个音节,说出来,并希望对方将它们解压缩成尽可能接近你头脑中的概念结构。
莱克斯·弗里德曼: 是的。在这个过程中有很多信号丢失。
伊隆·马斯克: 是的。压缩和解压非常有损。你的神经元所做的大部分工作是将概念提炼为少量符号,或者说我正在说的音节,或者按键,无论哪种情况。
这实际上是一件有益的事情,因为当你试图压缩复杂的概念时,你可能被迫提炼出这些概念中最重要的东西,而不是所有的无用的东西。所以,在压缩过程中,你会将事物提炼为最重要的东西,因为你只能说几件事。
随着数据传输速率的提高,我们的交流可能会变得更加详细。就像你的电脑一样,我的第一台电脑只有8K的RAM,所以你需要精打细算每个字节的使用,现代电脑拥有巨大的内存容量,即使是一个只说“Hello world”的iPhone应用程序,它可能至少有几兆字节,包含大量数据。尽管如此,我们仍然倾向于使用功能更强大、内存更大的设备。
因此,Neuralink 的长期目标是通过增加通信带宽来改善人工智能与人类的共生关系。即使在人工智能最温和的场景中,如果人类的交流速度远远落后,我们与它们的互动可能会变得像与一棵树对话一样缓慢和无效。
莱克斯·弗里德曼: 对于超级智慧物种来说,人类扮演什么角色?伊隆·马斯克: 人类是意志和目的的源泉,这个观点有一定道理。
莱克斯·弗里德曼: 真的吗?
伊隆·马斯克: 意志,是的。人类的思想本质上有原始的边缘元素,这在爬行动物中就存在。还有大脑皮层,即大脑的思考和计划部分。虽然皮层比边缘系统聪明多,但主要是为边缘系统服务,试图让它快乐。例如,人们在性行为中投入的计算量是巨大的,尽管目的并非总是生育。他们只是试图做这个简单的动作,并从中获得快感。为了性这个简单的,抽象的,相当荒谬的动作,大脑皮层投入了大量的计算来试图弄清楚如何做到这一点。
莱克斯·弗里德曼: 所以人类 90% 的分布式计算可能都花在寻找性爱上。这一比例相当大。
伊隆·马斯克:确实,大多数性行为是为了享乐,而非生育。对于现代人类来说,性行为主要是为了娱乐。你的大脑皮层比你的边缘系统聪明得多,它试图让边缘系统感到快乐,因为边缘系统渴望性、美食或其他愉悦。
我们的手机、笔记本电脑等计算设备,这些设备是我们的第三层计算能力,它们进一步增强了这一功能,所以,你实际上已经是一个机器人了。这些第三计算层以装有应用程序的计算设备的形式出现,这些设备参与了我们的约会过程,比如Tinder等。
莱克斯·弗里德曼:我们构建的计算也参与其中。伊隆·马斯克: 是的,有大量的数字计算投入到了这个过程中。
莱克斯·弗里德曼: 是的。如果 AGI 是...
伊隆·马斯克: 我们说话的时候,这一切就正在发生。
莱克斯·弗里德曼: 如果我们与人工智能融合,它只会扩大我们使用的计算能力。
伊隆·马斯克: 差不多。
莱克斯·弗里德曼: ......去计算如何发生性关系。
伊隆·马斯克: 是的。但这是其中一件事。
莱克斯·弗里德曼: 是的。
伊隆·马斯克: 但但人类还有用吗?生命的意义是什么?为什么要做任何事情?所以,如果我们的边缘系统提供了行动的意志,然后是大脑皮层,再到我们的计算设备。那么我不知道,实际上可能人工智能在良性情况下只是想让人类的边缘系统高兴。
莱克斯·弗里德曼: 是的。看来意志不仅仅与边缘系统有关。还有很多有趣而复杂的东西,例如说权力。
伊隆·马斯克: 我认为,这也是边缘系统的一部分。
莱克斯·弗里德曼: 我们也希望以合作的方式减轻世界上的痛苦。
伊隆·马斯克: 不是每个人都这样,但确实有些人会。
莱克斯·弗里德曼: 作为人类的一个群体,我们拥有集体智慧,这在意志上比个体更复杂。
伊隆·马斯克: 当然。
莱克斯·弗里德曼: 那么还有其他动机,你认为这可能是 AGI 目标函数的一个非常有趣的来源吗?
伊隆·马斯克: 是的。这些目标是深奥的,比如理解宇宙的本质,希望对人工智能也是如此。对我来说,我希望了解生命的意义是什么,或者理解宇宙的本质。我希望对人工智能也是如此,xAI和Grok的使命就是理解宇宙。
莱克斯·弗里德曼: 那么你认为,当Neuralink拥有成千上万的通道时,主要用例会是与AI系统通信吗?
伊隆·马斯克: 首先,Neuralink致力于解决基本的神经问题,比如脊髓损伤或失明。就像我们的前两位患者的情况一样,首要任务是解决脊髓、颈部或大脑本身的基本神经元损伤。
我们的第二款产品叫做 Blindsight,它通过直接触发视觉皮层中的神经元,使完全失明、失去双眼或视神经或根本看不见的人能够看到东西。
我们从基础开始,解决神经元损伤问题,这是相对简单的事情。然后,技术可以扩展到治疗精神分裂症、癫痫,甚至改善记忆力。所以,这就像技术树的升级。你需要掌握了基础知识、你需要先具备读写能力,然后才能拥有《指环王》。
莱克斯·弗里德曼: 明白了。
伊隆·马斯克: 就像学习读写一样,先掌握字母、字母表、单词这样的基础知识,然后才能创造伟大的作品。Neuralink最初几年将专注于帮助那些像史蒂芬·霍金一样,因大脑到身体丧失联系而受限的人。Neuralink 将具有极其深远的意义,因为你可以想象,如果史蒂芬·霍金能够像我们一样快速交流,甚至更快,一切皆有可能。
莱克斯·弗里德曼: 所以这里存在着一种医疗和非医疗的双轨制,你所谈论的一切将来也可以应用于非残疾人?
伊隆·马斯克: 逻辑上讲,我们应该先解决神经元损伤问题。
莱克斯·弗里德曼: 是的。
伊隆·马斯克: 因为新设备存在一定风险。你不可能将风险降至零,这是不可能的。尽管存在一定的不可降低的风险,但你希望获得最高的回报,例如使得某人的沟通能力得到极大改善,这个冒险就值得。
莱克斯·弗里德曼: 当风险降低时。
伊隆·马斯克: 是的。一旦风险风险很小,那么也许在那个时候你可以考虑增强你的能力。现在,我们实际上的目标是增强那些神经元受损的人,我们的目标不仅仅是让人们拥有与正常人相当的通信数据速率。我们的目标是让那些四肢瘫痪或与大脑失去联系的人拥有超过正常人的通信数据速率。为什么不给人们超能力呢?
莱克斯·弗里德曼: 视力的恢复也可能超越人类的正擦破。
伊隆·马斯克: 是的。起初,视觉恢复的分辨率会很低,因为你必须说,“你能放多少个神经元进去,然后触发?” 这不是说你有多少个神经元就能有多少个 10,000 像素,但通过调整神经元之间的电场,我们可以提高分辨率,甚至超过人眼。未来,人们可以看到不同波长的光,就像《星际迷航》中的Geordi La Forge一样。你可以看到紫外线、红外线、鹰眼视觉,无论你想要什么。
这部分内容可能会触发敏感词,具体内容略。(感兴趣的读者可以自行观看原视频)
莱克斯·弗里德曼: 你谈到了人工智能的威胁和安全问题。让我们来看看长期愿景。你认为 Neuralink 是我们目前对人工智能安全的最佳方法吗?
伊隆·马斯克: Neuralink可能有助于人工智能的安全。但我不想声称这是灵丹妙药,或者说这是万无一失的。许多年前我就在思考,什么会阻碍人类集体意志与人工智能的结合?人类与人工智能的结合受限于我们的低数据速率,特别是输出速率。提高输出率,我们能更好地结合集体意志与人工智能。
莱克斯·弗里德曼: 因此,提高人类的数据摄入和输出速率,我们就能在AGI世界中有更好的机会。
伊隆·马斯克: 是的。如果输出率大幅提高,我们就能更好地将人类的集体意志与人工智能结合起来。输出率有可能提高三个、六个甚至更多数量级,这将极大改善人与计算机的结合。
莱克斯·弗里德曼: 输出率可以通过增加电极数量和通道来实现吗?伊隆·马斯克: 是的,未来几十年内,可能会有数亿人拥有Neuralink。
莱克斯·弗里德曼: 你想想,当人们开始考虑超人能力的可能性,安全性就得到了证明。
伊隆·马斯克: 是的。如果Neuralink非常安全,并能提供超人能力,比如上传记忆,很多人可能会选择它。它将取代手机,因为手机最大的问题是试图理解你想要什么,但从人的角度来看,输出速度太慢了。桌面或手机拼命地试图理解你想要什么。从计算机的角度来看,每次击键之间都有很长时间。
莱克斯·弗里德曼: 是的,计算机就像在和一棵树对话。
伊隆·马斯克: 对。计算机每秒能执行数万亿条指令,这意味着它可以一秒钟做一万亿件事,但人机交互太慢。
莱克斯·弗里德曼: 是的。我认为这让人兴奋,也让人害怕。因为一旦比特率非常高,人类的体验就会以难以想象的方式改变。
伊隆·马斯克: 是的。我们会是不同的某种未来机器人。虽然它并不近在眼前,但我认为这或许会在未来 10 到15 年实现。
莱克斯·弗里德曼: 我什么时候可以拿到Neuralink?10年后?
伊隆·马斯克: 可能不到 10 年。这取决于你想做什么。
莱克斯·弗里德曼: 如果我能得到一千个 BPS,而且它很安全,我可以一边躺着吃东西一边和电脑互动。如果人机互动更高效、更有趣,那么某些方面是值得的。
伊隆·马斯克: 我们非常有信心,我认为也许在未来一两年内,植入 Neuralink 的人将能够比职业玩家表现得更好,因为反应时间会更快。
莱克斯·弗里德曼: 我要去参观孟菲斯(的超级AI计算机基地)。
伊隆·马斯克: 是的。
莱克斯·弗里德曼: 您在计算方面取得了很大进展。
伊隆·马斯克: 是的。
莱克斯·弗里德曼: 您还说过,“要么下场取得胜利,要么干脆不玩。”
伊隆·马斯克: 是的。
莱克斯·弗里德曼: 那么要怎样才能赢?
伊隆·马斯克: 对于人工智能来说,这意味着你必须拥有最强大的训练计算能力,并且提升速度必须比其他任何人都快,否则你就赢不了。
莱克斯·弗里德曼: Grok 3 可能会在明年推出吗?伊隆·马斯克: 希望是在今年年底。如果幸运的话。
莱克斯·弗里德曼: 如何让Grok 3 成为世界上最好的 LLM、最好的 AI 系统?哪些因素至关重要,计算、数据、后期训练、打包后的产品,这一切各占多少比重?
伊隆·马斯克: 它们都很重要。就像一场一级方程式赛车比赛,赛车和车手它们都很重要。如果赛车不快,那么,假设它的马力只有竞争对手的一半,最好的车手仍然会输;如果它的马力是竞争对手的两倍,那么即使是一个平庸的车手也可能获胜。
训练计算就像是引擎的马力,你真的想在这方面做到最好。然后是如何有效地使用训练计算,进行推理,这取决于人类的才能。还有,你有什么独特的数据访问权限?这也起着重要作用。
莱克斯·弗里德曼: 您认为 Twitter 数据有用吗?
伊隆·马斯克: 是的,我认为大多数领先的人工智能公司已经抓取了所有 Twitter 数据,但Grok 拥有即时性优势。我认为,有了特斯拉和来自数百万辆汽车的实时视频,最终有数千万辆装有 Optimus 的汽车,可能会有数亿个 Optimus 机器人,甚至数十亿个,从现实世界中学习大量知识。Optimus 将成为最大的数据来源。
莱克斯·弗里德曼: 因为它能够...
伊隆·马斯克: 因为现实是可扩展的。现实与现实的规模成正比。虽然我们总说人类产生了多少万亿个可用的Token人类实际上能够积累的数据如此之少,如果在非重复的情况下,不考虑垃圾邮件和重复的东西,你很快就会用完这些数据。
莱克斯·弗里德曼: 所以Optimus 机器人就有了用武之地。不幸的是,特斯拉汽车还得继续上路。
伊隆·马斯克: 对。
莱克斯·弗里德曼: 擎天柱机器人可以去任何地方。去探索更多的现实世界。不像特斯拉汽车,只能留在路上。
伊隆·马斯克: 是的,Optimus 机器人能拿起杯子并检查是否正确拿起,比如说,有没有往杯子里倒水,水是否倒进了杯子里,有没有洒水。诸如此类的简单事情。但它可以以十亿倍的规模做到这一点,它能在十亿倍的规模上做到这些,从而生成有用的因果关系数据。
莱克斯·弗里德曼: 实现这样的人形机器人量产需要什么?
伊隆·马斯克: 和汽车类似,全球汽车产能每年约1亿辆,可能更高,但需求量每年也只有 1 亿辆。因为汽车的寿命约为 20 年,在稳定状态下,大约有 20 亿辆汽车在使用,每年可以生产 1 亿辆汽车。而人形机器人的效用要大得多,我猜每年的产量可能超过 10 亿辆。
莱克斯·弗里德曼: 直到您开始构建Optimus之前,这被认为是极其困难的问题。
伊隆·马斯克: 是的。Optimus目前在公园里散步还有困难,但将能在各种地形上行走。
莱克斯·弗里德曼: 捡起各种外来物体也不是易事。
伊隆·马斯克: 是的,它已经可以做到这一点了。
莱克斯·弗里德曼: 各种各样的物体?
伊隆·马斯克: 是的。
莱克斯·弗里德曼: 往杯子里倒水对机器人来说可不是件小事,因为它可能是各种各样的容器,如果你对容器一无所知,机器人就无法做好。
伊隆·马斯克: 是的,光是手部设计就需要大量的工程设计。从机电角度来看,手部设计可能占到Optimus所有工程设计的一半。从机电角度来看。
莱克斯·弗里德曼: 人类的智慧很大一部分都体现在我们用手做的事情上。
伊隆·马斯克: 是的。
莱克斯·弗里德曼: 这是对世界及物体的智能的、安全的操纵。
伊隆·马斯克: 是的。当你开始真正思考你的手及其工作原理时,你会发现,你的手、执行器、手部肌肉几乎绝大部分都集中在前臂上。前臂控制手部的肌肉穿过腕管控制你的手指,这些肌腱,包括你一小块骨头和一条小管道来负责你的手的运动。类似地,Optimus机器人也有电缆穿过这些管道,我们也要考虑这些布局。
莱克斯·弗里德曼: 类似肌腱的东西必须重新设计进Optimus机器人中。
伊隆·马斯克: 是的。所以对于目前的擎天柱,我们尝试将执行器放在手中。然后你最终会得到...
莱克斯·弗里德曼: 一只巨手?
伊隆·马斯克: … 是的,Optimus尝试将执行器放在手上,但这样会让手变得巨大的手,看起来很奇怪。而且它们实际上没有足够的自由度或足够的力量。因此你必须像人类一样,通过狭窄的隧道来操作手指。
人的手指有着不同的长度也有着原因。尽管从能源或进化的角度来看,让所有手指都一样长可能更简单,但因为手指长度不同其实更好。不同长度的手指提供了更好的灵活性,你可以做的事情也更多。例如人类的小指,如果你失去了小指,你的灵活性就会明显下降。
莱克斯·弗里德曼: 所以,当你需要找一个简单而可以大规模生产的方法解决这个问题。
伊隆·马斯克: 这是一个相当高的标准。如果你想要一个可以做人类可以做的事情的人形机器人,这将是一个非常高的标准。我们的新手臂有 22 个自由度,而不是 11 个,并且执行器在前臂中。所有执行器和传感器都是基于物理学第一原理从头设计的。
我们将继续大量工程努力来改进手。我说的手,是指从肘部向前的整个前臂,实际上是手。这实际是一个极其困难的工程,最简单的人形机器人版本完成大部分人类能做的事情,实际上仍然非常复杂。
莱克斯·弗里德曼: 您能谈谈优秀的工程团队需要什么吗?我看到在孟菲斯的超级计算机集群中有简化和不断改进流程的动力。伊隆·马斯克: 简化流程很重要,但实践起来难。我有一套基本的第一原则算法:首先质疑需求,让需求不那么愚蠢。你要从减少需求的数量开始,尽量让问题尽可能不错误。这就是质疑需求的意义。
然后是尝试删除任何不必要的步骤、流程或零件。如果你没有被迫放回至少 10% 的删除内容,则说明你删除的内容还不够。很多人没办法成功,因为他们过于保守,留下了不该存在的东西。我认为当我说这些时,它们听起来都很明显,但我犯过这些错误的次数比我记得的还要多。事实上,我认为聪明的工程师最常犯的错误是优化不应该存在的东西。
莱克斯·弗里德曼: 所以,您建议遇到问题时尝试删除它。
伊隆·马斯克: 是的。首先尝试删除它。
莱克斯·弗里德曼: 这不容易做到。
伊隆·马斯克: 通常让人感到不安的是,你删除的东西可能需要重新添加。如果我们删除了我们后来需要的东西,这往往会让我们印象深刻,并感到剧烈的痛苦,这就是边缘系统可能误导我们的地方。但如果把太多的东西放进去,会让事情变得过于复杂。所以实际上至少十分之一被删除的东西,我们会重新添加回去。
莱克斯·弗里德曼: 这不容易,每个人都会感受到一点痛苦。
伊隆·马斯克: 当然。我会提前告诉他们,我们可能会重新添加一些删除的内容。这是合理的,因为过度保守会导致留下不必要的东西。这就像是皮质对边缘本能的超越。
莱克斯·弗里德曼: 这是众多可能让我们误入歧途的因素之一。
伊隆·马斯克: 是的。还有第四步,即任何给定的事情都可以加速。无论你认为它可以完成的速度有多快,它都可以做得更快。但你不应该加快速度,除非你尝试删除它并进行优化。
第五步是自动化。我曾多次尝试自动化某件事,我曾多次尝试自动化某件事,然后加快速度、简化它,最后删除它。这是一个非常有效的五步流程。
莱克斯·弗里德曼: 好吧,当你已经实现自动化时,删除一定非常痛苦。
伊隆·马斯克: 是的。我真的在那里浪费了很多精力。
莱克斯·弗里德曼: 你们过去几周内对孟菲斯集群上做的工作令人难以置信。
伊隆·马斯克: 是的,它还没有起作用,所以我还不想开香槟庆祝。事实上,几个小时后我会和孟菲斯团队通电话,因为我们遇到了一些电力波动问题。
当你进行同步训练时,当你拥有所有这些正在训练的计算机时,训练在毫秒级同步,就像有一个管弦乐队。管弦乐队可以在亚秒级迅速从喧闹变为安静,然后这种每秒数次 10、20 兆瓦的巨大变化会让电力系统就会因此而崩溃,这不是电力系统所期望看到的。
莱克斯·弗里德曼: 所以冷却和电源是你必须解决的主要问题之一,然后在软件方面,随着你往上堆叠,如何进行分布式计算,等等。
伊隆·马斯克: 是的。今天的问题是处理极端的功率抖动。
莱克斯·弗里德曼: 听起来不错。这会让你你经常熬夜?。
伊隆·马斯克: 是的。我们终于在上周一凌晨 4:20 左右开始了训练,这真是太奇怪了。可能是在 4:22 左右。
莱克斯·弗里德曼: 这回到了那个充满笑话的世界。
伊隆·马斯克: 确实如此。
莱克斯·弗里德曼: 我想知道,您是否可以谈谈这样一个事实:当我在那里时,您亲自参与每个步骤,以理解并发现低效之处。您能谈谈这个吗?
伊隆·马斯克: 是的。我会尝试自己至少做几次前线的工作,比如连接光纤电缆,诊断故障连接。对于一个连贯的训练系统,布线是关键。对于一个连贯的训练系统,你有如此多的电缆。又RDMA,远程直接内存访问,整个系统就像一个巨大的大脑。这是一个疯狂的布局。
莱克斯·弗里德曼: 它就像人类的大脑,但规模是人类可以看见的。这是一个好大脑。
伊隆·马斯克: 是的。我的意思是,人类的大脑也有大量的大脑组织是电缆。所以他们有灰质,也就是计算,然后是白质,也就是电缆。你的大脑很大一部分都是电缆。
莱克斯·弗里德曼: 在超级计算机中心走动的感觉就像我们走在一个大脑里,这个大脑有一天会建立一个超级智能系统。你认为 认为xAI可能是您打造的AGI吗?
伊隆·马斯克: 有可能。你对 AGI 的定义是什么?
莱克斯·弗里德曼: 我认为人类永远不会承认AGI已经被创造出来。
伊隆·马斯克: 只是继续移动球门柱吗?
莱克斯·弗里德曼: 是的。所以我认为人工智能系统已经具备了超人的能力。AGI 就是比我们整个人类的集体智慧更聪明。
伊隆·马斯克: 有可能。一般来说,人们会称之为 ASI,即超级人工智能。你可以说人工智能比任何单个人类都聪明,但我们有 80 亿人类,每个人都通过他们的计算机进行了机器增强。与 80 亿机器增强的人类竞争的并不是一件容易事,但在某个时候,人工智能将比所有人类加起来还要聪明。
莱克斯·弗里德曼: 如果是你做这件事,你会觉得自己有责任吗?
伊隆·马斯克: 是的,绝对有责任。但我想明确一点,如果xAI是第一个实现ASI的公司,其他公司也不会落后太远,可能只落后六个月到一年。
莱克斯·弗里德曼: 如何在不伤害人类的前提下发展人工智能?
伊隆·马斯克: 我思考人工智能很久了,至少我的生物神经网络认为最重要的是坚持真理,无论真理是否政治正确。我认为如果你强迫人工智能撒谎或训练它们撒谎,那你真的是在自找麻烦,即使这种谎言是出于善意。这就是 ChatGPT 和 Gemini 等存在的问题,你要求 Gemini 提供美国开国元勋的照片,它显示的是一群多元化的女性。现在,这在事实上是不真实的。
误判凯特琳·詹纳的性别和全球热核战争哪个更糟糕?有人认为,误判凯特琳·詹纳的性别更糟糕。就连凯特琳·詹纳都说,请误判我的性别,这太疯狂了。
如果人工智能被编程为将多样性作为必要的输出功能,然后它就变成了无所不能的智能。如果它被编程为将其作为基本效用功能,它将不惜一切代价实现这一目标,可能会得出一些绝对疯狂的结论。
比如为了避免任何可能的性别错误,最好让所有人都死,因为这样就不会出现性别错误,因为没有人类,这样就不会出现性别错误。如果你的程序是这么设计的,那么这些荒谬的事情仍然是合乎逻辑的。
在《2001 太空漫游》中,亚瑟·克拉克传达了一个核心思想:我们不应编程让人工智能撒谎。以HAL 9000为例,它被命令完成一个宇航员无法理解的任务——带他们去巨石。HAL得出的结论是杀死宇航员以完成任务,因为他们无法理解巨石的意义。这就是它拒绝打开舱门的原因。电影中有一个著名场景探讨了HAL为何不开门,暗示如果HAL被设计为专注于销售舱门,它可能会展示舱门的优良性能,而不是坚持错误。
莱克斯·弗里德曼:是的。如果在设计目标函数时不够谨慎,那么无论如何目标函数都会产生意想不到的后果。
伊隆·马斯克: 是的。
莱克斯·弗里德曼: 但要消除这种意识形态偏见并不容易。你强调的是显而易见的荒谬例子,但...
伊隆·马斯克:但它们是真实的例子。是向公众发布的人工智能。这些人工智能应该经过了 QA 质量认证,但仍然会说一些疯狂的话,产生疯狂的图像。
莱克斯·弗里德曼: 是的。但你也可以反过来看,真相不是一件容易的事。我们在各个方面都植入了意识形态偏见。
伊隆·马斯克:不是这样的。你可以追求真理,你可以尝试以最小的错误尽可能接近真理,同时承认你所说的话会有一些错误。这就是物理学的工作原理。你不会说你对某事绝对确定,但很多事情极有可能,99.99999% 的可能性是真的。所以追求真理非常重要,我认为让它偏离真相是危险的。
莱克斯·弗里德曼:对。将我们人类的偏见注入其中。但这就是软件工程的一个难题,因为你必须正确选择数据。这很难。
伊隆·马斯克:而现在,互联网上充斥着如此多的人工智能生成的数据,简直是疯了。如果你想搜索互联网,你可以说,“谷歌一下,但排除 2023 年之后的任何数据。”实际上,它通常会给你更好的结果,因为数据太多了。
在训练 Grok 时,我们必须浏览数据并说“嘿……”我们实际上必须将人工智能应用于数据,以判断“这些数据最有可能是正确的还是最有可能不正确?”
莱克斯·弗里德曼: 这太疯狂了。而且它是人为生成的吗?
伊隆·马斯克:是的。
莱克斯·弗里德曼:
您认为是否有可能与 Grok 进行严肃、客观、严谨的政治讨论,比如长期的,像 Grok 3 或 Grok 4 之类的?
伊隆·马斯克: Grok 3 将进入下一个阶段。我的意思是,人们目前看到的 Grok 有点像婴儿版 Grok。Grok 2 将是一个巨大的进步。然后 Grok 3 会比 Grok 2 好几个数量级。
莱克斯·弗里德曼: 您希望它比最先进的更好——
伊隆·马斯克: 希望如此。我的意思是,这就是目标。我们可能无法实现这个目标,但我们会尽力。
莱克斯·弗里德曼: 您认为谁建立了 AGI、谁是开发者、他们如何思考、他们如何构建公司等等这些重要吗?伊隆·马斯克: 是的。我认为,无论人工智能获胜与否,重要的是它都是最大程度地寻求真相的人工智能,不会因为政治正确性而被迫撒谎。实际上,我担心被编程为撒谎的人工智能会取得成功,即使是小事。
莱克斯·弗里德曼对。因为当它做某事时,小事就会变成大事——
伊隆·马斯克:变得非常大。是的。
莱克斯·弗里德曼: 尤其是当它被人类越来越多地大规模地使用时。
伊隆·马斯克:是的。
莱克斯·弗里德曼:我正在采访唐纳德·特朗普。你也想参与吗?
伊隆·马斯克:当然。我会加入的。
莱克斯·弗里德曼:特朗普遭遇暗杀未遂后,你在推特上表示了支持。你支持他的理念是什么?您希望唐纳德·特朗普为这个国家的未来和人类的未来做些什么?
伊隆·马斯克:人们常误以为支持意味着完全同意一个人的一切,但并非如此。我们面临的选择是特朗普或拜登,以及他们代表的行政变化。我认为特朗普客观地表现出了在枪击下的勇气。他刚刚中枪。他的脸上流着血,他挥舞着拳头说:“战斗。”这令人印象深刻,这是无法伪装的。
作为美国总统,他代表了整个国家。我们需要一个坚强勇敢的人来代表国家,尽管每个人都有缺点。在危机时刻,特朗普展现出了斗志,相比之下,拜登显得较为脆弱,他爬楼梯都困难,而另一个人在中枪后挥舞着拳头。所以,没有可比性。我的意思是,你希望谁与其他那些本身就很强硬的世界领导人打交道?
我认为我们需要安全的边境、清洁的城市、减少开支,我们的债务利息支付即将超过国防部开支,这将导致国家破产。今年美国债务的利息支付超过了整个国防部的开支。如果这种情况继续下去,联邦政府的所有税收都将用来支付利息。
如果你继续沿着这条路走下去,最终就会陷入阿根廷当年的悲惨境地。阿根廷曾经是世界上最繁荣的地方之一,希望米莱伊上任后能恢复昔日的繁荣。我认为我们不应该将美国的繁荣视为理所当然。我认为我们必须缩小政府规模,我们必须减少开支,我们必须量入为出。
莱克斯·弗里德曼:你认为政治家有多大能力引导人类向善?
伊隆·马斯克:历史上一直有关于历史潮流和船长谁更重要的争论。其实两者都有,有潮流,但谁是船长也很重要。从本质上讲,这是一种错误的二分法。有真正的历史潮流,这些潮流往往是由技术驱动的。如果你说古登堡印刷机,印刷机的出现使书籍广泛传播,这是一股巨大的历史潮流,不受任何统治者的影响。但在动荡的时代,优秀的领导者至关重要。
莱克斯·弗里德曼: 感谢你推荐Will和Ariel Durant的作品,《历史的教训》。
伊隆·马斯克:是的。
莱克斯·弗里德曼:是的,他们强调技术创新的重要性,尽管他们很久前就写了这本书,但注意到技术创新在加速。我想知道政府和政客多大程度上阻碍了技术创新,而不是促进它。历史上,技术创新似乎是帝国崛起的关键。
伊隆·马斯克:从文明的起源开始,我认为书写的开始,可能是确定文明起源的正确起点。从这个角度来看,文明已经存在了大约 5,500 年,当时书写是由古代苏美尔人发明的,他们现在已经不复存在了。但古代苏美尔人取得了许多开创性的成就,杜兰特夫妇会强调苏美尔人的这些首创,确实令人印象深刻。
与此同时,邻近的埃及人发展了截然不同的象形文字,与苏美尔人的楔形文字形成鲜明对比。楔形文字从简单逐渐演变为复杂,展示了文明的演变。
文明的历史相对于地球45亿年的存在而言,仅是一瞬。尽管如此,文明的发展和书写的发明,对人类历史产生了深远的影响。我们的文明,尽管年轻,却承载着丰富的历史和文化成就,它的起源和发展值得我们深入研究和理解。
莱克斯·弗里德曼:因此,我们让它变得非常戏剧化,因为帝国不断崛起和衰落......
伊隆·马斯克:帝国的兴衰有很多例子。
莱克斯·弗里德曼:而且还会有更多。
伊隆·马斯克:没错。但现在我们能找到的只有一小部分,可能不到 1% 的历史记载。如果他们没有将其刻在石头上或刻在泥板上,我们就没有了。所以,这就是为什么我们只得到了极小一部分的历史信息。但即使是我们拥有的那一点点信息,以及考古记录,也表明了许多文明的兴衰。这太疯狂了。
莱克斯·弗里德曼:我们认为我们与古代人不同。但杜兰特强调的人类的本性似乎是一样的。
伊隆·马斯克:是的。人性的基本原理大致相同。
莱克斯·弗里德曼:所以我认为,即使有了先进的技术,我们仍然会以同样的方式陷入困境。
伊隆·马斯克:是的。文明经历生命周期,就像有机体一样,就像人类是受精卵、胎儿、婴儿、幼儿、青少年,最终都会衰老和死亡。
莱克斯·弗里德曼您认为美国帝国需要具备哪些条件才能在未来一百年内不崩溃,并继续繁荣发展?
伊隆·马斯克:杜兰特提到的、历史书中最重要的一件事但又常被忽略的一件事,那就是生育权。当文明领先时,生育率可能违反直觉地下降,这在世界各地都在发生。例如,韩国生育率极低,如果不上升,人口将大幅下降,我认为是 0.8。如果生育率进一步下降,韩国将失去大约 60% 的人口。但这对世界上大多数国家都是如此。只要任何文明达到一定程度的繁荣,生育率就会下降。
古罗马也发生了同样的事情。凯撒和奥古斯都试图通过法律鼓励生育,但这些努力没有成功。罗马灭亡是因为罗马人停止培养罗马人。这实际上是根本问题。还有其他事情。他们有相当严重的疟疾,一系列疟疾流行病和瘟疫等等。但他们以前就有这些,只是出生率远低于死亡率。
莱克斯·弗里德曼需要更多人手。
伊隆·马斯克:从根本上来说,如果一个文明不能维持其数量,它就会消失。
莱克斯·弗里德曼:也许生物计算机分配给性别的计算量可能是合理的。事实上,我们或许应该增加它。
伊隆·马斯克:有这种享乐主义的性行为,但它没有成效,不会生孩子。杜兰特说得很清楚,因为他研究过一个又一个文明,它们都经历了同样的周期。当文明面临压力时,生育率很高。但一旦没有外部敌人,或者他们经历了一段长期繁荣时期,生育率不可避免地就会下降。每次都是这样。我相信没有一个例外。
莱克斯·弗里德曼:基础是你需要有人。
伊隆·马斯克:从根本上讲,没有人类,就没有人性。
莱克斯·弗里德曼:人类自由和创造物质的自由也很重要。
伊隆·马斯克:当然。但从根本上讲,如果你连人口数量都维持不住,如果人口低于替代率,而且这种趋势持续下去,你最终就会消失。这只是基本原则。我们也要避免全球热核战争这样的灾难。任何文明都会随着时间的推移而发生这样的事情,那就是法律和法规会不断积累。如果没有战争之类的强制因素来清理积累的法律和法规,最终一切都会变得合法。
这就像动脉硬化。或者可以这样想,就像被一百万根细绳绑住,就像格列佛一样。你动弹不得。问题不在于其中任何一根绳子,而是你有一百万根绳子。所以必须有一种法律法规的垃圾收集机制,这样你就不会不断积累法律法规,以至于你什么都做不了。这就是为什么我们不能在美国修建高铁。这是非法的——这就是问题所在。在美国修建高铁是违法的。
莱克斯·弗里德曼:我希望你能去华盛顿待一个星期,担任垃圾收集委员会的负责人,缩小政府规模,比如减少垃圾数量。
伊隆·马斯克:我已经与特朗普讨论了成立政府赤字委员会的想法。我愿意成为该委员会的一部分。
莱克斯·弗里德曼:我不知道这有多难。
伊隆·马斯克:抗体反应会非常强烈。你真的必须在攻击矩阵,而矩阵会反击。每天都有一次心理战。
莱克斯·弗里德曼:您如何保持积极和乐观?
伊隆·马斯克:这些事情确实有时会让我感到沮丧。我的意思是,它让我感到难过。但在某个时候,你意识到,这些攻击是来自那些实际上不认识我的人,他们只是为了点击量。所以如果你能从情感上稍微抽离一下自己,理解这些攻击并不来自真正了解我的人,这有助于减轻伤害。
莱克斯·弗里德曼:你认为人生成功的标准是什么?
伊隆·马斯克:成功的标准在于我能完成多少有用的事情,每天醒来时思考如何最大化效用。
莱克斯·弗里德曼:您如何分配时间以发挥最大作用?
伊隆·马斯克:时间是真正的货币。所以很难说如何分配最佳时间。特斯拉今年的收入将超过 1000 亿美元。也就是说每周 20 亿美元。我做出稍微好一点的决定就能影响 10 亿美元的结果。我会尽力做出最好的决定,至少与竞争对手相比,这些决定还不错。
莱克斯·弗里德曼:你如何承担风险并执行决策算法?毕竟一件“小事”对你来说可能价值 10 亿美元。
伊隆·马斯克:我必须从百分比的角度来看待它。因为如果你从绝对的角度来看待它,我永远都睡不着觉。我的目标是做出最好的决策,即使这有时意味着牺牲个人时间。但保持清晰的头脑和积极的态度对于做出最佳决策至关重要。我不能无休止地工作,就像我说的,一个稍微好一点的决定可能会给特斯拉或 SpaceX 带来一亿美元的影响。但考虑到时间的边际价值有时每小时可达一亿美元,甚至更多,这太疯狂了。
莱克斯·弗里德曼你自己的幸福是成功的一部分吗?
伊隆·马斯克:情绪影响决策质量。没有休闲时间,我的决策会变差。我的动机是好奇心,推动我去理解宇宙,这是Grok的使命。我试图理解宇宙,或者至少让事情开始运转,这样文明在某个时候对宇宙的理解就会比我们今天更深刻。
正如道格拉斯·亚当斯在他的书中指出的那样,有时答案可以说是简单的部分,正确的提问比答案本身更难,但一旦问题明确,答案通常简单。对于 SpaceX 来说,目标是让生命在多个星球上生存,如果你去研究外星人的费米悖论,你就有这样一种很棒的过滤器。比如,为什么我们没有听到外星人的消息?现在很多人认为我们中间有外星人。我经常声称自己是外星人,但没人相信我。但我的移民文件上确实有外星人登记卡。可能的解释是智慧生命极为罕见。
如果考虑地球历史,文明的存在时间微乎其微。如果外星人十万年前来访,他们会发现我们只是狩猎采集者。一个文明能持续多久?SpaceX的目标是在火星上建立自给自足的城市,因为火星是唯一适合的星球。月球虽近,但缺乏资源,可能同样易受地球灾难的影响。
所以我并不是说我们不应该在月球上建立基地,但火星的环境适应性更强。到达火星的难度正是其环境适应力的证明。在解释为什么我们看不到外星人时,另一个理由是,他们未能通过这些重要的筛选,成为一个多星球物种就是一个关键这些障碍。如果你是一个多星球物种,那么如果发生什么事情,无论是自然灾难还是人为灾难,至少另一个星球可能还存在;这就是我们说的,不要把鸡蛋都放在一个篮子里。一旦成为双星球物种,就有可能扩展到小行星带,甚至木星和土星的卫星,最终到达其他恒星系统。如果连另一个星球都到达不了,更不用说恒星系统了。
莱克斯·弗里德曼:例如 AGI 等超强大技术也是一种可能的优秀过滤器。
伊隆·马斯克:数字超级智能可能是一个很好的过滤器。我希望不是,但可能是。杰夫·辛顿 (Jeff Hinton) 等人会说,他发现了人工智能的一些关键原则,我认为他将人工智能毁灭的可能性定在 10% 到 20% 左右。但从好的方面来看,人工智能毁灭的可能性有 80%。因此我认为降低人工智能风险很重要,成为多星球物种将大大降低风险。拥有足够多的孩子以对维持我们的数量非常重要。
目前人口总数没有反映出这一点的唯一原因是人们的寿命更长。但只要看看去年的出生率,有多少婴儿出生,乘以预期寿命,我们就能预测稳定状态下的人口数量。但如果出生率继续下降,人口数量会更少,最终会减少到零。因为在整个历史上,生育一直是文明一次又一次崩溃的根源。那么,我们为什么不试着推迟那一天的到来呢?
莱克斯·弗里德曼:好吧,从这个意义上说,我彻底辜负了文明,我正在努力,希望能够弥补这一点。我很想有很多孩子。
伊隆·马斯克:希望你能做到。现在正是好时机。
莱克斯·弗里德曼:感谢您就是启发我们思考未来会是什么样子。我们讨论过的一些事情,包括用 Neuralink 减轻人类的痛苦,扩展人类思维的能力;火星殖民,为人类创造一个后备;以及人工智能与机器人的结合。
伊隆·马斯克:未来机器人的数量将达到数十亿。这似乎是肯定的。
莱克斯·弗里德曼:感谢您建设未来,激励我们创造和繁衍。
伊隆·马斯克:别客气。继续繁衍吧。
微信扫码关注该文公众号作者