马斯克对话英国首相苏纳克：人工智能监管，中国的参与，就业，教育，创业，机器人

“总体而言，人工智能很有可能会产生积极的影响，并创造一个富饶的未来，那时，商品和服务将不再稀缺。但这多少有点像魔法精灵，如果你有一个可以实现所有愿望的魔法精灵，通常这些故事的结局都不会太好，小心你许下的愿望。”  - 埃隆

11月2日，在为期两天的全球首届人工智能安全峰会结束后，埃隆·马斯克和英国首相里希·苏纳克在X平台上进行了约50分钟的对话直播。以下为本次访谈的完整翻译，字数约1万5千。

对话实录

里希：好的，大家晚上好，欢迎！埃隆，感谢你的到来。

埃隆：感谢你邀请我。

里希：我们非常荣幸，很高兴你的到来。我先提几个问题，然后我们会开放提问。

让我直接进入主题，比尔·盖茨说，在我们这个时代，在推动科学创新上没人付出的比你更多。

埃隆：他这么说真是太友善了。

一 为什么要担心人工智能

里希：是啊，不管是谁说的，都很友善，比尔·盖茨说得真好。

但奇怪的是，在人工智能领域，近十年来你几乎是反其道而行之，你一直说：等等，我们要想想我们在做什么，我们在推动什么，我们该怎么做才能保证安全？其实，也许我们不应该尽全力推动人工智能的发展。

你这么做已经十年了，是什么让你有了这样的想法？我们为什么需要担心？

埃隆：是啊，我扮演卡姗德拉已经有一段时间了。我一直告诉人们，我们真的应该担心人工智能。

卡珊德拉（Cassandra）是希腊神话故事里一位具有悲剧性格的先知：男神阿波罗赋予她正确预言的能力，却同时诅咒她的预言得不到人们的信任。最著名的例子，莫过于卡珊德拉预言特洛伊城将被攻陷，偏偏特洛伊人不相信她的预言，硬是把希腊人制作的木马拖进城內，结果导致特洛伊的败亡

他们问，你在说些什么？就好像我从来没有接触过人工智能似的。但由于我长期专注于技术，我可以预见它的到来。

我认为，今年已经有了很多突破，以至于，人们可以制作一个你或我说任何话的视频。深度伪造视频的质量高的令人难以置信，事实上，有时比真实的视频更逼真，“深度真实视频”。

然后很显然，像ChatGPT这样的产品也非常出色。我看到了GPT-1、GPT-2、GPT-3、GPT-4发展的整个过程，我很容易就能看到它的发展方向。如果你能推断出曲线上的各个点，并假设这一趋势会继续下去，那么，我们就会拥有意义极为深远的人工智能。显然，它的水平将远远超过人类智能。

我很高兴看到目前，人们正在认真对待安全问题。我想说，感谢你举办这次人工智能安全大会，我认为，这次会议具有非常重要的意义，它将被载入史册。我认为它的确意义深远。

而且我认为，总体而言，人工智能很有可能会产生积极的影响，并创造一个富饶的未来，那时，商品和服务将不再稀缺。

但这多少有点像魔法精灵，如果你有一个可以实现所有愿望的魔法精灵，通常这些故事的结局都不会太好，小心你许下的愿望。

二 政府的职责

里希：你谈到了峰会的一些情况，感谢你参与其中，这很棒，大家都很高兴你能来参加这次对话。

今天，我们在和这些公司和领导人会面上取得的成果之一是，大家同意在模型发布之前，应该由外部——最好是政府——对其进行安全测试。

我想，这一点你已经略有提及。这是我们努力的方向，因为我在政府的工作就是要说，等等，这里有潜在的风险。不是绝对的风险，而是可能不好的潜在风险。我的工作就是保护这个国家。

只有在我们的安全机构中发展出需要的能力，我们才能做到这一点，然后确保我们能在模型发布前对其进行测试。

很高兴今天这一切能发生，你认为我们应该做些什么？你谈到了潜在的风险，对吧。我们并不确定，但我们政府应该做哪些事情来管理和降低这些风险呢？

埃隆：嗯，通常我认为，当公共安全受到威胁时，政府发挥作用是件好事。

的确，对于绝大多数软件来说，公共安全并没有受到威胁。如果你的手机或笔记本电脑上的app崩溃了，那也不是什么大灾难。但我认为，谈到数字超级智能，它确实会给公众带来风险。那么，政府就有责任保护公众的利益。当然，在航空、汽车等许多领域都是如此。

我与全球的监管机构打交道，因为星链是通信，火箭是航空航天，汽车是车辆运输，我非常熟悉与监管机构打交道。事实上，我同意绝大多数的法规，偶尔也有一些我不同意的。但我不同意的，大概只有0.1%，或者不到1%。

Space官网11月1日消息，美联邦航空管理局(FAA)完成了对SpaceX公司星舰的安全审查，压力给到了美国鱼类和野生动物管理局。野鱼局的环境审查结束，才能获得FAA授予的星舰第二次发射许可。目前，预期最早的星舰二射时间为11月中。图：Starbase Surfer@X，10月25日

硅谷那些从来没和监管机构打过交道的人有些担心，他们认为，这只会压制创新、拖慢他们的脚步、让人讨厌，而且会很烦人。没错，他们说的也没错。

但我认为，多年来我们已经认识到，有裁判员是件好事。你看任何一个体育比赛，总会有裁判，没有人会建议在体育比赛中不设裁判。我认为，思考这个问题的正确方式，就是由政府充当裁判，确保运动员的行为规范，确保公共安全得到保障，确保我们关心公共安全。

因为我认为，有时人们可能对技术过于乐观。我这么说，是因为我是一名技术专家，我应该能知道。

如我所说，总的来说，我认为人工智能有可能会很好，但它变坏的可能性也不是百分之零，我们需要降低它变坏的可能性。

里希：你谈到了裁判，这正是我们想说的。

埃隆：德米斯就在那里。

里希：我们讨论过这个问题，德米斯和我很久以前讨论过这个问题。

埃隆：我现在正正好面对着他。

里希：事实上，德米斯的确对我们说过这一点，这要归功于德米斯和业内人士。我记得德米斯说，德米斯和他的同事们自己写作业自己批改是不对的，需要有个独立的人。这就是我们建立安全研究所的原因。

你认为政府能够培养专业人才吗？我们需要说，等等，德米斯、萨姆和其他公司都有很多非常聪明的人在做这件事。各国政府需要迅速从能力和人员上进行调整，这正是我们正在做的。

鉴于技术发展如此之快，你认为政府的步伐能不能足够快，能跟的上吗？或者说，我们需要怎么做才能确保足够快地做到这一点？

人工智能安全峰会的两位重磅与会者。德米斯·哈萨比斯(Demis Hassabis)，DeepMind的CEO和联合创始人。DeepMind于2010年创建，2014年被谷歌收购。萨姆·阿尔特曼(Sam Altman)，OpenAI的CEO和联合创始人，ChatGPT的缔造者

埃隆：我认为你说得很有道理。目前为止，人工智能的发展速度比我见过有史以来的任何技术都要快。它的能力似乎每年至少增长五倍，甚至十倍。明年，它肯定会有一个数量级的增长。

而政府并不习惯以这样的速度做事。但我认为，即使没有严格的法规，即使没有执法能力，只要有洞察力，能向公众强调需要引起注意的事，就会很有效。即使政府所做仅此而已，我认为也是非常非常好的。

里希：好的，希望我们能做得比这更好。

埃隆：希望如此。

三 中国的参与

里希：是的，但这很有帮助。

事实上，我们之前谈到过，这很惊人，你是一个毕生从事技术工作的人，生活在摩尔定律中。在过去的几天里，和所有参与人工智能研发的人交谈，这是一件相当有趣的事。

我想你也同意这一点，人工智能的发展速度是你在科技领域的职业生涯中从未见过的。这样公平吗？因为硬件、数据和人员会产生复合效应。

埃隆：是的，目前，人工智能开发的两个主要中心是旧金山湾区和伦敦地区。其他很多地方也在进行人工智能开发，但这两个地区是领先的。

我认为，如果美国、英国和中国在安全问题上达成一致，这将是一件好事。这也是领导层普遍...

里希：事实上有趣的是，你提到了中国。

我做出了决定，邀请中国参加过去这几天的峰会。这不是一个容易的决定，很多人因此批评我。我的观点是，如果我们要尝试进行严肃的讨论，就需要这么做。

你是怎么思考的？你的业务遍及全球各地，你刚才也谈到了。我们应该让他们参与吗？我们能信任他们吗？这样做对吗？

埃隆：如果中国不支持人工智能安全，那就没什么意义了。

在人工智能监管或安全控制方面，我遇到的最大反对意见是，中国不会这么做，他们会一马当先，超越我们所有人。但事实上中国愿意参与人工智能安全事务。

感谢你邀请他们，我认为我们应该感谢中国的参与。

今年早些时候，我在中国时，我和中国领导层讨论的主要话题就是人工智能安全，我说他们应该关心这个问题。他们对此非常重视，而你也是，这很棒。

我认为，把他们邀请到这里来至关重要。如果他们不参与，就毫无意义。

里希：的确毫无意义，是的，我认为我们都很高兴。他们昨天参与了讨论，最后也和其他国家一样签署了宣言，这是一个好的开始。如前所述，我们需要大家都采取类似的方式，这样才有可能切实解决问题。

11月1日，在英国的布莱切利庄园，美国商务部长吉娜·雷蒙多和英国科学、创新和技术国务大臣米歇尔·多纳兰听取中国科技部副部长吴朝晖在人工智能安全峰会第一天的发言。图：路透社

四 人工智能开源问题

里希：你刚才谈到了创新，还有监管惹人烦。今天我们就开源问题进行了一场精彩的辩论。我认为，你一直是算法透明化的支持者，而且你公开了一些X平台的算法。

事实上，我们在来的路上还谈到了杰弗里·辛顿，他特别担心开源模型被坏人利用。有一群人说，开源对于分布式创新至关重要。

听着，可能没有完美的答案，找到平衡挺难的。我们应该如何应对开源问题，你有什么看法？或者说，我们应该在哪个方向上开展关注和监管工作？

埃隆：开源的算法和数据往往比闭源的滞后6到12个月。

考虑到改进的速度，闭源和开源代码之间其实存在着很大的差异。比方说，如果每年改进的速度是5倍或更快，那么落后1年，你的能力就差5倍。这是一个相当大的差距，但这也许还能接受。但它肯定会发展到开源人工智能开始接近，甚至超越人类智能水平的程度。

我不知道该做些什么。我认为，某种程度的开源是不可避免的。我想我略倾向于开源，因为至少你可以看到究竟是什么情况。如果是闭源，你就不知道是什么情况。

话说回来，对于人工智能而言，即使它是开源的，你真的能了解情况吗？因为如果你有一个巨大的数据文件和数十亿的权重和参数，你根本不可能通过阅读来明白它的用途。

这是一个由难以捉摸的数字组成的巨大文件。你可以在运行时对其进行测试，你可以运行一系列测试，看看它会做些什么，但这是概率性的，而不是确定性的。

它不像传统编程那样，有离散的逻辑，结果颇有可预测性。你可以阅读每一行，了解每一行要做什么。而神经网络只是一堆概率值，它最终就是一个巨大的由逗号分隔数值的文件。

我们的数字上帝是一个CSV文件，真的吗？好吧，但事实就是如此。

峰会召开前一天10月31日，一封由Mozilla基金会发表，名为《人工智能安全和开放的联合声明》的公开信迅速传播。公开信呼吁人工智能研发的“开源与开放”。截至目前，深度学习三教父之一的杨立昆、斯坦福大学计算机科学系教授吴恩达等370多人已经在这封公开信上签名。

五 人工智能对就业的影响

里希：你刚才提到的那一点，我们已经讨论过很多次了。因为，在与开发技术的人们交谈时，他们也提出了你刚才提到的观点。

它不像普通的软件那样，可以预测输入的改进会带来这个特定输出的改进。随着模型的迭代和改进，我们并不十分清楚另一端会输出什么结果。我想德米斯也会同意这一点。

这就是为什么我认为，我们需要在模型发布之前，在训练运行时就介入其中，以了解新的迭代在能力上带来了什么，听起来你也同意这一点。

我想转换一下话题，你谈了很多关于人类意识、人类能动性的问题。鉴于你是一位杰出的创新者和技术专家，这可能会让人觉得奇怪。但听你谈及这一点，以及维持能动性、技术和人类意识的重要性时，我却很有共鸣。

这关联到了我想问的问题，那就是，当我就人工智能进行采访，或与人进行讨论时，最常提到的话题可能并不是我们一直在谈论的问题，而是工作。

人工智能对我的工作而言意味着什么？它是否意味着我将失去工作，或者我的孩子将失去工作？

作为政策制定者和领导者，我的回答是，人工智能已经在创造就业机会，你可以从那些正在创业的公司中看到这一点。另外，人工智能的应用方式更像是作为副驾驶，而不是取代人。人类仍然会有能动性，AI能帮助你更好地完成工作，这是一件好事。

正如我们在过去的技术革新中看到的，劳动力市场和工作岗位数量显然会发生变化。我今天引用了麻省理工学院几年前的一项研究：当时，60%的工作岗位在40年前并不存在，因此预测很困难。

而我的工作就是创建一个优秀的教育体系，无论是学校，还是在人们职业生涯的不同阶段对他们进行再培训。因为归根结底，如果我们的人民技术熟练，他们就能跟上变化的步伐，过上好日子。但这仍然是一个令人担忧的问题。

您如何看待人工智能，及其对劳动力市场和人们的工作的影响？他们在思考这个问题时，应该有什么感受？

埃隆：我认为，我们正在看到历史上最具颠覆性的力量。我们将第一次拥有比最聪明的人类还要聪明的东西。很难说那一刻会在什么时候到来，但总有一天人们会不需要工作。

如果你想通过工作获得个人的满足感，你可以拥有一份工作，但人工智能将能完成所有的工作。我不知道这会让人们感觉舒服，还是不舒服。

这就是为什么我说，如果有个魔法精灵，它能无限制的满足你想要的任何愿望——没有三个愿望的限制，你想许多少个愿就能许多少个愿——这既是好事，也是坏事。

未来的挑战之一是，如果魔法精灵能实现任何愿望，我们该如何找到生活的意义？

当新技术出现时，它通常会遵循一条S型曲线。对这个情况而言，我们将长期处于S型曲线的指数部分。你将可以提出任何要求。

我们不会实现全民基本收入，我们会实现全民高收入。从某种意义上说，这将是一个平衡器或均衡器。

的确，我认为每个人都能拥有这个魔法精灵，你可以提出任何问题，这对教育肯定有好处。它将是最好的老师，也是最有耐心的老师，因为他们可以全天候工作。

将不会出现商品和服务的短缺，那将是一个富足的时代。

我推荐大家读读伊恩·班克斯的书。班克斯的《文化》从书可能作出了最好的展望。事实上，不是可能，它们绝对是迄今为止对于人工智能未来最好的展望，没有什么书能与之媲美。

我非常推荐班克斯，我是他的超级粉丝。这些书都不错，不是说哪一本，是所有的书。他们能让你对人工智能乌托邦式的未来有所了解。

伊恩·班克斯是一名苏格兰科幻小说作家，2008年被时代杂志评选为1945年后出生的50位杰出英文作家。文化系列是他于1987年至2012年出版的科幻小说系列。

六 人类的能动性和成就感

里希：如你所说，那将是一个“全民高收入”的时代，这是一个不错的说法。从物质主义的角度来看，那将是一个富足的时代。

然后，那就引出了你提出的问题。我是一个相信工作能给人意义的人，我对此想了很多，我认为工作是件好事，它赋予人们生活的目标。

如果你移除目标的一大块，那将意味着什么？你的驱动力、激励和目的将从何而来？你刚才说到了这一点，你的工作时间很长。

埃隆：是的。

就像之前讨论时我提到的，我必须要刻意暂停怀疑的态度。因为我为一个工作项目付出了那么多的血汗和泪水，工作到深夜，然后我说，等等，我为什么要这么做？我可以等着人工智能来做这件事啊。（笑）

我只是在无缘无故地鞭策自己，我一定是个享受自虐的人。

里希：我们给德米斯打个电话，让他加快速度，然后你就可以放假了，对吧？

这是个棘手的问题，因为我们的工作之一，就是确保我们能到达你所描述的那个积极的未来，并帮助人们度过由此及彼的路途。因为正如我们所见，这些东西会给劳动力市场带来很大变化。

埃隆：是的，我认为总体上这可能是件好事，因为有很多工作不舒适、危险或乏味，而电脑可以轻松胜任这些工作，它们很乐意整天做这些工作。做饭很有趣，洗碗就没那么有趣了，而电脑很乐意洗碗。

我们仍然有体育项目，人类会在奥运会上竞技。很明显，机器可以比人类跑得更快，但人类仍然会互相比赛，进行体育竞赛。尽管机器比人类强，但我们仍在比拼谁是人类中的佼佼者，人们确实从中找到了成就感。

我想，这也许是一个很好的例子，即使机器比我们快，比我们强，我们仍然乐于与其他人类竞争，至少看看谁是人类中的佼佼者。

七 教育和陪伴

里希：这是一个很好的比喻。

我们一直在谈论风险管理，在我们结束人工智能的讨论之前，让我们谈谈机遇。

你参与创建了很多不同公司，显然，Neuralink正在开展一些激动人心的工作。你提到了我最感兴趣的话题，那就是教育。我想，很多人都看过萨尔·可汗今年早些时候在TED演讲的视频，那是关于你提到的私人教师的话题。

可汗学院(Khan Academy)创始人兼首席执行官萨尔·可汗(Sal Khan)于今年四月做的题为《人工智能如何拯救(而不是毁灭)教育》的TED演讲：https://www.ted.com/talks/sal_khan_how_ai_could_save_not_destroy_education

埃隆：是啊，神奇的私人教师。

里希：是啊，神奇的私人教师。我们知道个体学习的不同之处，与课堂学习相比，拥有个性化的教师是很神奇的。如果能让每个孩子都有一个专属的私人教师，随着时间的推移与他们一起成长，那将非同寻常。

对我来说，当我看到这一点时，天哪，这是触手可及的。这是人工智能带来的好处中，最让我激动的之一。当你纵观你认为有可能实现的目标时，你感到特别兴奋的是什么？

埃隆：我认为，人工智能老师肯定会非常出色，也许现在已经是了。

我认为除此之外可能还有陪伴，这可能有点奇怪，因为计算机怎么可能真正成为你的朋友？

如果你有一个有记忆，记住了你所有互动行为的人工智能，而且你可以允许它读取你做过的所有事情，它确实会比任何人，甚至比你自己都更了解你。你可以每天和它交谈，进行这些对话，相互促进。

事实上，你将拥有一个很好的朋友。只要这个朋友能一直做你的朋友，而不是被你关机，“别把我的朋友关机了！”（笑）

但我认为，这将成为现实。我的其中一个儿子有学习障碍，交朋友有困难。我就想，如果有一个人工智能朋友，一定会很有趣。

八 社区备注的运作机制

里希：这个答案出乎我的意料，但确实值得反思。

这的确很有意思，事实上，我们已经看到了这一点，在我们提供心理治疗的过程中——目前更多是通过数字化和电话的方式进行的。它带来了巨大的变化，你可以看到一个人工智能可以为人们提供社会福利的世界。

我想提一个关于X的简单问题，然后我们就开放请大家提问。你做出了一个改变，很多改变。

埃隆：是的，挺不少。

里希：其中一个变化...

埃隆：我喜欢那个字母(注：埃隆指X)，我真的很喜欢它。

里希：的确如此，的确如此。

其中一个变化涉及到我们必须进行运作的空间，在言论自由和审核之间取得平衡。作为政治家，我们正努力解决这个问题，你也在以自己的方式努力解决这个问题。

你从人工审核的方式转向了社区备注，我认为这是一个有趣的变化，这与其他人的做法不同。这背后的原因是什么？为什么你认为这是一种更好的方式？

埃隆：部分问题在于，如果你授权他人担任审查员，那么就会一定程度带有他们的偏见。这样一来，谁任命审查员，谁就能有效的控制信息。

社区备注背后的理念是，我们如何通过以共识为导向... 这并不是真正的审查，而是以共识为导向对真实性进行探求。我们怎样才能让信息的不真实性降到最低？你可以说，也许无法获得纯粹的真实性，但你可以渴望变得更加真实。

社区备注的重点在于，它其实并不删除任何信息，它只是添加了语境。这个语境可能是，由于以下原因，这件事并不真实。重要的是，社区备注的一切都是开源的。

你可以看到软件的每一行代码，你可以看到社区备注中的所有数据，你可以独立创建社区备注。如果你发现数据被篡改，你可以进行突出显示，然后说，好吧，似乎有人在玩弄系统，而且你可以提出改进建议。

这是最大限度的透明，我认为...

埃隆自己8月发的X文也被添加了社区备注，添加者反对埃隆取消“屏蔽用户”功能的做法

里希：与大众的智慧和透明度相结合，获得更好的答案。

埃隆：社区备注的一个关键要素是，要想让备注展示出来，历来会提出反对意见的人，必须得同意。这里使用了一些人工智能。

我们会围绕社区备注的每个贡献者，创建一个参数空间。基本上，每个人都有与之相关的多个向量，这些向量并不是简单的区分左还是右。它由数百个向量组成，因为事物比简单的左右之分复杂得多。

然后，我们再进行逆相关分析。我们会看，好吧，这些人通常都会反对，但他们同意这条备注。这样一来，这条备注就有了可信度。这就是它的核心思想，而且运行效果很好。我很少看到一个错误的备注会存在几个小时以上，平均的命中率非常高。

人们担心社区备注里有虚假信息，我就说，给我发一个(这样的例子)，然后他们发不出来。我认为，这个机制很好。

X平台的总体目标，是为公众提供信息，娱乐大家，并且尽可能的保持准确性和真实性，即使有人并不喜欢事实的真相。人们并不总是喜欢事实真相，并非总是如此。但这是我们渴求的目标。

如果我们坚持追求真实性，那么我们就会发现，人们会利用这个系统来了解真相。我认为真实性会获得回报，如果你不想自我欺骗，那么我认为这是明智之举。

九 创业思维的转变，政府的协助

里希：非常棒，很有帮助。

好的，让我们向所有来宾开放提问吧。我们有麦克风，你们可以举手，他们会来找你们的。有人提问了，好的，谢谢你。

提问者：晚上好，我是Entrepreneur First公司的Alice Bentinck。感谢你们精彩的对话，我想向你们各提一个问题。

首相先生，英国拥有世界上最好的大学，我们拥有人才。怎样才能让英国真正成为独角兽公司的孵化地？

而埃隆，对于大多数最杰出的技术人才来说，成为一家英国公司的创始人仍然并不是一个显而易见的职业选择。要改变这种状况，我们需要准备哪些文化要素？谢谢两位。

Entrepreneur First公司的Alice Bentinck

里希：你想先回答吗？请吧。

埃隆：没问题，你说得没错，创业建立新公司的文化元素需要加以倡导。应该有偏向的支持小公司，因为他们才需要培育，大公司并不需要培育。

你可以把这个问题想象成一个花园。如果它是一棵小树苗，就需要培育，如果它是一棵强大的橡树，就不需要怎么培育。我认为，这是一个思维方式的转变，非常重要。

但我需要指出，伦敦和旧金山或湾区，确实是人工智能的两个中心，伦敦在这方面做得非常好。这是两个领先全球的地点，旧金山可能领先于伦敦，但伦敦确实非常强大，或者说伦敦地区，大伦敦地区，伦敦周围各郡。

里希：继续，继续。

埃隆：我只是客观地说，情况就是如此。但你确实需要基础设施，你需要愿意租房子给创业公司的房东，你需要愿意支持创业公司的律师事务所和会计师。而这通常是一种思维方式的转变。

这些事正在发生，但我认为，人们需要从文化上认同这是一件好事。

里希：谢谢你对英国的评价，这是我们努力的方向。包括Alice在内，在座的很多人都在努力让这里成为公司的理想之地。

我想要说的是，我的工作就是把所有的基础工作做好，确保所有创业公司都能筹集到需要的资金，从种子资金，到我们优秀的企业投资方案税收减免政策，直到后期融资。而且我们需要对养老金进行改革。

财政大臣提出了一系列出色的改革措施，从拥有资本者的手中释放资本，并配置为成长型股权投资。这是一项正在进行的工作，我们还没完成，但我认为我们正在取得良好的进展。

我们需要人才，我们需要人员。这意味着，一个需要优先考虑重要事项的教育系统。你们也看到了我的改革，我一直在说要多学数学、多学数学、多学数学。我认为这很重要。

但同时，也要吸引最优秀、最聪明的人来到这里。如果你看看这个国家发展最快的公司，我想在美国也一样，其中一半以上的创始人都不是英国人。由此可见，我们必须向全球最优秀、最聪明的创业人才敞开大门。我认为，我们实行的签证制度能保证这一点，让这些人能更容易来到这里。

对谈的两位主角：里希·苏纳客，印度裔；埃隆·马斯克，南非出生

事实上，这也是我们在这个讨论会开始时一直在谈的监管问题，确保我们有一个有利于创新的监管系统。是的，当然，我们总是需要对那些会让我们担心的事情加以防范，但我们必须为人们创造一个开展创新和做不同事情的空间。这些都是我的工作。

更难的是，埃隆谈到的文化。如何将这种文化从硅谷等世界各地移植到这里来，让人们不害怕放弃固定薪水的保障，去开创一番事业，并对失败泰然处之。

你经常谈到这一点，我记得，你在玩游戏的时候谈得更多，对吧？你说必须要对失败泰然处之，这只是过程的一部分。要在一夜之间做到文化上的转变，是一件很棘手的事情，但这是创造这种环境的一个重要部分。

埃隆：对，如果你的第一家初创公司没有成功，这不应该成为结束职业生涯的灾难性事件。你应该觉得，你已经尽力了，现在再试一次吧。

我想说的一点是，显然，创建一家公司是一件高风险高回报的事。但我不太了解英国的情况，我想可能会比欧洲大陆要好一些。在欧洲的大部分地区，实行股票期权非常困难，我不清楚英国的情况如何。

但如果有人拿毕生的积蓄去冒险，而且绝大多数初创企业都会失败，你听说过成功的初创企业，但大多数初创企业都是在开展了大量的工作之后，以失败告终，这就是大多数公司的真实情况。这是一件高风险高回报的事情，因此，高回报的这部分确实需要存在，才有意义。

里希：我认为这是关于税收政策的一个温和的表达。但实际上，我可以告诉你，首先，我同意你的观点。其次，我认为，与欧洲国家相比，特别是美国加州，我们的资本利得税率要低得多。因此，对于那些冒着风险发展某项技术的人来说，我们认为他们最终会得到回报，20%的资本利得税率。

关于股票期权，我不知道在座是否有来自Index Ventures的人。Index是我们这里领先的风险投资基金之一，他们发布定期报告，研究大多数国家对股票期权的税收待遇。

当我还是财政部长的时候，我记得我们的情况还不错，但只排在第四或第五位。也正是因为你提到的原因，我当时说，这里必须成为创新者的最佳选择，我们需要提升自己的排名。

我记得，在那份报告的最后一个版本中，由于Jeremy和我所做出的改变，我记得我们上升到了第二位。希望这能给你和其他人一些安慰，我们认识到这一点很重要。因为当人们冒着风险努力工作时，他们应该能够享受到高回报。

埃隆：高风险，高回报。

里希：是的，而且我认为，我们有一个支持这一点的税收制度。这些都是我所相信的价值。我想，在座的大多数人可能也是这么认为的。

好的，下一个问题。我面前有七个问题，等下就回到我这里。请提问吧，先生。

十 人工智能如何助力人们的日常生活

提问者：非常感谢。

我们谈到了一些非常重要的想法，改变全球的想法。我的确很感兴趣，特别是在创造科学和技术、超级枢纽等方面。

对于生活在得克萨斯州奥斯汀的人们来说，如何将这些想法融入到日常生活中？对我来说则是东米德兰兹的诺丁汉。你认为，这对人们的日常生活有何影响？

埃隆：人工智能带来的日常影响？

里希：补充一些背景，埃隆，Seb经营着一家相当于CVS或Walgreens的药店。我去拜访的时候，每天都有数百万人光顾他的商店。我们要知道，如何才能让这一切变得有意义。Seb，我认为这就是你的问题，人工智能和一般人有什么关系？

让我先来回答吧，我认为这是一个不错的观点。

我刚刚和团队讨论了我们正在做的几件事。因为我在想，既然它正在改变人们的生活，我们要怎么开展人工智能的工作？

我们有一个叫gov.uk的网站，几年前，它是一个具有开创性的网站。所有的政府信息都汇总在一个网站gov.uk上，如果你需要获得驾驶执照、护照，以及与政府进行任何互动，它都以一种非常简单、相对易用的方式集中在一起。它比大多数网站都要好。

我们即将在这个平台上部署人工智能。我认为，每天都有几百万人在使用这个网站，每天都有很大一部分人在与gov.uk互动，完成这些日常的事务。你的每一位客户都在做着这些事情。

我们将在这个网站上部署人工智能，让整个流程变得更简单。因为有些人会说，我现在在这个地方，我的护照丢了，航班就要在五个小时后起飞。目前，需要经过这么多步骤，你才能弄明白究竟要怎么做。而事实上，当我们部署好人工智能，你就可以直接知道要怎么做了，一二三四五，这就是我们要做的，这几个步骤。

这将使每天数以百万计的人受益，对吧。在我看来，这是一个非常实用的方法，可以使用这项技术来帮助人们的日常生活，而不仅仅是医疗发现，和我们正在做的其他事情。

但我认为，对你的日常客户来说，这是一个有力的证明。因为埃隆，德米斯和在座的其他人帮助创建的东西，你的日常客户，他们的日常生活变得更轻松了。

埃隆：是的，没错。

最直接的好处，就是能直接提问，就像一个非常聪明的朋友，你可以问任何问题。比如，如何制造某样东西，如何解决某个问题，它都会告诉你。

很显然，各个公司都会采用这种方式。你会得到更好的客户服务，从本质上讲，这可能是你注意到的第一件事。

“最直接的好处，就是能直接提问，就像一个非常聪明的朋友，你可以问任何问题。比如，如何制造某样东西，如何解决某个问题，它都会告诉你”，埃隆说着这句话，眼中带着一丝狡黠。一天多以后，他以一个“如何制作可卡因”梗官宣了xAI公司首款人工智能产品Grok

然后，我们谈到了教育。如果你想了解某个学科，可以找一名老师，任何学科都有出色的老师，这其实已经基本是现状了。

显然，人工智能不能让人们产生幻觉。我们有一个小小的问题，那就是它能自信的给你一个语法很棒的错误回答，而且，提供了要点，带有引用，但都是假的。我们必须确保它不会自信的给你错误的回答。但这很快就会发生，它将能够提供正确的回答。

十一 机器人技术，机器人的风险

里希：我想说，对于在新冠期间开展家庭教育的家长来说，意识到他们的孩子需要什么帮助，这将是一个巨大的解脱，我认为这一点非常非常好。

好的，这边有问题吗？这是哪位？有麦克风吗？Brent，是你吗？好极了。

提问者：你好，我是Brent Havman。

你雄辩地谈到了富足和富足的时代。很明显，人工智能会变得无处不在，无时不在。而要想进入富足的时代，我们需要大量的机器人。我知道你也在研究机器人。

我们和我们的政治家们是否应该考虑一些限制因素？一个国家可能会在机器人技术及进入富足的时代上严重落后，从而处于战略劣势？

埃隆：事实上，任何可以由电脑驱动的东西都是机器人。坦率地说，你可以认为特斯拉汽车就是轮子上的机器人。任何与互联网相连的东西，其实都是人工智能的终端执行器。

波士顿动力公司，很明显，他们制造让人印象深刻的机器人已经有一段时间了。我认为他们目前主要归现代公司所有。我猜现代公司可能会制造人形的，或者其它我没预料到的有趣形状的机器人，比如那个看起来像是有轮子的袋鼠。我不知道那是什么，但老实说，看起来有点癫狂。不过会有各种各样的机器人。

波士顿动力公司名为“Handle”的机器人，身高六英尺半，四肢像人，脚底装有轮子。根据波士顿动力公司的说法，通过将腿与轮子相结合，它可以提供最机动的多功能性，同时减少所需的关节数量，使机器可以在不平坦的表面上行驶

英国有戴森公司，我认为它推出了一些令人印象深刻的产品，我认为英国在这方面不会落后。英国还有ARM公司，它在芯片设计方面确实是全球最好的公司之一，也许是最好的。特斯拉使用了大量的ARM技术，事实上，几乎所有公司都在使用。英国处于很强的地位。

德国显然制造了很多机器人，工业机器人。一般来说，制造任何类型机器人的国家，即使它们看起来有些传统，也不会有问题。

我确实认为，特别是人形机器人，存在着安全性上的担忧。因为至少汽车不会轻易追逐你进入大楼，或者追着你上树。你可以跑上楼梯，摆脱特斯拉汽车的追逐。我记得有一部斯蒂芬·金的电影讲过类似的故事，如果你的汽车被控制了。

但如果你有一个人形机器人，它基本上可以追着你到任何地方。我认为，我们应该有某种硬连接的本地切断装置，无法通过互联网进行更新。显然，任何可以通过互联网更新的软件都可以被超驰控制，但如果你有一个本地的关闭开关，你可以说一个关键字，就让机器人进入安全状态。某种本地化的安全状态能力，一个可以关闭的开关，这样你就不必离机器人太近了。

如果我们有几百万个这样的东西，到处都是...

里希：你这不算是推销。（笑）

埃隆：我知道。我是说，这是我们应该非常关注的事情。因为如果机器人能追逐你到任何地方，如果有一天它们更新了软件，就不再那么友好了怎么办？那我们就等着亲自出演詹姆斯·卡梅隆的电影吧。

里希：你这么说很有趣，因为在我们今天的会议上，他们也提出了同样的观点。他们谈论了电影，没有提到詹姆斯·卡梅隆，但在谈论詹姆斯·卡梅隆的电影。

他们说，如果你仔细想想，不仅仅是那些电影，而是所有这些电影，火车、地铁、汽车、公交车，他们说所有这类情节的电影，最后都以人将它关闭，或者想办法将它关闭而结束。

对于实际物理开关的重要性，他们的观点和你一样。所有的技术都很棒，但从根本上说，同样的电影已经上演了50次，我们都看过这类电影。从根本上来说，它的结局都是一样的，有人找到了方法解决问题。有趣的是，你也说过类似的话，这并不是一个显然的答案。

埃隆：也许这可以作为人工智能的测试之一。我们应该问，你最喜欢的詹姆斯·卡梅隆的电影是哪部？请填空。

十二 机器人账号，虚假信息传播

里希：太棒了，好的。

那边那位，太好了。

提问者：嗨，我有个问题想问你们。我是一家人工智能和深度学习初创公司的创始人，公司位于英格兰北部的利兹市，人工智能的第三个中心，我有点倾向性。

ChatGPT推出三个月后，我们发现，用更复杂语言模式的网络钓鱼攻击确实有增加。我们该如何保护企业和消费者，让他们更好地信任这项技术？我们又该如何引领他们与我们同行？

埃隆：事实上，我认为我们不应该那么信任它。

这的确是一个相当大的挑战，因为已经到了连开源人工智能都能通过CAPTCHA人类测试的地步。测试是这样的：你是人类吗？找出图片中所有的红绿灯。

你会说，好的，人工智能做到这一点不成问题。事实上，它能比人类做得更好、更快。如果人工智能可以比人类更好的通过人类测试，什么样的测试才有意义呢？

这确实是个问题，我也没有很好的解决方案。我们正在X平台上尝试解决的问题之一，就是这个。因为我们的确到了这样的地步：即使是开源的随时可用的人工智能，不需要处于领先地位，在通过这些测试方面，它们也可以做的比人类更好。

这就是为什么我们认为，也许我们应该每年收取一美元或一英镑的费用。虽然只是很小的一笔钱，但它仍然能让制作一百万个机器人的成本高得吓人。特别是，如果你需要一百万个支付方式，那么你很快就会用完偷来的信用卡。这就是为什么我们认为可能需要收取极少的费用，每天0.3美分，以应对由人工智能驱动的机器人的冲击。

这个问题还在日益严重，我认为，明年也许会成为一个无法解决的问题。然后，你还得担心，信息的操纵还会让某些东西看起来很受欢迎，但其实不然，因为它被由人工智能驱动的机器人的点赞和转发给推高了。

我认为，不可避免地，我们需要收取一些小额费用，以大幅提高机器人的成本。我认为，不这么做的社交媒体系统，都会被机器人占领。

里希：我想，我的一般性的回答是，我们需要证明，我们正在降低风险，这样人们才能信任我们的技术。这也是过去几天安全峰会的主题，表明我们正在投资安全研究所，拥有能够研究这些问题的人员，找出如何降低风险的方法。

我们必须尽快开展这项工作，并不断改进。因为在座的各位可能都相信，技术会非常强大。但是，我们必须确保我们引领着人们一起走过这段旅程，我们会处理存在的风险。正如我所说，我们有工作要做。

在过去的几天里，我认为我们取得了良好的进展。因为我们希望能关注积极因素，管理好这些事情，但这需要行动。这就是过去几天的主题。

你的比喻其实也是工作组的工作内容，他们昨天在这里发表并介绍了这项研究。我不知道你是否看到了，基本上就是这样，它利用人工智能在社交媒体上创建大量虚假资料，然后把特定信息渗透到特定群体中。目前，就像你说的，这么做几乎是免费的。

埃隆：已经到了一分钱可以买一百个机器人的地步，太荒谬了。

里希：考虑一下这些社交网络，在社区或城镇层面上，你需要快速创建的虚假资料并不多，但突然间它们就无处不在了。

而当地的一些问题可能很重要。团队已经运行了一些版本，看看会是什么样子，突然间，它们与每个人都展开了互动，然后到处散播错误信息。

埃隆：是啊，这确实是个挑战。

里希：这就是我们昨天发表的关于虚假信息研究的一部分，这是一个真正的挑战。

埃隆：没错。

就像你说的，图像，你甚至不需要窃取别人的照片，因为那是可追溯的。你其实可以创造一个新的人物形象，外表逼真，但并不存在，然后再创造一本逼真但不存在的传记，然后大规模地重复这样的工作。

事实上，你唯一能看出来的漏洞，就是语法太完美。额的神啊，一个字都没打错？不可能！

十三 数字签名，媒体验证

里希：有人朝我挥手了，我觉得我们没时间了。我不知道我们能不能最后问一个非常简短的问题，然后就结束。

好的，先生，请继续吧，我前面这位，请提问。

提问者：埃隆，问你个问题。关于X平台，有什么我们可以做的简单的事情吗，尤其是在视觉媒体方面？

你提到了一个事实，那就是制作包括你在内的人们的内容，让他们说没说过的话，做没做过的事，这很容易，也几乎是免费的。我们能对媒体进行加密签名吗？

我是Adobe公司的，我们正在开展这个项目。推特曾是我们的成员之一，很高兴能看到X的回归。对媒体进行数字签名，能表明哪些是人工智能创造的，哪些是真实相机拍摄的，这样，我们就能对可能会以病毒式传播的媒体充满信任。

埃隆：这听起来是个好主意，能有某种验证方式会很好。是的，这听起来是个好主意，我们也许应该这么做。

里希：这就对了。

对于这个问题，它对从事我这样工作的人来说尤其重要。我遇到过这样的情况，一张篡改过的图片到处传播，带来负面影响。当所有人都意识到，额，这是假的，我们应该停止发送时，伤害已经造成了。

事实上，我们今天也在反思，想想明年，各地都有大选，美国、印度、印尼，可能还有这里... 没错，大新闻。（笑）

事实上，全球很一大部分人口明年都要进行投票，还有欧盟的选举。这些问题就摆在我们面前。明年是全球范围内的大选，可能也是第一轮真正涉及到这一问题的选举。对于那些希望保持我们民主制度完整性的人们来说，如何处理好这些问题至关重要。

埃隆：是啊，有些事情还挺有趣的，比如教皇穿着羽绒服，你看过那个照片吗？

里希：没看过。

AI生成图：教皇穿羽绒服；埃隆和玛丽牵手；特朗普被捕

埃隆：太不可思议了。

但我还是会碰到有些人觉得那是真的。我就说，七月的罗马，他穿一件羽绒服肯定会出汗的。但不得不说，那张图他看起来还挺潇洒的。事实上，我认为人工智能生成的时尚风格将成为现实。

我并不觉得厄运降临，我们生活在最有趣的时代。我认为有80%可能是好的，20%可能是坏的。如果我们对坏的部分有清醒的认识，并小心应对，总的来说，那就会是我们想要的未来。

其实，它在某种程度上是一个平衡器和均衡器，我认为每个人都能获得商品、服务和教育。我认为，这可能会带来更多的人类幸福。

我想，我可能会以一个乐观的评注结束对话。

里希：好极了。嗯，这是一个很好的结尾。

我想，我们都想要更美好的未来。我认为它就在那里，我们肯定已经许下了承诺。在座的很多人，包括你自己，都在为实现它而努力工作。

我们政府的工作，就是确保它能安全地实现。但基于过去几天的对话，我对我们能够实现这一目标更有信心了。

很荣幸，也很高兴你能来到这里。

埃隆：非常感谢你邀请我。

（以上）