微软纳德拉：AI 最让我害怕的不是技术，世界需要 10 亿开发者

公众号新闻

2023-05-23 14:05

计算机是思想的自行车，现在我们有了蒸汽机。

作者 | Founder Park

这是一篇纳德拉的访谈，来自 NBC 访谈节目 Special Edition。

采访者是安德鲁·罗斯·索金，美国著名记者、作家，NYT 专栏作家，HBO 电影《大而不倒》原著作者。

萨提亚·纳德拉（Satya Nadella），微软第三任 CEO，印度精英出身，20 多年微软人。在比尔盖茨和鲍尔默的「暴君文化」下成长，不止一次「刷新」，完成大象起舞。

他曾负责 Bing 搜索业务，Azure 云服务业务。在 2014 年担任 CEO，帮助微软完成 Cloud First 转型。

以下是访谈内容，经 Founder Park 编辑，有删减。

只有微软愿意和 OpenAI 合作

安德鲁·索金

我们了解到，Sam Altman 主动找到你，直白地索要投资和伙伴关系，这是一切的开始吗？

纳德拉

实际上，我和 Sam 认识很久了。第一次见面，他还在搞他的创业公司，我在管 Bing，2007、08 年吧。

至于 OpenAI，具体哪年忘了，可能是 2016 或 2015 年，它们初创的时候，就在 Azure（使用云服务）。

后来再联系，应该是 2019 或之前的事。

安德鲁·索金

你们争论过，是否要做这件事，对吧？这不是一个容易的选择。

纳德拉

是的。有几个问题。

OpenAI，就像我说的，它是一家非常使命驱动的公司。

这家公司基本理念是追求、建立和确保非营利组织掌握技术，以使世界受益。他们对此充满热情。加入他们的团队意味着为这个使命而奋斗。

因此，对于 Sam 及其团队来说，找到一个能够理解这一点的合作伙伴非常重要。如果我们感到舒适的话，事实上，在我看来，我想在信息技术领域工作、想在微软工作的唯一原因就是真正成为推动民主化力量中不可或缺的一部分，并让技术与之相伴前行。

安德鲁·索金

我不知道你是否看到了埃隆·马斯克关于他共同创立的 OpenAI 和微软之间关系的评论，尽管 OpenAI 是非盈利性组织，但他实际上表示认为该公司现在受到微软有效控制。这是他感到不满意的事情。

纳德拉

首先，我非常尊重埃隆和他所做的一切。

但事实上，那并不正确。正如我所说，OpenAI 的使命是由一个非营利董事会控制的，我们在其中拥有非控股权益，并与其建立了良好的商业合作关系。

坦白地说，我很愿意与这样一个以追求这种极具威力技术为使命、最终将由非营利组织掌控的有限盈利公司合作，并且感到非常舒适。

事实上，在我印象里，我们是唯一一个愿意让非营利公司和董事会掌握技术控制权的盈利公司。

我非常欢迎其他公司也这么干。

Auto-pilot 和 Co-pilot

安德鲁·索金

现在有个很严重的问题：AI 的发展太快了，你怎么看？

纳德拉

有趣的是，很多技术，AI，已经在大规模应用了。每个信息流、社交媒体、我们熟知的搜索（在它与聊天机器人合并之前），都使用了人工智能。

如果说有什么不同，那就是它们更像黑匣子，更像自动驾驶时代。

但有趣的是，我们正在从自动驾驶时代转向 AI 副驾驶员（Copilot）时代。

因此，我认为虽然发展速度快，但方向正确，并且人类掌握着更多主导权。

首先，在设计上我们选择让人类参与其中而非被排除在外。这样做至关重要，并且可以充分利用该技术带来的好处：提高人类代理（human agency）和经济生产力等方面的承诺。

同时，就像你的基本观点，我很高兴，就在人们讨论新技术激动人心的同时，也在辩论它会带来的意外后果。不必等待 10 年后再去解决问题, 因为我们以前犯过这种错误。

不只是技术的选择

安德鲁·索金

AI 让你感到害怕的是什么？

纳德拉

我最害怕的是，我们在面对这项新技术时所做出的社会选择（societal choices）。

这不是一些停留在技术里的讨论。我认为我们必须做出政治、文化和社会决策，以帮助我们找到平衡点，即我们肯定想要利用这项技术的好处，并且想要减轻其意外后果。

这需要领导力和各方共同努力才能实现，虽然具有挑战性，但必须完成。

这也是我感到恐惧的原因。

同时也正因如此，我认为广泛参与非常重要——这不仅仅是人工智能专家之间互相交流并使彼此感到恐慌。

更多是关乎整个社会如何进行良好公民对话，以最大限度地发挥机遇并减少危险。

安德鲁·索金

我向 new Bing 提问，「你担心 AI 会带来什么影响？」

它说：人工智能的影响受到广泛争议。许多人认为，通过比人类更好地完成例行和甚至复杂的任务，提高了日常生活的质量，使生活更简单、更安全、更有效率。这是一个好消息。其他人则认为，AI 存在危险的隐私风险，并通过标准化人们加剧种族主义，并导致工人失业从而造成更大规模的失业问题。

纳德拉

那是一个很好的答案。它是平衡的，对吧？它谈到了两者。

实际上，我曾经问过它：「如果斯宾诺莎、康德和尼采都在讨论人工智能或下一代技术会发生什么？他们会得出什么结论？」

这非常有趣，这是三位启蒙时代的思想家，那时候人类真正理解了如何处理科学革命以及随后的工业革命带来的变化，他们帮助人们适应这些变化，帮助人们的思想适应这些变化。

它的回答是，我很喜欢它提到康德的范畴概念，它说我们应该做的，最大化利益，减轻挑战。

安德鲁·索金

有很多你熟悉的科学家们，他们说，（AI 研究）需要慢慢来（slow down）了。

纳德拉

我想他们的意思是，回到他们说「放慢』的时候，他们的意思是，加快一些核心研究，围绕什么是「对齐」展开研究。

因为你想，AI 的核心挑战之一，当然构建 GPT 模型需要大量的工作，但对齐基础模型，以便我们更好地应用它，同样需要大量的辛苦劳动。

我们真的需要 10 亿开发者

安德鲁·索金

当一切结束的时候，我们会创造出更多的工作吗？

纳德拉

好问题。

这是我思考的一个根本问题。

经济学家们称之为「劳动总量谬误」（lump of labor fallacy）的概念，认为一个经济体只能支撑固定数量的工作，劳动力越多，岗位就越少）。

至少目前为止它被证明是错误的。

每次新技术出现，都会有人被替代，这是真正的挑战。至少我是这个阵营的。

所以我们想一想，未来会有新的工作，谁会想到提示工程师会成为一种新的工作呢？BTW，你并不需要 CS 学位就可以成为提示工程师。

这只是一个例子。

还有另一个方面。最让我感到兴奋的是，现在 GitHub 上有 1 亿个软件开发者，有了代码助手（Copilot），我觉得这个数字会变成 10 亿。

事实上，这个世界需要 10 亿开发者。

因为你看有多少公司，每个公司都是软件公司，他们需要更多的开发者。

所以我认为这实际上是一种民主化工具，让我们可以更轻松地获取新技术和新知识，更容易提高学习曲线。

从西海岸到印度农村

纳德拉

第二点，一线员工的工作。最令人兴奋的事情之一。

因为在工厂、零售和医疗保健等领域中，处于前线的人可以直接画出他们想要的应用程序，并拍照建立它。

所以，如果你有一些领域专业知识，那么你现在就成为了一个 IT 人。

而最令我震惊（mind-blowing）的是，在 1 月我去印度时，我有机会看到一个农民用当地语言印地语演示如何从政府获得补贴。

在印度，公众服务的数字产品正在发生不可思议的革命。他们有了语音转文本和文本转语音的公共服务产品。在印度某个开发者，与微软研究以及政府机构合作时，提供了解决方案，将 GPT 与所有经过训练的模型或文本相连。

这让农民可以表达足够复杂的想法。

比如它说，「哦，我只是想申请电视节目中听说过的补贴」。

然后系统回答：「进入这个网站并填写这些表格。」

他说：「我不知道这是什么网站，我不想填表格，你能帮我吗？」

然后他使用了正确的 Transformer 模型和 Action Transformer 来完成。这太不可思议了。

让人难以置信的不仅是技术，还有技术几个月前刚刚在美国西海岸建立起来，就迅速地传播到印度的农民中。难以置信。

更好奇、更投入的学习

安德鲁·索金

这将如何改变教育？

下一代人应该学什么？

他们可以访问各种信息，他们还需要学习写作吗？

纳德拉

这有点像，我还需要学乘法吗？对吧？上一次我们做心算是什么时候呢？

所以我有几个想法。

这是很多人的梦想，Reid Hoffman（LinkedIn 联创），比尔（盖茨）都深入探讨过这个问题：如果全世界的孩子们都有一个 AI 导师，这个世界会怎样？

AI 导师能否与学生互动，并真正帮助他们理解概念呢？

因为你想，今天的教育还挺吓人的，「想学物理？去看（理查德）费曼的讲座吧。」

我是不知道谁会看那东西，反正我从来不看。

我想过，如果我有一个 AI 导师，我会成为更好的学生，更加投入，更加好奇，因为对学习的恐惧消失了。

这是第一点。另一个关键点是，我们将学会新的技能。

就像 Copilot 模式会让我成为更好的编辑，我们只需要把重点放在创造上，而不是查找和编辑事实，也许这件事更重要。

所以，我认为我们将适应使用这些工具并重新装备自己。

批判性思维仍然是人类所做的事情，但我认为我们有机会用新工具重新武装自己。

思想的蒸汽机

安德鲁·索金

如果你今天在和孩子们交谈，告诉他们未来需要哪些技能，那么这些技能会是什么？

纳德拉

史蒂夫·乔布斯曾经有一个非常美的比喻，计算机就像是思想的自行车（bicycles for the mind）。

现在我们有了升级版，我们有了思想的蒸汽机。

因此我想说的是，孩子们应该做所有现在可以用这个增强工具（augmented tool）做到的事情。

例如批判性思维、更加创造性地使用机器、不害怕学习新东西等等，这也是其中一个迷人之处，我不再害怕了。

比如生物学，因为我看不懂那些《自然》论文中的任何内容。而现在我感觉好极了，可以尝试去理解：「这到底是什么？」

安德鲁·索金

因为 AI 会帮你总结。

纳德拉

它会帮我总结，它会教我。你看，这就是 Bing 的 Copilot 模式好用的地方，PDF 在屏幕的左侧，我可以不断地向 AI 提问，就像在问一个个人导师。

我女儿像我描述这个过程，她说这就像在阅读时，始终有个朋友和导师在陪伴着你。

监管 AI 重要的不是技术知识

安德鲁·索金

如果你是今天的「一日国王」，你会怎样监管 AI？

纳德拉

我们在网络和其他领域（的监管）所做的第一件事情，对公司来说是有好处的。

我们不必等待所有人都拥有标准或采用 NIST 的标准（美国国家标准与技术研究院），然后将其用作任何自我监管的起点。

在此基础上，如果你谈论法规，则可以从应用程序领域中解压缩它。

因为毕竟某些东西被应用于什么样的背景下（是需要具体讨论的），在医疗保健领域还是零售业中使用？

因此，我认为我们可以建立当前法规已经存在的监管框架，就像他们对其他领域提出的要求一样，让 AI 负责任。

安德鲁·索金

监管机构是否了解足够的知识来处理这个问题？

因为有些人工智能，甚至工程师也不清楚。有时候这些东西会产生幻觉，而且目前还无法控制。

纳德拉

这就是我的方法有点不同的地方。监管机构知道他们在做什么。从某种意义上说，我们正在进行这种对话。

几个星期前我们在白宫举行了一次对话，OSTP（科学和技术政策办公室）、副总统等等所有召集人员进行了一次对话。

我相信他们也在与许多其他团队进行对话，这很好。所以对我来说，我认为这不仅仅是技术知识的问题。只是一个问题：嘿，我们如何确保这些东西得到部署，并能够保护（技术带来的）真正的益处？

小公司还有机会吗？

安德鲁·索金

我想问你的另一个问题是关于大型科技公司和现有企业的概念。

我们采访了 Lina Khan（联邦贸易委员会主席），她认为人工智能和这些类型的投资将帮助现有（大）企业，并且由于成功所需的基础设施，小型玩家几乎不可能获胜。

Lina Khan 采访片段

「看到这些技术真正繁荣的方式是依靠大量数据集和计算能力，而某些较大的公司可能具有优势。作为执法者，我们需要确保技术颠覆带来的竞争机会和开放性不被现有企业压制。」

纳德拉

这是一个充满活力的领域，OpenAI，创业公司，几百人，Inflection AI，小型初创公司，Character AI，一样。

安德鲁·索金

小团队能赢吗？

纳德拉

可以。

现在一切都不好说，取决于他们能否找到适应市场的产品。

并不是说市场上只有 Google 和微软两个玩家。

我们希望（有竞争）。想想看，如果去年有人告诉你，搜索领域还存在竞争，人们梦想有一个替代 Google 的选择，你会怎么想？

现在不仅仅是 Bing，还有 ChatGPT 和其他市场上涌现的公司，对我来说，这是值得庆祝的一件事。

必须让出版商看到商业回报

安德鲁·索金

你认为剽窃的概念是什么？

以及在写作和抄袭他人作品方面会发生什么？

纳德拉

首先，这涉及到法律方面，它定义什么是版权。

然后我们真正有一个保护版权的法律框架，还有什么是衍生作品，什么是原创作品。

让我们将所有这些放在一边，我不是律师，让我们暂且搁置法律框架。

我想说的是，我们所有人都是在旧知识上建立新知识的。如果你遵循这个前提，那么这只会加速这个过程。

安德鲁·索金

作为一名作者，我可以写一本新书。我可以去买 30 本书去图书馆免费阅读，学到很多东西。我甚至可以引用那些书中的内容而不需要向这些作者支付许可费，但是我确实付了钱看那些书。

如果 AI 阅读了这些书籍，它们不仅能帮助一个作者，还可能会创作出数百万本书籍。那么这个模型是如何工作的呢？

纳德拉

合理使用（著作权概念）的论点今天就有。

我们举例来说，AI 搜索，我们使用搜索。它读取网络一次，并将其提供给全世界。

安德鲁·索金

但（搜索）是有变现方式的对吧？因为它会发给你链接，链接里要么有广告，要么可以付费订阅。

对话机器人呢？

纳德拉

它必须有一种商业模型对吧？倒推回去，如果没有激励机制来展示并让创作者得到补偿，那么这将是一个问题。因此，至少我对我们的商业模式的看法是基本上这样，「引用」很重要。

我觉得要有合同，问题在于出版商是否允许 AI 爬取？

假设他们只在看到经济回报时才允许，而我们作为提供者，比如说聊天搜索，必须立足于此。我们已经宣布了这一点，「嘿，我们将有广告，并且我们将分享其中的经济利益。实际上，我们将驱动流量返回。」

那会是我们的未来吗？

安德鲁·索金

你看过电影《Her》吗？

纳德拉

Yes, I did.

安德鲁·索金

那会是我们的未来吗？

纳德拉

（未来的）一部分吧。

安德鲁·索金

那是好事还是坏事？

纳德拉

如果处理好了，会是件很好的事。

安德鲁·索金

你看到电影结尾了对吧。

（电影结尾，Theodore 得知 Samantha 同时和 641 个用户恋爱，感到沮丧失望，不久后作为 OS 的 Samantha 离开了 Theodore。）

纳德拉

（笑）别，跳过这部分，我们尽量避免那种情况吧。

直播预告

那些离开大厂，当「数字游民」的人现在如何了？

本周三晚 8 点，极客公园「开始连接」直播间将邀请 FreeLab 自由客实验室联合创始人 Doris，前字节产品经理、职业自由教练 Solar，以及设计乱窜工作室主理人东风，来和大家分享他们的真实故事与心路历程。在当前的就业环境中，做「数字游民」算是一个好的选择吗？而「数字游民」的终点是否又必然会回归到一个新的职场（比如创业）本身？

快快点击下方按钮👇预约精彩直播吧！