AI教父从谷歌离职！并强调AI有风险！但更重要的是什么？

▲ 点击订阅，抓住风口

你好，我是王煜全，这里是王煜全要闻评论。

5月1日，据《纽约时报》报道，“人工智能教父”、谷歌副总裁Geoffrey Hinton离开谷歌，并且担心类似ChatGPT的AI聊天机器人会带来严重危害。Geoffrey Hinton在2018年因深度学习方面的研究被授予“计算机领域的诺贝尔奖”—图灵奖，而深度学习正是引领这一轮人工智能爆发的核心技术。

Hinton表示，他在谷歌工作了十多年，现在已经从谷歌辞职了，这样就可以自由的谈论人工智能发展所带来的风险问题。

他认为随着各大公司不断改进他们的系统，AI会变得越来越危险。比如，AI将使互联网上充斥着各种虚假的照片、视频和文字，普通人将“无法再辨别真伪”，早晚还有可能会颠覆就业市场。

虽然现在类似ChatGPT 这样的AI只是对人类工作者的补充，但它们可能取代律师助理、私人助理、翻译和其他处理“死记硬背”任务的人。

他甚至担心有一天会出现真正的杀手机器人。现在人们不仅允许 AI 生成计算机代码，还允许AI自己运行代码。而AI经常从分析的大量数据中学习到意想不到的行为。这些风险让他对自己从事了一生的工作感到后悔。

在此之前，OpenAI于3月发布新版ChatGPT时，就有超过1000名技术领袖和研究人员签署了一封公开信，宣称人工智能技术“对社会构成深远风险”。

不过，Hinton离开谷歌后的这次发言，把AI威胁论带到了新的高度。这项技术的主要推动者突然有了AI会产生严重危害的结论，让很多人都震惊了。

《纽约时报》说Hinton从AI开拓者到末日预言者的转变标志着行业的一个非凡时刻，也许是几十年来最重要的转折点。

那么，是什么让他产生这样的转变呢？

Hinton 最著名的贡献之一是他在1986年与两位同事共同提出的一种称为反向传播的算法。简而言之就是让机器自主学习的算法。它是当今几乎所有像计算机视觉系统、大型语言模型这种神经网络的基础性技术。

2012年，Hinton与他的两位学生Ilya Sutskever和Alex Krizhevsky构建的卷积神经网络在ImageNet大规模视觉识别挑战赛中以巨大优势夺冠，将深度学习推向主流。而Ilya Sutskever正是OpenAI的联合创始人和首席科学家。

2018 年，Hinton获得了图灵奖。当时他对人工智能的经济影响持乐观态度，他说“未来的 AI会知道很多关于你可能想要做的事情，但它不会取代你”。 

但是在去年，随着OpenAI和谷歌等公司使用大量数据构建并改进ChatGPT 等AI系统，他的观点发生了变化。他已经开始认为AI在某些方面将使人类智能黯然失色。

最近，Hinton在接受《MIT Technology Review》采访时说，新一代的大型语言模型，尤其是 OpenAI 在 3 月份发布的GPT-4，让他意识到机器正朝着比他想象的要聪明得多的方向发展，他害怕这会发挥难以控制的作用。

他还提到“让我很担心的是，科技巨头正在陷入一场可能无法停止的竞争。公司竞争越是激烈，AI发展的速度越快。”

他可能预感到了AI技术对人类社会发展的巨大推动力，同时对其可能带来的副作用以及社会调节机制不明确，所有才有了这样的困惑。  

但是，大公司的技术竞争，在多大程度上将是坏事，需要制定什么样的机制来预防潜在的风险？或者说采取谷歌那种缓慢保守的策略就是合适的吗？

其实，人类文明本来就是与技术协同进化的历史，人类不仅能发明技术，还能很好地掌控技术，提升整个文明的发展水平。

比如，面对核武器的威胁，人们用《不扩散核武器条约》来防止核扩散，推动核裁军和促进和平利用核能的国际合作。面对化学武器的威胁，国际社会用《禁止化学武器公约》来禁止发展、生产、储存和使用化学武器。

就人工智能技术来说，采取什么样的方式来规避潜在风险，需要联合行业领导者共同进行评估，而不是单纯的遏制或禁止。

其实，Hinton后悔自己对人工智能做出贡献。就如同“原子弹之父”奥本海默后悔研发出原子弹一样。实际上，即使奥本海默不做，当时德国也在研发原子弹，并且是由完成了核反应堆理论并获得过诺贝尔物理学奖的海森堡牵头研发。

你能想象希特勒统治的德国，如果掌握了原子弹技术，人类社会是什么样子的吗？

但是，核技术除了应用于原子弹之外，也产生了核电站、核医疗等对人类社会发展有益的成果。人工智能也一样，不仅具有风险的一面，还有为人类生活造福的一面。

实际上，在数字技术时代，人类与计算机就已经成为了相互依存、协同共生的关系。想象一下，假如全球的电脑都被永久关闭并且无法再启动将会发生什么？对于人类来说必将是灾难。

我在科技特训营讲过，这次的人工智能技术革命堪比蒸汽机革命，并且已经从技术导入期进入展开期，正在应用到各行各业，人类与人工智能相互依存的趋势已经不可逆转。

所以，即使有潜在风险，也不应该过于强调新技术消极的一面。我们应该合力研究如何有效掌握和利用人工智能技术，探索与人工智能协同进化的机制，让人工智能最大限度的为人类服务。

以上是今天的内容，更多详细的产业分析和底层逻辑，我会在科技特训营里分享。欢迎关注全球风口微信号，报名加入！

 王煜全要闻评论，我们明天见！