AI教父、图灵奖得主Hinton离职谷歌，对毕生工作后悔和恐惧

公众号新闻

2023-05-03 00:05

5.03

知识分子

The Intellectual

5月1日，《纽约时报》报道Geoffrey Hinton从Google离职的消息。

《纽约时报》称，Hinton对毕生工作感到后悔和恐惧。

消息震惊业界。

Hinton是享誉全球的认知心理学和计算机科学家，近50年来致力于神经网络的研究。正是他的毕生工作，才有了今天AI的突破性进展。

在2018年，他因为深度学习的研究获得图灵奖，被称为“AI 教父”。他的研究最终助力了LLM的诞生，OpenAI的首席科学家伊利亚·苏茨克维也是Hinton的得意门生之一。

Hinton在2013年加入Google，负责谷歌大脑的部分工作，并担任Google副总裁。

● 　● 　●

恐惧的未来，也许即将到来

据《纽约时报》，身在多伦多的 Hinton 在4月向 Google 提出了辞职，已于上周四与Sundar Pichai电话沟通结束，沟通细节并未披露。

Hinton离职的原因，是为了能够“自由地谈论人工智能的风险”，他对自己毕生的工作感到后悔。

“我用一个正常的理由安慰自己：如果我没做，也会有别人这么做的”，他说，“（我）很难想象如何才能阻止作恶者用AI做坏事。”

值得一提的是，GPT-4刚发布时，Hinton对它赞誉有加：“毛虫吸取了足够的养分，就能化茧成蝶，GPT-4就是人类的蝴蝶。”

仅仅一个多月后，他的态度发生了 180 度转弯。

在采访中，Hinton 表达了几点担忧。

1、互联网将被虚假照片、视频和文本淹没，普通人将“无法再知道什么是真实的”。

2、AI会颠覆就业市场，当下ChatGPT等产品能够帮助人类劳工的工作，但他们可能会取代执行固定任务的助理、个人助手和翻译等角色，“它消除了单调乏味的工作”，Hinton说，“这可能只是个开始”。

3、未来，AI 会对人类的存在构成威胁，因为它们通过分析大量数据学习令人意外的行为。现在个人和公司不仅允许AI系统生成代码，并且会实际运行这些代码。他担心真正的自动化武器会成为现实（就像科幻片里的杀人机器人，Hinton当初离开美国就是因为不想接受国防部的投资）。

对于看似科幻的悲观未来，Hinton说：“它可能比人类更聪明，少部分人相信这点。但大多数人认为这样的未来距离很遥远，我曾经也认为很远，可能需要30到50年甚至更久的时间。但显然，现在我不这么认为了。”

4、还有一个核心观点，Hinton 认为，以上这些对未来悲观的预期，目前仍是假设，但可能会导致它们成为现实的情况已经出现：微软和谷歌的剧烈竞争，美国和中国的全球竞赛。

狼性的发展和竞争会导致恶果，到那时一切都无法被阻止。

人们在强调AI危险性的时候，往往会将它比喻成计算机领域的“核武器”。

20世纪，无论是写信给罗斯福的爱因斯坦，还是奥本海默，都在二战之后明确表达了为参与核武器研发和建议感到后悔，更为核武器成为冷战筹码和政治威胁的工具感到强烈不满。

开启历史，也将见证终结

Hinton毕业于英国剑桥大学，在爱丁堡大学获得人工智能博士学位，主攻神经网络方向。

在神经网络备受质疑的时期，他没有动摇对这一技术方向的信念，接连提出了反向传播算法、波尔茨曼机，在数十年后，深度学习取得爆发性进展，他的研究才被更多AI同行认可。

博士毕业后，Hinton前往美国卡内基梅隆大学任教，几年后，他对美国AI研究由国防部赞助感到不满，离开美国前往加拿大，在多伦多大学计算机科学学院任教至今。

研究神经网络40年后，Hinton与学生Alex Krizhevsky和Ilya Sutskever提出卷积神经网络（CNN）架构AlexNet，震撼业界，重塑计算机视觉领域，开启了深度学习的黄金时代。

2012年NIPS大会期间，来自全球的科技巨头向Hinton抛出橄榄枝。Hinton 与两位学生成立公司DNN-research，随后以4400万美元天价卖给 Google。他本人也加入Google，负责Google Brain的部分研究工作，title是Google副总裁和Engineering Fellow。

他的两位爱徒之一，Ilya Sutskever在加入Google两年后离职，加入新创办的研究机构OpenAI。

因为深度学习的研究，Hinton与Yann LeCun和Yoshua Bengio 一起获得2018年图灵奖，英文世界将他们称为“AI 教父”（Godfathers of AI），中文世界习惯将他们称为“深度学习三巨头”。

上文提到，Hinton在GPT-4发布之初还对其赞誉有加。事实上，Hinton也一直在思考AI可能会带来的危险。

在3月初接受CBS采访时，Hinton表示，他对“AI威胁人类”有些担忧，对于“AI是否会毁灭人类”，他“认为这并非不可能”，“但是，令我担忧的是政治局势，确保每一个人都明智行事，是一个巨大的政治挑战”。

“很多个体会追求正确的道路，但企业不一样，利润动机可能不会让它们像为它们工作的个体那样谨慎。”他说，“我只真正了解Google，这是我唯一工作过的企业，他们一直是最谨慎的企业之一。”

然而，Hinton并不是Google的决策层，经历了过去一个多月AI日新月异的发展后，Hinton的想法发生了转变。

也许他已经看清，就连Google内部也不知道谁在决定Google AI的发展方向。

飓风中凌乱

下一个离开谷歌的是谁？

在《纽约时报》发文之后，Hinton很快在推特上回应，称报道似乎意指他离开Google“是为了批评Google”，但实际上，他是为了能够警醒人们AI危险性的同时不伤害到Google（考虑他副总裁的身份），“Google的表现很有责任心”。

但一直作为人工智能领先代表的Google ，很明显也在这一局的AI竞争中落入了下风，Bard公开演示的一场失误，让Google市值少了将近千亿美元，而到现在，Google还没有正式推出能与ChatGPT相抗衡的产品。

网络上可以看到各种文章阐释为什么Google Brain没能在AI竞赛中摘得最终的桂冠，然而，这一切还没有结束。

近日，科技媒体The Information最近的一篇特稿梳理了 Google 目前的一些一些问题，以及Alphabet CEO桑德尔·皮查伊（Sundar Pichai）所陷入的困境，我们快速整理了文章的一些要点。

自从2019年出任Alphabet CEO以来，Pichai一直面临着诸多困难：内部权力斗争、来自监管机构的严格监管、员工向管理层的施压、以及来自前任拉里·佩奇的潜在压力等，Pichai甚至在内部表示会在几年后辞去职位。
与微软CEO纳德拉相比，Pichai权力较小，更注重控制成本，这有利于他在佩奇时代获升迁, 但也使Alphabet在人工智能等新技术方面投入不足。而且Pichai的权力和影响力较小，难以调遣高管们采取行动，难以有效调和DeepMind和Google Brain的业务发展冲突，这会影响Alphabet的发展方向和速度。
Pichai的管理风格不一定适合Alphabet当前面临的挑战，他是否适合继续担任CEO仍受质疑。Pichai更偏向技术，但现在必须应对Alphabet整体的困境，这可能超出他的能力范围了。根据Alphabet现任和前任员工的说法，公司上下普遍认为，他可能不适合这个时候继续担任首席执行官。
Pichai的低调风格并不总是有助于他处理任期内出现的各种小争议。举例来说，在新冠肺炎疫情之前，Pichai经常因为员工抗议谷歌包庇曾性骚扰同事的“安卓之父”安迪·鲁宾而遭到批评。出现的其他有争议的问题还包括谷歌与美国军方的合作等等。
Alphabet的官僚主义文化和高管的风险规避阻碍了新产品的推出，从而导致Alphabet在人工智能等领域落后于竞争对手。Lamda聊天机器人（Bard前身）开发人员在2021年集体离职，是因为他们的技术不被允许应用到Google Assistant；Google早就开发了文本生成图片的技术Imagen，但出于风险考虑，一直没有发布，结果被Dall-E 2抢先。
Alphabet新项目难以落地实施，TikTok带来的威胁促使谷歌采取行动，数百名员工被分配到一个被称为“重要的搜索转移”（Great Search Shift）的项目中工作。该项目原计划全面升级搜索引擎，但 Pichai 最终选择只对搜索引擎的外观和感觉做最小的改动。曾担任佩奇顾问的卡尔·巴斯（Carl Bass）表示：“Alphabet一直故步自封……在这种情况下，很难推动员工前进。”
Alphabet近来加快推出人工智能产品以追赶竞争对手, 但在技术、人才和资金上面临各种障碍。在2022年11月推出ChatGPT之前的几个月里，OpenAI从谷歌挖走了不少研究人员和工程师，这些前Google员工在ChatGPT的推出中发挥了重要作用。
成本的限制，不少员工表示，将聊天机器人整合到Google中可能会增加成本，因为用聊天机器人进行查询比提供常规搜索结果更昂贵Google虽然在3月份发布了Bard，但限制了它可以做的事情，并且只针对相对较小的用户群体，这在一定程度上是一种节省成本的措施。
即使如此，Google的前员工和不少在职员工表示，Google仍然比竞争对手有优势，这要归功于丰富的人才库和训练复杂的机器学习模型所需的硬件优势。一些人认为，Pichai曾担任产品经理的背景正是该公司将人工智能研究转化为产品所需的。Pichai监管Chrome等成功产品的履历表明，他可能会成功应对谷歌的最新挑战，毕竟，能成为Alphabet的CEO，并不能只靠运气。

关注《知识分子》视频号

get更多有趣、有料的科普内容

THE END

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章