Redian新闻
>
AI教父、图灵奖得主Hinton离职谷歌,对毕生工作后悔和恐惧

AI教父、图灵奖得主Hinton离职谷歌,对毕生工作后悔和恐惧

公众号新闻
     5.03
知识分子
The Intellectual       

5月1日,《纽约时报》报道Geoffrey Hinton从Google离职的消息。

《纽约时报》称,Hinton对毕生工作感到后悔和恐惧。

消息震惊业界。


Hinton是享誉全球的认知心理学和计算机科学家,近50年来致力于神经网络的研究。正是他的毕生工作,才有了今天AI的突破性进展。

在2018年,他因为深度学习的研究获得图灵奖,被称为“AI 教父”。他的研究最终助力了LLM的诞生,OpenAI的首席科学家伊利亚·苏茨克维也是Hinton的得意门生之一。

Hinton在2013年加入Google,负责谷歌大脑的部分工作,并担任Google副总裁。


 ●                   ●                    

恐惧的未来,也许即将到来


据《纽约时报》,身在多伦多的 Hinton 在4月向 Google 提出了辞职,已于上周四与Sundar Pichai电话沟通结束,沟通细节并未披露。

Hinton离职的原因,是为了能够“自由地谈论人工智能的风险”,他对自己毕生的工作感到后悔。

我用一个正常的理由安慰自己:如果我没做,也会有别人这么做的,他说,(我)很难想象如何才能阻止作恶者用AI做坏事。”

值得一提的是,GPT-4刚发布时,Hinton对它赞誉有加:毛虫吸取了足够的养分,就能化茧成蝶,GPT-4就是人类的蝴蝶。

仅仅一个多月后,他的态度发生了 180 度转弯。

在采访中,Hinton 表达了几点担忧。

1、互联网将被虚假照片、视频和文本淹没,普通人将无法再知道什么是真实的

2、AI会颠覆就业市场,当下ChatGPT等产品能够帮助人类劳工的工作,但他们可能会取代执行固定任务的助理、个人助手和翻译等角色,它消除了单调乏味的工作,Hinton说,这可能只是个开始

3、未来,AI 会对人类的存在构成威胁,因为它们通过分析大量数据学习令人意外的行为。现在个人和公司不仅允许AI系统生成代码,并且会实际运行这些代码。他担心真正的自动化武器会成为现实(就像科幻片里的杀人机器人,Hinton当初离开美国就是因为不想接受国防部的投资)。

对于看似科幻的悲观未来,Hinton说:它可能比人类更聪明,少部分人相信这点。但大多数人认为这样的未来距离很遥远,我曾经也认为很远,可能需要30到50年甚至更久的时间。但显然,现在我不这么认为了。

4、还有一个核心观点,Hinton 认为,以上这些对未来悲观的预期,目前仍是假设,但可能会导致它们成为现实的情况已经出现:微软和谷歌的剧烈竞争,美国和中国的全球竞赛。

狼性的发展和竞争会导致恶果,到那时一切都无法被阻止。

人们在强调AI危险性的时候,往往会将它比喻成计算机领域的核武器”。

20世纪,无论是写信给罗斯福的爱因斯坦,还是奥本海默,都在二战之后明确表达了为参与核武器研发和建议感到后悔,更为核武器成为冷战筹码和政治威胁的工具感到强烈不满。

开启历史,也将见证终结


Hinton毕业于英国剑桥大学,在爱丁堡大学获得人工智能博士学位,主攻神经网络方向。

在神经网络备受质疑的时期,他没有动摇对这一技术方向的信念,接连提出了反向传播算法、波尔茨曼机,在数十年后,深度学习取得爆发性进展,他的研究才被更多AI同行认可。

博士毕业后,Hinton前往美国卡内基梅隆大学任教,几年后,他对美国AI研究由国防部赞助感到不满,离开美国前往加拿大,在多伦多大学计算机科学学院任教至今。

研究神经网络40年后,Hinton与学生Alex Krizhevsky和Ilya Sutskever提出卷积神经网络(CNN)架构AlexNet,震撼业界,重塑计算机视觉领域,开启了深度学习的黄金时代。


2012年NIPS大会期间,来自全球的科技巨头向Hinton抛出橄榄枝。Hinton 与两位学生成立公司DNN-research,随后以4400万美元天价卖给 Google。他本人也加入Google,负责Google Brain的部分研究工作,title是Google副总裁和Engineering Fellow。

他的两位爱徒之一,Ilya Sutskever在加入Google两年后离职,加入新创办的研究机构OpenAI。

因为深度学习的研究,Hinton与Yann LeCun和Yoshua Bengio 一起获得2018年图灵奖,英文世界将他们称为AI 教父(Godfathers of AI),中文世界习惯将他们称为深度学习三巨头


上文提到,Hinton在GPT-4发布之初还对其赞誉有加。事实上,Hinton也一直在思考AI可能会带来的危险。

在3月初接受CBS采访时,Hinton表示,他对AI威胁人类有些担忧,对于AI是否会毁灭人类,他认为这并非不可能但是,令我担忧的是政治局势,确保每一个人都明智行事,是一个巨大的政治挑战

很多个体会追求正确的道路,但企业不一样,利润动机可能不会让它们像为它们工作的个体那样谨慎。他说,我只真正了解Google,这是我唯一工作过的企业,他们一直是最谨慎的企业之一。

然而,Hinton并不是Google的决策层,经历了过去一个多月AI日新月异的发展后,Hinton的想法发生了转变。

也许他已经看清,就连Google内部也不知道谁在决定Google AI的发展方向。


飓风中凌乱 

下一个离开谷歌的是谁?


在《纽约时报》发文之后,Hinton很快在推特上回应,称报道似乎意指他离开Google是为了批评Google,但实际上,他是为了能够警醒人们AI危险性的同时不伤害到Google(考虑他副总裁的身份),Google的表现很有责任心


但一直作为人工智能领先代表的Google ,很明显也在这一局的AI竞争中落入了下风,Bard公开演示的一场失误,让Google市值少了将近千亿美元,而到现在,Google还没有正式推出能与ChatGPT相抗衡的产品。

网络上可以看到各种文章阐释为什么Google Brain没能在AI竞赛中摘得最终的桂冠,然而,这一切还没有结束。

近日,科技媒体The Information最近的一篇特稿梳理了 Google 目前的一些一些问题,以及Alphabet CEO桑德尔·皮查伊(Sundar Pichai)所陷入的困境,我们快速整理了文章的一些要点。

  • 自从2019年出任Alphabet CEO以来,Pichai一直面临着诸多困难:内部权力斗争、来自监管机构的严格监管、员工向管理层的施压、以及来自前任拉里·佩奇的潜在压力等,Pichai甚至在内部表示会在几年后辞去职位。
     
  • 与微软CEO纳德拉相比,Pichai权力较小,更注重控制成本,这有利于他在佩奇时代获升迁, 但也使Alphabet在人工智能等新技术方面投入不足。而且Pichai的权力和影响力较小,难以调遣高管们采取行动,难以有效调和DeepMind和Google Brain的业务发展冲突,这会影响Alphabet的发展方向和速度。
     
  • Pichai的管理风格不一定适合Alphabet当前面临的挑战,他是否适合继续担任CEO仍受质疑。Pichai更偏向技术,但现在必须应对Alphabet整体的困境,这可能超出他的能力范围了。根据Alphabet现任和前任员工的说法,公司上下普遍认为,他可能不适合这个时候继续担任首席执行官。
     
  • Pichai的低调风格并不总是有助于他处理任期内出现的各种小争议。举例来说,在新冠肺炎疫情之前,Pichai经常因为员工抗议谷歌包庇曾性骚扰同事的安卓之父安迪·鲁宾而遭到批评。出现的其他有争议的问题还包括谷歌与美国军方的合作等等。

  • Alphabet的官僚主义文化和高管的风险规避阻碍了新产品的推出,从而导致Alphabet在人工智能等领域落后于竞争对手。Lamda聊天机器人(Bard前身)开发人员在2021年集体离职,是因为他们的技术不被允许应用到Google Assistant;Google早就开发了文本生成图片的技术Imagen,但出于风险考虑,一直没有发布,结果被Dall-E 2抢先。
     
  • Alphabet新项目难以落地实施,TikTok带来的威胁促使谷歌采取行动,数百名员工被分配到一个被称为重要的搜索转移(Great Search Shift)的项目中工作。该项目原计划全面升级搜索引擎,但 Pichai 最终选择只对搜索引擎的外观和感觉做最小的改动。曾担任佩奇顾问的卡尔·巴斯(Carl Bass)表示:Alphabet一直故步自封……在这种情况下,很难推动员工前进。
     
  • Alphabet近来加快推出人工智能产品以追赶竞争对手, 但在技术、人才和资金上面临各种障碍。在2022年11月推出ChatGPT之前的几个月里,OpenAI从谷歌挖走了不少研究人员和工程师,这些前Google员工在ChatGPT的推出中发挥了重要作用。
     
  • 成本的限制,不少员工表示,将聊天机器人整合到Google中可能会增加成本,因为用聊天机器人进行查询比提供常规搜索结果更昂贵Google虽然在3月份发布了Bard,但限制了它可以做的事情,并且只针对相对较小的用户群体,这在一定程度上是一种节省成本的措施。
     
  • 即使如此,Google的前员工和不少在职员工表示,Google仍然比竞争对手有优势,这要归功于丰富的人才库和训练复杂的机器学习模型所需的硬件优势。一些人认为,Pichai曾担任产品经理的背景正是该公司将人工智能研究转化为产品所需的。Pichai监管Chrome等成功产品的履历表明,他可能会成功应对谷歌的最新挑战,毕竟,能成为Alphabet的CEO,并不能只靠运气。


关注《知识分子》视频号
get更多有趣、有料的科普内容


THE END




微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
谷歌突失Hinton!深度学习之父警告AI风险,对毕生工作表示遗憾图灵奖得主Hinton:我已经老了,如何控制比人类更聪明的AI交给你们了75岁图灵奖得主Hinton离职谷歌!痛悔毕生工作,无法阻止人类AI大战GPT-5恐被叫停!马斯克、图灵奖得主等千名专家呼吁暂停超强AI研发,至少6个月CCTV连线《硅谷时报》:主编于丽娜对话图灵奖得主、美国三院院士霍普克罗夫特- 美学者相信中国科学发展未来可期!为什么马斯克、图灵奖得主等千名从业者联名叫停大型AI研究?75岁深度学习之父突然离职谷歌:痛悔毕生工作,警告AI会对人类构成「灾难性」威胁76岁新晋图灵奖得主:我仍然处于学习曲线的早期阶段,正在努力共济会的沙俄 信仰的颠覆(七十九)七律 捶丸愿,望月叹立即停止训练比 GPT-4 更强的模型,至少六个月!马斯克、图灵奖得主等数千 AI 专家紧急呼吁“危险!立刻停下所有大型AI研究!”马斯克、图灵奖得主领衔,上千名硅谷企业家科学家联名呼吁75岁“AI教父”离职谷歌!痛悔毕生工作,无法阻止人类AI大战76岁深度学习之父Hinton离职谷歌!发表AI威胁论,悲观预言灾难性风险图灵奖得主LeCun:我赞成用LLM写论文!科研老将更恨ChatGPT?背靠英伟达+图灵奖得主,这家企服赛道公司成为第三大AI独角兽“我后悔!我后悔!我后悔!我后悔!我后悔!我后悔!”“伊基稀奇睨”,日威比肩斯科奇75岁图灵奖得主Hinton离职谷歌:痛悔毕生工作,无法阻止人类AI大战人工智能与中国菜名危险!马斯克、赫拉利、图灵奖主联署:“暂停巨型人工智能实验至少半年”的公开信叫停GPT-5!马斯克、苹果联合创始人、图灵奖得主联名上书:至少停6个月“AI教父”从谷歌离职,警告AI风险:对自己毕生的工作感到后悔谷歌痛失大将:“AI教父” Geoffrey Hinton离职,只为给人类敲响警钟?“AI教父”杰弗里・辛顿从谷歌离职发声:后悔发展AI,谷歌不再扮演AI“好管家”的角色AI教父离职Google只为警告人类,对毕生工作感到后悔!图灵奖得主Bengio最新长文:人类大脑是生物机器,一定会有超级智能AI超越它「AI 教父」离职谷歌:对毕生工作感到后悔和恐惧图灵奖得主杨立昆:GPT模式五年就不会有人用了,世界模型才是AGI未来大模型不是未来?你需要学习下图灵奖得主Yann LeCun选择的「世界模型」AI教父离职Google警告人类,对毕生工作感到后悔英伟达撑腰+图灵奖得主投资,这家企业赛道的公司成为AI领域第三大独角兽图灵奖得主,超算Top 500榜单创始人:机器学习太过依赖GPU了!AI太强,人类危险?马斯克、图灵奖得主紧急呼吁暂停GPT-4模型后续研发如何调整自己的心态使自己慢老
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。