Redian新闻
>
75岁深度学习之父突然离职谷歌:痛悔毕生工作,警告AI会对人类构成「灾难性」威胁

75岁深度学习之父突然离职谷歌:痛悔毕生工作,警告AI会对人类构成「灾难性」威胁

公众号新闻


整理 | 刘燕,核子可乐  
带着对毕生工作的遗憾和恐惧,“AI 教父”决定离开谷歌 。
Geoffrey Hinton 从谷歌辞职

人工智能教父 Geoffrey Hinton 辞去了工作,并警告这一技术领域的持续发展或将带来巨大风险。 

Geoffrey Hinton(图左)已经离开谷歌

现年 75 岁的 Geoffrey Hinton 在发给《纽约时报》的声明中证实,他已经正式从谷歌辞职。

《纽约时报》报道称,Hinton 上个月已经向谷歌递交了辞呈,并于上周四直接与谷歌 CEO Sundar Pichai 当面交流。不过目前尚不清楚此次讨论的具体细节。

Geoffrey Hinton 因其在神经网络方面的开创性工作获得“计算机届的诺贝尔奖” — 图灵奖。Geoffrey Hinton 作为“三位 AI 教父”之一,与另外两位合作伙伴共同获得了 2018 年图灵奖,旨在表彰他们为当前 AI 繁荣做出的基础性贡献。

但如今的他却对自己投入一生的研究感到遗憾。

根据《纽约时报》对他的采访,Hinton 最近刚刚辞去在谷歌的工作,也终于可以畅谈 AI 技术背后的风险了。已经在谷歌工作十多年的 Hinton 表示,“我总在用这样的借口安慰自己:哪怕我自己不做,其他人也会这样做。但目前真的不知道要怎么防止坏蛋利用 AI 来作恶。”

虚假信息的传播只是 Hinton 眼下想要强调的风险之一。从长远来看,他担心 AI 会彻底消除一切需要大量记忆的工作,而随着其逐步编写并运行构成自身的代码,AI 也许会最终取代人类。

Hinton 在采访中指出,“其实不少人都相信,AI 实际上能够变得比人类更聪明,但大多数人认为这还很遥远。没错,我也曾经觉得还很遥远,没准要再过 30 年、50 年甚至更久。但现在,我显然没法再这么想了。”

在接受 BBC 采访时,他甚至提到 AI 聊天机器人已经构成“相当可怕”的威胁。“据我所知,目前的 IT 还不比我们聪明,但我相信它们很快就会超越人类。”

此外,Hinton 博士承认自己离开谷歌也有年龄方面的考量,他告诉 BBC“我已经 75 岁,是时候退休了。”

Geoffrey Hinton:GPT-4 等模型
已拥有远超一般人的知识储备

Hinton 博士在神经网络和深度学习方面的开创性研究,为如今包括 ChatGPT 在内的 AI 系统铺平了发展之路。

在人工智能当中,神经网络是一种在信息学习和处理方面与人脑相似的系统。正是神经网络让 AI 能够像人类一样从经验中学习,这就是我们常说的深度学习概念。

谷歌当初收购了一家由 Hinton 和他两名学生共同创办的公司,这位终身学者也由此加入搜索巨头麾下。其中一名学生后来成为 OpenAI 的首席科学家。Hinton 和他的学生们开发了一套神经网络,在分析了数千张照片之后,它成功学会了识别狗、猫和花等常见物体。正是这项工作,最终促成了 ChatGPT 和谷歌 Bard 的诞生。

Hinton 这位认知心理学家兼计算机科学家表示,聊天机器人很快就会超越人脑所能容纳的信息水平。

“现在,我们看到的 GPT-4 等模型已经拥有远超一般人的知识储备,没错,是远远超过。虽然在推理方面还不太好,但 AI 也已经具备了简单的推理能力。”

“考虑到其发展速度,我们预计情况会很快好转。而这正是我们最担心的问题。”

在《纽约时报》的文章中,Hinton 博士提到了那帮打算用 AI“干坏事”的“坏蛋们”。在采访当中,他进一步解释道:“当然,这考虑的是最糟糕的情况,堪称噩梦。”“比方说,大家可以想象某些威权领导者可能给出总体目标,然后任由 AI 机器人制定附属计划。”

这位科学家警告称,此类行为最终可能会让 AI“制定出「我需要获取更多能量」之类的实施计划”。“在我看来,我们正在开发的智能跟人类自身拥有的智能有着明显区别。”

“我们属于生物系统,AI 则属于数字系统。二者最大的区别在于,数字系统之间有着大量相同的权重集和相同的世界模型。”

“所有这些副本既可以各自单独学习,也可以立即实现知识共享。这就好像面对一万个人,每个人都能分别学习知识,而其他人会自动同步掌握这些知识。正因为如此,聊天机器人的信息储备才远远超过一切人类。”

英国高级研究与发明局主席 Matt Clifford 也以个人身份向 BBC 表示,Hinton 博士的声明“凸显出 AI 能力正以惊人的速度加快发展”。“这项技术有着巨大的优势,但人类世界必须在 AI 安全与控制方面紧急投入更多资源。”

“没必要叫停 AI 模型的开发工作”

与 Hinton 博士一道,还有更多专家加入这个行列,他们纷纷对 AI 的发展速度和方向表达了担忧。

今年 3 月,AI 领域数十人共同署名、科技富豪马斯克高调参与的一封公开信震惊世界,他们呼吁暂停一切比当前版本聊天机器人 ChatGPT 更先进的 AI 模型开发工作,腾出时间设计并实施更强有力的安全控制措施。

与 Hinton 博士及 Yann LeCun 共同因深度学习方面的卓越贡献而获得 2018 年图灵奖的另一位 AI 教父 Yoshua Bengio,也在这封公开信上签下了姓名。Bengio 写道,面对 AI 系统的“意外加速”,“我们需要放缓脚步”。

但 Hinton 博士告诉 BBC,“在短期之内”,他认为 AI 带来的好处还是多于风险,“所以我觉得没必要叫停 AI 模型的开发工作。”

他还提到,如今 AI 已经在各个国家之间引起军备竞赛,所以想要叫停将会困难重重。“即使美国这边全体停手,中国也会继续推进并取得巨大的领先优势。”

Hinton 博士表示,他只是科学专家,并不是政策专家。政府有责任确保 AI 的开发工作“充分考虑到如何阻止其被恶意滥用”。

“负责任的做法”

Hinton 同时在 Twitter 上澄清了自己对谷歌 AI 管理工作的立场:



“在今天的《纽约时报》采访中,记者暗示我离开谷歌是对公司不满。实际上,我离开是为了讨论 AI 的风险,而不是要表达对谷歌的态度。谷歌对待 AI 的态度一直非常负责”。

Hinton 博士强调,他并不想批评谷歌,这家科技巨头已经“极具责任心”。

“我甚至想替谷歌说几句好话。如果我不是谷歌员工,那这些表述应该会更可信。”

根据《纽约时报》的采访,Hinton 对谷歌的 AI 技术管理举措表示赞许,也承认微软将 OpenAI 新成果注入 Bing 的行为直接挑战了谷歌的核心业务,在搜索巨头内部引发了“红色代码”反应。Hinton 感到这股激烈的竞争浪潮恐怕无法平息,最终可能令整个世界充斥着虚假的图像和文字,人类再也无法分辨“什么是真、什么是假”。

谷歌首席科学家 Jeff Dean 则通过声明想要缓和这种担忧,“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险,与此同时也在大胆创新。”

谷歌首席科学家 Jeff Dean 在一份声明中指出,“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险,与此同时也在大胆创新。”

更重要的是,AI 聊天机器人还只是 AI 技术的一个小小切片,只不过目前成了风口浪尖上的焦点议题。

AI 技术已经在流媒体平台上决定用户接下来会看到什么内容,也可以在招聘流程中被用于筛选申请人、被保险公司用于计算保费,也可以诊断医疗状况(但最终决策权还是在人类医生手中)。

但如今,我们已经开始感受到通用人工智能(AGI)的兴起,它们能够通过训练完成特定范围内的各类任务。所以尽管目前 ChatGPT 主要通过查询向用户提供文本答案,但其背后同时蕴藏着无穷无尽的可能性。

而且 AI 发展的速度本身甚至令其创造者也感到惊讶。自从 Hinton 博士 2012 年建立起开创性的图像分析神经网络以来,AI 世界已经发生了翻天覆地的变化。

就连谷歌掌门人 Sundar Pichai 也在最近的采访中表示,他也无法完全理解自家 AI 聊天机器人 Bard 所能做到的一切。也就是说,我们正坐在一列高速列车上,而它或许终有一天能够自行建造轨道。

参考链接:

https://www.bbc.com/news/world-us-canada-65452940?at_medium=RSS&at_campaign=KARANGA

https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings

今日荐文

7天花5万美元,我们成功复制了 Stable Diffusion,成本大降88%!训练代码已开源

2023年,Rust能“干掉”JavaScript吗?


AI开始抢黑客饭碗?攻击快又准,不到一分钟破解超过半数的密码


字节跳动回应140万美元年薪挖角OpenAI;天涯社区疑似关停,已欠数千万服务器费用;寒武纪否认恶意裁员 | AI一周资讯


部署像ChatGPT这样的大语言模型,到底要花多少钱?


一天就花 500 万元,运行 ChatGPT 太烧钱!微软为省钱已秘密自研 AI 芯片 4 年,今年或发布

你也「在看」吗? 👇

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
AI教父离职Google只为警告人类,对毕生工作感到后悔!75岁图灵奖得主Hinton离职谷歌:痛悔毕生工作,无法阻止人类AI大战“AI教父”从谷歌离职,警告AI风险:对自己毕生的工作感到后悔75岁“AI教父”离职谷歌!痛悔毕生工作,无法阻止人类AI大战75岁图灵奖得主Hinton离职谷歌!痛悔毕生工作,无法阻止人类AI大战早财经丨格力称孟羽童已离职;天舟六号与空间站完成交会对接;谷歌发布AI语言模型PaLM 2,挑战GPT-4AI教父离开谷歌,警告人工智能威胁…“将比人类更聪明”76岁深度学习之父Hinton离职谷歌!发表AI威胁论,悲观预言灾难性风险斯里兰卡 | 总统保证:国内债务重组不会对银行系统稳定构成任何威胁,存款和利率都不受影响深度学习之父辞职:后悔自己的发明,警告AI对人类的威胁!!!性骚扰与「性」有关,但远不止「性」专访ChatGPT之父,不担心人类没工作,但这一点让他夜不能寐AI教父、图灵奖得主Hinton离职谷歌,对毕生工作后悔和恐惧焦虑|AI教父突然离开谷歌!人类最担心的已经开始......「AI 教父」离职谷歌:对毕生工作感到后悔和恐惧灾难性沉船!“船上可能有750人”,船长弃船逃跑,78人死亡,数百人失踪...AI教父离开Google"后悔毕生心血",警告人工智慧将比人类更聪明突发:深度学习之父从谷歌离职,警告 AI 风险【担忧】AI教父突然离开谷歌,最担心的已开始,IBM刚刚官宣...AI之父辞职谷歌,并告诫:人工智能或将毁灭人类【放开你的心】《在他乡》深度学习机器视觉与生成式AI 「云集|职挂云帆」ML学习小组锣的传奇故事美国宾州首府哈里斯堡(Harrisburg),市政大厦打卡这一巴掌,打出了多少旧伤新痛(图)刘永好x宋志平x秦朔:「狼性」和「羊性」结合,发展会更好太快了!AI教父突然离开谷歌,最担心的已经开始,IBM刚刚官宣...35岁深圳女高管当街晕倒50分钟,路人经过无人帮扶致死苹果正式发布WWDC23预告/马斯克展开中国行/多位AI权威警告「人类灭绝」威胁AI教父离职Google警告人类,对毕生工作感到后悔35岁深圳女高管地铁站出口晕倒50分钟,路人经过无人帮扶致死突发!董明珠"接班人"离职!拜登发出威胁:将取消!啥情况?高盛警告:灾难性后果AI之父从谷歌辞职!警告AI或将毁灭人类,还说自己很后悔?!谷歌突失Hinton!深度学习之父警告AI风险,对毕生工作表示遗憾失真
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。