今天，《卫报》报道，被誉为人工智能教父的杰弗里·辛顿博士（Geoffrey Hinton）透露，白宫、科技巨头伊隆·马斯（Elon Musk）克及民主党总统候选人伯尼·桑德斯（Bernie Sanders）都向他求救，一时之间，关于AI的纷争再起。
此次对AI的广泛质疑从大佬离职之日始。
《纽约时报》5月1日报道，被视为人工智能（AI）之父的杰弗里·辛顿（Geoffrey Hinton）周一宣布离开谷歌。他警告称，人工智能领域的发展带来越来越大的危险。在给《纽约时报》的一份声明中，辛顿博士坦言对现在的工作感到后悔。
辛顿博士从五十前开始研究电脑神经系统。1972年，作为英国爱丁堡大学的一名研究生，辛顿接受了人工神经网的概念，即通过分析数据学习技能的系统，并以研发该系统作为主要工作。20世纪80年代，辛顿在卡内基-梅隆大学计算机系担任教授，但后来离开该大学前往加拿大，因为他不想接受五角大楼的经费资助。当时，美国的大部分人工智能研究都是由国防部资助的。但辛顿强烈反对在战场上使用人工智能，即他所说的“机器士兵”。
2012年，欣顿博士和他在多伦多的两名学生伊利亚·苏茨克韦尔和亚历克斯·克里舍夫斯基共同创建了一个人工神经网，它可以通过分析数千张照片建立自己识别物体的能力，比如认识花、狗和汽车。谷歌斥资4400万美元收购了由欣顿博士及其两名学生创办的公司。他们创建的系统催生了越来越强大的技术，包括聊天机器人ChatGPT和谷歌的巴德（Bard）。苏茨克韦尔后来成为OpenAI的首席科学家。
大约同一时间，谷歌、OpenAI和其他公司开始建立通过大量数字化文本学习的人工神经网。去年，谷歌公司和OpenAI公司开始利用更庞大的数据建立人工智能系统。欣顿博士认为，这些系统在某些方面仍然不如人脑，但在其他方面已经超过了人类智力。他认为，随着企业逐渐升级人工智能系统，它们将变得越来越危险。辛顿博士在神经网络和深度学习方面的开创性研究，为当前的人工智能系统，如谷歌的Bard聊天机器人和微软的ChatGPT铺平道路。这位认知心理学家及计算机科学家告诉BBC，聊天机器人可能很快就会比人类更聪明。
辛顿在本周向《纽约时报》发表声明，宣布辞去谷歌的职务，称他现在对自己的工作感到后悔。他说：“我现在可以自由地说出我认为危险可能是什么。有些危险是相当可怕的。”
辛顿在接受BBC采访时说：“目前，我们看到的是像GPT-4这样的东西，在它所拥有的一般知识方面超过了一个人，并且超过了很多。在推理方面，它还不是很好，但它已经能够做一些简单的推理。而且考虑到进步的速度，我们预计事情会很快变得更好。所以我们需要担心这一点。目前，它们还没有比我们更聪明，据我所知。但我认为它们很快可能会。”
辛顿在《纽约时报》文章中提到了“坏人”会试图利用AI做“坏事”的问题。当BBC问他详细说明这一点时，他回答说：“这只是一种最坏情况的情景，一种噩梦情景。你可以想象，例如，一些坏人像（俄罗斯总统弗拉基米尔）普京那样决定给机器人创造自己的子目标。”
普京在人工智能国际会议
这位科学家警告说，这最终可能“创造出像‘我需要获得更多权力’这样的子目标”。辛顿还说，他辞职还有其他几个原因。“一个是，我75岁了。所以是时候退休了。另一个是，我实际上想说一些关于谷歌的好话。而且如果我不为谷歌工作，它们会更有说服力。”他强调说，他不想批评谷歌，并且该公司一直“非常负责任”。但是，离开谷歌之后的辛顿周一便正式加入到人工智能批评者的行列。他自己也表示，他离开谷歌可以作为一个研究者而不是一个企业的雇员，更好地表达自己，他是基于希望给世人一个警示才离开的。辛顿说，他已辞去谷歌的工作，并对自己一生致力于人工智能开发感到有些后悔。辛顿已为谷歌效力长达十年。
辛顿从人工智能奠基人到末日预言者的转变，标志着科技产业的一个关键时刻，该行业正处于几十年来最重要的转折点。业界领袖认为，人工智能系统的重要性可与上世纪90年代初引入网络浏览器媲美，并可能给从制药到教育等一系列领域带来突破。但许多业内人士担心，这有可能是一项危险的技术。人工智能已经成为生成错误信息的工具。很快，它就会带来就业风险。对人工智能感到最不放心的业界人士甚至认为，人工智能可能对人类构成威胁。
他眼下最担心的是，互联网上将充斥着各种虚假照片、虚假视频和文字，普通人“再也无法知道什么是真的了”。
根据亚利桑那州电视台KPHO报道，一名叫詹妮弗·德斯特法诺（Jennifer DeStefano）的母亲接到陌生号码来电，但她丝毫没有怀疑这是一通诈骗电话。
“妈妈，救我！”德斯特法诺接到求救电话，听到女儿的声音就信以为真，相信女儿被人绑架，差点被勒索100万美元。但是，女儿的声音其实不是出自女儿的嘴，而是骗子通过人工智能模拟生成的，就像远程腹语术一样。英国变态发明，360度溶解陈年牙垢
▼▼
▲点击图片查看▲
她说，她原本打算让这通电话转到语音信箱，突然想起15岁的女儿布莉（Brie）去滑雪，担心女儿出了意外，所以决定接听电话。
没想到，她接起电话就听到女儿求救的声音，哭喊着“妈妈”。
德斯特法诺听到电话另一端有个男人的声音，叫“布莉”躺下。她的困惑迅速变成了恐惧。那个男人随后接起电话，告诉德斯特法诺：“听好，你女儿在我这里。你要是报警，你要是打给任何人，我就用毒品塞爆她。我会对她为所欲为，然后把她送到墨西哥。”
德斯特法诺深信不疑女儿出事了，她还一直能听到女儿的声音哀求着：“妈妈，救救我。拜托救我，救我。”
这时，“绑匪”要求德斯特法诺交赎金，起初要求100万美元，听她说没钱后，“打折”到5万美元。幸好德斯特法诺当时在另一个女儿的舞蹈室，其他妈妈们得知情况也非常担心，纷纷伸出援手，有人报了警，有人则帮忙打给德斯特法诺的丈夫，迅速确认女儿无恙。
事实上，德斯特法诺听到的声音是通过人工智能模拟生成的，目前尚不清楚这个网络鲶鱼（cybernetic catfish）的身份，但计算机科学专家表示，语音复制技术已经发展到可以通过极短的声音片段来重新创造一个人的音调和说话方式的地步。亚利桑那州立大学的计算机科学教授和人工智能专家苏巴劳·卡姆巴哈帕蒂（Subbarao Kambhampati）说：“以前，需要更多的样本（才能这么做）。现在有一些方法，你只需要三秒钟的声音，就可以创造出非常相似的声音。”
他表示，通过足够大的样本量，人工智能可以模拟一个人的“语调”和“情感”。根据德斯特法诺在Facebook的帖文，女儿没有发布过自己声音的社交媒体账户。但她说，女儿曾经接受过采访，所以有大量的声音样本。
联邦调查局（FBI）的专家警告说，诈骗集团通常会在社交媒体上寻找目标。联邦调查局凤凰城分局助理特工丹·梅奥（Dan Mayo）说：“如果你将你的信息公开，你就可能被这样的人诈骗。他们会寻找公开的个人资料，尽可能地获取关于你的信息，一旦他们获得这些信息，他们就会深入挖掘你的情况。”
为了防止被骗，他建议接到类似电话的人反问“绑匪”一系列关于“受害者”的问题，并且留意骗子是否使用陌生的区号或国际号码。除了假信息充斥互联网，辛顿在采访中也表达了对 AI 可能消除就业机会的担心。他认为，AI可能取代很多大量的单调的重复性的工作，比如法律助理、翻译、快餐店员工等，如果就业市场没有准备好相应的应对，很可能会爆发巨大的失业潮。
辛顿还指出 AI 发展的惊人速度远超他和其他人的预期。他表示：“这种技术有朝一日会比人类更聪明，虽然有些人相信这一点，但大多数人都认为这还很遥远。我曾经也认为离这一天还有 30 到 50 年甚至更长时间。显然，现在我不再这么认为。”
辛顿最大的担心是，新版本的人工智能会对人类构成威胁，因为它们往往会通过分析海量数据学会令人意想不到的本领。他说，这会带来问题，因为技术人员和公司不仅允许人工智能系统自己生成代码，而且还允许它们自行运行代码。他担心，有朝一日这会使杀人机器人变为现实。
他说：“过去，有人认为这种东西会变得比人更聪明，我认为这样想为时过早，成为现实至少还需要30到50年，甚至更长时间。显然，我现在不这么认为了。”
他认为目前人工智能已经聪明过人的智力，他问道：有哪一个智力高级的物种会听命于一个比它智力低下的物种的命令呢？就像人类和青蛙一样，人类是不可能听从比他智力低下很多的青蛙的命令的。有人认为人工智能无须担心，你拔掉它的电源就行了，但是欣顿博士认为，人工智能远比人类聪明，它完全可以利用心理操作让人类主动连接它的电源，人类的智力程度根本阻止不了这样的操纵。
辛顿博士认为，谷歌和微软等公司之间的竞争将升级为一场全球竞赛，除非有某种形式的全球监管，否则竞赛不会停止。AI批评者们认为，那些积极开发基于人工智能的产品的企业是在加速走向危险。但他说，监管不太可能，因为与核武器不同，目前无法知道企业或国家是否在秘密研发这项技术。最大的希望是世界顶尖科学家联手找到控制这项技术的方法。欣顿说：“我认为，不应再升级该技术，直到人们确定是否能控制住人工智能。”
去年末，ChatGPT 的横空出世引发了广泛关注，促使科技公司们竞相开发和部署类似的 AI 工具。OpenAI、微软和谷歌当前正处于这一趋势的前沿，IBM、亚马逊、百度和腾讯也在研究类似的技术。然而有越来越多的立法者、团体和科技行业内部人士对 AI 驱动的聊天机器人表示担忧，认为 AI 有可能传播错误消息并取代人们的工作岗位。
今年 3 月，一些科技界知名人士联署了一封信，呼吁 AI 实验室停止研究最强大的 AI 系统至少六个月，理由是“它对社会和人类构成深远风险”。在旧金山初创企业开放人工智能研究中心（OpenAI）今年3月发布新版ChatGPT之后，1000多名技术领袖和研究人员签署公开信，呼吁在6个月内暂停开发人工智能新系统。几天后，全球最著名的、有40年历史的人工智能促进会的19名现任和前任领导人发表公开信，警告人工智能存在风险。
