大咖带头千人联署要求暂缓训练chatGPT，这是技术恐惧症的又一次发作吗？

2023-04-03 03:04

海归学者发起的公益学术平台

分享信息，整合资源

交流学术，偶尔风月

近日，图灵奖得主 Yoshua Bengio、加州大学伯克利分校教授 Stuart Russell、SpaceX 和特斯拉及推特 CEO 埃隆·马斯克等多位业界大咖联合发布了一封公开信，要求立即暂停GPT-4 的后续版本的训练，据说还有其他一千余人在信上签名。他们认为最近 AI 领域的最新进展陷入了一场失控的竞赛，开发者没有办法理解、预测或可靠地控制自己创造的大模型，人类社会对其可能造成的影响也没有做好准备。从历史来看，对新兴技术的担心不算新鲜事，即便有着专家身份的加持，也很可能是另一场“技术恐惧症”的发作。

图源：Shutterstock

01 心理冲击

从历史上看，人类对新技术抱有某种程度的疑虑其实都算是很温和的态度了，更多的时候，人们对这些新玩意表现出了恐惧、愤怒甚至想要战斗等激烈的情绪。心理学家认为，这是人类面对未知但是看起来有威胁的事物时的本能反应：照相机刚发明时，由于照片比画像清晰的太多了，很多人都认为它会吸取灵魂，大清国的人也认为它会摄魂。火车和铁路刚发明时，沿线的人们则认为这种发出巨大轰鸣声的怪物会破坏风水、惊扰祖灵或者触怒神明，理由不同但是抵制起来却出奇的一致。手机开始普及的时候，关于电磁波信号是否会致癌的传言就从未消失，到了今天，WIFI信号是否对人体有害也是热门话题。

恭亲王拍照，表情木然

这种几乎出于本能的抵制行为在今天看来显得有点落后，但是即便是智者的“理性”忧虑也未必就会更明智。苏格拉底曾经认为，字母表的发明会导致记忆障碍，让人们的阅读和书写能力降低；15世纪的德国学者面对刚刚发明的古腾堡印刷机非常担忧，认为这会让他们有永远也无法读完的文献，而他们的作品也不再稀缺，而且会导致大量抄写员失业。

事实上现代印刷术被认为是现代人类历史上的一个里程碑，在文艺复兴、新教改革和启蒙时代的发展中发挥了关键作用。古腾堡印刷机的发明，结合了造纸术，第一次以一种高效、可留存的方式，将文字、文学传播给欧洲大众。甚至可以说，印刷术也是诱发工业革命的关键性技术之一。

02 冲击社会秩序

技术史学者 Paul Saffo曾说：尽管我们对新技术令人不安的前景描述似乎越来越可怕，但在整个历史中，恐惧与技术进步齐头并进才是常态。他所说的恐惧有多层含义，除新技术本身可能带来的危险如车祸、触电等农业时代没见过的事，对现有的经济社会秩序带来的冲击则更可能成为迫在眉睫的危险。

以蒸汽机带动的纺纱机和织布机是英国工业革命的标志性组合，但是在17、18世纪，捣毁机器的事件层出不穷，最著名的是“卢德运动”，他们拆除编织机的关键零件，袭击仓库，并威胁采取更多的暴力行动。实际上这些操作机器的工人非常清楚设备的生产效率，他们采取行动并非针对机器，而是针对厂方降低工资、裁撤岗位和忽视生产安全的做法。

英国曼彻斯特市政厅的壁画描绘了约翰·凯被偷运离开，因为卢德派暴徒试图摧毁他著名的飞梭。

也就是说，让他们担心的并非是机器，而是收入不稳和失业问题。清代铁路的反对者曾表示：“铁路一开，则中国之车夫贩竖将无以谋衣食，恐小民失其生计，必滋事端”，对此主持者李鸿章则回应：筑路养路、火车运转，都需要人呢！"百万漕工衣食所系,废漕改海断然不许"更加出名，虽然真实性值得考证，但是其背后反应出的相关利益集团对于海运改革的强烈抵制则是一望可知。其实所有新的生产方式必然会对现有的生产关系带来“破坏”，但是重构之后的产业链无疑都会更加有效率，成本也更低。

李中堂连X光片都敢拍

这一点随着现代社会生活方式的普及，人们已经不再有异议，但是对新技术给人类自身和人际关系带来改变的担心则从未消失：技术恐惧者一直认为，创新设备——无论是报纸、电话还是iPhone——会将人们与周围的世界隔离开来，阻碍了有意义的社会联系。事实如此吗？

03 对人类本身和社交方式的担忧

电话的发明显然是划时代的，但是刚开始的时候它并不是个人通讯玩具，而是用来传达紧急和专业消息的设备，如市场信息、达成交易以及通报火灾事故等。当电话在19世纪末开始普及时，关于它最多的批评是它会破坏社会秩序。1909年，社会学家查尔斯·霍顿·库利认为：“在我们的生活中，邻里关系的亲密关系已经被一个错综复杂的更广泛的联系网所取代，这让我们甚至连隔壁的邻居都不认识，而整个国家的精神连接也会被削弱。

然而电话的用途变得越来越广泛之后，人们发现这项发明满足了除商业相关功能之外的许多现有需求，特别是在家庭和社区进一步分散的时代，有助于巩固人际关系，让地理分隔不再是人们情感联系的障碍。美国作家克劳德·费舍尔对最早普及电话的三个加州社区的分析表明，电话实际上增加了人们之间的直接联系和远程社交网络的宽度。大趋势是人们关注的范围开始超出社区、城市而投向更远的地方，但这并不代表人们不再重视本地的生活和人群，相反，技术的进步让人们的社交活动更加频繁了：人们用电话更多的与亲人交谈，安排旅行、核实商业信息以及组织聚会。

1912年的漫画明信片，表示人们已经如此依赖电话，甚至在一个房子里也是

当年对电话的担忧几乎可以无缝连接到互联网时代，UC Berkeley信息学院副教授Coye Cheshire 表示：在印刷机时代，就有人担心人们什么也不用记了，而就在15年前，很多对话都是关于互联网将如何孤立我们，让我们成为无意识的生物，只是在网上冲浪，人们把大脑托付给电脑，盲目地看着页面。但是在2010年，皮尤的一项调查发现，与普通美国人相比，社交媒体的高频用户之间的关系更密切，参与的社会活动也更多，社会孤立程度更低。

虽然社交媒体的概念可能是新的，但是人们为了保持联系曾经想出了无数的办法。虽然手写明信片和信件在今天看起来很古怪，但当美国的邮政网络首次建立时，通过书面文本快速而廉价地与千里之外的人进行通信非常令人兴奋。在20世纪初，即美国邮政服务的鼎盛时期，用户每天可以通过邮件发送和接收好几次简短的便条，这与当代的电子邮件、短信、社媒信息有何不同？讽刺的是，太多的人一整天看手机，反而一条消息也收不到，这个锅应该手机来背吗？

在人们埋首于手机之前，人们埋首于报纸。1946年拍摄的纽约地铁内。

图源：Stanley Kubrick

英国心理学家 Vaughan Bell认为，从历史的角度来看，令人震惊的不是这些社会关注热点的演变，而是它们从一个世纪到下一个世纪的相似性，以至于它们重新出现后，除了具体形式之外几乎没有什么变化。例如，现在人们喜欢网上点外卖，然而这不过是一百多年前“哑巴”服务员、自动售货机、自动售餐机、餐厅送餐服务等业态互相结合的最新形式，在18世纪法国出现第一家现代餐厅的时候，关于人们懒惰、贪吃以及生活态度不佳的批评就已经开始了——和现在一样。

1936年，一位顾客在自动售餐机前做出选择

图源：纽约公共图书馆

04 技术由人所造而为人所用

说到底，所有新技术的问世都是为了满足人们的某种需要而非凭空诞生，漫无目标。Coye Cheshire 说：“电话对我们有什么影响？印刷机对我们做了什么？我们忘记了技术实际上是我们自身价值观和欲望的反映，它们相互创造、相互成就。……如果我们能够意识到，我们担心的不是技术，而是驱动人们使用技术的动机，那么对潜在问题的担心可能更加有效，也更接近问题的本质。”

如果稍微梳理了一下人类对于人工智能的发展所投入的热情，当下对chatGPT等最新的人工智能的担忧甚至显得有点令人啼笑皆非：这不是你们一直心心念念的东西吗？

1900年左右的法国明信片预测了2000年的可视电话技术。

图源：纽约市博物馆

从1942年阿西莫夫在科幻小说中提出“机器人”三定律之后，将这种高度智能的机器人实用化而不是仅仅存在于小说里就是科学界和公众罕有的共识之一。科幻小说家们一直在探讨有关人工智能可能带来的问题，并与电影公司合作，创造了无数个可能的”平行宇宙“，从机器人统治人类的《终结者》，到由电脑来掌握全社会生杀予夺的《少数派报告》，再到人类完全沦为能源供体的《黑客帝国》，普通观众几乎都能整理出一份《天网危机》下的生存手册了。

科学家也从来没闲着，1956年人工智能的概念就已经产生，达特茅斯学院1958年就建立了人工智能实验室，之后是麻省理工，斯坦福。1958年《纽约时报》上的一篇报道是：“这篇文章描述了康奈尔大学心理学家弗兰克·罗森布拉特的一次演示，描述了一台电子计算机的'胚胎'，海军预计有一天它会'走路、说话、看、写、复制自己并意识到它的存在'。马尔科夫写道，海军认为其“思考机器”将在一年内建成，耗资100万美元。

John McCarthy 于1974年在斯坦福人工智能实验室，他是该领域的开创者之一。

实际上人工智能的发展表明它一直是个“被过度承诺的领域”，九十年代之前由于算力的限制，这个领域的发展一直很有限，直到1997年深蓝的出现，这个领域从设计思想到硬件条件都发生了巨大的变革，虽然从未实现那些小说里的情节，但是Alpha Go，AlphaFold，波士顿动力机器狗直到chatGPT，它们毕竟真的出现了，强大到了很多人无法理解，而且正在以前所有未的速度在迭代进化，于是，人类慌了？

对此您怎么看？不妨留言和大家交流。