比已知更可怕，马斯克等1000多科学家，叫停AI研发，并签署公开信

当全社会都在为AI的进化而欢呼雀跃，全新的、意想不到的风险可能也正在悄悄酝酿。

3月28日，包括马斯克、苹果联合创始人斯蒂夫·沃兹尼亚克在内的1000多名人工智能专家和行业高管签署了一份公开信，

他们呼吁暂停AI系统的训练，理由是对社会和人性存在潜在风险。

这封公开信由非营利性组织Future of Life Institute发布，信的开头写道：“广泛的研究表明，具有与人类竞争智能的AI系统可能会对社会和人类造成深远的风险，这一点也得到了顶级AI实验室的承认。”

他们呼吁至少暂停训练比GPT-4更强大的AI系统6个月。

目前签名的有，图灵奖得主Yoshua Bengio、Stability AI首席执行官Emad Mostaque、苹果联合创始人Steve Wozniak、纽约大学教授马库斯、马斯克，以及人类简史作者Yuval Noah Harari等等，签名人数还在持续增加中。

公开信指出，最近几个月，人工智能实验室陷入了一场失控的竞赛，他们致力于开发和部署更强大的数字思维，但即使是研发者也不能理解、预测或可靠地控制这些数字思维。诸多研究表明，具有与人类匹敌智能的人工智能系统可能对社会和人类构成深远的风险。

他们呼吁在GPT进一步强大之前，需要首先就此类大模型达成由独立专家开发、实施并审核的共享安全协议。只有当我们确信它们的影响是积极的，并且它们的风险是可控的时候，才能开发更强大的人工智能系统。

马斯克曾多次呼吁对人工智能的监管，2022年12月，他在推文称，没有对人工智能的监管，这是一个主要问题。十多年来，我一直在呼吁人工智能安全监管！他还在GPT4发布后再次表达担忧称，我们人类还有什么可做的？

如今，GPT一次又一次震撼世界，而对于它未来的应用，人们更是充满了想象。但人工智能的立法，世界各国都没有跟上，也导致了其混乱的“开发”中，斯坦福科学家Michal Kosinski在看到了GPT4后就曾表示：

“这样下去，人类无法持久地遏制住AI。AI很聪明，会编码，能接触到数百万个人和电脑。GPT打开了物种灭绝的大门。”

有人询问GPT4，为什么马斯克要让你暂停。

GPT4回答：马斯克叫停GPT训练可能有多种原因，其中一个可能是担心模型被误用或滥用，尤其是在自然语言生成和信息操纵方面。GPT模型能够生成自然语言文本，包括虚假或有害信息，这可能会对社会和个人造成危害。此外，GPT模型也可能有隐私问题，因为它可以生成人类语言，可能会包含敏感信息。GPT认为，叫停GPT训练主要是出于对社会责任和技术发展的前瞻性方面的考虑。它还提到，GPT模型可能存在一些局限性，或者不是解决某些问题的最佳方法，因此需要尝试寻找更好的替代方案。

这样的完美的回答，又有多少人能胜过GPT呢？

想象下，是否应该让机器用宣传和谎言充斥我们的信息渠道？

是否应该让所有的动作都变得自动化，即使是令人满意的工作？

是否应该发展可能某一天会超越我们、淘汰我们、取代我们的非人类智能？

是否应该冒险失去对人类文明的控制？

也许曾经科幻电影中的人类被机器人控制的时代，一瞬就到，如果AI不再对人类忠诚，我们是否做好了准备呢？