麻省理工学院科学家呼吁“暂停”人工智能的深入研究

正当数以百万计的人开始使用 ChatGPT 等人工智能系统时，许多著名科学家和技术领袖表示是时候踩刹车了。

特斯拉创始人埃隆·马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克和前民主党总统候选人杨安泽，来自麻省理工学院、哈佛大学和东北大学的研究人员，以及来自麻省理工学院、哈佛大学和东北大学的一千多人签署了一份请愿书，要求“暂停”AI 系统的进一步开发，例如 OpenAI 的 ChatGPT 及其更高级的版本 GPT-4。

“最近几个月，人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人能理解、预测或可靠地控制这一趋势，”发表的请愿书提到。 

“只有当我们确信它们的影响将是积极的并且它们的风险将是可控的时候，才应该开发强大的人工智能系统，”声明继续说道。“因此，我们呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练至少 6 个月。”

请愿书呼吁 AI 研究人员利用六个月的暂停时间“共同开发和实施一套共享的安全协议，用于先进的 AI 设计和开发，并由独立的外部专家严格审计和监督。这些协议应确保遵守它们的系统是安全的，无可置疑。”

该组织引用了微软科学家上周发布的新研究，他们声称“GPT-4 的表现非常接近人类水平”，在数学、软件编码、图像识别、医学、法律和心理学方面。微软的报告表明，GPT-4 可能正在接近“通用人工智能”，即机器以与人类无法区分的方式进行更广泛推理的能力。

令人担忧的是，下一代的GPT-5可能会更加强大。允许任何人在无限制的情况下使用这种计算能力可能会产生可怕的后果。

麻省理工学院物理学教授兼未来生命研究所所长马克斯泰格马克说：“我们正试图暂停开发，以确保我们能够从人工智能中获得好处而不会带来不必要的不利影响。”

泰格马克说，他的小组的提议类似于大约 20 年前大多数主要国家的生物学家通过的暂停人类克隆。他说，这项政策避免了有关基因工程最困难的伦理问题，同时让科学家们继续在基因治疗等争议较小的领域进行研究。

泰格马克说，如果人工智能研究继续以目前的速度进行，那么主导该领域的大公司可能会获得压倒性的经济和政治影响力。（他们已经走得很远了。）泰格马克最担心的是，由一家公司控制的超级人工智能系统不仅比所有其他企业，而且比政府都具有永久优势。比如说，这样的公司可能会通过粉碎竞争对手和贿赂政客来摧毁自由市场和民主制度。

“我认为未经选举产生的技术狂人拥有那么大的权力并不是一件好事，”他表示。

泰格马克表示，他曾与人工智能公司的高管交谈过，他们表示他们希望放慢技术的部署，但不敢这样做，因为竞争对手公司会继续前进并获得无与伦比的优势。

“他们意识到他们的公司不能独自停下来，”泰格马克说。“那是商业自杀。” 他说，只有全行业范围内的暂停才能放慢速度。

但没有理由相信美国人工智能系统的领导者微软、谷歌或OpenAI 会同意停止研究的想法。

微软拒绝就请愿书置评，谷歌和 OpenAI 也没有回复置评请求。但由微软和谷歌等人工智能公司资助的智囊团数据创新中心主任丹尼尔卡斯特罗对暂停这项技术研究的想法嗤之以鼻。卡斯特罗表示，尽管 GPT-4 的功能出奇强大，“但这并不意味着下一步就将毁灭一切。”

卡斯特罗还指出，许多人工智能研究发生在美国以外。他说：“没有任何一个全球机构可以关闭这项工作。“中国和俄罗斯不会停下来的。” 卡斯特罗说，让这两个国家在人工智能领域处于优势地位是不明智的。

康奈尔大学法学院的教授格里梅尔曼认为，关于 AI 危险的警告被夸大了。但他仍然支持暂停开发更先进系统的想法。

“我认为放慢新人工智能模型的速度是一件好事，因为它让我们有时间弄清楚如何处理现有模型的所有风险和问题，”格里梅尔曼说。他指出，今天的系统已经被用来通过虚假视频、欺骗性新闻故事和伪造的家庭作业来愚弄人们。或许短暂的暂停将提供更多时间来学习如何应对这些相对微不足道的问题，这将有助于我们为更大的风险做好准备。

“有这么多知名人士说‘慢下来’，这是件好事，”他说。