新书推荐丨人工智能会毁灭世界吗？

2023-10-13 11:10

在科幻小说和电影中，我们经常看到人工智能都有极度超越智力和控制力的能力，甚至威胁人类的生存和发展。尽管这种情况离现实有着极大的差距，但是，一些科学家和专家也将人工智能看作是世界上最大的工程，而它的迅猛发展也引起了越来越多的担忧和争议。毕竟，人工智能也有可能被滥用，从而导致严重的后果。人工智能到底会不会毁了人类呢？这是一个极具争议和重要的话题，既涉及科技和伦理，也牵涉到我们的未来和命运。“搜狗输入法之父”马占凯在自己的新书《ChatGPT：人类新纪元》也提到了这一话题，他认为虽然 ChatGPT 带来了很多好处，但也存在巨大的潜在威胁。

下文内容摘自《ChatGPT：人类新纪元》章节内容：

谈到人工智能毁灭人类的可能性，我们就不得不提及埃隆·马斯克这个“硅谷钢铁侠”。马斯克造火箭，制造机器人，并将特斯拉电动汽车送入太空，他希望实现人类殖民火星的梦想。然而，他也担心由于缺乏充分的监管和控制，人工智能技术的发展可能会对人类造成不可预测和无法控制的威胁。因此，他与其他几位科技大佬共同创立了OpenAI。然而， OpenAI 研发出了目前全球最为强大的聊天机器人 ChatGPT。这个故事听起来像是电影《终结者》中的情节——人类为了自我防卫而研发出全球计算机防护系统“天网”（Skynet），但它逐渐变得聪明和自主，最终对人类展开攻击并企图毁灭人类。

图片为书内插图

在 2023 年 2 月 15 日的世界政府峰会上，马斯克表示，ChatGPT 所带来的潜在威胁是巨大的。虽然有人认为 AI 威胁论只是一种哗众取宠的说法，但实际上它确实存在。亚马逊云服务科学家谢尔盖·伊万诺夫在 2022 年 12 月测量了第一版ChatGPT 的智商，其得分为 83 分，和人类平均 100 分的智商已经距离不远。而这只是 GPT-3.5 模型的水平。到了 2023 年 3 月，基于GPT-4 的 ChatGPT 发布。芬兰心理学家埃卡·罗伊瓦伊宁对 ChatGPT的测试显示，其智商已经飙升到了 155 分，超越 99.9% 的人类。在发布后的第一个月，ChatGPT 还处于严重偏科的状态，但是它就像一个拥有无限潜力的小朋友，随着生长，新能力不断被解锁。想象一下， iPhone 从诞生到 2023 年已经迭代了 14 个版本。

图片为书内插图

如果也迭代十几个版本，ChatGPT 将达到怎样的聪明境界？如果 AI 的智商达到 1 万分，我们甚至无法理解这意味着什么。这就像我们去看宠物狗，它是否知道我们每天需要出门上班赚钱，才可以给它买狗粮？完全不会，从《猫的报恩》这个故事来看，小狗一定以为我们出门去打猎了。智商达到 1 万分的 AI看人类，就像我们看小狗一样，它能理解我们，我们却无法理解它。一个系统越复杂，就会越不稳定。生产力越高，破坏力也越大。在冷兵器时代，没有人能够直接毁灭地球，而后来人类拥有了核武器，地球变得危险了许多。如果 AI 的智商达到 1 万分，那么我们怎样去控制它？这是真实存在的威胁。即便我们造的 AI 是安全的，它会不会被别有用心的人蓄意利用？

通用人工智能被誉为“人工智能的圣杯”。现在已经有不少人认为ChatGPT 实现了这一目标。就发展阶段而言，人工智能可以分为三种：弱人工智能、通用人工智能（也就是强人工智能）和超人工智能。弱人工智能已经被广泛应用于身份识别、翻译、音频转文字和自动字幕生成等领域。通用人工智能则具有泛化能力，就像人类几乎可以学会所有的技能。正如猫抓老鼠、狗看门一样，弱人工智能拥有定向技能，而强人工智能可以达到或超越人类智慧水平，因此也被称为“通用人工智能”。

图片为书内插图

超人工智能目前只存在于科幻电影中，是指远远超越人类的人工智能。目前，可以说 ChatGPT 已经无限接近通用人工智能了。在 GPT-3.5版 ChatGPT 刚发布时，因为还存在不懂数学等偏科问题，人们对于它是否属于通用人工智能还有很大的分歧。实际上，在对自然语言的理解上，ChatGPT 已经达到人类水平了。在 GPT-4 版 ChatGPT 发布后，不仅其智商测试已经达到了 155 分，微软在 2023 年 3 月 22 日发布的研究报告《通用人工智能的火花：GPT-4 的早期实验》（Sparks of Artificial General Intelligence: Early Experiments with GPT-4）中还得出了这样的结论：除了其对语言的掌握，GPT-4 能够解决跨数学、编码、视觉、医学、法律、心理学等领域的新颖和困难的任务，而不需要任何特殊提示。此外，在所有这些任务中，GPT-4 的表现与人类的表现惊人地接近，并且经常远远超过以前的模型，如 GPT-3.5。鉴于 GPT-4 的广度和深度，我们认为它可以被合理地看作通用人工智能系统的早期版本（尽管仍然不完整）。现在 ChatGPT 的种种惊人表现，只是通用人工智能的冰山一角。

人类已经迈出了夺取通用人工智能圣杯的第一步。

亚马逊创始人杰夫·贝索斯有一个著名的决策工具，即单向门和双向门机制。不可逆的决策是单向门，需要缓慢和慎重的思考，例如建设庞大的数据中心。可逆的决策是双向门，决策速度更快且可以迅速纠正错误。这个世界的很多事可以分为单向门和双向门。真正的颠覆性创新就是单向门，一旦它出现，我们就再也回不到过去了。举例来说，我们再也无法想象在没有手机的时候，我们是怎样蹲厕的，也实在无法想象，在没有手机、计算机和互联网的时候，我们整天都在干吗。

ChatGPT来了，通用人工智能来了，能听懂自然语言的机器人也要来了。天才改变世界，科技改变生活。让我们一起拥抱一个新世界吧，一个有 AI 陪伴的新世界。

马占凯著

人民邮电出版社

2023 年 9 月

（点击上图可购买图书）

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章