《人类简史》作者：AI已经攻破人类文明的操作系统

著有《人类简史》（Sapiens）和《未来简史》（Homo Deus）的历史学家、哲学家尤瓦尔·诺亚·赫拉利（Yuval Noah Harari ）受邀为《经济学人》撰文，点评当下的AI革命：“新型AI能够非常精准地打磨信息，从而影响我们的看法。通过掌握人类语言，AI甚至可能与人建立亲密关系，并利用这种关系的力量改变我们的看法和世界观。”

“在当今争取人心的斗争中，亲近感是最有效的武器，而AI刚刚获得了与千百万人建立亲密关系的能力。在过去十年中，社交媒体已成为控制人们注意力的战场。随着新一代AI的出现，战线正从注意力转向亲近感。在这种情况下，人类社会和人类心理会发生怎样的变化？”他的建议？“我们应该制止在公共领域不负责任地部署AI工具，在AI管控我们之前管控AI。”《经济学人·商论》连续一周推出AI专题系列文章，欢迎订阅阅读中英双语原文。

《经济学人·商论》2023-05-16

Large, creative AI models will transform lives and labour markets

生成式AI

大型创造性人工智能模型将改变生活和劳动力市场

它们带来了巨大的希望和危险。但它们是如何工作的？【深度】

自创造ChatGPT的公司OpenAI在2022年11月首次向公众开放聊天机器人以来，技术精英们几乎没有其他想聊的话了。在笔者撰写本文时，伦敦一家科技公司的创始人主动发来消息说，“这些天我基本上满脑子都是”这种人工智能。他说自己正在围绕它重新设计他价值数十亿美元的公司。他不是孤例。ChatGPT包含的知识比任何人都多。GPT-4是ChatGPT背后的人工神经网络，在美国的法律和医学执照考试中取得了优异的成绩。它可以生成歌曲、诗歌和散文。其他“生成式AI”模型可以大量制作数码照片、绘图和动画。

伴随这种兴奋而来的是科技行业内外的深切担忧：生成式AI模型的开发速度过快了。GPT-4是一种称为大型语言模型（LLM）的生成式AI。Alphabet、亚马逊和英伟达等科技巨头都训练了自己的LLM，把它们命名为PaLM、Megatron、Titan和Chinchilla等。

那位伦敦科技公司的老板表示，即使他也在追求运用AI，他也“对AI带来的生存威胁感到难以置信的紧张”，并且“每天都在与［其他］创始人谈论它”。美国、欧洲和中国的政府都开始考虑制定新的法规。一些知名人士呼吁暂停AI的发展，以免软件以某种方式失控并损害甚至摧毁人类社会。若你想把对这项技术的担忧或兴奋调整到恰当的程度，不妨首先了解它是怎么来的、它的工作原理，以及它发展的局限性。... ...

【付费深度文章】欢迎打开商论App，订阅后获取更多《经济学人》核心观点：

• LLM实际上是一项庞大的统计学操作——它是如何工作的？
• LLM只会以统计而非语法的方式来理解。它更像是一个算盘，而不是一个头脑
• LLM的输出并不完全可预测；OpenAI研究员已经在各种不同的LLM中统计到了137种所谓的“涌现”能力
• 涌现的能力令人兴奋，因为它们暗示了LLM尚未开发的潜力——但也可能意味着风险
• 很难判断哪些有害行为可能处于休眠状态，等待着规模扩大一点时被释放出来
• LLM的注意力网络是从如此海量的数据中学习的关键

2022年底，与微软关联紧密的创业公司OpenAI推出由“大语言模型”（LLM）驱动的聊天机器人ChatGPT，AI一下子闯入大众视野。ChatGPT的成功促使谷歌和其他科技公司发布自家由LLM驱动的聊天机器人。这类系统利用从互联网提取的数万亿语句进行训练，能够生成文本并进行逼真的对话。训练一个大规模LLM要耗时几个月，花费数千万美元，这让人担心AI会被少数资金雄厚的公司垄断。

但谷歌的备忘录认为这种猜想是错的。它指出，开源社区里的研究人员利用免费的线上资源正在取得可媲美最大型专有模型的成果。事实证明可以运用一种名为低秩自适应（LoRa）的方法对LLM进行“微调”。这样就可以就特定任务优化一个现有的LLM，所需时间和成本远低于从零开始训练一个LLM。

3月，开源AI一下子活跃起来，当时Facebook的母公司Meta创建的模型LLaMA在网上被泄露。虽然其规模比最大的LLM小（最小的版本只有70亿个参数，相比之下，谷歌的PaLM有5400亿个参数），但已被迅速微调，在执行某些任务时能生成与ChatGPT最初版本水平相当的结果。随着开源研究人员相互借鉴各自的LLaMA成果，“一股创新大潮随之涌现。”谷歌备忘录的作者写道。

这可能对该行业的未来产生巨大影响。“模型训练和实验的门槛已从需要一个大型研究机构全力投入降低到只需要一个人、一晚上和一台性能够强大的笔记本电脑。”谷歌的备忘录声称。... ...