“从根本上说，我们相信少数几项技术将在未来十年发挥极其重要的作用。”拜登的国家安全顾问杰克·沙利文去年9月宣称。2月，中国领导人呼应了这一观点，指出“迫切需要我们加强基础研究，从源头和底层解决关键技术问题”以“应对国际科技竞争、实现高水平自力自强”。目前太平洋两岸的决策者最为关注的技术似乎是AI——“生成式”AI去年以来的能力迅速提升掌握持续加强着这种关注。双方战略家已经在讨论一场AI军备竞赛，中国会占得先机吗？

去年，对中国AI创业企业的私人投资为135亿美元，不到流向美国竞争对手的资金的三分之一。据数据提供商PitchBook称，在2023年前四个月，这一投资差距似乎又进一步扩大。无论生成式AI是否具有革命性，市场的力量都不容忽视。《经济学人·商论》连续一周推出AI专题系列文章，欢迎订阅阅读中英双语原文。

前些年，中国在某些衡量AI实力的指标上开始领先（见图表）。2019年，中国的AI高被引论文占比超过了美国。2021年，26%的全球AI会议论文来自中国，而美国这一比例为17%。按AI论文发表量计算，全球排名前十的机构中有九个在中国。

然而，在赋予生成式AI智慧的“基础模型”方面，美国稳坐头把交椅（见图表2和3）。ChatGPT及其背后的开创性模型（最新版本为GPT-4）是美国创业公司OpenAI的发明。其他一些美国公司也都有自己强大的系统，其中既有Anthropic或Stability AI等小公司，也有谷歌、Meta和微软（持有部分OpenAI股份）等科技巨头。文心是中国互联网搜索巨头百度打造的对标ChatGPT的产品，人们普遍认为它的智能程度没有ChatGPT高。中国最强大的科技巨头阿里巴巴和腾讯尚未推出各自的生成式AI。

这促使知情人士得出了这样的结论：中国在建立基础模型方面比美国落后两三年。造成这一差距的原因有三个。...对于生成式AI，现有优势就没那么强大了，因为基础模型是用网络上大量的非结构化数据来训练的。根据互联网研究网站W3Techs的数据，56%的网站是英文的，而只有1.5%的网站是中文的，这有利于美国的模型构建机构。北京智源人工智能研究院于2021年推出的模型“悟道2.0”尽管在计算角度上可能比GPT-4更复杂，但未能引起轰动，缺乏数据也许是一种解释。... ...

《经济学人·商论》2023-05-17

How generative models could go wrong

生成式AI

生成模型如何可能误入歧途

一个大问题是它们是黑匣子

现代人工智能（AI）研究取得的惊人进展让忧惧再次冒头。2022年8月，美国研究小组AI Impacts发布了一项问卷调查的结果。它询问了700多名机器学习研究人员对AI进展以及这项技术可能带来的风险有何预测。受访者大多认为，先进AI有5%的可能性导致“极其糟糕”的结果，例如人类灭绝（见图表）。著名人工智能专家、斯坦福大学的李飞飞谈到人工智能的“文明时刻”。另一位AI界大拿、多伦多大学的杰夫·欣顿（Geoff Hinton）在被美国一家电视台问及AI是否会消灭人类时回答说，这“并非不可想象”。

令人们忧心忡忡的风险可不少。目前，很多关注点都集中在“大型语言模型”（LLM）上，例如由创业公司OpenAI开发的聊天机器人ChatGPT。这些模型用从互联网上收集的大量文本训练，能生成人类水平的文章，并就各种话题聊得头头是道。正如牛津大学人工智能治理中心（Centre for Governance on AI）的罗伯特·特拉格（Robert Trager）解释的那样，一个风险是此类软件“让做很多事情变得更容易——从而让更多人去做这些事”。

最直接的风险是LLM可能会放大今天互联网上可能实施的那种日常伤害。一个可以逼真模仿各种文风的文字生成引擎非常适合传播错误信息、骗取钱财，或说服员工点击电子邮件中的伪造链接，用恶意软件感染他们公司的计算机。聊天机器人也被用于在学校作弊。... ...

【付费文章】欢迎打开商论App，订阅后阅读全文。《经济学人·商论》连续一周推出AI专题系列文章，欢迎订阅阅读中英双语原文。