* 后台回复“商论入群”即刻体验主编领读（订户专属全年服务）！
2022年8月，美国研究小组AI Impacts发布了一项问卷调查的结果。它向700多名机器学习研究人员询问对AI进展以及这项技术可能带来的风险的预测。一般受访者认为，先进AI有5%的可能性导致“极其糟糕”的结果，例如人类灭绝（见图表）。著名人工智能专家、斯坦福大学的李飞飞谈到人工智能的“文明时刻”。另一位AI界大拿、多伦多大学的杰夫·欣顿（Geoff Hinton）在被美国一家电视台问及AI是否会消灭人类时回答说，这“并非不可想象”。《经济学人·商论》连续一周推出AI专题系列文章，欢迎订阅阅读中英双语原文。
How generative models could go wrong现代人工智能（AI）研究取得的惊人进展让忧惧再次冒头。2022年8月，美国研究小组AI Impacts发布了一项问卷调查的结果。它询问了700多名机器学习研究人员对AI进展以及这项技术可能带来的风险有何预测。受访者大多认为，先进AI有5%的可能性导致“极其糟糕”的结果，例如人类灭绝（见图表）。著名人工智能专家、斯坦福大学的李飞飞谈到人工智能的“文明时刻”。另一位AI界大拿、多伦多大学的杰夫·欣顿（Geoff Hinton）在被美国一家电视台问及AI是否会消灭人类时回答说，这“并非不可想象”。令人们忧心忡忡的风险可不少。目前，很多关注点都集中在“大型语言模型”（LLM）上，例如由创业公司OpenAI开发的聊天机器人ChatGPT。这些模型用从互联网上收集的大量文本训练，能生成人类水平的文章，并就各种话题聊得头头是道。正如牛津大学人工智能治理中心（Centre for Governance on AI）的罗伯特·特拉格（Robert Trager）解释的那样，一个风险是此类软件“让做很多事情变得更容易——从而让更多人去做这些事”。最直接的风险是LLM可能会放大今天互联网上可能实施的那种日常伤害。一个可以逼真模仿各种文风的文字生成引擎非常适合传播错误信息、骗取钱财，或说服员工点击电子邮件中的伪造链接，用恶意软件感染他们公司的计算机。聊天机器人也被用于在学校作弊。... ...【付费文章】欢迎打开商论App，订阅后阅读全文。《经济学人·商论》连续一周推出AI专题系列文章，欢迎订阅阅读中英双语原文。《经济学人·商论》持续关注全球大趋势，欢迎订阅浏览。订阅商论，即可免费加入【主编领读社群】获取完整解读
* 后台回复“商论入群”即刻体验主编领读（订户专属全年服务）！🎉订户专享福利
主编领读 · 订户专属社群
✓每日主编精选文章推送 & 主编解读
✓与商论主编沟通交流
* 后台回复“商论入群”即刻体验主编领读！
全年商论英语学习社区
✓译者领读
✓每日一词+学人习语+译者课堂持续更新
海量商论中英双语往期内容
✓超过3000篇双语文章+译文
✓超过一万分钟主播朗读原文
✓双语纪录片
*入群方式：完成订阅 - 关注微信服务号【经济学人全球商业评论】并后台回复关键词“订户入群” - 添加小助理企业微信等待审核后被邀请加入商论订户专属群
