Redian新闻
>
六张图表,了解ChatGPT背后的AI进化史 | 商论精选

六张图表,了解ChatGPT背后的AI进化史 | 商论精选

财经

《经济学人·商论》本周推出ChatGPT系列分析文章,而《经济学人》对GPT的持续关注三年前就已开始,生成式AI如何渐成声势?我们今天精选一组商论图表来解读。欢迎订阅App,搜索关键词浏览更多。



1.史诗级AI霸权大战打响


《经济学人·商论》2023-02-15 《AI实验室竞争升温》


长期以来,企业研发机构一直是科学进步的源泉,在美国尤其如此。一个半世纪前,托马斯·爱迪生用他通过留声机和灯泡等发明获得的收入为他在新泽西州门洛帕克(Menlo Park)设立的实验室提供资金。第二次世界大战后,美国企业界大举投资基础科学,希望能由此产生实用的产品。杜邦(化学品制造商)、IBM和施乐(两者都是硬件制造商)都设有大型研究实验室。AT&T的贝尔实验室产生了晶体管、激光器和光伏电池等众多发明,其研究人员因此共获得九项诺贝尔奖。


但到了20世纪后期,企业研发越来越重“发”而轻“研”。2017年,经济学家阿希什·阿罗拉(Ashish Arora)及其同事研究了1980年至2006年这一时期,发现企业已经从关注基础科学转向开发既有想法。阿罗拉和他的合著者认为,这种转变背后的原因是研究的成本不断上升,要获得成果越来越难。施乐开发了现在为计算机用户所熟悉的图标和窗口,从中获利最多的却是苹果和微软。科学研究对创新仍然重要,但主导机构成了非盈利性的大学。


2.AI带来多少投资与工作机会?

《经济学人·商论》2022-12-19

Generating buzz

在陷入深度低迷、被沮丧情绪笼罩的科技行业,热闹的AI圈子是个例外。数据公司PitchBook称,2022年,风险投资家已经向声称专攻AI的公司投入了670亿美元。自2021年年中以来,全球涉及此类创业公司的风投交易份额持续上升,本季度截至目前已上升至15%(见图表1)。1月至10月新诞生了28家AI独角兽公司(估值10亿美元或以上的私营创业公司)。谷歌的母公司Alphabet正计划向OpenAI的竞争对手Cohere投资两亿美元。英国企业家伊恩·霍加斯(Ian Hogarth)和内森·贝纳希(Nathan Benaich)的一份报告显示,OpenAI和Deepmind(Alphabet的人工智能实验室之一)的前员工已经创办了至少22家AI创业公司。


这种繁荣景象并不局限于硅谷。各路大企业都对AI人才求贤若渴。根据PitchBook的数据,在过去12个月里,标普500指数中的大型美国公司收购了52家AI创业公司,而2017年为24家。另一家数据供应商PredictLeads指出,今年9月至11月,这批公司每月发布的AI和机器学习专业人才的招聘广告数量在7000则左右,差不多是2020年第一季度时的10倍(见图表2)。

3.人类能辨别ChatGPT作者吗?


The SEC said, “Musk,/your tweets are a blight./They really could cost you your job,/if you don’t stop/all this tweeting at night.”/…Then Musk cried, “Why?/The tweets I wrote are not mean,/I don’t use all-caps/and I’m sure that my tweets are clean.”/“But your tweets can move markets/and that’s why we’re sore./You may be a genius/and a billionaire,/but that doesn’t give you the right to be a bore!”


这首诗出自一台运行GPT-3(第三代生成式预训练模型)软件的计算机,描述了马斯克与美国证交会之间的争执。三年前推出的GPT-3规模空前巨大,其底层模型号称有1750亿个参数,计算机能据此生成复杂精妙、近似人类书写的文字。当年7月中旬,OpenAI将GPT-3的一个早期版本拿给一些人,让他们探索它的功能。艺术家阿拉姆·萨贝提(Arram Sabeti)证实了GPT-3能写短篇故事,包括一篇以哈利·波特为主角的硬汉派侦探故事(“哈利·波特穿着邋遢的斜纹软呢西装、没熨烫过的衬衫和没擦过的皮鞋坐在桌前,看上去憔悴凌乱,愤愤不平……”),还有喜剧小品,甚至诗歌(包括本文开头名为《伊隆·马斯克——苏斯博士著》的那首)——但能骗过人类吗?


AI研究员、企业家埃利奥特·特纳(Elliot Turner)展示了如何用该模型把粗鲁的语言转换为比较礼貌的表达,或许能在网上许多戾气较重的场所派上用场。人类读者已经难以把这个机器撰写的新闻与人写的区分开来(见图表)。


《经济学人·商论》2020-08《比特文学》(Bit-lit)

鉴于OpenAI希望最终能在市场上出售GPT-3,这样的结果预示着可观的前景。但这个程序并不完美。有时候,它似乎只是搬出一些它背下来的语句片段,而不是生成全新的文字。更根本的问题是,基于统计的词语搭配并不等同于对这个世界的连贯认知。GPT-3经常生成一些语法正确但脱离现实的文本,比如它声称“从夏威夷跳到17需要两道彩虹”。圣塔菲研究所(Santa Fe Institute)的计算机科学家梅勒妮·米歇尔(Melanie Mitchell)指出:“它没有关于这个世界——或者任何世界——的任何内部模型,因此无法进行需要这种模型支持的推理。”

4.创新低迷期,ChatGPT能否成为经济增长的引擎?

《经济学人·商论》2021.1

《乐观的理由》(Reasons to be cheerful)


新兴市场在全球金融危机爆发前的十年里也经历了生产率的快速增长,这得益于高水平的投资和贸易的扩张给全球供应链中的发展中经济体带来了更先进的工艺和技术。然而,自金融危机以来,生产率增长持续放缓,范围广泛,顽固持久(见图表1)。根据世界银行的数据,全球约70%的经济体受到影响。要解释增长何以放缓是个令人头疼的难题。世界银行认为,近年来贸易增长放缓,从较富裕国家引进并因地制宜地应用新技术的机会减少,可能在一定程度上抑制了新兴世界生产率的提高。更大的问题是,为什么改进的机器人技术、云计算和人工智能之类的新技术并没有促进投资增长和生产率提升?


大体上说,有三种不同的假说尝试解释生产率低迷的问题。一种由技术悲观主义者提出,他们坚持认为尽管人们对改变世界的技术充满热情,但近年来的创新并没有乐观主义者所坚信的那样具有变革意义。尽管这最终可能会被证明是正确的,但持续的技术进步似乎使之越来越没有说服力。AI可能并没有以人们在五到十年前期望的那种惊人的颠覆性速度改变世界经济,但它的能力已有了显著的提升,在一些领域甚至堪称惊人。研究公司OpenAI开发的一种语言预测模型GPT-3展示了出色的开展对话、起草长文和编写代码上的能力,对真人的模拟程度令人吃惊。


互联网在通过打破距离限制而支持经济发展上的潜力早已不怎么激动人心。但云计算和视频会议在过去一年中证明了它们的经济价值。显然,新技术能做的要比近些年人们对它们的期待更多。


5. AI需求是无尽的吗?


欢迎打开商论App订阅浏览

2018年七月刊《鬣狗和猎豹》并试听音频


在运算演进史的大部分时间里,“中央处理器”(CPU)一直是芯片业的霸主。但近年来,数字运算的世界发生了根本性的变化。随着芯片密度达到物理极限,摩尔定律逐渐失效,一度受到高度关注的“图形处理器”(GPU)同样硬件性能见顶。另一方面,AI的蓬勃发展为芯片制造业注入了新的生机和竞争。各家公司开始针对AI重新设计处理器。


非营利性研究机构OpenAI称,自2012年以来,规模最大的AI项目对于运算能力的需求每3.5个月就翻一番(见图表)。研究公司新街(New Street)估计,到2022年AI芯片市场的规模可能会达到300亿美元,这将超过英特尔今年预期220亿美元的服务器计算机销售收入。作为芯片业的后起之秀,英国创业公司Graphcore研发出了“智能处理器”(IPU)试图消除硬件瓶颈,甚至容纳整个“神经网络”。



大型云计算供应商也纷纷加入AI芯片的角逐。计划投入数百亿美元建立国家半导体产业的中
国也将成为发展的一极。


【付费文章】欢迎打开商论App,订阅后读完文章,搜索“AI”获取更多主题内容

以上

《经济学人·商论》持续推出ChatGPT系列分析文章,助你快人一步掌握全球大趋势。订阅商论,更可免费加入【吴晨主编领读社群】

↓ 欢迎关注经济学人视频号 ↓

《经济学人·商论》限时特惠·季度低至¥99



99元季度订阅超值权益


商论APP核心功能
  • 3000+中英双语原刊文章
  • 2000+BBC主播原声朗读音频
  • 《经济学人》双语纪录片系列
商论主编领读:
  • 加入订户专享主编分享社群,每日获取主编晨读推送
  • 编辑精选《经济学人·商论》阅读指南
加入终身学习之旅:
  • 商论直播对话系列
  • 优先参与线上线下活动,与主编面对面



点击“阅读原文”,优惠订阅季度商论↓

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
谈谈ChatGPT背后的核心论文ChatGPT背后的大模型,需要怎样的芯片?ChatGPT背后的男人:8岁会编程、19岁当老板;法意计划向乌移交远程反导系统;美媒称拜登拟重组经济团队|一周国际财经图解华尔街“量子金融”竞赛 | 商论精选8岁编程,16岁出柜,20岁从斯坦福退学,ChatGPT背后的男人有故事!最低时薪仅9元,每小时或标注2万个单词…ChatGPT背后的“血汗工厂”曝光:有员工遭受持久心理创伤火爆全网!ChatGpt背后的男人,8岁会编程,24岁斯坦福辍学,60天破亿神迹……Chatgpt背后的云加速服务商CloudflareChatGPT讲座:ChatGPT并不神秘,但ChatGPT很神奇ChatGPT背后的开源AI框架Ray,现在值10亿美元ChatGPT背后的男人:16岁出柜,斯坦福辍学,疯狂工作一度患上败血症周小平:ChatGPT背后的“世界网络东林党”现形,史上最强的新型阶级固化工具诞生,文明永夜将至~ChatGPT背后的技术工作原理独家揭秘:ChatGPT背后的35岁神秘教母,一手推火这个神级AIChatGPT背后的算力杀手锏送RTX 4090!黄仁勋对话ChatGPT背后的英雄,GTC 2023 AI大会来了!ChatGPT背后的女人:Open AI美女CTO Mira MuratiChatGPT背后的男人——OpenAI“总设计师”BrockmanChatGPT背后的35岁神秘教母,一手推火这个神级AI经观社论 | ChatGPT背后的创新焦虑巴黎,巴黎(8)巴黎,巴黎(9)见面Lite丨对话《AIGC:智能创作时代》作者,读懂ChatGPT背后的逻辑ChatGPT背后的标注人:在非洲只管「鉴黄」,时薪不到两美元解读ChatGPT背后的研究力量:90后成主力军,大厂不再是顶尖AI人才第一选择深入浅出,解析ChatGPT背后的工作原理ChatGPT背后的指令学习是什么?PSU发布首篇「指令学习」全面综述2022我飞越三洲(3)华盛顿DC宝藏多多六张图表讲清楚美国人退休后的生活以及他们都存了多少钱~解析ChatGPT背后的工作原理日本啊,日本(十一)利休之死中国新冠为什么这么多人发烧?万字圆桌实录:ChatGPT背后的AIGC,将生成怎样的浪潮?6个问题,用专业视角带你全方位了解ChatGPT|甲子光年跟李沐学ChatGPT背后技术:67分钟读透InstructGPT论文
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。