⭐星标华尔街见闻,好内容不错过⭐
ChatGPT,近期互联网上最火的话题,谷歌、微软、百度等科技巨头们纷纷加入竞赛。
不过,今天见闻君不是要比较分析哪家的更有前景,而是想和大家聊一下背后的两大赢家。
ChatGPT强大的响应能力要归功于所经受的大量数据训练,这背后需要强大的算力部署,算力又取决于底层芯片,ChatGPT类竞赛必然会引发高端芯片的需求。
ChatGPT所回应的每一个字都很“烧钱”,而为算力花出去的真金白银最终流向的是AI芯片的领军者英伟达和先进制程寡头台积电的口袋。
这一幕是不是似曾相识?
类似的剧情在比特币飙涨和“芯片荒”时期都曾上演。
巨头火拼ChatGPT先是谷歌宣布已向人工智能初创企业Anthropic投资约3亿美元,同时推出基于大型语言模型LaMDA的聊天机器人Bard,并宣布将嵌入其搜索引擎。微软紧随其后,推出基于AI驱动的必应搜索引擎和Edge浏览器,以类似于ChatGPT的方式回答用户的搜索提问。值得一提的是,2019年微软在ChatGPT的所有者OpenAI身上投入十亿美元,而在今年1月底微软宣布与OpenAI扩大合作伙伴关系,向OpenAI进行一项为期多年、价值数十亿美元的投资,以加速在人工智能领域的技术突破。光投资合作还不够,微软亲自下场将ChatGPT技术整合到搜索引擎中,展现其向谷歌再次发起挑战的决心。在目前的全球搜索引擎市场中,谷歌依然是绝对的老大,地位几乎不可撼动,市场份额高达93%,微软旗下Bing以3%的份额排名第二。百度“类ChatGPT应用”文心一言(ERNIE Bot)将在今年三月份完成内测,面向公众开放,内测包括答案回复、智能生成等。阿里达摩院牵头的类ChatGPT对话机器人也正在研发中,目前已开放给公司内员工测阶段,可能将与钉钉深度结合。
最重要的是算力ChatGPT(Generative Pre-trained Transformer)强大的响应能力很大程度上要归功于所经受的大量数据训练。目前的ChatGPT是基于GPT-3.5架构开发的对话AI模型,从模型的发展迭代过程来看,参数量的增长是爆炸式的。2018年OpenAI推出GPT-1模型时,其参数量在1亿级别,预训练数据量也仅在5GB,同年谷歌推出的BERT模型参数量达3.4亿。随后OpenAI奋起直追,分别于2019年和2020年迭代出GPT-2和GPT-3模型,到了GPT-3参数量已经增长至1750亿,预训练数据量也提升至45TB。如此大量的参数运算意味着ChatGPT需要强大的算力来支持其训练和部署,算力又取决于底层芯片。相较于GPT模型参数量的增长,GPU芯片的容量从2017年V100的32GB提升至2020年A100的80GB,二者的增长显然不在同一量级。因而要在基础模型上完成大规模预训练,需要导入的GPU数量至少要上万。图:大型Transformer模型中的参数量呈指数级增长,但单个GPU内存仅以每2年增长2倍的速度增长ChatGPT迭代的过程中离不开微软的帮忙,微软Azure AI超级计算机为ChatGPT提供了训练支持。根据微软公布的数据,为OpenAI开发的超级计算机是一个单一系统,拥有超过285,000个CPU、10,000个GPU和每个GPU服务器每秒400GB的网络连接,可比肩全球Top5的超级计算机。ChatGPT的知识仍局限于2021年的数据,随着时间的推移还需要不断改进,模型的不断迭代对于算力的需求也会越来越大。根据2018年OpenAI发布的一份研究,自2012年以来,AI训练运行中使用的计算量呈指数级增长,大约每隔3.4个月翻倍,相比之下,摩尔定律的倍增期为18-24个月。从2012年到2018年,AI训练对于算力的消耗增长了30万倍,而摩尔定律在相同时间只产生了7倍的增长。图:从AlexNet到AlphaGo Zero,计算能力提高30万倍推动人工智能进步的关键因素包括算法创新、数据、以及可用于训练的计算量,算法创新和数据很难进行跟踪,但计算量是可量化的,更多的计算可以预见地会带来更好的性能,这又建立在硬件的基础上。
背后赢家:英伟达和台积电就AI芯片的市场格局来看,英伟达是全球GPU和AI计算平台的领军者,据Omdia的数据,2020年英伟达在用于云和数据中心的AI处理器市场占据了80.6%的收入份额。另据IDC的数据,2021年英伟达在企业GPU市场的份额达到91.4%,而AMD仅8.5%,在Top500超级计算机中,近七成是由英伟达支撑的,上文提到的微软为OpenAI开发的超级计算机所用的GPU就是由英伟达提供的。因而在这一轮ChatGPT的热潮下,英伟达的股价也闻风而动,1月底以来英伟达上涨16%。在智能手机、PC、ping ban遇冷后,上游芯片厂商的注意力转移到了AI领域。英伟达之外,英特尔在接连收购Altera、Nervana、Movidius人工智能初创公司后积极追赶;AMD计划于今年推出Alveo V70 AI芯片新品;苹果M2系列芯片持续导入AI加速器设计。2022年半导体行业陷入“寒冬”之际,英特尔、AMD迫切希望寻求到新的增长点,不过目前后面这几家还没能对英伟达形成冲击。花旗预估,ChatGPT可能会在未来12个月内为英伟达带来30亿美元至110亿美元的销售额。2022财年英伟达的收入达到创纪录的269亿美元,其中数据中心业务贡献了106亿美元,占总收入的40%。随着芯片厂商相继进入新技术的大规模试制阶段,芯片制造资源的竞争也随即拉开,台积电的先进制程产能又成为了争抢的对象。根据台积电最新发布的2022财年第四季度财报,四季度台积电实现营收205亿美元,两年来首次不及预期,但受益于先进制程营收占比的扩大,5nm制程营收占比32%,7nm营收占比22%,净利润(97亿美元)和毛利率(62.2%)双双创历史新高。按产品类型划分,高性能计算(HPC)营收环比上涨4%,收入占比42%,连续取代传统强项智能手机业务(收入占比38%),稳坐台积电第一大收入来源。目前智能手机需求依旧疲软,原本已经进入量产阶段的3nm遭遇“砍单”,高额的成本令苹果和高通都谨慎起来。此前台媒报道称,由于大厂开始调整订单,台积电2023年第一季度的产能利用率将大幅下降。公司N7线(7纳米、6纳米级技术)的利用率2023年初将下降到50%左右。ChatGPT的迅速蹿红可能拯救了一把正愁找不到买家的台积电,近期传出英伟达、AMD同步向台积电下急单,相关芯片将在4月后逐步产出。据研究机构Couterpoint预测,英伟达和AMD的新品集中在4nm和5nm,预计2023年下半年之后陆续推出采用台积电3nm制程的CPU和GPU产品,2023年台积电5纳米家族产能约半数由AMD与英伟达包办,另一半则由苹果拿下。
再现比特币风潮?比特币疯涨时期,水涨船高的挖矿收益带动矿机需求暴增,同高性能计算一样,挖矿对于算力的要求也很高,进而也驱动了对于先进制程的争夺。2017年比特币从2016年底的900多美元一路冲至近2万美元,一年之内最高上涨近20倍,矿机巨头的业绩也迎来集中爆发。彼时占据全球矿机市场份额约七成的比特大陆2017年营收为25.17亿美元,较2016年的2.78亿美元翻了近8倍。比特大陆在2017年一举成为台积电前三大客户,矿机芯片占据了当年台积电全部销量的10%。如今科技巨头们纷纷加入ChatGPT的竞赛,算力作为最重要的基础自然是不可或缺,而计算资源的背后又是芯片,因而ChatGPT竞赛开启的同时必然会引发高端芯片的需求,从而拉动价格的上涨,类似的剧情在比特币飙涨和“芯片荒”时期都曾上演。目前英伟达A100GPU的采购成本在9000美元以上,另外根据2018年OpenAI披露的数据,进行训练的硬件购买成本在数百万美元。无论是开发训练还是后续的运营,ChatGPT所回应的每一个字都很“烧钱”。科技巨头在台前靠AI技术收割流量,为算力花出去的真金白银最终流向的是英伟达和台积电的口袋。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。市场有风险,投资需谨慎,请独立判断和决策。
最重要的是算力