Redian新闻
>
当前爆火的 ChatGPT 最大瓶颈或是它

当前爆火的 ChatGPT 最大瓶颈或是它

公众号新闻
作者 | 尹洪昌
来源 | 选股宝

导语:AI训练所需算力指数增长,增长速度超越硬件的摩尔定律。

最近AIGC领域催化不断,而随着ChatGPT大火之际,财通证券等指出,算力作为人工智能的“发动机”,已是行业当前最大的瓶颈,国盛证券也表示AIGC等应用的普及将带来巨大的算力市场。

具体来看,财通证券分析称,算力的瓶颈并不体现在算力的绝对大小,而在于实现该算力的成本,特别是在算法场景众多、迭代速度较快的AI领域。

此前,OpenAI联合创始人兼CEO曾在推特上表示,ChatGPT的运营费用高得“令人瞠目结舌”。在用户抛出问题之后,ChatGPT回应的每一个字,花的都是真金白银。

据悉,ChatGPT托管于微软云服务Azure上,目前微软对单个100 GPU的收费是每小时3美元,按照ChatGPT加载模型和文本的速度,生成一个单词的费用约为0.0003美元。

而ChatGPT的回复通常至少有30个单词,因此ChatGPT每回复一次,至少花Open AI 1美分。

而摩根士丹利的分析甚至认为,ChatGPT的一次回复可能会花掉Open AI 2美分,大约是谷歌搜索查询平均成本的七倍。尤其考虑到ChatGPT面向全球大众用户,用的人越多,带宽消耗越大,服务器成本只会更高。

AIGC应用将产生巨大的算力市场


根据早些时候OpenAI发表了一份研究成果表明,AI训练所需算力指数增长,增长速度超越硬件的摩尔定律。

数据显示,自2012年至2018年,用于训练AI所需要的算力大约每隔3~4个月翻倍,整体呈现指数级上涨(而摩尔定律仅仅是18个月翻一倍)。

从2012年到2018年,训练AI所耗费的算力增长了30万倍,而摩尔定律在相同时间只有7倍的增长。

中信建投研报的数据也显示,此前用于AI训练的算力增长符合摩尔定律,大约每20个月翻一番;深度学习的出现加速了性能的扩展,用于AI训练的算力大约每6个月翻一番;而目前大规模模型出现,其训练算力是原来的10到100倍。

国盛证券表示,AIGC未来应用普及的背后,将产生巨大的算力市场。

以GPT-3为例,该模型有着多达1750亿的参数,训练所需的算力高达3650PFLOPS-day。

按照Lambda的测算,以V100理想状态下28 TFLOPS的算力和最低3年起云计算的成本,完成训练GPT-3需要花费460万美元,而下一代GPT-4的参数将更多。

国盛证券表示,尽管AI模型往往会选择开源,但数据集和训练成果是一个团队的内部资产,这意味着每个AI产品都需要支付自己的训练成本。

现在大部分创业团队都是布设在云端,因为单独的算力集群很贵,目前A100高端产品大概在6-9万元,1000张A100卡加上CPU、硬盘、存储、机房供电等配套设施的硬件投入将近1亿。

在未来AIGC随着B端和C端的商业化落地的实现,算力集群的建设和云服务都会收益,同时考虑到英伟达A100、H100出口受限,相关国产算力芯片将有机会获得增量市场。

算力行业还有元宇宙+数字经济催化

此前科技巨头英特尔曾发布过一个元宇宙相关的声明,英特尔表示,看好元宇宙的可能性。

但有一个关键问题还没有解决——几乎没有足够的计算能力,其表示今天的计算、存储和网络基础设施根本不足以实现这一愿景,而要想实现真正的元宇宙,我们目前的计算能力需要再提高1000倍。

此外,据华西证券研报,数字经济催化下,智能算力需求稳定增长。兴业证券表示,数字经济时代,算力是国别竞争能力高低的核心指标。

近日,IDC与浪潮信息联合发布《2022-2023中国人工智能计算力发展评估报告》,文章指出,中国人工智能计算力继续保持快速增长,2022年智能算力规模达到268百亿亿次/秒(EFLOPS)。

IDC预测,未来五年中国智能算力规模将持续高速增长,2021年中国智能算力规模达155.2 EFLOPS,预计到2026年将达到1271.4 EFLOPS。

据《中国算力网络全景洞察白皮书》,算力是数字化时代的基础设施,也是推动数字经济向前发展的核心动能。需求侧科技进步与产业数字化、供给侧算力技术迭代共同驱动算力发展。

据兴业证券研报,算力的第一个层次是算力的“基础设施建设”,高性能芯片、服务器、处理器、数据中心、网络等基础设施建设为算力、应用以及产业发展提供可持续发展的保障。

算力的第二个层次是应用,得益于算力水平的不断提升,未来云计算、大数据、人工智能、物联网、5G等应用都将蓬勃发展,而这些应用的普及又带来计算方法的革新,提高计算效率,拉动算力发展。

算力的第三个层次在于与实体经济的融合,赋能数字经济各行业的数字化转型升级。

工业互联网、金融科技、智能驾驶、智能医疗、智能制造、智慧城市、高端装备、可穿戴设备、个人智能终端、网络安全等产业数字化进程不断加深,新的需求以及产生的大量数据,又为应用的发展提供了动力。

加入阿尔法工场投资者交流社群 | 添加微信:dlfxs2

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
ChatGPT 或导致 20 种工作失业?恐怕远远不止,比尔盖茨 :ChatGPT 将改变世界朋友圈全是ChatGPT! ChatGPT概念股大火重磅!微软发布 ChatGPT 版搜索引擎,用上了比 ChatGPT 更强大的技术2个老海归与2个海不归ChatGPT 进军 B 端?消息称微软将允许企业创建定制版 ChatGPT日本啊,日本(三)洞爷湖,米其林,枯山水敲响警钟!追赶ChatGPT的最大瓶颈可能是它厉害了我的 ChatGPT, 弱重磅 | 我内测了微软最新的 ChatGPT 版必应:比 ChatGPT 更像人,但有一个大隐患全球都为ChatGPT疯狂,它到底是风口还是虚火?深度解读风暴眼中的ChatGPT | 直播预约中国唯一不被外国卡脖子的技术就是。。。剽窃、作弊,ChatGPT竟偷偷生成了12篇署名论文!Marcus炮轰Ta变成CheatGPTchatGPT. 一本正经胡说八道ChatGPT是怎么变得这么强的?拆解追溯ChatGPT各项能力的起源跟ChatGPT,聊聊ChatGPTChatGPT通过谷歌程序员面试,薪资达18.3万美元!ChatGPT通过谷歌程序员面试,薪资达18.3万美元!Chatgpt 4 要release 了紧急提醒!ChatGPT成神器!但这些“ChatGPT”是假的,小心被骗!PK chatgpt 的诗评集成ChatGPT后必应日活量首破亿!微软推出Azure OpenAI ChatGPT 服务,GPT-4下周发布下载量暴增10倍!微软必应集成ChatGPT后需求大爆发;4省份上调最低工资标准;淘宝已屏蔽ChatGPT关键词丨邦早报ChatGPT惹怒主流媒体!华尔街日报、CNN授权费都没付!马斯克:ChatGPT好得吓人;用户吐槽:它有时会一本正经的胡说八道马斯克AI实验室名字敲定/ Win11任务栏添加ChatGPT搜索/ 沃尔玛限制员工使用ChatGPT…今日更多新鲜事在此ChatGPT因访问量激增崩了;抖音否认3月1日上线外卖服务;百度将于3月推出ChatGPT产品丨邦早报科早ChatGPT:如何应对ChatGPT?二级市场闭门研讨会精选 | S7E01 硅谷徐老师我内测了微软最新的 ChatGPT 版必应:比 ChatGPT 更像人,但有一个大隐患我居然第一次吃这么好吃的豌杂面?华尔街交易员为何不担心ChatGPT抢饭碗?ChatGPT:我预测不了市场ChatGPT到底有多聪明?我测试了ChatGPT的数学能力ChatGPT能有意识吗:关于ChatGPT的误解与夸大微信回应头像褪色,部分C刊不准隐瞒ChatGPT使用,微软推进裁员,Opera新版集成ChatGPT,这就是今天的其它大新闻!chatgpt 说顾城剽窃为什么ChatGPT这么强?—— 一文读懂ChatGPT原理!百度版ChatGPT确定为“文心一言”/ 戴尔裁员5%/ 苹果要开会应对ChatGPT…今日更多新鲜事在此ChatGPT带火AI芯片,赚翻了的英伟达发布新核弹:ChatGPT专用GPU,让推理提速10倍!ChatGPT讲座:ChatGPT并不神秘,但ChatGPT很神奇军旅故事原创系列(10)大操场的电影情结孟晚舟将首次出任华为轮值董事长/ 百度All in类ChatGPT项目/ 知乎因ChatGPT大涨50%…今日更多新鲜事在此金融民工会因为ChatGPT下岗吗?刚刚,我问了ChatGPT 24个金融圈灵魂问题反击!Google 版 ChatGPT 首次亮相,有一个功能「碾压」ChatGPT
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。