Redian新闻
>
ChatGPT 日耗电超 50 万度,卡死AI发展的竟然是能源?

ChatGPT 日耗电超 50 万度,卡死AI发展的竟然是能源?

公众号新闻

最近《纽约客》报道,ChatGPT 每日耗电量或超过 50 万千瓦时,相当于美国家庭平均用电量的 1.7 万倍。埃隆·马斯克也曾预言,未来两年内电能短缺将成为制约 AI 发展的主要因素。然而,事实真的是这样吗?


目前关于 AI 耗电量的观点主要源自估算结果,而非真实的测量数据。美国信息技术与创新基金会(ITIF)发布的报告认为,个别不准确的研究大大高估了 AI 的能耗,这样的言论可能对 AI 发展造成不利影响,阻碍 AI 在促进节能减排、应对环境挑战方面发挥潜力。业界人士呼吁,应当促进行业信息透明,同时减少 AI 技术的滥用。


AI 能耗评估难题:

影响因素众多


ITIF 是一家非营利智库,总部位于美国华盛顿。在这份题为《重新审视对人工智能能耗的担忧》的报告中,ITIF 指出,不同 AI 模型的能耗和碳排放存在巨大差异,受到诸多因素的影响,包括芯片设计、冷却系统、数据中心设计、软件技术、工作负担、电能来源等。


所以,在估算 AI 的能耗方面,不同研究的结论出现了较大分歧。2019 年马萨诸塞大学阿默斯特分校团队发布的一项预印本研究估算,当时领先的谷歌公司大语言模型 BERT 在 79 小时的训练过程中排放了约 1438 磅二氧化碳(约合 652 千克),量级相当于一名乘客乘坐飞机往返于纽约和旧金山一次。研究也对 AI 神经架构搜索(NAS)等技术得出了类似结论。这篇论文在谷歌学术被引用接近 3000 次,并得到了大量媒体报道。


然而,从事 AI 研发的企业和机构得出了截然不同的分析结论。2021 年,谷歌公司与加州大学伯克利分校发布一项预印本研究认为,前述研究将谷歌的 AI 碳排放数值高估了 88 倍。但是这项研究得到的关注远不如前者,被引数仅有 500 左右。


图源:pixabay


由于媒体和公众关注负面信息的倾向,结论惊人的研究更容易得到传播。科技行业名人的言行也在放大“ AI 能耗巨大”的信息,马斯克曾预言“制约 AI 发展的因素将由‘缺硅’变成‘缺电’”;Open AI CEO 萨姆·阿尔特曼也表示 AI 将消耗更多电力,并高调投资核聚变。


从全生命周期视角

评估 AI 能耗


ITIF 报告指出,目前许多研究和政策都关注 AI 训练(training)阶段,但多项研究表明 AI 在推理(inference)过程中,也即人们使用 AI 输出结果的过程能耗更高。此外,不同 AI 模型处理不同类型的推理任务,能耗的差异也很大。例如 1000 次请求计算,图片分类任务的耗电量是 0.007 千瓦时,而图片生成任务耗电 2.907 千瓦时。


报告作者指出,AI 的训练是一次性事件,而它的使用是长期过程,讨论 AI 能耗问题时应该关注的不是爆发式增长,而是长期的影响。并且,从技术史的视角看来,AI 及其能耗的增长还将受到以下 4 个因素的限制:


基础设施建设成本将制约 AI 的快速增长


“ChatGPT 每日耗电量或超过 50 万千瓦时”的结论,出自技术博客 Digiconomist 作者亚历克斯·德·弗里斯(Alex de Vries)的估算。德·弗里斯还曾预测,在最糟糕的情况下,谷歌的 AI 用电量将与整个爱尔兰相当,达到每年 29.3 TWh(太瓦时)。但他同时也指出,要想达到这样的规模,谷歌需要在芯片上投入 1000 亿美元,此外还要数据中心的运营和电费投入数十亿美元。如果AI的运营成本居高不下,逐利的商业公司自然会放慢脚步,减少投入。


AI 性能增长存在边际效应


近年来 AI 连续在许多领域取得了突破性进展,这也意味着它可能很快迎来一个瓶颈期。研发、运营更大的模型带来的回报将越来越低,在提升准确性上精益求精也将变得更困难。所以,优化 AI 模型可能是接下来的研发方向。


软件和硬件的性能提升将减少 AI 能耗


AI 模型的优化,以及硬件技术的进步,都有望减少 AI 的能耗。一项发表于《科学》期刊的研究指出,在 2010~2018 年间,全球数据中心的运算量增长了 550%,存储空间增长了 2400%,但耗电量仅增长 6%。硬件、虚拟技术和数据中心设计方面的创新提升了能效,也使得云计算的规模化成为可能。


图源:pixabay


同样,剪枝(pruning)、量化(quantization)、蒸馏(distillation)等技术有望带来更好的算法,让 AI 模型更快、更节能。谷歌公司和加州大学伯克利分校研究团队指出,有赖于各项技术进步,近年来在谷歌公司内部 AI 的能耗占比保持稳定,尽管机器学习增长到运算量的 70%~80%。


AI 的应用最终将在某些方面减少碳排放


整体上,当人们用电子邮件替代传统书信,用观看 DVD 或流媒体频道替代去电影院看电影,这些活动的数字化都减少了碳排放。AI 有望在这方面继续发挥作用,例如通过改进视频通话体验,使更多的会议转向远程进行。此外,AI 技术还可用于进行电网调度、分析气候数据,从而成为应对气候变化的助力。


准确评估 AI 能耗

促进领域健康发展


从历史的角度看,关于 AI 碳排放的担忧并不新鲜。90 年代曾有人预测,未来发电量的一半将用于满足互联网活动;在流媒体出现的时候,同样有人提出类似观点。如今我们知道,这些担忧都并未成为现实。ITIF 报告认为,如果没有完全理解 AI 能耗问题就急于进行管控,可能会阻碍 AI 的性能提升,限制其发展潜力。例如,使 AI 消除偏见和仇恨言论、避免输出有害信息,都需要进行更多的推断,从而提升能耗。


报告建议,应对大众关于 AI 能耗问题的担忧,决策者应当:


① 制定相应标准,使 AI 模型能耗公开透明;


② 鼓励业界主动公开 AI 模型能耗信息,以便公众进行知情选择;


③ 考虑 AI 法规对能源使用的意外后果;


④ 利用 AI 实现政府运作的低碳化。


一些机构已经在推动 AI 的信息公开。2023 年 12 月,欧盟通过《人工智能法案》,这是全球首部 AI 监管法案。法案督促 AI 开发者致力于使模型高能效、可持续,并要求进行相应的信息公开。


图源:pixabay


德·弗里斯同样呼吁进行信息公开,同时他希望及时限制 AI 的发展,就像限制加密货币技术一样。数字经济学家(Digiconomist)博客指出:“ AI和先前的区块链等新兴技术的发展,伴随着大量的狂热和错失恐惧(FOMO),这通常会催生对终端用户没什么益处的应用 。”


而在《纽约客》报道中,著名科学记者伊丽莎白·科尔伯特(Elizabeth Kolbert)的原话是:“每当 ChatGPT 吐出信息(或给某人写高中作文),都需要进行大量运算。据估计,ChatGPT 每天要响应约 2 亿次请求,同时消耗超过 50 万千瓦时电力。”也就是说,要应对 AI 能耗危机,或许可以从限制使用 AI 写作业开始。


参考文献

[1] Elizabeth Kolbert. The Obscene Energy Demands of A.I.. The New Yorker. https://www.newyorker.com/news/daily-comment/the-obscene-energy-demands-of-ai. <2024-03-09/2024-03-09>

[2] Loz Blain. Elon Musk: AI will run out of electricity and transformers in 2025. New Atalas. https://newatlas.com/technology/elon-musk-ai/. <2024-03-01/2024-03-12>

[3] Daniel Castro. Rethinking Concerns About AI’s Energy Use. Center for Data Innovation. ITIF. https://itif.org/publications/2024/01/29/rethinking-concerns-about-ai-energy-use/. <2024-01-29/2024-03-04>

[4] Strubell, Emma, Ananya Ganesh, and Andrew McCallum. "Energy and policy considerations for deep learning in NLP." arXiv preprint arXiv:1906.02243 (2019). https://arxiv.org/pdf/1906.02243.pdf

[5] Patterson, David, et al. "Carbon emissions and large neural network training." arXiv preprint arXiv:2104.10350 (2021). https://arxiv.org/abs/2104.10350

[6] OpenAI CEO Altman says at Davos future AI depends on energy breakthrough. Reuters.   https://www.reuters.com/technology/openai-ceo-altman-says-davos-future-ai-depends-energy-breakthrough-2024-01-16/. <2024-01-16/2024-03-12>

[7] de Vries, Alex. "The growing energy footprint of artificial intelligence." Joule 7.10 (2023): 2191-2194.

https://www.cell.com/joule/pdf/S2542-4351(23)00365-3.pdf

[8] Eric Masanet et al., “Recalibrating Global Data Center Energy-Use Estimates,” Science 367, no. 6481 (February 28, 2020): 984–86, https://doi.org/10.1126/science.aba3758.

[9] Patterson, David, et al. "The carbon footprint of machine learning training will plateau, then shrink." Computer 55.7 (2022): 18-28.

[10] Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world. Council of the EU. https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/. <2023-12-09/2024-03-12>

[11] Powering AI could use as much electricity as a small country. Digiconomist. https://digiconomist.net/powering-ai-could-use-as-much-electricity-as-a-small-country/ <2023-10-10/2024-03-12>


策划制作

作者丨玛雅蓝 科普创作者

审核丨于旸 腾讯玄武实验室负责人

策划丨徐来 杨雅萍

责编丨何通‍‍‍


本文经授权转载自科普中国ID:Science_China),如需二次转载请联系原作者。欢迎转发到朋友圈。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
因为晚上没有早睡, 覺察、接受、不予判斷好壞ChatGPT 之父最新专访:发现 GPT-4o 惊喜用途,下一代模型可能不是 GPT-5马伯庸新书,美食X权谋X悬疑,[hào]吃有多了不起?ChatGPT 之父最新演讲:GPT-5 聪明程度超乎想象,一大批 AI 公司的努力将毫无意义盘点|在美国,Top 30大学的本科生都选了什么专业?最热门的竟然是......裁员潮下,细数热门公司,最理想的竟然是这...ChatGPT一天“吃”50万度电,AI热潮下美国上演电力“抢夺战”,核能、地热和燃料电池成新希望OpenAI一夜干翻语音助手!GPT-4o模型强到恐怖,ChatGPT学会看屏幕,现实版Her来了GPT-4「荣升」AI顶会同行评审专家?斯坦福最新研究:ICLR/NeurIPS等竟有16.9%评审是ChatGPT生成ChatGPT 之父最新演讲:GPT-5 聪明程度超乎想象,一大批 AI 初创公司的努力将变得毫无意义离婚女人(20.租客的厕所,与豪华的晚宴)“妈,我不反抗,命还给你”,河北15岁男孩,撞破母亲奸情,竟被2人活活卡死……万万没想到,被称为“武林”的竟然是这座城!请对号入座!美国各州居民最爱超市!华州最受欢迎的竟然是它?求教:chatgptChatGPT 一天“吃”50万度电,AI的尽头是能源?活着就好!各国留学生分享松弛感瞬间,没想到国外最危险的竟然是这件事……巴黎老年人又又又被盯上了?这一次盯上他们的竟然是“警察“!2024 美国最适合购房新手的地区排名!排第1的竟然是这地ChatGPT 偷懒行为是不是意味着他已经有自主意识了八大藤校早申数据汇总!录取最慷慨的竟然是……价值1300亿!澳洲花了10年时间终于把“种中药”折腾明白了!在澳洲最常针灸的竟然是这个国宝...ChatGPT惊艳更新!一个@让三百万GPTs为你打工微软推出iPhone能跑的ChatGPT级模型,网友:OpenAI得把GPT-3.5淘汰了德国人为什么老罢工?今天起,这个重磅功能向 ChatGPT Plus 用户全面开放!GPT-4.5 疑似泄露, Altman 在线「吃瓜」去年OpenAI announced ChatGPT, 投坦在讨论TChatGPT有记忆了!OpenAI官宣记忆功能开启测试,奥特曼称GPT-5更智能7大最受欢迎的美国硕士专业,排在第一的竟然是...回国带父母旅行了两趟,最不适应的竟然是这件事……ChatGPT 大更新曝光!免费用户自动升级 GPT-4 ,还能创建 GPTsAI的尽头是能源?宁王有了新故事AI早知道|ChatGPT灰度测试多GPTs协同;新Bard逆袭GPT-4;百川智能发布Baichuan3舒淇的礼服下穿的竟然是……ChatGPT实体化了!手机变身ChatGPT实体机器人,只需一个配件,能说话还会做梦,真的牛!CHATGPT(包括最近的视频生成SORA)不可能走向真正的‘智能’。因为它的所有生成都是通过概率,而对世界本质没有理解我无法原谅自己嚴寒 - 加拿大多倫多市两重惊喜!奥特曼预告GPT-4和ChatGPT重大更新,Open AI要放大招
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。