文勇刚：大模型时代，我们需要怎样的数据中心？丨GAIR 2023

科技

2023-09-11 00:09

“如何平衡AI发展和能耗间的关系，是未来数字化科技发展的重要课题。”

作者丨代润泽

编辑丨刘伟

2023年8月14日、15日，由GAIR研究院、雷峰网、世界科技出版社、科特勒咨询集团联合主办的第七届GAIR全球人工智能与机器人大会，在新加坡乌节大酒店举办。

8月15日在多模态与跨境电商论坛上，南洋理工大学协理副校长、新加坡工程院院士、红点数智科技（新加坡）首席科学家文勇刚教授，发表了《AI and Digital Infrastructure for a Sustainable Future:A Tale of Twin Transition（可持续未来的人工智能和数字基础设施:双重转型）》的主题演讲。

其中，文勇刚教授提出了数字化转型和可持续发展的双轮驱动的观点。以下是文勇刚教授的现场演讲内容，雷峰网作了不改变原意的编辑及整理。

数字化转型和可持续发展的双轮驱动

何谓数字化转型和可持续发展的双轮驱动？文勇刚表示，具体来看，一方面，目前越来越多诸如跨境电商等行业带来数字经济的发展，给可持续发展带来新的挑战；另一方面，由于数字经济的发展，尤其是人工智能和数据科学的发展，也将为可持续性发展带来新的机会，夯实相关行业可持续发展的基石。

例如过去的三年，疫情期间的碳排放量仅降低3%。事实上，尽管大家的活动从线下转移到线上，这直接拉高数字基建的需求。可以看到过去的几年，整个东南亚数据中心的发展已经超过两位数，那么意味着线上活动依然能够带来碳排放。这便是数字经济发展带给可持续性发展的挑战之一。

文勇刚认为，真正的愿景是双驱动后，AI、数据和各种生产活动形成共赢态势。

首先，AI科研和AI技术的发展，最大的挑战是带来很大的能耗及伴生碳排放。

例如数据中心就是一个大机房，耗电量巨大。某研究表明，到 2030 年数据中心将占到全球总耗电量的8%。这已经和航空行业差不多了。这可能就是尽管疫情期间，航空行业的减少并没带来大幅度碳排放量降低的原因之一。

正如新加坡，预计到 2030 年，其数据中心将占到总耗电量的12%。就此发现，2019年开始，新加坡政府暂停发放新的数据中心牌照，直到2023年才逐渐恢复。

结合人工智能最新的发展，大语言模型的能耗到底是怎样呢？

文教授比较了三个大语言模型：一个是Llama，一个是GPT-3，还有一个是Palm。它们每次运行的耗电量是多少呢？大致认为这是一个“线性趋势”，意味着预训练带来的电力成本与模型大小正相关。然而碳排放并没有满足线性增长，我们发现，出现该现象的原因是，不是每个平台都环保。例如Google，Google是全球绿色数据中心技术发展最好的大公司之一。所以在同等情况下，Google的碳排放要低得多。