探析异构算力芯片出路在何方？

英伟达宣布 GH200 Grace Hopper 超级芯片投产，生成式 AI 引擎 NVIDIA DGX GH200 现已投入量产。

GH200 使用 Nvidia 的 NVLink-C2C 互连技术，将 Nvidia 基于 ARM 的 Grace CPU和 Hopper GPU 架构融合到一个芯片中。NVIDIA DGX GH200 将 256 个 NVIDIA Grace Hopper超级芯片完全连接到单个 GPU 中，支持万亿参数 AI 大模型训练，能够处理大规模推荐系统、生成式人工智能和图形分析，并为巨型人工智能模型提供线性可扩展性。

GH200 速度和功耗指标都有显著提升。这款新的芯片总带宽达每秒 900GB，比当今最先进的加速计算系统中采用的标准 PCIe Gen5 通道高出 7 倍。Nvidia 表示，Superchip 的功耗也降低了 5倍。

AMD 推出数据中心 APU Instinct MI300。AMD 推出数据中心APU（加速处理器）Instinct MI300，其旨在帮助数据中心处理人工智能相关数据流量，并在这一快速增长的市场上挑战英伟达的垄断地位。Instinct MI300 系列将包括一个 GPU（图形处理器）MI300X，可以加速 ChatGPT 等聊天机器人所使用的生成式 AI 技术的处理。

先进算力国产替代在行业变革中有望迎来机遇。半导体国产化势在必行，而算力芯片又是重中之重。AI 算力、低功耗等对服务器算力芯片提出新的要求，市场格局近几个季度变化较多，英伟达GH200 有望加速全球 AI 服务器算力芯片市场变革，中国芯片企业在面临挑战的同时，也有望迎来发展机遇。

1、不同算力芯片的特点与区别

计算芯片包括 CPU、GPU、FPGA、ASIC 等，都用作计算分析。其中，CPU 是性能最综合的计算芯片，AI 算法的执行也运用 GPU、FPGA、ASIC 等芯片。

CPU 是综合计算芯片，擅长逻辑控制和串行运算。计算机的运算器和控制器一起组成了 CPU，CPU 是整台计算机的大脑，也是一个有多种功能的优秀领导者。它的优点在于调度、管理、协调能力强，计算能力则位于其次。CPU 有大量的缓存和复杂的逻辑控制单元，非常擅长逻辑控制、串行的运算，但因计算单元占 30%左右，不擅长复杂算法运算和处理并行重复的操作。

GPU相比CPU计算单元大大增加，擅长大量并行计算。而作为通用芯片的 GPU 相当于一个接受CPU 调度的“拥有大量计算能力”的员工，计算单元相比 CPU 大大增加。GPU 最初承担图像计算任务，能够进行并行计算，因此 GPU 架构本身比较适合深度学习算法，通过对 GPU 的优化，进一步满足深度学习大量计算需求。其主要缺点在于功耗较高。

GPU 按照接入类型可以分为独立 GPU 和集成 GPU。独立 GPU 即独立显卡，需要插在主板的相应接口上，具备单独的显存，不占用系统内存，能够提供更好的显示效果和运行性能。全球知名供应商主要包括 AMD 和 NVIDIA 两家。集成 GPU 即集成显卡，是将图形核心以单独芯片的方式集成在主板上，并且动态共享部分系统内存作为显存使用，能够提供简单的图形处理能力，以及较为流畅的编码应用。全球知名供应商主要包括英特尔和 AMD 两家。

GPU 按照应用场景不同可分为 PC GPU、服务器 GPU 和移动 GPU。

1）集成 GPU 一般运用于PC 以轻办公、文字编纂为主；独立 GPU 则一般运用于 PC 以制作高清图片、编辑视频、渲染游戏等。

2）服务器 GPU 主要以独立 GPU 为主。服务器 GPU 主要应用于服务器，可做专业可视化、计算加速、深度学习等应用。

3）移动 GPU 以集成 GPU 为主。随着移动端向着轻薄化不断发展，终端内部净空间随着多种功能模组的增加呈快速下降趋势。此外，就目前的移动端视频和图片的处理要求而言，集成 GPU 的性能尚可满足移动端的需要。

• GPU分析：全球竞争格局与未来发展
  
• 2023年GPU显卡技术词条报告
  
• 英伟达GPU龙头稳固，国内逐步追赶（详解）
  
• GPU/CPU领域散热工艺的发展与路径演绎
  
• 探析ARM第五代GPU架构
  
• 新型GPU云桌面发展白皮书
  
• 十大国产GPU产品及规格概述
  
• GPU平台生态：英伟达CUDA和AMD ROCm对比分析
  
• GPU竞争壁垒：微架构和平台生态
  
• GPU微架构、性能指标、场景、生态链及竞争格局（2023）
  
• 大模型训练，绕不开GPU和英伟达
  
• Nvidia/AMD竞争：GPU架构创新和新兴领域前瞻探索
  
• 走进芯时代：AI算力GPU行业深度报告
  
• 独立GPU市场，AMD份额大跌？
  
• CPU渲染和GPU渲染优劣分析
  
• NVIDIA Hopper GPU：芯片三围、架构、成本和性能分析
  
• 国内GPU厂商及细分行业前景（2023）
  
• ChatGPT对GPU算力的需求测算与分析
  
• AMD RDNA2 GPU架构详解
  
• GPU研究框架（2023）

FPGA 又称半定制化芯片，具有足够的计算能力、较低的试错成本和足够的灵活性。FPGA 的计算速度快是源于它本质上是无指令、无需共享内存的体系结构，“无指令”即使用硬件描述语言编程，直接编译为晶体管电路的组合，所以 FPGA 实际上直接用晶体管电路实现用户的算法，没有通过指令系统的翻译；“无需共享内存”是指对于保存状态的需求，FPGA 中的寄存器和片上内存（BRAM）是属于各自的控制逻辑的，无需不必要的仲裁和缓存。

因此，FPGA 运算速度足够快，优于GPU。同时，相比量产成本高昂的 ASIC 芯片，因为 FPGA 是一种半定制的硬件，通过编程可定义其中的单元配置和链接架构进行计算，因此在灵活性上优于 ASIC，具备较低试错成本。

ASIC 是全定制芯片，性能强但是前期开发久、成本高。是根据产品的需求进行特定设计和制造的集成电路，能够在特定功能上进行强化，具有更高的处理速度和更低的能耗。缺点是成本高，且由于定制化，可复制性一般，因此只有用量足够大时才能够分摊前期投入，降低成本。

2、CPU 广泛应用于服务器、工作站、个人计算机等

CPU 可以应用在服务器、工作站、个人计算机（台式机、笔记本电脑）、移动终端和嵌入式设备等不同设备上，根据应用领域的不同，其架构、功能、性能、可靠性、能效比等技术指标也存在一定差异。

服务器处理器需长时间运行，数据处理能力最强、设计工艺最复杂、可靠性最高。服务器具有高速的数据处理能力、强大的 I/O 数据吞吐能力、良好的可扩展性，并需要长时间可靠运行，其CPU 芯片在性能、可靠性、可扩展性和可维护性等方面要求较为苛刻。因此，服务器处理器是数据处理能力最强、设计工艺最复杂、可靠性最高的处理器。服务器的应用领域包括实时分析、5G应用、人工智能、机器学习、金融、大数据和云计算等领域。

工作站主要为单用户提供比个人计算机更强大的性能。工作站是一种高端微型计算机，主要为单用户提供比个人计算机更强大的性能，尤其是在数据并行处理能力和图形处理能力等方面。工作站的典型应用领域包括科学和工程计算、软件开发、计算机辅助设计等。

个人计算机主要满足个人需求，核心数量较少。个人计算机包括台式机和笔记本电脑两大类，主要用于满足个人的工作、学习、娱乐需求，以及企业员工的办公需求。个人计算机处理器核心数量较少，具有较少 I/O。

移动终端具有低功耗、轻量化等特点，关注对多媒体功能的增强。移动终端包括手机、笔记本、平板电脑、POS 机等。随着集成电路技术的进步和移动网络向宽带化发展，移动终端正从简单通话工具逐步转变为综合信息处理平台。移动终端处理器具有低功耗、轻量化等特点，关注对多媒体功能的增强，具有较少 I/O。

嵌入式设备对功耗、稳定性、可扩展能力要求高。嵌入式设备需要具有高稳定性和低功耗，其处理器对环境（如温度、湿度、电磁场、振动等）的适应能力强，体积小，且集成度高，适用于工业控制、移动便携设备、物联网终端等场合。其中，大多数物联网设备需要额外的 CPU 处理能力来支持可升级的额外功能。因此，针对特定的物联网应用程序的 CPU 不仅必须支持安全特性，而且必须同时具有可扩展的性能，实现更高的时钟频率。物联网应用处理器芯片具有面向高集成度、高抗干扰能力和低功耗的发展趋势。

3、GPU 等 AI 芯片广泛应用于高性能运算、深度学习等场景

AI 芯片主要指面向人工智能应用的芯片。大致包含三类：

1）通用、半定制化芯片：经过软硬件优化可以高效支持 AI 应用的通用芯片，如 GPU，FPGA；

2）专门为特定的 AI 产品或者服务而设计的芯片：侧重加速机器学习（尤其是神经网络、深度学习），如 ASIC；

3）神经形态计算芯片：不采用经典的冯·诺依曼架构，而是基于神经形态架构设计，类似人脑，具备较高的集成度和能效比，以 IBM Truenorth 为代表。

国产算力芯片市占率低，具备广阔拓展空间。算力芯片目前国产厂商份额极低。CPU 目前从市场占有率来说，Intel 依靠其强大的 X86 生态体系，在通用 CPU 市场占据领先地位，市场份额常年保持在 80%左右，AMD 近期追赶势头明显，其他厂商整体市场份额不超过 1%。

2022 年，数据中心领域 Intel 市场占有率为 71%，较 21年下降 10pcts，AMD 在 22 年市占率快速提升 8pcts 至 20%，亚马逊、Ampere 等新兴玩家份额快速提升，给总计份额不足 5%的国产厂商发展带来了借鉴意义。在独立显卡市场上，NVIDIA、AMD 和英特尔 2022 年 Q4 全球 GPU 市场占有率分别为82%、9%和 9%。

多数参数我国 CPU 具备比肩能力，IPC 性能是最主要差距。目前通过公开信息可以看出，主频、核心数、内存类型等指标我国 CPU 厂商差异不大，具备一定的比肩能力，但落实到具体性能决定指标 IPC，仅 Intel 和 AMD 会公布 IPC“相比上一代提升了多少”，其他国产 CPU 从 IPC 性能来看大致落后于 Intel、AMD 几年水平。

国产厂商的机遇一：数据中心带来新需求。根据工信部信息通信发展司数据，2017年我国数据中心市场总机架数量 166 万架，2022 年预测达到 670 万架，2017-2022E 复合增速达 32.2%。目前东数西算工程将通过构建数据中心、云计算、大数据一体化的新型算力网络体系，于 2022 年 2 月，在京津冀、长三角、粤港澳大湾区等 8 地启动建设国家算力枢纽节点，规划了 10 个国家数据中心集群。各地数据中心都将集聚大量服务器，如韶关数据中心预计到 2025 年将建成 50 万架标准机架、500 万台服务器规模，投资超 500 亿元（不含服务器及软件）。

国产厂商的机遇二：国产化浪潮。政府及国有企事业单位为国产 CPU 主阵地。据测算，今年 PC 芯片市场规模在 162-330 亿元之间，2022 年服务器芯片市场规模则已达 130 亿美元。在企业级市场中，也不仅是国有企业，能源、交通、金融、电信、教育等重要领域或规模较大的民营企业也存在设备国产化需求。消费级市场对产业生态的要求最高，对性价比较为敏感，迭代周期短，是国产 CPU 长期需突破的目标市场。

国产厂商的机遇三：通过封测技术弯道超车。后摩尔时代的到来，一方面，CPU 制程进入后摩尔定律时期升级速度趋缓，国产 CPU 性能与国际主流水平逐步缩小，存在赶超的可能；另一方面，先进封装技术成为兵家竞争新赛道，在封装方面，我国封测厂商长电科技和通富微电在全球前五中占据两席，通富与 AMD 紧密合作，先进封装技术正成为集成电路产业发展的新引擎，我国 CPU 企业有望通过封测技术弯道超车，弥补先进制程能力不足的缺陷。目前国产 CPU 已经可以通过先进封装技术实现性能提升与应用场景拓展。

更新提醒：“存储系统基础知识全解（终极版）”和“服务器基础知识全解(终极版)”已经更新发布，还没有获取的读者，请在点击“原文链接”在微店留言获取（PDF阅读版本）。

温馨提示：

扫描二维码关注公众号，点击阅读原文链接获取“架构师技术全店资料打包汇总(全)”电子书资料详情。