英特尔第一个chiplet设计，更多细节曝光

在Computex 2023，英特尔公布了有关其新的以 AI 为中心的 VPU 芯片的新细节，该芯片将在该公司的新 Meteor Lake 芯片中首次亮相。该公司还概述了其为即将推出的 Meteor Lake 芯片启用 AI 生态系统所做的努力。英特尔计划在年底前发布 Meteor Lake 处理器，这是第一个使用基于小芯片的混合设计，在一个封装中利用英特尔和台积电技术。这些芯片将首先登陆笔记本电脑，专注于本地 AI 工作负载的能效和性能，但不同版本的设计也将登陆台式机。

Apple 和 AMD 都已经在其芯片中内置了强大的 AI 加速引擎，微软也一直在忙于为 Windows 提供新功能以利用自定义 AI 加速引擎。继英特尔、AMD 和微软上周宣布 PC 人工智能时代即将到来之后，英特尔深入探讨了如何在其消费类 PC 芯片上使用自己的定制加速块来应对新兴的人工智能工作负载类别。

英特尔分享了 Meteor Lake 芯片的一些新渲染图，我们已经在Hot Chips 2022期间介绍了整体硬件设计。这些芯片将率先利用 Intel 4 工艺节点和一系列台积电在 N5 和 N6 工艺上制造的小芯片来实现其他功能，如 GPU 和 SoC 块。在这里我们可以看到芯片被分成四个单元，CPU、GPU、SoC/VPU 和 I/O 块垂直堆叠在使用英特尔 3D Foveros 封装技术的中介层之上。我们还在文章末尾提供了另一个幻灯片，其中包含来自 Hot Chips 会议的更详细的架构细节。

这里的重点是 VPU 单元，但不要让第一张图片误导您，这是英特尔为今天的公告分享的简化图——整个tile并不是专用于 VPU。相反，它是一个具有各种其他功能的 SoCtile，如 I/O、VPU、GNA 内核、内存控制器和其他功能。此tile采用台积电 N6 工艺制造，但采用英特尔 SoC 架构和 VPU 内核。VPU 单元不会占用整个裸片面积，这很好——这意味着英特尔将近 30% 的裸片面积用于不常用的单元，至少一开始是这样。但是，正如我们将在下面介绍的那样，开发人员启用充分利用 VPU 内核所需的应用程序生态系统还需要一些时间。

在上面的相册中，我收录了一张来自英特尔hotchips演示的图片，该图片提供了该公司对 I/O 芯片功能的官方图形表示。我还包括一张标有“fig. 8.'的图片，这张方框图来自英特尔的一项专利，该专利被广泛认为是 Meteor Lake 设计的概述，它与我们已经了解的有关该芯片的信息大体相符。

英特尔仍将包括其芯片上已存在的高斯神经加速低功耗 AI 加速块，在图中的 SoC tile上标记为“GNA 3.5”（更多信息见下文）。您还可以发现包含新的基于 Movidius 的 VPU 块的“VPU 2.7”块。

与英特尔的程式化渲染一样，专利图像也只是图形渲染，与芯片的实际物理尺寸没有真正的关联。很容易看出，由于有这么多外部接口，如内存控制器、PCIe、USB 和 SATA，更不用说媒体和显示引擎以及电源管理，VPU 内核根本无法占用太多芯片面积SoC tile。目前，英特尔专用于该引擎的裸片面积未知。

VPU 专为持续的 AI 工作负载而设计，但 Meteor Lake 还包括可以运行各种 AI 工作负载的 CPU、GPU 和 GNA 引擎。Intel 表示，VPU 主要用于后台任务，而 GPU 则介入处理更重的并行工作。同时，CPU 处理轻型低延迟推理工作。一些 AI 工作负载也可以同时在 VPU 和 GPU 上运行，英特尔已经启用了允许开发人员根据手头应用程序的需求针对不同计算层的机制。这最终将以更低的功耗实现更高的性能——这是使用 AI 加速 VPU 的一个关键目标。

Intel 的芯片目前使用 GNA 模块来实现音频和视频处理功能的低功耗 AI 推理，GNA 单元将保留在 Meteor Lake 上。然而，英特尔表示它已经在 VPU 上运行了一些以 GNA 为中心的代码并取得了更好的结果，这强烈暗示英特尔将在未来的芯片中完全过渡到 VPU 并移除 GNA 引擎。

英特尔还透露，Meteor Lake 拥有一个统一的内存子系统，这意味着它可以轻松地在计算元素之间共享数据。这是一个关键功能，在概念上类似于 CPU AI 领域的其他竞争者，例如 Apple 的 M 系列和 AMD 的 Ryzen 7040 芯片。

在这里，我们可以看到英特尔的幻灯片软件涵盖了其在支持庞大的软件和操作系统生态系统方面所做的努力，这些生态系统将有助于将 AI 加速应用程序推向 PC。英特尔的宣传是，它拥有将 AI 带入主流的市场占有率和规模，并指出其协作努力为其 x86 混合 Alder 和 Raptor Lake 处理器提供了对 Windows、Linux 和更广泛的 ISV 生态系统的支持。

在将 AI 加速引入现代操作系统和应用程序方面，该行业将面临类似的挑战。但是，如果开发人员由于困难的专有实施而不会支持这些功能，那么拥有在本地运行 AI 工作负载的能力就没有多大价值。轻松支持本地 AI 工作负载的关键是用于机器学习的 DirectML DirectX 12 加速库，这是 Microsoft 和 AMD 倡导的一种方法。英特尔的 VPU 支持 DIrectML，但也支持 ONNX 和 OpenVINO，英特尔称其在其芯片上提供了更好的性能。然而，ONNX 和 OpenVINO 将需要软件开发人员进行更有针对性的开发工作，以发挥最大的性能。

许多当今更密集的 AI 工作负载，例如 ChatGPT 等大型语言模型，需要强大的计算能力，这些能力将继续在数据中心运行。然而，英特尔争辩说它会带来延迟和隐私问题，更不用说增加等式的成本了。一些人工智能应用程序，如音频、视频和图像处理，将能够在 PC 上本地处理，英特尔表示这将改善延迟、隐私和成本。

英特尔指出了一系列不同的工作负载可以从本地 AI 加速中受益，包括实时视频和音频处理以及 Unreal Engine 的实时动作捕捉。英特尔还演示了同时在 Meteor Lake 的 GPU 和 VPU 上运行的 Stable Diffusion，以及仅在 VPU 上运行的超分辨率。但是，该演示并未从性能角度为我们提供参考框架，因此我们无法证明与其他解决方案相比的相对性能。此外，并非所有 Stable Diffusion 模型都可以在处理器上本地运行——它们需要谨慎的 GPU 加速。

目前，大量常见应用程序支持某种形式的本地 AI 加速，但选择范围仍然非常有限。然而，随着时间的推移，英特尔和整个行业的持续开发工作将使 AI 加速变得更加普遍。