AI算力模组年增长76%!蜂窝物联网模组迈向3.0时代
根据物联网市场调研机构 IoT Analytics 更新版的全球蜂窝物联网模组和芯片市场追踪报告(2024 年第一季度更新),2023 年全球蜂窝物联网模组和芯片组的出货量同比下降 16% 。有两个因素导致了这种下降:一是制造商的库存优化,二是经济前景的不确定性。
然而,面向未来,随着库存压力的减少和经济形势的好转,IoT Analytics 预计该市场会在短期内反弹,2024 年底一扫 2023 年的低迷,到 2027 年将实现 22% 的复合年增长率。
其中,智能模组和人工智能蜂窝物联网模组成为助推该市场增长的重要推动力,这类模组能够利用嵌入式计算资源直接在物联网设备上执行高级数据分析甚至人工智能推理。预计到 2027 年,这些先进模组的出货量将以 76% 的复合年增长率持续增长。
在笔者看来,所谓的智能模组和人工智能蜂窝物联网模组,其实和国内这两年常说的“算力模组”概念重合,代表了蜂窝物联网连接的最新前沿风向。无独有偶,市场研究机构 Counterpoint 也在报告里发现,2023 年模组厂商出货的诸多模组产品中,其中约有 12% 在软件或硬件层面具备 AI 功能。这些模组在汽车、路由器/CPE 和 PC 等高端市场越来越受欢迎,有利于管理这些领域不断增加的数据负载。
基于研究机构最新发布的洞察,本文将梳理物联网模组和芯片的代际演变,并进一步了解这类模组的处理能力和相关应用。
蜂窝物联网模组的代际演变
蜂窝物联网模组的发展可以被划分为 3 个重叠的世代:传统的、智能的和人工智能使能的,如下图所示:
传统蜂窝物联网模组:基本连接模块,主要功能是实现蜂窝通信,这些模块仅包含支持这种连接的芯片组,无需附加功能。
智能蜂窝物联网模组:除了像传统模块一样提供连接功能外,还以中央处理器和图形处理器(CPU 和 GPU)的形式集成了额外的计算硬件。
人工智能蜂窝物联网模组:除了提供与智能蜂窝物联网模组相同的功能外,还包括用于人工智能加速的专用芯片组,如神经、张量或并行处理单元(NPU、TPU 或 PPU)的连接模块。
发展初期——传统蜂窝物联网模组(1.0)
传统的蜂窝物联网模组已经存在了近二十年,只能为物联网设备提供从某个位置发送和接收数据的连接能力,内置可用于连接到指定蜂窝技术 (如 2G、3G、5G 或 NB-IoT) 的蜂窝芯片组/基带。
2023 年,传统蜂窝物联网模组占全球蜂窝物联网模组出货量的 96%。预计到 2027 年,这些模组的出货量将以 18% 的复合年增长率增长,但它们在全球蜂窝物联网模组出货量中所占的整体份额将开始让位于智能和人工智能蜂窝物联网模块。
示例:传统蜂窝物联网模组的一个典型示例是加拿大无线通信设备制造商 Sierra Wireless 的 EM9190 5G (NR) Sub-6 GHz 模组。该模组使设备能够在 5G 不可用时回退连接到 4G 和 3G 网络。Sierra Wireless 于 2020 年 8 月宣布推出 EM91 系列传统模组,这反映出在不需要边缘处理的情况下,市场对传统蜂窝物联网模组仍有需求。
*注:美国半导体和物联网系统提供商 Semtech 于 2023 年 1 月收购了 Sierra Wireless 。
Sierra Wireless EM9190 型号系列模组(来源:Sierra Wireless)
迈向边缘——智能蜂窝物联网模组(2.0)
智能蜂窝物联网模组进入市场已经有将近十年的时间。除了提供与传统模组相同的连接功能外,这些智能模组还内置强大的 CPU 和 GPU,用于设备的数据处理。它们还可以支持 Linux 或 Android 等操作系统,以实现高级功能和多媒体功能。
2023 年,这些智能模组将占全球蜂窝物联网模块出货量的 2%;然而,追踪机构预测,到 2027 年这一数字将上升至 10%,复合年增长率为 79%。
示例:智能蜂窝物联网模组的一个典型示例是美国蜂窝物联网模块制造商 Cavli Wireless 推出的 CQS290 智能蜂窝物联网安卓模组。Cavli 于 2023 年 10 月在印度移动大会上宣布推出该模组。这款 LTE Cat 4 模组搭载 Android 12,运行于 ARM Cortex A53 四核处理器上,并内置 Adreno 702 图形处理单元 (GPU) 。
Cavli Wireless CQS290 智能模组(来源:Cavli Wireless)
边缘智能——人工智能蜂窝物联网模组(3.0)
与传统模组和智能模组相比,支持人工智能的蜂窝物联网模组相对较新,上市时间超过 5 年。除了具有其他类型蜂窝物联网模组的连接功能外,支持人工智能的版本还包括用于人工智能推理的 NPU、TPU、PPU 或其他专用并行处理芯片组(如 GPU)。
虽然人工智能与蜂窝物联网的融合仍处于早期阶段,但它具有彻底改变各行各业的巨大潜力。将人工智能直接集成到物联网模组中,意味着人工智能推理可以在边缘侧进行,从而实现边缘快速智能决策。这减少了蜂窝网络上的数据传输,节省了带宽和成本,有利于为时间敏感型应用提供即时、自主的决策。此外,在连接模块中嵌入人工智能芯片组可以节省空间,简化物联网设备的外形尺寸。总之,这些模组正在从单纯的数据通信推进器演变为能够独立处理某些工作负载的智能边缘节点。
2023 年,支持人工智能的蜂窝物联网模组占全球蜂窝物联网模块出货量的 2%。跟踪机构预测,到 2027 年,这一比例将增至 9%,年复合增长率为 73%。
示例1:2023年11月,中国无线通信模组供应商广和通 宣布推出SC228 LTE智能模组,SC228 基于 6nm 制程工艺的高通 SM6225 平台设计,采用高端八核(4[email protected] + 4[email protected])处理器,主频高达 2.4GHz,平衡功耗与性能,可为终端提供优异的综合性能。SC228 支持全球4G全网通、双频Wi-Fi以及蓝牙近距离无线通信,同时预置开放Android 14操作系统并支持后续版本迭代,可广泛应用于无线智能支付、可穿戴音视频记录仪、对讲机、车载后装设备、智慧家居等终端。
广和通 SC228 LTE智能模组(来源:广和通)
示例2:2023 年 5 月 26 日,移远通信表示公司 5G 模组与英伟达 Jetson AGX Orin 平台已成功完成联调,实现 5G 通信+ AI 边缘计算能力。借助移远 5G 模组的出色联网性能和 Jetson AGX Orin 的强大计算能力,“移远 5G 模组+Jetson AGX Orin 平台”组合方案可应用于高端机器人、无人地面车辆、低速自动驾驶、智慧交通等终端产品及场景。这些计算密集型 AIoT(人工智能物联网)应用可实现数 Gbps 级别的数据传输速率以及每秒高达 275 万亿次操作的边缘计算性能。
人工智能蜂窝物联网模组的功能和应用
在支持人工智能的蜂窝物联网模组中,根据特定应用的需求或硬件的限制,有不同的处理能力。IoT Analytics 将这些模组按照计算能力概括为三类:低、中和高。
*注:计算能力指的是数据的处理能力,通常采用 TOPS(Tera Operations Per Second)作为单位,1TOPS 代表处理器每秒钟可进行一万亿次操作。
① 低 AI 能力
AI 推理能力较低的蜂窝物联网模组以低于 5 TOPS 的速度进行计算,这些模组的常见应用包括:
声学事件检测
手势/活动识别
语音识别/关键词识别
到 2023 年,这些低 AI 能力模组占全球支持 AI 的蜂窝物联网模组出货量的 59%。虽然跟踪机构预计这些模组的出货量到 2027 年将以 30% 的复合年增长率增长,但具有中等和较高 AI 能力的蜂窝物联网模组预计将增长更快。
示例:广和通 SC138-EAU 模组采用高通 QCM6125 SoC,具有1 TOPS 的 AI 引擎。
② 中等 AI能力
具有中等 AI 能力的蜂窝物联网模组以 5-10 TOPS的速度进行 AI 推理,这些模组的常见应用包括:
人体检测
车辆检测
人数统计
人脸检测
到 2023 年,具有中等 AI 功能的模组占全球所有支持 AI 的蜂窝物联网模块出货量的 36%。跟踪机构预计,到 2027 年,这些模块的出货量将以 102% 的复合年增长率增长。
示例:移远通信 SG-530C-CN 模组搭载紫光展锐 P778 SoC,其中包含 NPU,计算能力能够达到 8 TOPS。
③ 高 AI 能力
最后,具有较高 AI 能力的蜂窝物联网模组可以以超过 10 TOPS的速度进行边缘 AI 推理,这些模组的常见高级应用包括:
人工智能驱动的预测性维护
通过高级分析增强决策制定
AI 增强型驾驶员安全解决方案
实时监测困倦和分心情况
全面的安全分析
智能语音辅助
追踪机构称,到 2023 年,这些具有高等人工智能功能的模组将占全球所有人工智能模组出货量的 5%。到 2027 年,这些模组的出货量将以 128% 的复合年增长率增长。
示例:美格智能 SRM930模组搭载高通 QCM6490 SoC,综合 AI 算力高达 14 TOPS 。
写在最后
随着数据成为新的生产资料、算力成为新的生产力,物联网的发展已经超越了单纯的连接——它现在包括互联设备、设备产生的数据,以及基于数据获得的洞察,因此,计算能力和智能水平变得越来越重要,尤其是在靠近数据产生的地方——边缘侧。
尽管仍处于早期阶段,但将人工智能与蜂窝物联网相结合有望改变各行各业。不过,其背后的核心技术是由高通、索尼 Altai 和紫光展锐等芯片公司推动的,联发科和意法半导体等其他芯片公司可能会很快进入这一市场。
另外,还有两个趋势值得关注:第一,专注于汽车行业应用的人工智能蜂窝模组,尤其是具有 5G 连接功能的模组,预计将加速普及。到 2027 年,汽车应用中的人工智能 5G 模组预计将占所有人工智能蜂窝模块出货量的 21%。第二,人工智能和蜂窝LPWA 模组的结合将成为趋势。例如,索尼 Altair ALT1350 是一款低功耗 LTE-M/NB-IoT SoC,配备 AI 功能,可实现低功耗加速,为蜂窝 LPWA 领域中支持 AI 的模组打开了大门。
参考资料
《The rise of smart and AI-capable cellular IoT modules: Evolution and market outlook》,iot-analytics
《广和通发布LTE智能模组SC228,促AIoT应用繁荣发展》,广和通
《移远通信:公司5G模组与英伟达Jetson AGX Orin平台已完成联调》,股市快讯
《广和通/美格/移远/日海纷纷布局,一文盘点算力模组现状、挑战和前景》,物联网智库
文章精选
微信扫码关注该文公众号作者