戴尔科技：AI时代算力基础设施创新，让每一分算力物尽其用

而AI算力对于推动人工智能应用的重要性毋庸置疑，特别是随着今年整个AI和模型的爆发，不仅带来了对算力基础设施的巨大需求，同时更让本就供需不平的算力产业结构进一步“承压”，而这让算力基础设施迎来了全新的挑战，主要体现在以下几个方面：

▶一是，人工智能（AI）和大型模型的崛起，正推动着对算力资源的巨大需求，为AI的持续发展提供动力。这些AI模型的创新性发展，无论是在训练还是推理阶段，都对算力提出了前所未有的需求。随着模型参数规模的显著增长，算力市场的供需关系面临日益严峻的挑战。特别是，训练和推理的算力需求正在以指数级的速度增长，预示着未来对边缘计算和端侧算力的巨大潜在需求。

此外，预训练大型模型的实施，不仅需要庞大的数据资源，还需要高性能服务器的持续高效运行。这一需求对算力基础设施的多个方面提出了更高标准，包括网络带宽、能源效率、散热技术、数据存储解决方案以及数据安全保护等。这些要求推动了对基础设施软硬协同能力的提升，以确保AI技术能够在一个更加强大和可靠的平台上发展。

▶二是，算力基础设施的运维和运营模式正迎来一场全面的革新，以适应AI时代的快速发展需求。运维作为算力基础设施生命周期管理的关键环节，正经历着以下几方面的转变：

▶三是，节能减排也是算力基础设施面临的重大挑战。我们知道，一直以来数据中心作为“能耗大户”，其建设和发展过程中也带来了巨大的能耗挑战。

根据前瞻产业研究院分析数据显示，过去十年，我国数据中心整体用电量以每年超过10%的速度递增。截至2020年，数据中心约占我国用电量的2.7%，而预计到2024年数据中心耗电量将占到全社会耗电量的5%以上。因此，在国家“双碳”战略的背景下，无论是算力基础设施，还是数据中心产业也需要以降碳为目标，走向低碳化、绿色化的发展阶段，由此才能够支撑起千行万业走向“低碳”高质量发展的创新之路。

不难看出，在全新的AI时代，全新的要求都让以算力服务器为代表的数据中心基础设施亟待通过新一轮的变革与创新，进一步推动现代化数据中心的进化与演进，才能为千行万业的数智化转型提供更为坚实的保障。

在戴尔科技集团信息基础架构解决方案事业部AI企业技术架构师、全球CTO大使吴跃看来，无论是哪种AI应用，背后都离不开AI算力与AI基础架构平台的支持。基于此，戴尔科技打造了面向AI的基础架构平台解决方案，并围绕“算、网、存、管”提供整体参考架构，以“端到端”的创新方式帮助企业级用户应对不同算力场景下的需求挑战：

首先，基于戴尔PowerEdge AI加速计算平台，戴尔科技科提供多元化的AI加速计算选型支持。GPU是当前AI计算中使用最广泛、最成熟的加速计算技术。为此，戴尔新一代PowerEdge（16G）先后推出了多款专门针对GPU计算设计和优化的专业服务器，可为企业提供GPU分布式训练解决方案、GPU池化解决方案以及边缘AI计算解决方案等，支持企业面向AI的端到端训练、微调、推理以及面向传统AI（如机器视觉、语音识别）的模型训练及推理场景。

不仅如此，为了更好的释放算力资源，戴尔PowerEdge 16G服务器平台面向AI GPU计算还做了专门的优化设计，其中在机柜空间方面，通过更加紧凑的机箱设计, PowerEdge XE9680的6U空间可以支持8张通过NVLink高速互连的NVIDIA最新GPU。

在供电方面，通过对GPU与CPU模组的统一供电，实现了电源峰值功率140%-170%增强设计，更好地应对GPU开机启动风暴及GPU实际运行功耗可能会超出额定功率的现象。

同时，在散热方面，也通过多矢量散热技术，实现了动态调整冷却风强度；此外，在安全性和可管理型方面，戴尔PowerEdge 16G服务器也是基于零信任原则设计的服务器平台，具备更强的安全性和抗风险能力，而可管理性方面，通过iDRAC带外管理卡功能，也可以动态监控GPU的运行状态(功率/温度/散热等)，GPU碳足迹的追踪报告等。

凭借强大的性能和优秀的设计，在2023年9月正式发布的MLPerf Inference v3.1 AI推理基准测试中，Dell PowerEdge GPU加速服务器在Datacenter Closed赛道项目中，取得了图像分类(ResNet-50)、语音识别(RNN-T)、自然语言处理(BERT)、推荐系统(DLRM)等7个项目的性能测试第一名。

值得一提的是，基于戴尔PowerEdge + Intel Xeon Max解决方案，戴尔科技还可提供无需GPU亦可支撑的AI加速计算，更好的满足企业在模型微调和模型推理场景中的需求，其优势在于能够显著加速内存带宽密集型业务，同时通用性更强，成本更低。

其次，针对AI全生命周期的数据管理，戴尔科技通过“数据湖存储+GPU加速训练”的方式，一站式满足企业级用户的需求，最大化加快企业的创新步伐，以满足当今、未来以及接下来任何挑战的需求。

在这方面，戴尔科技推出了专为AI打造的新一代PowerScale全闪存节点，这是全球首个率先通过NVIDIA SuperPOD验证的以太网存储平台，借助这个全新的平台，企业可以加快创新速度，以更高的灵活性和安全性部署AI应用，同时利用高速的NVIDIA Spectrum以太网技术加速数据访问并借助智能横向扩展实现性能最大化。

除此之外，作为构建AI数据平台的关键底座，PowerScale“横向扩展存储家族”发展至今，其阵容也非常强大，能够为企业提供更加多元化的选择，包括定位“综合性”的PowerScale A300/A3000;定位“平衡性”的PowerScale H700/H7000，以及定位“性能型”的PowerScale F900、F600以及F200。

今年随着PowerScale F210/710/F910的“加入”，其性能和密度又得到了全面的提升，由此也能更好地应对AI对于存储基础设施的要求和挑战。

最后，除了针对算力基础设施创新之外，戴尔科技也提供AI智算平台软件解决方案，为企业提供AI框架与系统管理软件以及专业服务，更好地加速AI工程化、场景化落地。

其中，AI框架与系统管理软件方面，戴尔科技可提供NVIDIA AI Enterprise软件套件、NVIDIA NeMo框架软件和系统管理软件等；同时，借助戴尔科技提供专业技术服务，也能更快的帮助企业将AI平滑地部署到生产环境中。

在2024年第一季度Forrester Wave评选中，戴尔科技被人工智能基础架构解决方案的“领导者”，同时目前国外内已经有很多金融、制造、通讯等行业用户基于戴尔科技提供的“端到端AI平台解决方案”构建了企业的AI平台，不仅实现了AI应用的快速部署与规模扩展，同时也显著提高了GPU资源的有效利用率，而这也印证了戴尔科技在算力基础设施领域领先的实力和能力。

由此可见，戴尔科技基于PowerEdge 16G服务器平台打造的“端到端AI平台解决方案”，不仅能够加快推动作为数字经济基础设施的AI算力服务器在千行万业中发挥更大的价值，更快地打通AI落地行业的“最后一公里”，为AI提供关键的“技术底座”支撑，也能够加速让AI进入行业中各个核心生产环节，更好地赋能千行万业。

高密度和高性能将是未来AI计算的主要趋势。一方面，大型AI训练+推理对算力服务器的高密度提出了更高的要求，包括需要强大的扩容性，以满足AI应用对数据和计算需求的快速增长；更高的机柜功率密度，能够实现高性能的计算和数据处理能力，以支持复杂的AI算法和模型训练；具备高效的运行方案，能够快速、敏捷地响应企业的定制化需求，以满足企业不断变化的算力需求。

为此，戴尔科技近期推出的PowerEdge XE9680服务器，就是专为需要高性能以及应对新兴复杂AI和HPC工作负载而构建的服务器系统，是首款8路SXM GPU服务器，能够提供10 个 Gen5 x16 PCIe 插槽和多达 16 个驱动器，为企业提供了巨大灵活性，同时其采用密集风冷设计，即使在高温环境下也支持最高功率的下一代技术，可为企业提供领先的AI性能。

另一方面，是芯片的“多样性”，与以往相比，CPU、GPU 和加速器目前出现了许多新的选项，因此决定支持哪些 CPU、GPU 和加速器变得至关重要。

戴尔科技为适应这一趋势，同样也采用了多样化的技术路线，比如在桌面端，戴尔科技采用高通的芯片，构建AI PC；在数据中心端，戴尔科技采用通用的加速平台，支持NVIDIA、Intel和AMD的加速芯片，从工作站平台，不断推出适合个人桌面开发的AI Workstation, 到机架式AI Workstation，到适合边缘推理的服务器平台，再到4卡，8卡的AI加速计算平台。

在此基础上，戴尔科技还与NVIDIA、Intel、AMD加强合作，打造就绪的下一代加速卡，未来戴尔科技还将采用Open Rack v3开放机柜，集成液冷组件，形成整机柜交付平台。

目前计算正从以CPU为核心的系统结构转向以AI为核心的异构计算体系结构，因此如何更加“精细化”管理AI算力资源，进一步实现“降本增效”的价值就显得“迫在眉睫”。

为此，在零信任架构方面，PowerEdge服务器平台全面支持零信任，同时今天零信任更已成为了戴尔科技集团基础架构端到端生命周期“不可或缺”的一部分。

比如，在设计和开发之初，戴尔科技安全开发生命周期（SDL）就优先考虑网络弹性和零信任，从功能构思到设计再到生产和维护，都要确保能够为企业提供的基础架构能成为其弹性基础的保障；同样，在制造和交付环节，戴尔科技“供应链保证计划”也实施了在实体、人员和网络安全领域的“零信任”保障措施，以最大化的确保弹性的制造和交付的过程中。

而在运维管理方面，PowerEdge也提供“三位一体”的全方位算力管理能力。比如PowerEdge服务器是业界首家推出iDRAC（免代理管理）软件的公司，iDRAC具有嵌入式、远程、功能丰富、免代理的管理功能，能够提供超过180项的服务器测量结果。

此外，OpenManage Enterprise（OME）功能，可管理高达8000台服务器，平均可节省高达85%的时间，并能够通过自动化消除几十个步骤，给企业客户在未来全面实现自主部署、自主配置和自主管理的数字化基础架构夯实了基础。

而全新的“CloudIQ for PowerEdge”，则是一款面向戴尔基础架构的AIOps软件，能够基于云的方式，为企业级客户提供统一的门户网站开展监控、分析和提示能力，由此客户就能够运用主动监控和预见性分析能力，获得智能化基础架构的洞察力。

而在算力“功耗”平衡方面，戴尔科技也打造了智能冷却解决方案“全家福”， 提供包括风冷，冷板式（DLC）和浸没式液冷方案等，为企业数据中心带来更加高效和丰富的冷却方案，助力企业“节能减排”，帮助企业最大化降低运营成本。

其中，在风冷领域，PowerEdge服务器提供创新功能，扩大了空气冷却配置的范围，如通过先进的设计，让服务器内的气流通道得以简化，将适量的气流导向需要的位置；采用最新一代的风扇和散热片，由此可以管理先进的高TDP CPU和其他关键组件；智能化热控制功能的加入，也可以帮助企业在工作负载或环境变化期间，自动调节气流，无缝地支持气流通道插入，以及围绕温度/电力/声响提供增强的控制选项等。

此外，冷板式液冷领域， PowerEdge服务器也可以对高密度配置中的高性能CPU和GPU选项，进行有效地管理散热，进一步提升整体系统效率；而浸没式液冷领域，PowerEdge服务器不仅支持将服务器完全浸入冷却液TANK中，也支持非传统空间，无需空调空气（例如仓库）等高密度机架或高TDP零件，帮助客户100%热捕获和节能。