全局智算眼见为实

2024-04-03 17:04

智算，一个热得不能再热的话题。但是对于大多数人来说，可能只闻其名，不见其形。如果你对智算也充满好奇与期待，那么不妨和我一起，来一次说走就走的智算沉浸式体验，现在就开启一场“桐乡之旅”！

在桐乡，由宁畅打造的首个AI算力栈“NEX AI Lab”已经正式开放预约试用，集群管理系统、问答机器人、自然语言训练、图像识别、推荐系统、情感分析模型、文本生成图像等智算体验项目应有尽有。宁畅CTO赵雷揭秘，NEX AI Lab由于集成了加速计算节点、全闪存存储节点，可为GPT、LLaMA、Stable Diffusion等AI模型提供多元场景应用优化支持，其强大的全局AI能力，所见即所得。

全局性系统化平衡力

NEX AI Lab看似横空出世，实则是宁畅基于“全局智算”的规划与战略构想，在背后运筹帷幄。

从公司成立以来，宁畅在每年开年的时候都会为接下来一个阶段的发展“定调”。从定制化、服务器专家到冷静计算，再到如今的全局智算，在明确的战略指导之下，宁畅还会制定一套清晰的执行策略与落地想法。在桐乡成功落地的NEX AI Lab，就是全局智算最佳的代言人。

智算，顾名思义就是要解决人工智能相关的应用问题。随着大模型的快速发展，其在细分行业落地过程中，面临着诸如算效、适配、应用等一系列问题。对于智算来说，不是解决了高性能算力的问题，就万事大吉了，而是需要系统性AI计算方案提供全方位、全周期的支持。这也是宁畅提出全局智算的初衷。

宁畅总裁秦晓宁

宁畅总裁秦晓宁剖析说，智能计算作为推动产业发展的关键引擎，已经不再局限于算力性能这一单一竞争要素。算法协同优化、数据处理能力、模型可解释性以及与特定行业应用的融合度，都是智能计算能否成功推动技术创新和应用落地的关键因素。

由此可见，宁畅全局智算战略的本质，是通过全栈智能计算能力，以及涵盖硬件、软件、算法、液冷和服务质量等多个维度的系统性AI计算方案，为更多行业的发展带来坚实的支撑和强劲的动力。

从字面来分析，全局智算的“全”，包括六个方面，即“全体系、全液冷、全服务、全场景、全行业、全阶段”，覆盖了大模型发展的全周期需求，能够更好地解决客户在人工智能场景下的复杂应用难题。秦晓宁进一步解释说，所谓全，就是宁畅通过涵盖软硬件全体系及全液冷产品，提供从咨询到运维的全流程服务，以满足全行业用户的大模型开发、适配、部署的全场景需求，并按用户发展阶段，定制专业且性价比高的AI计算方案。

全局AI能力的养成

从战略和业务体系的角度，宁畅要借由全局智算，锻造“六全”能力。而落实到产品和解决方案层面，全局智算又包括哪些关键要素呢？

庖丁解牛，赵雷结合其AI算力栈，解析了宁畅的全局AI能力。由下至上，宁畅的全局智算能力由六个层面构成。

宁畅CTO 赵雷

第一层，AI硬件资源层。在这一层，除了必须具备的对最新CPU\GPU的支持、强大的存储能力以及高性能网络以外，宁畅最引以为豪的就是其领先的全栈液冷方案，可以实现多种交付形态的灵活组合。特别值得一提的是，宁畅B8000液冷整机柜服务器采用电、液、网三路全盲插设计，部署周期相较传统方式提升30倍。根据不同客户不同应用阶段的需求，宁畅还可以提供风冷或风冷+液冷的过渡性解决方案。

第二层，AI集群设计层。集群设计并不像人们想象的那样，只是将海量的硬件进行简单地连接或堆叠，而是要针对不同客户的实际应用场景，先分析整个业务运行的特征和系统的量化需求，然后再提供包括微架构、网络、存储、AI模型特征等在内的系统化的方案。

第三层，AI算子优化层。这一层是AI集群调优和交付的关键所在。为了更好地降本增效，宁畅提供了整体的AI算子自优化能力，且优化工作不是单点，而是AI全栈优化，从而有效地减少了模型执行时间，降低了资源的消耗，同时提高了能效比，使得AI应用能够在有效的资源上高效运行。

第四层，AI中台层。在这一层，宁畅提供了开箱即用的平台级AI工具，不仅全面支持NVAIE的中台系统，而且也提供自己的中台——NEX AIOM，方便进行算力互联和调度，提供Notebook服务、模型与数据管理服务，以及用户认证安全等。

第五层，AI业务层。核心任务是面向AI业务，提供性能方面的保障，让用户可以更轻松地进行大规模应用性能分析与优化，或者实现快速的故障诊断和恢复等。

第六层：AI场景层。面向各行各业不同的应用场景，宁畅可以提供全栈智算服务。基于最新发布的AI算力栈，宁畅已经完成了大量、多元的AI场景实际测试和部署。

赵雷表示，宁畅的全局智算能力映射在AI算力栈上，体现的是宁畅雄厚的硬实力（硬件）+软动力（软件）+服务力（服务）。从某种程度上说，宁畅AI算力栈既是一个高度集成的端到端智算解决方案，又是一个智算平台的参考设计架构，甚至可以看作是一个Mini AIDC，可以根据用户的不同需求，进行扩展。面对智算需求，宁畅已经成为一家从硬到软，同时具备全平台服务能力的厂商。这不仅是时代的要求，更是宁畅实现自身突破式成长的必然选择。

全局智算，智算全局

随着大模型的逐步落地，复杂的客户需求也不断涌现，涉及到算法、算力、数据三个维度。如何平衡算效、精度、服务，满足多元化的客户需求成了宁畅要面对的挑战。因此，宁畅提出了“全局智算”战略，希望通过提供具备六个“全”特点的能力矩阵，向上解决极致算效、精度增强、高效稳定三个复杂的客户问题，向下赋能千行百业，打造新质生产力。

“全局智算”要求宁畅持续进行能力拓展，从硬到软，还要有服务加持，这样才是名副其实的“全”。秦晓宁透露了战略发布会上的一个细节。宁畅软件团队的负责人也到了发布会现场。在看到挤得水泄不通的硬件展台后，他有些担心，自己准备的与软件、大模型相关的资料和数据派不上用场。秦晓宁让他放轻松，并表示未来一定会有更多机会让软件站到前台，也让更多用户可以更直观地看到宁畅针对一些具体模型完成的大量微调、优化和测试的效果。

秦晓宁特别强调，全局智算不可能只靠宁畅一己之力实现，无论是硬件、集群、中台、内容还是服务层，都离不开各个方面伙伴的通力协作。只有融合和互补，才能真正构建起全局智算的强大能力。

全局智算，智算全局。奔赴智算新时代，宁畅身先士卒。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章

全局智算 眼见为实

全局智算眼见为实