Redian新闻
>
PerfMPL国产高性能数学计算库的进展

PerfMPL国产高性能数学计算库的进展

公众号新闻
作者:王军辉

前言

数学计算库是使能处理器在数值计算领域的基础软件库,是工程计算、科学计算、AI 计算的基石。大部分物理、工程问题都能转化成线性方程组求解问题,而高效的数学计算库是发挥硬件算力的基石。
以 BLAS(Basic Linear Algebra Subprograms,基本线性代数运算函数库的标准)为例。BLAS 最早是由美国能源部(Department of Energy)于 1979 年发布的。在此之前,每个应用程序都需要手动实现线性代数算法,而这些算法又需要不同的数据结构和运算方式。
为了解决这个问题,美国能源部创建了 BLAS 标准,通过为常见操作(如向量乘法、矩阵乘法、向量加法等)定义通用接口,使得用户可以在不同的平台和计算机架构上重用相同的代码。最初的 BLAS 标准包含 40 个 Fortran 语言函数,用于执行常见的线性代数运算。
随着时间的推移,标准还进行了更新和扩充,增加了更多的函数和特性。BLAS 已经成为一个广泛使用的标准,能够提供高效的线性代数运算,同时也是很多高性能库的基础,如 OpenBLAS、MKL 等。
随着计算机技术的发展和日益广泛的应用,数学计算库也不断演进,常用函数已经达到一万个,版本多种多样,也成为国际巨头掌控软件生态的关键手段。
Intel MKL 数学计算库发展时间轴

高性能数学计算库的现状

数学计算库主要包括线性代数库、信号处理、向量数学库、基本数学函数库(Libm)、PDE 各种 Solver,其大致范围参见 “附件 1”。
软件版本也多种多样,有专注于领域的数学计算软件,也有服务于某类处理器的数学计算软件,其他差异性还表现在以下几个方面:
  1. 服务于处理器的基础数学计算库版本。Intel 的 MKL 数学计算库,只支持 x86,源代码不开源,并优先支持 Intel 处理器,同时在 x86 生态,MKL 库的使用也最为广泛,原因主要是发展早,以及 Intel 处理器在高性能计算领域的市场占有率极高有关。华为的 KML 数学计算库支持华为鲲鹏 ARM 处理器,不开源,按照 “鲲鹏应用使能套件 BoostKit 许可协议” 描述,仅面向签署该协议或者在鲲鹏硬件授权使用该软件包。澎峰科技的 PerfMPL 已经支持了多种主流指令集,如 RISC-V、x86、ARM、RISC-V 等指令集,并面向领域提供定向优化版本,商业版本不开源。还有 CUDA 这类的 GPU 并行数学计算库(cuBLAS、cuFFT 等),用于 NVIDA 的 GPU 卡编程,其他公司是否可以使用 CUDA 计算库,法律授权存疑。

  2. 服务于领域的数学计算软件。例如,世界知名的开源项目 OpenBLAS 提供 BLAS 运算能力;FFTW 实现快速傅里叶变换(Fast Fourier Transform);LAPACK(Linear Algebra Package)提供高级线性代数算法,如矩阵分解、特征值和特征向量计算等;VSIPL 主要用于向量、信号和图像处理库;PETSc 则提供更丰富一些的功能,如非线性求解、最优化、离散事件模拟和信号处理等。实际上,可以称之为数学计算库或者计算中间件的软件还有许多。

  3. 其他需要关注的差异性:

    1. 各种数学计算库软件存在开源、闭源的差异性。处理器公司自主开发的数学计算库通常是闭源,即使是可以使用,也随时面临版权拥有方授权协议的变化和制约。某些开源库协议商用不友好(例如 FFTW 是 GPL 协议,使用会导致产品所有代码被感染,将面临被迫开源)。

    2. 计算性能和计算精度问题,这两点在高性能计算领域尤其关注。所以,在使用开源软件作为商业服务的一部分时,需要重视。

    3. 支持的编程语言存在差异。OpenBLAS 除支持 C 和 C++ 以外,还支持 Fortran、Python、R、Julia、MATLAB、Java 等编程语言。

    4. 支持的操作系统存在差异。Intel MKL 支持 Windows、Linux、macOS;OpenBLAS 支持 Linux,macOS,Windows,BSD,Android/iOS;华为 KML 主要支持 Linux 相关操作系统。

发达国家都将并行化的数学计算库作为其基础软件的长期发展重点。例如:1993 年,受到高性能计算机系统上的并行计算需求的推动,PETSc(Portable, Extensible Toolkit for Scientific Computation)项目正式启动,由美国加州大学圣巴巴拉分校计算科学研究所的数学和计算科学研究组(Mathematics and Computer Science group of the Institute for Computational Sciences)发起和开发,目的是为了提供一套并行的数学软件库,用于高效地解决大规模科学计算的问题。
现在,PETSc 被广泛地应用于涡流,油藏模拟,光电学,电磁学,地震学,心脏模拟,碰撞模拟,天文学,机器学习等研究领域。
数学计算库的研发与发展,对一个国家在芯片设计、算法开发和应用场景多产生着非常积极的意义和重要的作用。
软硬融合发展示意图

高性能数学计算库的应用

高性能数学计算库对 EDA、CAE、微电子工程等工程计算领域,发挥着重要的作用,支持并行计算和异构计算的数学计算库也是近年来的研究重点,如:
  1. 利用 CPU 的加速指令集进行算法加速。

  2. GPU 并行算法加速

  3. 大规模集群并行计算

长期以来,国外为了控制我国高科技领域的发展,限制高性能的计算软件向中国用户提供。高性能数学计算库推动着科学研究的进步,也制约工程应用的效率。以下以几个典型的领域,介绍高性能数学计算库对应用的重要意义。
【CFD 软件】线性代数库:用于解方程组,如求解矩阵方程和求解特征值和特征向量。最优化库:用于优化 CFD 模拟计算的效率和准确度。数值积分库:用于对数学函数进行数值积分,如有限差分方法。随机数生成库:用于产生随机数,这在许多 CFD 应用中是必要的。偏微分方程(PDE)求解库:用于求解一些非线性 PDEs,如 Navier-Stokes 方程和热传递方程等。
【CAE 软件】建模和仿真:数学计算库能够提供各种模拟算法和数值方法,如有限元法、有限差分法等,用于建模和仿真机械、电气、力学、热力学等领域的物理现象。优化设计:数学计算库提供各种优化算法,如遗传算法、模拟退火算法等,用于对 CAE 仿真模型进行设计和优化,以获得更好的性能和效率。数据分析:数学计算库提供各种数学函数和统计算法,用于分析和处理模拟数据,以获得有用的信息和洞见。机器学习:数学计算库中还提供了机器学习和数据挖掘的算法和工具,这些技术可以用于优化 CAE 仿真模型、识别模拟数据中的模式和异常,从而帮助工程师更好地理解和改进设计。
【微电子工程】计算光刻方法是一种通过计算机控制产生高分辨率图案的加工工艺,使用光刻光刻机将外源干涉光栅(如二极管激光器)的输出通过透镜等光学元件照射到硅晶圆表面上,然后进行化学及物理反应生成微电子芯片的微电路。数学计算库发挥着重要的作用。
  1. 模型建立:计算光刻涉及到光学、物理、化学等多个领域的知识,需要使用数学模型进行问题的数值求解。数学计算库可以提供各种数值计算算法和快速计算技术,如有限差分法、有限元法等,以建立可靠的计算模型。

  2. 仿真计算:数学计算库可以处理大量的数据和复杂的计算任务,可以在短时间内对整个光刻过程进行仿真计算,从而预测和优化光刻过程的各个环节。

  3. 优化设计:计算光刻涉及到的问题非常复杂,需要通过优化设计来提高制造效率和芯片质量。数学计算库可以提供各种优化算法,如遗传算法、粒子群算法等,以提高光刻制造的效率和芯片质量。

【EDA 领域】在电路仿真中 Sparse LU Factorize(稀疏 LU 分解)占到仿真时间的 70%,小规模矩阵计算的优化可以提升计算效率。
【AI 领域】以语音识别的 DNN 推理为例,推理过程调用 GEMM 占比 80% 以上。通过对 OpenBLAS 的 GEMM 部分优化,发挥 SIMD、多核并发,计算性能提高 26% 以上。

国产高性能数学计算库 PerfMPL

张先轶(中科院博士)于 2011 年发起 OpenBLAS 开源项目,OpenBLAS 是一个优化的 BLAS 库(http://www.openblas.net),被广泛应用于科学计算、数据分析、深度学习算法、人工智能等领域,被 Caffe、MXNet、Julia、Ubuntu、Debian、openSUSE、GNU Octave 等知名项目集成;OpenBLAS 也被用作为各种处理器系统开发包的基础软件之一。
PerfMPL 是以 OpenBLAS 为发展基础,经过多年发展逐步覆盖至 FFT(快速傅立叶变换)、SPARSE (稀疏矩阵计算库)、MATH(基础数学库)、VML(Vector Math Library 向量数学库)、DNN(Deep Neural Networks 深度神经网络)、PerfIPP(图像处理等)等计算库。
PerfMPL 基于澎峰科技拥有自主知识产权的统一数学函数库技术积累,通过针对性优化、完善、裁剪等方式,发展出两大分支版本:
  1. PerfMPL for 通用算力,主要面向 CPU 指令集。重点支持 x86、ARM 和 RISC-V 高性能通用处理器平台。

  2. PerfMPL for 专用算力,主要面向 GPU、NPU、ASIC、FPGA 和各类 DSA。

自主研发的源代码,也使得澎峰科技可以为特定领域提供加速计算服务和领域数学计算库,并重点支持国产的 CAE、EDA、信号处理、计算光刻等领域。
澎峰科技的软件加速计算理论体系是:模型制导、算法支撑、优化支持、性能为王,具体到 PerfMPL 而言:
PerfMPL 主要优化策略如下
  • 性能驱动的优化模型构建技术

  • 面向复杂体系结构的新型并行算法设计

  • 基于模板的高性能汇编代码自动生成技术

  • 场景和应用感知兼顾的性能自适应优化技术

结束语

总的来说,高性能数学库已经经历了多个阶段的发展和演变,并且随着计算机硬件技术的不断提升,数学库的功能和效率也在不断地提高。从最初的基础数学函数库到现在能够进行复杂科学计算的数值计算库,高性能数学库的发展为科学计算和工程应用提供了强大的支持。
未来,我们可以期待更高效、更智能的数学库的诞生,这将会为解决更为复杂的问题提供更好的工具和支持。此外,高性能数学库的发展也在国家自主可控战略方针中扮演着重要的角色。
在当前全球科技创新竞争日益激烈的背景下,高性能数学库的自主研发和掌握,对于保障国家信息安全、提高关键技术自主可控能力和推动经济发展具有十分重要的战略意义。我们相信,在政府和企业共同努力下,高性能数学库的发展将在国家自主可控战略的支持下迈上新的台阶。
附件 1:

往期推荐



X.Org已死,Wayland长存
一代传奇——Delphi 11社区版发布
AWS从Elastic“抢”来的开源替代品OpenSearch,成功了吗?



🌟 活动推荐

2023 年 5 月 27-28 日,GOTC 2023 全球开源技术峰会将在上海张江科学会堂隆重举行。
为期 2 天的开源行业盛会,将以行业展览、主题发言、特别论坛、分论坛、快闪演讲的形式来诠释此次大会主题 ——“Open Source, Into the Future”。与会者将一起探讨元宇宙、3D 与游戏、eBPF、Web3.0、区块链等热门技术主题,以及 OSPO、汽车软件、AIGC、开源教育培训、云原生等热门话题,探讨开源未来,助力开源发展。
长按识别下方二维码立即查看 GOTC 2023 详情/报名。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
IPSec和SSL国密数据包分析昆士兰&南安普顿大学计算机辅导案例分享看演唱会的20条重要提醒!抢到票的进来学,没抢到的进来哭...PinnerSAGE、ENSFM、MHCN、FFM…你都掌握了吗?一文总结推荐系统必备经典模型(二)AFM: 高性能柔性压电传感器有难度?试试3D打印纳米复合材料吧!又一半导体核心设备成功突围,国产高端温控器破解卡脖子难题小米 13 Ultra 登场,国产高端影像旗舰卷到了新高度专注高性能数模信号处理时钟芯片,「华时嘉库」获3000万元天使轮融资|早起看早期面向E级计算的4款高性能处理器概述MLPerf最新发榜!这家AI芯片公司再获世界第一,大模型性能狂超A100霸气官宣,新型光子芯片突破高性能计算“带宽瓶颈”?!​哈尔滨工程大学计算机科学与技术学院院长蔡成涛:智能化已成为船舶发展的重要驱动力顾远 | 教育的进化与教育组织的进化自然语言融入NeRF,给点文字就生成3D图的LERF来了老歌翻唱《小草》原唱:房新华 翻唱:花园朵朵归来(一)欧洲用教堂建高性能计算中心,背后还是中国技术输出Linux Perf 性能分析工具及火焰图浅析面向大模型训练,腾讯发布高性能计算集群:整体性能提升3倍新加坡国立大学计算机系校长青年教授尤洋:低成本训练AI大模型的挑战与实践|GTIC 2023演讲预告Serverless为什么是云数据库的未来?周末随笔活动预告|芯片设计高性能计算技术研讨会 6.8 深圳国产高端座舱芯片,开启新篇章高性能计算关键组件核心知识与同学川西坝子踏青意游LERF:当CLIP遇见NeRF!让自然语言与3D场景交互更直观开源开放,打造国产高安全高可靠物联网操作系统Kindle DP75SDI Paperwhite 2GB WIFI & 3GB eReader - 2nd Gen (54岁NLP顶级专家、耶鲁大学计算机教授Dragomir Radev去世,华人学生纷纷悼念高性能、无侵入的 Java 性能监控神器新冠溯源:为什么新冠不可能来自貉(浣熊犬)?普高成绩不理想,985/211无望?不如转轨学习Alevel国际课程,增加就读名校几率!时序数据库的流计算支持Opera推出Opera One,将取代Opera浏览器
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。