生物神经元高效算法加速大脑仿真，智源联合成果登上Nature Communications

国际科技财经博客移民网络热点娱乐民生时事公众号

Redian新闻

>公众号

公众号新闻

2023-11-07 06:11

在人工智能领域，随着大型模型如ChatGPT等的崛起，人们对机器在未来具备超越人脑的智能充满信心。要实现这个目标，关键在于研究如何让机器在结构、规模和信号处理机制上逼近人类大脑的机制。这就需要借助更先进的神经元模型和仿真方法。

近日，智源研究院院长、北京大学计算机学院黄铁军教授，与北京大学人工智能研究院杜凯助理研究员的研究团队的相关成果在国际著名科学期刊《自然通讯》（Nature Communications）上发表，在这一方向上迈出一大步。

团队成功开发了一种生物神经网络精细仿真算法，实现了仿真效率数量级提升，还证明了其理论最优性（论文链接见文末）。

图：精细神经元仿真与求解过程、DHS示例与加速比

通常而言，神经元建模主要存在两种主要路径。

一种是点神经元模型，这个模型源于1943年麦卡洛克和皮茨提出的M-P模型，它将神经元视为一个“多入单出”的加权求和计算过程，这一模型尽管相对简化，但仍然在人工神经网络领域得到广泛应用。

另一种是精细神经元模型，它基于霍奇金和赫胥黎1952年提出的HH模型（1963年诺贝尔奖）和拉尔（Rall）1959年提出的电缆理论，能够高精度表达神经元内部复杂的树突结构和电生理过程。

精细神经元模型和由此构建的神经网络更接近生物真实，因此有望实现更强大的智能，但是计算代价巨大。目前人类还不具备高精度仿真人脑的算力资源，唯一途径是发现更高计算效率的算法。

为解决这一挑战，团队提出了树突分层调度方法（Dendritic Hierarchical Scheduling，简称DHS），在仿真效率上取得了数量级的提升，而且给出了理论最优的证明。

根据论文，与经典海因斯方法相比，DHS可以在保证数值准确性情况下将计算代价降至7%至10%。

团队还构建并开源了一种基于GPU的精细神经网络仿真学习加速框架，名为DeepDendrite。这个框架利用GPU的强大计算性能，将仿真速度比采用CPU的NEURON仿真平台提高了2-3个数量级，相比使用GPU的NEURON平台，提高了1个数量级，使我国在高精度生物神经网络仿真方面达到了国际显著领先地位。

DeepDendrite框架不仅支持高效的精细神经元仿真研究，还能够直接运行NEURON平台的神经网络模型，支持面向大数据人工智能训练的高效批处理学习，构建而得多层精细神经网络HPC-Net，用于图像分类任务，训练时间比现有仿真平台提速约25倍。

其训练得到的精细神经网络不仅在分类准确性方面与人工神经网络一致，还表现出了生物神经系统的典型特征，例如对抗噪声的鲁棒性方面明显优于现有人工神经网络。