模仿树突的人工智能可以让强大的AI在智能手机上运行 而非云端
点击蓝字 关注我们
SUBSCRIBE to US
GETTY IMAGES
模仿树状树枝的电子设备构成了神经元用来相互通信的网络,这可能会导致人工智能,不再需要云中的兆瓦电力。一项新的研究表明,人工智能将能够依靠智能手机电池的电量运行。
随着被称为神经网络的模拟人工智能系统的规模和功率的增长,它们变得越来越昂贵和能源匮乏。例如,为了训练其最先进的神经网络GPT-3,OpenAI花费460万美元在两周内运行9200个GPU。加州斯坦福大学神经形态工程师、研究作者Kwabena Boahen表示,GPT-3在训练过程中消耗的能量在同一时间内会释放出多达1300辆汽车尾气排放的碳。
现在,Boahen为AI系统提出了一种方法,以提高其传输的每个信号中传递的信息量。他说,这可能会减少他们目前所需的能源和空间。
在神经网络中,被称为神经元的组件被输入数据,并合作解决问题,例如识别人脸。神经网络反复调整神经元周围的突触,以修改每个突触的“权重”,即一个神经元对另一个神经元的影响强度。然后,网络确定所产生的行为模式是否更善于找到解决方案。随着时间的推移,系统会发现哪些模式最适合计算结果。然后,它采用这些模式作为默认模式,模仿人脑的学习过程。如果一个神经网络拥有多层神经元,它就被称为“深层”。(例如,GPT-3拥有1750亿个权重,连接了相当于830万个384层深的神经元。)
目前,人工智能的进步是每两个月执行两倍的计算。然而,电子行业仅每两年将执行这些操作所需的设备增加一倍。这意味着人工智能通常仅限于云,云可以提供所需的数千个处理器。
以前,降低计算能耗的一种方法是缩小晶体管并将它们密集地封装在一起。然而,这种策略的回报正在减少,因为晶体管之间的信号现在必须在微芯片上传播得越来越远,而且电线越长,信号消耗的能量就越多。缩短这些距离的一种策略是在三维空间中将电路堆叠在一起,但这种方法会减少可用于散热的表面积。
为了解决这个问题,Boahen提出了一种人工智能系统在传递更多信息的同时发送更少信号的方法。为了实现这一目标,他建议,这些系统可能希望模拟一部分与目前不同的生物神经元。他认为,与其模仿突触,不如模仿神经元之间的空间,它们应该模仿称为树突的结构。
生物神经元有三个主要部分:树突、轴突和细胞体,它们分别类似于树的树枝、根和树干。树突是神经元从其他细胞(例如,另一个神经元的轴突)接收信号的地方。突触是将树突或轴突与另一个细胞分离的空间。
树突可以大量分支,允许一个神经元与其他许多神经元连接。先前的研究发现,树突从其分支接收信号的顺序决定了其响应的强度。当树突从其顶端到其茎部连续接收信号时,其响应比从其茎部到其顶端连续接收这些信号时更强烈。
基于这些发现,Boahen开发了一个树突的计算模型,只有当树突以精确的顺序接收到来自神经元的信号时才会做出反应。这意味着每个枝晶可以编码数据,而不是像今天的电子元件一样,只以2个1或0为基数,开或关。它将使用更高的基础系统,这取决于它拥有的连接数量和它接收的信号序列的长度。
Boahen建议,一系列铁电电容器可以模拟一段枝晶,取代场效应晶体管的栅极堆叠,形成铁电FET(FeFET)。他说,一个1.5微米长的五栅极FeFET可以模拟一个15µm长的具有五个突触的树突。
在人脑中,一个神经元可以与数千个其他神经元相连。Boahen说,这一人工版本可能证明“在3D芯片中是可行的”。
Boahen和他的同事现在获得了200万美元的国家科学基金会赠款,用于探索这种“dendrocentric learning”方法。11月30日,他在《自然》杂志上详细阐述了这一概念。
微信号|IEEE电气电子工程师
新浪微博|IEEE中国
· IEEE电气电子工程师学会 ·
往
期
推
荐
微信扫码关注该文公众号作者