课程文献中心 更多>>

关键词： 类脑计算   脉冲神经网络   路由算法   分布式集群系统   负载均衡  

摘要： 近年来,学者们为突破冯·诺依曼计算系统的局限性和实现更强的计算系统,且在生物脑科学的启发和在硬件算力快速发展的背景下,提出了诸多关于类生物神经网络的计算技术,而在对生物神经网络的模拟中,脉冲神经网络(Spiking Neural Network,SNN)是目前较多学者研究的类脑计算技术。脉冲神经网络的神经元节点具备时间序列动力学特性,其突触结构通过稳态可塑性学习规则来达到平衡,并且能通过不同的拓扑结构构建不同特异性功能的网络,SNN具有的局部无监督特性以及全局弱监督生物优化方法使得SNN的异步事件处理、时空信息表示和网络自组织学习等能力是非常健壮和强大的。由于脉冲神经网络模拟的对象是人脑神经元,人脑是一个高度复杂的神经系统,因此避免不了海量的介质通信,即想要模拟人脑神经系统就必须有海量数据的高效通信能力,就要面临一大挑战:海量脉冲数据包的脉冲传输效率,这个问题的出现也成为了评价神经拟态系统性能的关键点,为此本文提出了大规模脉冲神经网络模拟的分布式集群及路由优化算法来克服这一科学挑战。有学者通过图论最短路径的方法构建了脉冲神经网络模拟节点的分布式集群的路由表系统来表述神经元间的逻辑关系,但该方法在大规模脉冲神经网络集群下存在高时空复杂度和节点负载不均衡的问题。为此,本文提出了一种适用大规模脉冲神经网络集群的路由优化算法,该算法结合脉冲神经网络的特点,构建了三个阶段以生成节点路由表,三个阶段包括路由测试包的构建及发放、路由测试包的接收及路由信息生成和路由表生成及路径负载均衡优化,在这三个阶段协同下生成的节点路由表,不仅解决了大规模脉冲神经网络中脉冲数据包传输效率低的问题,而且解决了节点负载不均衡的问题,同时本文算法所需的时空复杂度相比于基于深度优先搜索的路由表生成算法明显更少。在同样的软硬件和网络参数选择条件下,根据多节点负载均衡实验和分布式集群的仿真实验来对比验证本文提出的路由优化算法,结果表明本文提出的大规模脉冲神经网络模拟的互联网络,可在分布式的集群节点系统上进行映射,并结合提出的路由优化算法,实现了大规模脉冲神经网络模拟的分布式集群系统的高效仿真,进一步验证了本文分布式系统的有效性和路由优化算法和可行性。

关键词： 手语识别   深度学习   表面肌电信号   惯性传感器  

摘要： 手语识别是指将传感器或者摄像机等设备采集的手语信号转化为文本或者语音。手语识别这一技术可以打破普通人与听障人之间的交流窘境,并有助于促进人机交互的发展。但是,手语识别仍然面临很多挑战,有许多问题需要解决。本文以中国手语为研究对象,研究了词语级孤立手语的识别和句子级连续手语的识别,建立了中国通用手语识别模型。本文的主要研究内容如下:(1)词语级孤立手语识别的研究。本文提出了轻量级的长短时脉冲神经网络(Long Short-Term Memory-Spiking Neural Network,LSTM-SNN)手语识别模型。首先,本文提出了自适应脉冲编码,将手语信号转化为脉冲信号。接着,脉冲信号输入到改进的带泄漏整合发放(Leaky Integrate and Fire,LIF)神经元模型,以时间驱动的方式进行信息传导,完成网络训练。最后,通过多组对比实验验证了LSTM-SNN的性能,并分析和讨论了实验的结果。(2)句子级连续手语识别的研究。本文提出了一种基于连接时间分类(Connectionist Temporal Classification,CTC)的端到端连续手语识别系统。首先,根据惯性测量单元信号和表面肌电信号的特点,设计了相应的深度神经网络:时间学习模块和空间学习模块。时间学习模块关注惯性测量单元信号序列的上下文,而空间学习模块关注表面肌电信号的波动和变化。然后,使用连接时间分类来对齐网络的输入和输出,并针对输入和输出的硬对齐问题,增加了语言模型,使识别结果更具语义。最后,通过实验验证了该模型的性能。

关键词： 忆阻器   卷积神经网络   脉冲神经网络   Hf O2/Al2O3   ZnO:Mg  

摘要： 伴随着类脑芯片的热潮,基于各式新型存储器的神经形态计算层出不穷。为了突破神经形态芯片模拟人脑计算的过程中的功耗和集成度问题,需要人工突触具有非易失性的突触权重,能够模拟生物突触可塑性,以及器件尺寸和低功耗等特点,对于网络优化,包括算法训练方式以及网络权重量化等方面。在新型存储器中,忆阻器的人工突触阵列具有高的并行计算能力以及存算一体的特点而成为突破类脑神经形态芯片最有力的神经形态器件。本文主要研究成果如下:(1)首先制备传统材料Pt/HfO/AlO/Ti器件,针对该器件进行10000的耐受特性(enduring)测试,以及在85℃条件对器件的十个均分的电导状态进行10000s的读操作。然后理论分析器件的导电机制并采用COMSOL多物理场耦合软件建立电热耦合模型。随后测试其长时程增强(LTP),长时程抑制(LTD)以及尖峰时间脉冲可塑性突触特性(STDP),并研究器件本身的可靠性。(2)根据Pt/HfO/AlO/Ti器件的脉冲特性搭建两层脉冲神经网络(SNN)来实现手写字识别。分别从器件电导变化的趋势,网络训练的方式以及器件本身所具有的器件到器件之间的变化以及器件本身的差异三个方面来探究对网络性能的影响。最后根据该网络框架构建外围电路,采用C++编译平台对整个框架进行模拟并计算读功耗以及写功耗。(3)本文制备出W/ZnO:Mg/AZO可降解型忆阻器。该器件在去离子水中溶解并且失去阻变特性。其次验证该器件的电导增强和电导抑制的特性,以及模拟生物突触的长时程可塑性。根据该器件搭建卷积神经网络(CNN)实现手写字识别,准确率可达95%,并且整体的读写功耗也较低。通过制备传统材料以及可降解材料的忆阻器,模拟实现生物突触特性。这里分别采用CNN和SNN网络实现基于忆阻器多值存储架构,并从器件,网络优化等方面入手,探索该架构的性能。基于忆阻器的存算一体架构具有面积小,器件数量少以及功耗低的特点。

关键词： 脉冲神经网络   STDP   监督学习   无监督学习  

摘要： 脉冲神经网络(Spiking Neural Network,SNN)也被称为第三代神经网络,它以脉冲事件驱动的方式实现了神经元突触计算,有望突破人工神经网络现阶段所面临的能源和吞吐量瓶颈问题,在机器人、自动驾驶、军事、航天等领域具有巨大的潜在应用价值。但SNN仍然存在着无法直接训练的难题。基于脉冲时间依赖可塑性(Spike-Timing Dependent Plasticity,STDP)规则的SNN训练算法,因其具有生理学基础且计算简单,是SNN的主要训练算法之一。但其仍然存在着在复杂数据集上的分类精度低,推理延迟大,以及难以实现更深层次网络等问题。为此,本文对带有奖惩信号的R-STDP算法、无监督和有监督STDP相结合的混合训练算法进行了研究,提出相应的解决方案,旨在进一步提升基于STDP规则的SNN训练算法的鲁棒性、学习效率和性能。本文主要研究内容如下:(1)提出一种具有混合奖惩信号的MR-STDP(Mix-Rewarding STDP)算法。针对R-STDP算法在训练深层脉冲神经网络时存在的反馈信号仅作用于网络末层的问题,利用自编码器及其无监督特性,在浅层中增加重构层以建立奖惩信号因子模型,通过比较卷积层和重构层的神经元脉冲发放时间,获取浅层网络权重调整的指导因子,并将其与R-STDP相结合,形成一种具有混合奖惩信号的MR-STDP。在MNIST和COVID-19 CT数据集上实验结果表明,该方法取得了比R-STDP更高的精度,且浅层网络的学习效率大幅提高。(2)提出一种无监督和有监督STDP相结合的混合训练算法。通过解析反向传播中的不可导项,明确不可导项的生物学意义,提出更具生物真实性的、且计算复杂度更低的不可导项的近似代替项。基于此,提出具有STDP规则的近似梯度下降训练算法,并将其与无监督STDP相结合,形成一种无监督和有监督STDP相结合的混合训练算法。实验结果表明,本文所提出的混合训练算法不仅提升了脉冲神经网络精度,还增强了网络的抗噪性,在MNIST和Fashion MNIST数据集上的测试结果表现出更好的性能。

关键词： 轴承   故障诊断   深度学习   脉冲神经网络   注意力机制  

摘要： 卷积神经网络已经广泛应用于轴承的缺陷识别领域,但是在噪声环境和跨工况自适应问题中无法表现出优势,而脉冲神经网络具有良好的鲁棒性和泛化性。在脉冲学习方法中,基于速率学习的方法生物合理性差,脉冲时序依赖可塑性方法难以训练大规模的网络。针对上述问题,本文提出一种基于注意力机制的多尺度脉冲卷积神经网络的轴承缺陷识别方法,实现对生物神经系统高度仿真,同时提高识别准确性和跨工况自适应性。本文主要研究内容如下。(1)针对脉冲学习方法不能兼具生物可解释性和识别准确性的问题,结合基于速率的学习方法和梯度替代法,提出一种基于替代梯度的脉冲卷积神经网络,并在凯斯西储大学轴承数据集上验证了该网络的生物可解释性和有效性。(2)针对模型不能适应各种输入和快速提取特征的问题,结合多尺度卷积的特点和注意力机制的原理,提出一种基于注意力机制的多尺度脉冲卷积神经网络,并在凯斯西储大学轴承数据集上验证了该模型的准确性、抗噪性和跨工况自适应性。(3)针对脉冲卷积神经网络的识别准确率不如卷积神经网络的问题,提出一种功能层转换和参数选取的标准化方法,并在HZXT-008转子轴承实验台数据集上验证了基于注意力机制的多尺度脉冲卷积神经网络的高效性。

关键词： 忆阻器交叉阵列   突触电路   脉冲神经元   脉冲神经网络  

摘要： 随着深度学习技术的快速发展,人工神经网络为人们解决各类复杂问题提供了方便。其中,脉冲神经网络是将数据信息编码为脉冲信号在网络中传递的神经网络,与其它神经网络相比更具有生物合理性,在神经计算领域有很大的应用潜力。由于脉冲神经网络中有大量的神经元和突触,且该类网络的运行过程复杂,用传统器件实现的脉冲神经网络不仅尺寸大、功耗高,而且电路结构复杂,国内外对脉冲神经网络的电路实现还处于起步阶段。因此,使用尺寸和功耗等方面都具有优势的器件来实现脉冲神经网络具有很大的研究价值。忆阻器是一种新型的纳米级无源器件,具有非易失性、阻值可变性等特点,由其组成的忆阻器交叉阵列还有着集成度高、功耗低、响应迅速快等优势,在神经计算等领域中展现了突出的性能,有望用它构建大规模的神经计算系统。将忆阻器交叉阵列与脉冲神经网络相结合,能够提升脉冲神经网络对数据的处理能力,降低硬件网络系统的尺寸,为硬件实现脉冲神经网络提供了可靠的方案。本文将忆阻器交叉阵列和脉冲神经网络相结合,研究忆阻脉冲神经网络的实现方案,主要的工作如下:(1)理论分析了3种忆阻器突触电路的实现原理,包括单个忆阻器突触、双忆阻器突触、忆阻桥突触,并通过仿真实验验证了各种突触电路的特性,紧接着提出了一种适用于脉冲延时传递的多突触结构,并给出了该结构在忆阻器交叉阵列上的两种实现方式,分析了两种方式的优缺点,并对其中一种进行了仿真验证,最后说明了多个突触在忆阻器交叉阵列中的映射过程。这些工作为后文多突触脉冲神经网络的设计奠定基础。(2)对三种经典的脉冲神经元模型进行了详细的分析,并通过仿真实验对三种神经元模型的脉冲发放特性进行了验证,紧接着提出了一种基于LIF模型的脉冲神经元电路,该电路具有较好的可调性和稳定性,通过Pspice的仿真验证了所设计的脉冲神经元电路的可行性。最后基于设计的脉冲神经元电路和多突触电路,构建了一个基于忆阻交叉阵列多突触脉冲神经网络,详细介绍了网络每层的电路设计,并通过算法将该网络在软件中进行了数值模拟,完成了对数据集的识别任务,验证了该网络的可行性和有效性,为电路实现该类网络提供了思路。(3)分析了忆阻脉冲神经网络在输出神经元有少数突触失效时的精度损失情况,针对该类情况提出了一种仅对输出神经元剩余突触进行操作的网络精度补偿方法,并对该方法进行了模拟实验,通过实验结果证明了方法的可行性,为解决忆阻器交叉阵列实现脉冲神经网络时可能遇到的问题提供了参考方法。

关键词： 脉冲神经网络   多脉冲学习   突触延迟   神经形态计算  

摘要： 近年来,人工神经网络尤其是深度学习在很多具有挑战性任务上获得了成功,但是其对大量的训练数据和计算资源的依赖阻碍了它在一些限制性任务中的发展。受到大脑基于脉冲的离散信息处理机制的启发,脉冲神经网络利用脉冲进行信息传递和处理,是基于脉冲的神经形态学习和计算的研究核心和主要模型。然而,由于脉冲离散不可导的特点以及脉冲神经网络的复杂动态,如何设计高效的学习算法仍然是一个具有挑战性的问题。目前,多数脉冲学习算法的研究仍集中于如何调整突触权重。然而,有生物证据表明突触延迟在可塑性、神经行为动态、生物功能实现等方面中具有重要作用,而且是可以调节的。不同突触属性的可塑性如何协同进而促进脉冲神经网络的学习仍然是一个开放性的问题。虽然有部分研究将突触延迟引入脉冲学习算法进行探索,但是它们或者只涉及单方面的学习或者以发放精确时间脉冲序列为基础,缺乏结合突触延迟对基于发放期望数目脉冲的多脉冲学习算法展开的研究。本文将突触延迟引入神经元模型,基于以发放期望数目脉冲为目标的多脉冲学习算法对学习理论、行为动态、作用机制、应用验证等方面进行扩展研究。本文主要贡献如下:(1)从阈值驱动的可塑性出发,提出了联合突触权重和延迟可塑性的多脉冲学习算法TDP-DL。本文将突触延迟引入基于电流的脉冲神经元模型,基于阈值驱动可塑性构建延迟可塑性,然后结合权重可塑性提出了TDP-DL算法。不同的模拟实验结果表明延迟可塑性整合到学习框架中提升了多脉冲学习算法的学习性能,证明了TDP-DL算法中联合可塑性的有效性。本文通过区间选择任务表明延迟可塑性可以通过在时域偏移脉冲来增强神经元学习的灵活性和对信息的选择性,揭示了突触权重和延迟如何相互协同的工作机制,证明了联合可塑性的必要性。图像和语音识别以及基于地址事件表示的物体识别任务上的实验表明TDP-DL可以帮助神经元更好地整合分布在时域中的有用信息进而获得了更高的准确率,进一步验证了TDP-DL算法的有效性和可行性。(2)提出了高效的结合突触延迟的多脉冲学习算法Direct EML-DL和Improved EML-DL。本文从效率的角度出发,在单指数核脉冲神经元和高效多脉冲学习算法EML的基础上,提出了两种延迟调整规则:直接和改进延迟学习,其中,改进延迟学习改善了直接延迟学习存在的延迟调整波动大、影响整体学习性能的问题。然后,将权重学习分别与两种延迟学习结合提出了两种多脉冲学习算法:Direct EML-DL和Improved EML-DL。通过对比学习动态、不同初始设置下的学习效率并结合区间选择实验结果,发现本文提出的Direct EML-DL和Improved EML-DL算法保留基准算法高效性的同时提高了神经元的信息整合能力,其中,Improved EML-DL算法的学习效率更高。语音识别和基于地址事件表示的物体识别任务中,提出的两种算法都获得了具有竞争力的结果,进一步验证了提出算法的有效和高效。综上,本文结合突触延迟对多脉冲学习算法进行扩展研究,展现了突触权重和延迟联合学习的有效性,对高效脉冲学习算法研究以及基于脉冲的神经形态学习与计算提供了有价值的参考。

关键词： 硬件加速器   FPGA   脉冲神经网络   Gamma振荡   GABA突触受体   AdEx神经元模型  

摘要： 伽马(Gamma)振荡作为神经振荡的一种,由于其具有节律性或重复性等活动特性,在注意力、认知过程、记忆和感官等方面都发挥了重要作用。众多研究表明,Gamma振荡异常不仅存在于诸如阿尔兹海默症等精神疾病患者中,抑郁症患者的大脑中也发现其存在明显异常。目前大多神经科学研究者的通过搭建大规模人工神经网络模型,对大脑的Gamma振荡机理进行研究,进而应用于临床医学治疗和检测。然而,大多数的神经网络是基于中央处理器(CPU)或者图形处理器(GPU)进行软件建模,十分耗时耗能,很少有工作将其做到硬件层面以获取高效能。本文结合了 Gamma振荡的生物特性,选择了适当的神经网络结构、神经元和突触模型以及加速电路,设计了一个用于研究Gamma振荡的高速高能效全耦合脉冲神经网络硬件加速器,以满足对于Gamma振荡的研究需求。本文主要从神经网络结构、神经元和突触模型、底层算术算法电路三个方面对所提脉冲神经网络硬件加速器进行了创新设计。在神经网络层面,本文采用了中间神经元网络 Gamma 振荡(InterNeuron-Gamma,ING)机制,基于 γ-氨基丁酸(γ-AminoButyric Acid,GABA)受体突触模型搭建了抑制型网络,同时在传统的GABA受体突触模型上进行了简化,便于硬件实现;在神经元模型层面,本文采用了自适应指数积分激发(Adaptive Exponetial,AdEx)神经元模型,并创新性地使用了流水线设计,提高其硬件利用率;在底层算术算法电路层面,本文根据AdEx神经元的生物特性和Gamma振荡的研究需求,采用了坐标旋转数字计算算术算法(COordinate Rotation Digital Computer,CORDIC)来计算神经元膜电位时的复杂函数,同时在传统CORDIC基础上进行了改进,加入了面积高效策略和快速收敛策略,提出了新型的高面效快速CORDIC,进一步优化神经元膜电位更新过程,使其拥有更快的工作频率和更高的能效。本文的高速高能效全连接脉冲神经网络硬件加速器设计在Xilinx Virtex UltraScale+FPGAVCU118评估套件上实现,其资源开销为380232个LUT、12072个FF、3000个DSP和4KBBRAM。本设计还在TMSC65nm数字工艺库下进行了 ASIC硬件实现。结果表明,本设计总共使用了约七百万个逻辑门和4KB SRAM,工作在100 MHz下的功耗为414.809 mW,相较于传统基于CPU的实现方式,本设计减少了 99%的功耗。在100000次的网络更新实验中,本设计的总运行时间仅需122 ms,相比基于Intel 6700HQ CPU的软件设计所需要的33.72 s,提升了 99.6%。最后,本文通过调整参数,实现了在抑制网络下Gamma振荡脉冲神经元的同步过程,并且验证了网络参数与神经元同步的关系,进一步证明了本设计应用于Gamma振荡研究的可行性。

关键词： 脉冲神经网络   监督学习   突触连接   脉冲优化机制   模式分类  

摘要： 生物大脑具有复杂的结构和功能,并且在突触可塑性机制的作用下进行信息的传递、转换和学习。脉冲神经网络应用时间编码的脉冲序列来处理神经信息,是新一代神经计算模型。监督学习算法是脉冲神经网络领域中的重要研究内容,监督学习的目的是通过突触权值的调整,使脉冲神经网络输出特定的目标脉冲序列,从而实现对具体问题的求解。由于各种学习算法都是利用突触前脉冲的信息来计算突触权值的调整,因此参与计算的突触前脉冲数目是影响算法学习性能的关键因素。因为不同学习算法在权值调整上存在一定差异,所以突触前脉冲数目的选择方式也不统一,需要根据不同学习算法各自的特点来确定。因此,本文选择典型的具有单突触连接和多突触连接的多层脉冲神经网络监督学习算法作为研究对象,对其参与权值调整的突触前脉冲数目进行优化选择,进一步得到新的监督学习算法。（1）对于具有单突触连接的多层脉冲神经网络,提出了基于脉冲区间优化的Multi-STIP＿OTI和Multi-Re Su Me＿OTI监督学习算法。对于MultiSTIP和Multi-Re Su Me两种单突触连接的学习算法,通过综合考虑期望和实际输出脉冲之间的相关性来选择用于权值调整计算的突触前脉冲数目。脉冲区间优化机制包含一个优化时间间隔,突触权值调整由优化时间间隔内的突触前脉冲决定,这使得网络输出脉冲尽可能接近期望输出脉冲。脉冲序列学习结果表明,基于脉冲区间优化的Multi-STIP＿OTI和Multi-Re Su Me＿OTI算法可以获得比相对应的原始算法Multi-STIP和Multi-Re Su Me更好的性能。此外,脉冲区间优化机制可以缩短算法的运行时间,这表明基于脉冲区间优化的Multi-STIP＿OTI和Multi-Re Su Me＿OTI算法可以有效学习时空脉冲模式。（2）对于具有多突触连接的多层脉冲神经网络,提出了基于突触前脉冲选择优化计算的Multi-Spike Prop＿SSTI监督学习算法。Multi-Spike Prop是一种典型的多突触连接梯度下降学习算法,改进的Multi-Spike Prop＿SSTI学习算法通过脉冲选择优化时间间隔,选择更合适的突触前脉冲参与权值调整计算。脉冲序列实验结果表明,基于脉冲选择优化的MultiSpike Prop＿SSTI算法可以获得比原始算法Multi-Spike Prop更好的性能和效率,这充分验证了脉冲选择时间间隔对于Multi-Spike Prop＿SSTI算法的有效性。（3）应用基于脉冲优化机制的监督学习算法,提出了非线性模式分类模型,并在UCI的三个数据集上进行了测试。从UCI机器学习库中选择Wisconsin乳腺癌、鸢尾花和皮马印第安人糖尿病三个最常用的基准数据集来评估所提算法的模式分类能力。采用线性编码方法将数据集中的样本特征转换为特定的脉冲序列,分析了隐含层神经元数目对算法分类结果的影响,并与其他经典监督学习算法的分类精度进行对比分析。模式分类实验结果表明,基于脉冲优化机制的监督学习算法可以有效解决模式分类问题,具有一定的应用价值。