课程文献中心 更多>>

关键词： 调制识别   增强星座图   眼图   脉冲神经网络  

摘要： 调制识别技术是非合作通信的关键技术,主要实现方法可分为基于似然比和基于特征提取的方法,但是实际应用中存在如下不足:第一,基于似然比的调制识别方法往往计算复杂不利用实际应用,基于特征提取的机器学习算法依赖人工设计和专家经验;第二,基于特征提取的深度学习算法又可分为基于原始IQ信号的方法和基于图像变换的方法,其中基于原始IQ信号的方法中波形数据极易受到干扰和噪声破坏,使得波形规律丢失,不利于深度网络学习,因此其鲁棒性和抗噪性能较差;第三,在基于特征提取的深度学习算法中,基于星座图的方法其原始星座图星座点像素往往稀疏分散,特征表达能力有限,尤其在噪声影响下星座点视觉效果较差,星座点和背景以及簇之间对比度不够明显,有待视觉效果增强;第四,大部分调制识别网络没有针对输入信号的特点进行专门设计,而是简单的网络层结构的堆砌来进行分类尝试。针对上述问题,本文从通信中两种信号质量评价的图像转换方法(星座图和眼图)入手,设计深度网络实现调制信号分类识别,最后将算法移植到应用软件中,实现工程化落地,本文的主要研究内容及成果如下:(1)基于星座图的信号图像转换方法,提出一种增强星座图(ECDs)算法,实现对星座图视觉效果的增强,使得星座簇更加视觉对比效果更加突出,增强其表征能力。更进一步,为了提取数据增强星座图的轮廓、大小、边缘等多层次特征,设计了卷积注意力特征金字塔网络(Convolution-FP-SE Network,CFSN),实现增强星座图多层级特征提取与融合,提高深度特征表征能力。在不同频偏和信噪比组合的23类调制数据集上,利用多种网络对增强前后效果对比,验证了增强星座图方法的有效性;与其他现有基于星座图和IQ方法对比验证了网络的有效性和鲁棒性,其在无频偏高信噪比数据上Overall Accuracy达到了98.17%。(2)基于眼图的信号图像转换方法,同时引入第三代脉冲神经网络(Spiking Neural Network,SNN)用于调制识别。脉冲神经网络基于生物神经元特征机理进行建模,利用了RC充放电结构,因此其可解释性更强,能利用电路及数学工具进行分析。SNN对输入的眼图图像进行脉冲编码,利用(Spatio-Temporal Backpropagation,STBP)算法进行反向传播训练。在信噪比范围为[0:5:25]d B的10类眼图数据集上及进行对比实验,本方法在25d B时Overall Accuracy达到了100%,同时与其他基于眼图的方法和分类网络模型进行对比,在各个信噪比上本方法均优于其他方法,验证了该网络的有效性和鲁棒性。(3)基于PyQt编程架构和MVC设计模式进行智能化调制识别界面开发。PyQt具备库函数多样齐备、设计工具便利、设计效率高以及跨平台等特性,同时模型-视图-控制器(Model-View-Controller)的设计思路具有模块间关联程度降低、编程效率高和代码重复利用性等特点,综合两者优势实现高效高质量开发设计。所设计的智能化调制识别界面主要包括菜单、设置区、多种显示区等总共8个部分,支持单个文件输入、批量文件输入和测试集文件输入多种输入模式,同时支持星座图输入、增强星座图输入和眼图输入多种输入源,针对对应输入配套对应的识别步骤。同时扩展加入信号分析、文件夹监测、连续识别等功能,更符合工程实际需求,进一步增强了软件实用性,最终实现了功能完善、界面友好、高效实用的智能化调制识别软件搭建。

关键词： 孤独症   CHD8   重编程   诱导多能干细胞(iPSCs)   外周血单核细胞(PBMC)   类脑器官   基因编辑   单细胞测序  

摘要： 研究背景:神经发育受到表观遗传与基因的精细时空调控。神经发育障碍病人大规模基因组研究表明表观遗传信息的改变与疾病高度相关。因而,采用有效模型来揭示神经发育表观遗传调控机制是研究的突破口。研究目的:本研究旨在利用iPS与类脑器官技术联合多组学分析,通过致病表观遗传基因KMT2D与CHD8,分别探究神经发育障碍KABUKI综合征与孤独症的表观遗传机制。研究方法:我们首先通过重编程技术诱导病人家系iPSCs,通过q PCR,免疫荧光以及拟胚体实验等方法进行细胞验证,然后使用基因编辑对人ESC或iPSC进行疾病基因型模拟,再诱导制备类脑器官,通过qPCR,免疫荧光以及多组学分析等手段对类脑器官体系进行验证,通过这一套体系,我们可以深入研究单个或多个基因缺陷在神经发育过程中的表观遗传调控机制。各章节研究结果:文章主要围绕KMT2D分子机制与CHD8孤独症类脑器官建立两个部分进行。第一部分,我们构建歌舞伎综合征类脑器官模型进行组蛋白H3K4甲基转移酶KMT2D的致病机制的探究。前期研究中,实验室在人胚胎干细胞系HN4中通过CRISPR-Cas9基因敲除KMT2D SET结构域,构建KMT2D SET细胞并诱导类脑器官,通过免疫荧光与RNA-seq发现KMT2D的敲除引起WNT信号配体表达下降以及GABAergic interneuron的过量产生。为了探究KMT2D是否通过WNT通路影响GABAergic interneuron的分化,我们利用WNT激动剂在KMT2D SET类脑器官中激活WNT通路,发现GABAergic interneuron的过量产生的现象得到挽救;利用WNT抑制剂IWP发现能使野生型细胞GABAergic interneuron的过量产生。这些结果为后续研究发现KMT2D靶标Roof plate的WNT增强子提供了依据与思路,从而为KABUKI综合征提供了新见解。第二部分,我们拟采用第一部分的研究范式,研究孤独症基因CHD8在类脑器官中的作用机制。孤独症谱系障碍是一类神经发育疾病,其主要表现为神经系统失调影响到大脑功能而导致的终身发展障碍。染色质域-解旋酶-DNA结合蛋白8(CHD8)是孤独症的高危基因之一。我们与合作医院进行临床病例分析,采集CHD8家系的血液样本分离外周血单核细胞(PBMCs),目前已运用iPS重编程技术,取得了患者及其亲本PBMCs重编程的iPSCs。得到了病人及亲本的iPSCs后我对其进行了验证,通过q PCR和免疫荧光检测其多能性基因的表达;制备拟胚体进行分化潜能检测;确定了两株细胞可用后,我们进行了类脑器官体系构建的摸索,并成功制备了类脑器官,通过观察形态及检测神经相关标志基因,我们确立了初步的类脑器官制备体系。随后,我运用CRISPR-Cas9-ss ODN基因编辑技术对患者iPSCs突变位点进行修复。通过制备EB检测其分化潜能,发现其向外胚层及内胚层分化能力存在缺陷,通过核型检测,发现其存在平衡易位现象。接下来,我们拟结合单细胞测序技术,破译CHD8引起的发育时空轨迹中表观调控异常及机制。另外,我通过iPSCs重编程技术验证了实验室自主开发的i CD1培养基的优越性,通过该系统产生的iPSCs在克隆形态、细胞功能、细胞标记物和转录组方面与胚胎干细胞几乎一致,因此适合用于下游生物学研究。我们的方法能够简单使用地制备小鼠iPSCs,为进一步改进iPSCs技术提供了起点。研究结论:本论文通过从iPSC重编程到类脑器官模型建立来探究神经发育疾病的表观机制,发现KMT2D通过WNT信号通路调控GABAergic interneuron过度表达。此外还构建了CHD8类脑器官模型。这些研究将为神经发育障碍致病的机理研究提供了新的研究思路及范式。

关键词： 脉冲神经网络   逻辑运算   STDP   类脑智能  

摘要： 人工智能在21世纪成为世界各国抢占发展先机的热门领域。随着人工智能领域研究的不断深入,专用人工智能虽然在一些任务上取得了许多超人的成绩,但是也面临着许多问题和不足。在从专用人工智能迈向通用人工智能的道路上,类脑智能逐渐走进人们视野,以更强的生物可解释性不断拓展实现通用人工智能的可能。类脑智能作为前沿科技和产业变革领域之一,也于2021年被列入《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》。类脑智能研究离不开被称为第三代神经网络的脉冲神经网络,在近些年,脉冲神经网络领域也在许多方面取得了令人振奋的进展。脉冲神经网络是构建类脑智能的基础,逻辑运算既是构成复杂运算的基础,又是构成高级智能的基础,生物神经活动的本质是对外界输入信号和自激信号进行运算的过程。通过脉冲神经网络实现逻辑运算既具有生物合理性,又具有实际的应用价值,对人工智能领域向通用人工智能发展,类脑智能取得进一步发展具有重要意义。本文基于此开展研究,具体研究内容包括:(1)基于脉冲神经网络的逻辑运算范式设计。本文设计了一种统一的基于脉冲神经网络的逻辑运算范式Logic SNN,包括对在脉冲神经网络语境下逻辑变量定义和脉冲编码方式,脉冲神经元的比较及选用,范式网络结构设计以及确定网络训练方法。在脉冲神经网络语境下将二元逻辑变量的两个逻辑常量逻辑0和逻辑1定义为两个不同的神经元发放脉冲,即每一个逻辑变量的两个状态由两个独立神经元表示。在输入编码上采用时间域上的互斥编码,并通过训练,使输出也符合上述定义。经过比较,选择LIF神经元作为构建范式的脉冲神经元。范式网络被设计为训练阶段4层、应用阶段3层的结构。其中输入层,模式层,输出层为应用阶段从前至后的层级结构,训练阶段结构在上述层级结构基础上增加了教师层,并将其与输出层进行连接,用于网络训练。网络训练方法采用满足Hebb规则的STDP学习规则。(2)基于设计的脉冲神经网络逻辑运算范式的逻辑运算实现。为了验证所设计范式的普遍性、适用性以及效果,对所设计范式进行验证。本文基于范式Logic SNN对基本逻辑运算(“与”、“或”、“非”),部分常用复合逻辑运算(“与非”、“或非”、“异或”、“同或”)以及部分组合逻辑网络(8421BCD码四舍五入网络、半加器、全加器)进行训练、实现,均达到了预期逻辑功能,验证了范式的可行性、普遍性、适用性以及效果。其中,基本逻辑运算“非”由于其反相特性,可采用仅包含输入层和输出层的两层网络结构实现。基本逻辑运算“与”、“或”以及复合逻辑运算“与非”、“或非”、“异或”、“同或”基于范式Logic SNN通过训练得到相应的逻辑运算模块,这六种逻辑运算模块体现了Logic SNN范式的网络结构统一特性,不同逻辑运算模块仅突触权重不同。组合逻辑网络8421BCD码四舍五入网络、半加器、全加器的实现,利用了Logic SNN范式的级联特性,在对网络逻辑功能进行分析后,使用训练好的逻辑运算模块进行“积木式”构建,实现对应网络功能。(3)基于脉冲神经网络的广义逻辑函数研究。本文根据逻辑函数的概念定义,将一般意义上的逻辑函数推广到广义逻辑函数。对传统机器学习算法决策树,和模式生物秀丽隐杆线虫的部分非条件反射行为进行了研究分析,并将其逻辑化。构建基于脉冲神经网络逻辑运算模块的决策树,实现IRIS数据集分类任务;基于脉冲神经网络逻辑运算模块对秀丽隐杆线虫在单刺激和多刺激环境条件下的觅食行为和回避行为进行了模拟仿真。上述实验均达到预期逻辑功能,将脉冲神经网络逻辑运算应用到更加广阔的领域。

关键词： 自动调焦   脉冲耦合神经网络   调焦评价函数   图像增强   图像分割  

摘要： 自动调焦技术被广泛应用于现代光学成像系统,调焦的根本目的是让镜头维持在聚焦位置,系统能获取清晰的图像。基于图像处理的自动调焦技术依托性能强大的数字处理器,凭借其原理简单、响应快速、准确度高、适用范围广等特点而成为研究的热点。随着处理器计算性能的不断提高,各种神经网络算法在基于图像处理的自动调焦技术领域的研究与应用也越来越广泛。脉冲耦合神经网络被称为“第三代神经网络”,其工作原理基于生物视觉皮层的信息处理机制,符合生物的视觉规律,在图像处理领域有很好的应用,但在自动调焦领域脉冲耦合神经网络尚未有研究。本文结合传统的脉冲耦合神经网络,提出了一种改进的网络模型。论文的主要工作有:1.分别对自动调焦技术与脉冲耦合神经网络的发展做了调查研究。基于图像处理的自动调焦技术日趋成熟,通过获得的图像反推离焦情况,结合窗口构建方法、调焦搜索策略等完成自动调焦。脉冲耦合神经网络具备真实生物神经元的特征,有脉冲同步发放特性与捕获特性,在图像处理领域应用广泛。因复杂的工作机理在数学上较难分析,现阶段的研究主要在参数的改进上。2.将脉冲耦合神经网络与基于图像处理的自动调焦技术结合。主要提出了一种新的调焦评价函数计算方法,通过网络算法处理图像,提取图像的灰度差特征,记录网络处理时经历的点火次数作为调焦评价函数。在神经网络上实现了图像分割算法,可将目标与背景分割,实现调焦窗口的动态调整,提升了调焦评价函数计算速度。在神经网络上实现了图像增强算法,改进了网络参数,使算法对图像暗部处理效果更明显。3.设计了基于脉冲耦合神经网络的自动调焦方法,利用一种网络结构实现多种图像处理功能,形成完整的自动调焦闭环系统并构建了算法的执行流程。对自动调焦系统进行了仿真与实验验证,验证了所设计方法的有效性,并初步开展了图像数据处理的硬件移植工作。

关键词： 脉冲神经网络   迁移学习   脉冲编码   领域自适应  

摘要： 近年来,脉冲神经网络（Spiking Neural Network,SNN）因其在神经形态架构上极高的能源效率而受到研究界的广泛关注。然而,与传统人工神经网络（Artificial Neural Network,ANN）一样,训练深度脉冲神经网络需要海量的标记数据,获取这些标记数据在现实应用场景中往往需要极高的成本。迁移学习方法一定程度上缓解了这种数据需求,并在传统人工神经网络上得到了广泛的应用。但对于脉冲神经网络,迁移学习方法的研究仍然缺乏。因此,为了将迁移学习方法运用到脉冲神经网络中,本文从脉冲编码方法和脉冲神经网络迁移学习方法两个方面展开研究。本文的主要工作如下:（1）研究并提出了一种适用于迁移学习的脉冲编码方法。由于迁移学习模型在训练过程中往往需要对两个领域的特征进行相似性度量,这就要求编码后的脉冲序列包含更充足的输入信息。因此,基于传统的频率编码和时间编码,本文提出了一种时延频率编码方法,可以在编码的过程中更多地保存原始信息。实验表明,本文提出的时延频率编码在迁移学习中具有比时间编码和频率编码更高的性能。（2）研究并提出了一种基于迁移学习的脉冲神经网络方法（Transfer Learning Spiking Neural Network,TLSNN）。由于脉冲神经网络采用二值脉冲序列进行信息传递,迁移学习不能直接应用于脉冲神经网络中。因此,本文提出了一种适用于迁移学习的脉冲神经网络框架。为了使网络能够进行有效训练,本文介绍了框架中使用的两个损失函数:分类损失函数和领域自适应损失函数,并引入了一种基于模拟梯度的反向传播算法。实验表明,TLSNN在迁移学习任务中表现出比传统迁移学习方法更好的性能。（3）脉冲神经网络的迁移学习机制研究。针对迁移学习中的两个基本问题——什么时候进行迁移和什么地方进行迁移,本文首先通过实验分析了TLSNN中不同层进行领域自适应的结果,提出了一种领域自适应层选择策略,这种策略可以很大程度上提高迁移学习的效果。然后提出了一种动态领域自适应方法,可以在训练过程中自动选择合适的领域自适应参数λ来进行知识迁移。实验表明,本文提出的动态领域自适应方法具有比传统静态领域自适应方法更好的性能。

关键词： 类脑导航   移动机器人   经验地图   贝叶斯估计   强化学习  

摘要： 移动机器人通过管理资源并做出决策实现给定任务,它的效能直接取决于其自主导航的能力。复杂的场景对机器人环境建模和导航算法提出了更加严峻的挑战。当前计算机方法已取得重要进展,但环境和传感器对定位的影响以及规划效率等仍是挑战问题。哺乳动物发挥海马体认知、学习以及信息整合的能力可辅助定位和导航。因此,本文针对传统建图导航方法的局限性,提出了一种结合类脑认知理论和计算机建模机制的经验认知地图构建以及路径规划方法,为仿生导航研究提供了一种方案。机器人对空间环境的感知是信息传递处理的第一步,本文首先构建了类脑空间环境认知模型。通过Gabor滤波器建立视觉线索细胞,包含空间中的环境信息,模拟人类对于外界环境信息的处理过程;通过头朝向细胞的方位角以及俯仰角编码层、3D网格细胞的相位振荡机制,传递机器人自运动相关信息;通过基于Anti-Hebbian的递归神经网络模型对视觉以及自运动信息进行整合与选择,激活特定位置细胞,形成机器人在空间中的位置表达。为降低经验认知地图构建过程中的传感器误差、累计误差等,本文提出了结合贝叶斯估计的误差修正策略。建立以当前激活位置细胞为中心的可选邻域空间,利用贝叶斯估计理论计算各备选子空间的概率分布情况。同时,提出可选邻域空间的会聚判定准则,通过空间概率的逐步迭代计算,实现邻域空间收敛,获得修正后的位置细胞的空间位置。将包含图像滤波后信息、头朝向细胞信息、位置细胞激活信息以及与下一个可选节点的连接关系的集合作为一个经验认知节点,构建完整的拓扑经验认知地图。受认知神经科学中海马体相关行为决策的启发,结合马尔可夫决策以及强化学习相关原理,构建了关于机器人在经验认知地图中的状态后继表示模型,训练建立完整的地图全局连接关系。同时,提出判定模型收敛的信息熵计算方法,用以评价模型的自组织程度和可靠性。针对特定任务的目标位置,设置奖励函数,可以实现机器人面向目标的快速序列规划。为验证本文算法的可行性和有效性,本文在Eu Roc简单和复杂数据集、多层迷宫环境和室外环境下进行了实验。实验表明,与Neuro SLAM、OKVIS和VINS算法相比,本文所提方法定位精度最高,在MH＿01数据下平均绝对误差为0.129,在MH＿03数据下为0.202。同时,本文路径规划方法能够快速解码经验节点间的连接关系,与Dijkstra算法相比具有O(n)复杂度,在室外移动机器人路径规划实验中规划速度提高22%。

关键词： 机器人   避障   脉冲神经网络   内在可塑性   动态触发阈值  

摘要： 脉冲神经网络,作为第三代神经网络,具有时间连续性、高能效、快速处理和生物合理性等特点,近年来逐渐应用在机器人领域。导航避障任务对于机器人来说是一项最基础且最重要的功能,但如何设计出高效且生物可解释的移动机器人复杂场景下的避障与导航算法是一项重要的研究问题。大多数方法通过人工设计的脉冲模型在大量的数据集中不断训练来实现固定场景下的避障与导航功能。但这些方法面临着如下问题:第一,脉冲模型的训练需要大量人为标注的数据集,耗费大量的人力物力,同时模型难以适应未见场景;第二,由于虚拟现实之间的数据差异,大部分脉冲模型缺乏内在可塑性稳态,导致模型难以适应真实场景下的退化环境,难以应对外界环境对传感器和模型的噪声干扰,从而影响导航避障效果甚至失效。为了解决上述机器人导航避障中出现的问题,本文采用深度强化学习与脉冲神经网络结合的方法,用脉冲神经网络代替人工神经网络,对状态进行脉冲编码以及对输出进行脉冲解码,使模型可以与强化学习算法相融合,模型自主与环境进行交互学习,实现突触可塑性的自主更新,使模型很好的适应从未见过的新场景,提升模型的处理速度与鲁棒性。除此之外,本文设计了一个生物合理的动态能量时间阈值来实现神经元的内在可塑性,使其能够维持网络的稳态。动态脉冲阈值是生物神经元的基本属性之一,是维持神经元内在平衡的调节机制,在生物学中有广泛的应用,但很少应用在计算机领域,尤其是在脉冲模型中。本文根据两种生物现象:(1)动态阈值的大小与平均膜电位数值呈正相关;(2)动态阈值的大小与近两个时刻的去极化率呈负相关。构建了生物合理的动态能量时间阈值,基于此机器人能够有效地适应不同的退化环境,使其在具有噪声干扰的场景下,依然保持高效的避障导航决策。实验证明,相比于其他导航避障算法,本文提出的方法能够有效的适应前所未见的新场景,同时对于状态输入噪声、突触权重干扰的退化环境中表现出较强的自适应性与鲁棒性,达到脉冲模型的内在可塑性稳态,缩小了生物研究与机器学习之间的差距。

关键词： 类脑计算   片上网络   小世界网络   环形片上网络   三维片上网络  

摘要： 受神经科学启发的类脑计算通过模拟神经元和突触的信息处理行为构建仿脑神经系统的结构。相比于传统的冯诺依曼架构受限于灵活性不够和内存墙等问题,类脑计算拥有低功耗、高并行性等优点。类脑处理器作为类脑计算的硬件平台,部署了大规模的脉冲神经网络的来完成不同的任务。因此,类脑处理器需要一个高能效的通信架构来满足神经元核之间的数据交互需求。片上网络(NoC)具有高灵活性、低功耗等优势,已经成为类脑处理器中主要的通信架构。片上网络设计的主要优化目标是降低传输延时、减少功耗面积以及不丢包无死锁。常见的片上网络采用网格(Mesh)结构实现通信互连,但是Mesh网络中间区域容易饱和,资源利用率不高,成为系统性能瓶颈。由于环形网络提供了简单而紧凑的结构,并且环形与小世界网络的结合,在减少通信距离的同时节省资源。本课题基于类脑计算特性分别在结构层次和路由层次优化类脑处理器片上网络设计。论文的主要工作和创新点包括:(1)首先提出了二维环形小世界NoC这种复合型结构,这种结构降低通信延迟同时保持网络的低复杂度和低开销。其次,提出一种静态的自适应性路由算法进一步提升通信性能。最后对不同结构片上网络的延迟、功耗和资源开销进行综合评价。在提取FSDD、NMNIST和N-TIDIGITS这三种数据集的通信流量之后,对网格网络、网格小世界网络、环形网络和环形小世界网络四种结构的延迟、功耗和资源开销进行综合评估。实验结果表明环形小世界网络不仅可以满足类脑应用的通信需求,且占用更少的资源。环形小世界的平均延迟和资源利用率比网格网络分别降低了18%和35%。(2)提出在上述架构的基础上构建3D环形小世界NoC的方法,以适用不同的应用场景。3D NoC更符合人类大脑中的组织结构,占用更少的面积尺寸和物理链路。但是3D NoC中更容易形成死锁,利用转向模型可以在平面和立体两个维度实现无死锁路由。最后我们使用RTL级Verilog描述实现原型并仿真,评估了不同的应用场景下NoC的延时。实验结果表明三维环形小世界NoC比3D Mesh NoC延时最高降低了26%。除此之外,垂直堆叠多个环网解决了环网可扩展性差的问题,适用于类脑处理器处理大规模SNN的计算。针对类脑计算特性的NoC设计与优化对开发类脑处理器非常重要,本文提出的2D/3D环形小世界NoC能够满足不同规模的SNN应用需求。

关键词： 脉冲神经网络   目标检测   脉冲神经元   误差补偿   轻量级网络  

摘要： 近年来随着机器学习技术的飞速发展和可用于模型训练的数据集数量不断增加,深层人工神经网络已经是实现人工智能的重要手段之一。特别是在计算机视觉等领域取得了丰硕的研究成果。然而,这类任务通常需要巨大的算力支持以及大量标注的训练样本数据。随着实际任务的复杂性增加,则需要更高级的模型和更多的数据,同时需要更大的算力支持。因此,模型效率日益成为在各种应用中部署的一个重要因素。脉冲神经网络(SNN)作为第三代神经网络,因其模仿了生物信息在大脑中离散的传递和处理信息方式,使其拥有稀疏而强大的算力与较高的能源效率。因此脉冲神经网络在计算机视觉等领域更具有发展的空间与潜力。但脉冲神经网络目前的发展仍然局限于图像分类等任务,难以应用于更为复杂的目标检测任务中。为了提高脉冲神经网络在目标检测任务中的准确率与效率,本文做了以下工作:(1)研究了脉冲神经网络的生物理论背景。介绍了常见几种脉冲神经元模型,并对比了之间的性能优劣势;接着分析了不同脉冲编码方式的适用场景以及详细阐述了不同网络层数的脉冲神经网络多样的学习机制。(2)通过分析脉冲神经网络在目标检测应用中的研究现状,提出了一种剩余阈值不平衡的脉冲神经元(RMP-TI),允许正激活和负激活的同时在相应RMP-TI脉冲神经元发放脉冲后保留其剩余的膜电位,等待下一次激活。实验结果表明所提神经元模型减少了信息丢失,并提高目标检测任务的检测精度。(3)为了进一步提高脉冲神经网络的目标检测性能,降低脉冲神经网络随着网络层数加深导致误差不断累积的问题。将RMP-TI脉冲神经元与脉冲残差网络集成,并提出了一种脉冲神经网络分层补偿结构。传统补偿结构仅仅对所有层的权重进行统一比列更新,忽略了不同脉冲神经层的误差不一致性。所提分层补偿结构建立了累积传播误差回归模型,网络中每层脉冲神经元可以通过误差模型进行学习,从而精准补偿对应膜电位的损失。实验结果表明所提方法缓解了深层网络脉冲发放率过低的问题,确保信息正确传输的同时不会导致神经元过度激活,从而显著提高了深层脉冲神经网络的可扩展性。(4)最后在不同大小的数据集上对比了目前几种先进的目标检测网络,实验结果表明了所提网络的有效性,同时通过自制数据集证明了所提网络的视频实时检测能力。

关键词： 脉冲神经网络   低功耗   磁性隧道结   真随机   脉冲时间依赖可塑性  

摘要： 随着智能化和万物互联浪潮到来,对神经网络芯片需求呈现指数型增长。近年来,由于脉冲神经网络(Spiking Neuron Network,SNN)贴近于脑神经元的行为机制,能够很好地利用外部输入事件的时空信息,在数字化类脑神经形态系统上有着广泛的应用。然而,当前SNN计算架构在数字电路实现方案上仍存在着诸多问题,例如:资源消耗大、集成度低等。为解决SNN在数字实现方案中资源消耗与集成度等方面的问题,满足学术与工业界中对高速并行计算、片上学习等方面的应用需求。本文设计方案以及创新点主要如下:本文结合新型自旋电子器件,具有低功耗纳米级的磁性隧道结(Magnetic Tunnel Junction,MTJ),首次提出了一种基于MTJ随机初始化突触电路。基于此突触电路,提出了一种具有高集成度、高速并行处理能力的SNN计算架构系统。在所提出的SNN计算架构系统中,包含有100个神经元以及1.96万个突触。此外,本文还对系统的输入编码模块、神经元模块、突触模块、控制模块与输出模块均进行了相应的优化设计,使得该系统具有真随机初始化能力并支持在线的脉冲时间依赖可塑性学习。最后,本文对所提出系统进行了FPGA原型验证。通过系统综合工具验证,最终结果表明,系统整体的动态功耗为50m W,逻辑资源占用率在15%以下,存储资源占用率在29%以下。此外,相较基于线性反馈移位寄存器实现突触随机初始化的方案,本文所提出的基于MTJ实现的突触随机初始化在产生单个随机数功耗上降低了一个数量级(仅需要0.018m W)。同时,在性能方面,本文所提出的系统对手写数字数据集MNIST的识别率为84%左右,比传统方案提升了2-3%。