课程文献中心 更多>>

关键词： 忆阻器   神经元   脉冲模型   动作电位   放电行为  

摘要： 人工神经元模型成功模拟生物神经元的工作机理和放电模式,对于实现大脑的工作模式和构建类脑网络系统具有潜在的重要意义和关键作用。受生物启发所构建的人工神经元模型研究中,最为突出的就是艾伦·劳埃德·霍奇金(Alan Lloyd Hodgkin)和安德鲁·菲尔丁·赫胥黎(Andrew Fielding Huxley)所研发的第一个电信号沿鱿鱼巨型轴突传播的定量模型,即霍奇金-赫胥黎(Hodgkin-Huxley,HH)模型。由于HH量化模型的方程复杂,参数较多,对于后期的研究和应用产生了一定局限性。由此,诞生了许多基于HH量化模型的简化人工脉冲神经元模型:漏积分-放电(leaky integrate-and-fire,LIF)、菲茨休·纳古莫(Fitzhugh-Nagumo,FHN)、伊日凯维奇(Izhikevich,IZH)、莫里斯-勒卡(Morris-Lecar,ML)。它们从不同层面展现了生物神经元放电模式的多样性,重现了生物神经元功能的有效性。然而,人工脉冲神经元模型存在两个不足之处,制约了其逼真模拟生物神经元的功能机制。第一,简化的脉冲神经元模型的离子通道电阻不具备生物神经元离子通道的记忆特性。第二,简化的脉冲神经元模型无法展现生物神经元所具有的某些内在特性(如生物频率适应性)。有必要寻求一种具有非线性、非易失性的电子元件,弥补其不足。忆阻器(memristor,M)是一种非线性器件,同时具有非易失和阻变特性。本论文将LIF、FHN和IZH脉冲神经元模型作为主要研究对象,融入忆阻器,分别从模型实现、放电模式和实际应用三个主要方面,构建和比较忆阻器融入前后的脉冲神经元模型。本论文的主要突出工作:第一,构建忆阻-电容(memristor-capacitor,MC)神经元电路。电阻-电容(resistor-capacitor,RC)神经元电路的电学特性与生物神经元的物理特性极为相似,成为构建神经元模型的基础电路。根据RC电路的结构特点,引入非易失忆阻器,构建忆阻-电容电路,即MC神经元电路。为了突出MC神经元电路的优势,我们比较了RC和MC神经元电路的充放电过程,并仿真再现了不同激励作用下的神经元脉冲行为。进而实现由RC和MC神经元模型分别构成的随机脉冲神经元网络,有效地展现了神经元集群的同步和异步现象。实验仿真结果表明,MC神经元电路能够成功重现神经元的脉冲行为,并且充放电过程所需时间较短。第二,构建忆阻漏积分-放电(memristive leaky integrate-and-fire,MLIF)脉冲神经元模型,完成Morse码的产生和识别。本论文将非易失忆阻器融入LIF脉冲神经元模型,构建MLIF脉冲神经元模型。首先,将不同外部激励电流作用在LIF和MLIF脉冲神经元模型上,比较两个模型产生的动作电位的异同,展现多样的放电模式。然后,利用单个磁控忆阻器实现了神经元树突的积分和滤波功能以及细胞体的积分和放电功能,成功构建全磁控忆阻器的单神经元电路模型。最后,单个MLIF脉冲神经元模型在一系列电流脉冲的作用下,所激发的动作电位可以表征26个英文字母的Morse码,从而实现MLIF脉冲神经元模型对Morse码的产生和识别。实验仿真结果表明,构建的MLIF脉冲神经元模型不仅可以再现生物神经元的脉冲行为,而且表现出良好的生物频率适用性和较高的放电频率。忆阻器的类突触特性及其树突和细胞体的行为特性,致使全忆阻器的单个神经元电路模型成功构建,且可以有效完成信号的无失真传递。第三,构建忆阻菲茨休·纳古莫(memristive Fitzhugh-Nagumo,MFHN)脉冲神经元模型并实现阈值逻辑计算。本论文将非易失忆阻器融入FHN脉冲神经元模型,构建MFHN脉冲神经元模型。MFHN脉冲神经元模型对于参数值的变化是极其敏感的,不同控制参数值的设置,使MFHN脉冲神经元模型产生了丰富的动力学行为。接着,利用忆阻器的突触行为特性,成功耦合两个MFHN脉冲神经元模型,从而实现两个神经元的单向和双向耦合。随后,MFHN脉冲神经元模型成功完成了二进制逻辑运算(AND,OR和NOT)和二进制加法器的功能。实验仿真结果表明,在不同的参数值的影响下,MFHN脉冲神经元模型产生不同频率的放电脉冲,展现了多种动力学行为。忆阻器耦合的两个MFHN脉冲神经元,施加不同外部激励电流,呈现出耦合神经元相互影响下的同步和异步行为模式。第四,构建忆阻伊日凯维奇(memristive Izhikevich,MIZH)脉冲神经元模型并实现振荡联想记忆。本论文将非易失忆阻器融入IZH脉冲神经元模型,构建的MIZH脉冲神经元模型,能成功产生二十三种放电行为。首先通过比较两种模型产生的放电行为和不同神经元的脉冲行为,使MIZH脉冲神经元模型的优势得以显现。接着,在神经元间耦合强度不同

关键词： 自主着陆点选择   深空探测   类脑计算   语义分割   多目标优化  

摘要： 深空探测是指通过发射探测器对月球和距地距离大于地月距离的星体进行探测的活动,可以提高人类对地球环境演变的理解,是当今航天探测的重要方向。其中,探测器着陆点自主选择技术是深空探测的重要组成部分,其结果将直接影响巡视探测过程的安全性和探测区域的科学价值,因此提高探测器自主着陆点选择能力刻不容缓。借鉴人脑神经网络信息处理方式的类脑计算具有低功耗、高学习能力的特点,尤其是基于事件驱动的脉冲神经网络(Spiking Neural Network,简称SNN)的快速发展,为提高探测器自主性提供了新的研究方向。本课题立足于实际深空探测任务需求,使用类脑计算相关技术,针对探测器着陆点自主选择问题从预选着陆区定位和自主着陆点选择两方面展开,主要研究内容如下: 针对星体表面特征稀疏、探测器难以定位预选着陆区的问题,提出基于陨石坑的探测器着陆区定位模型。主要包括基于脉冲神经网络的陨石坑图像分割模型(SNN Crater Segmentation,简称SNN-CS)和陨石坑检测模型(Template Cater Detection,简称TCD)两部分,将人工神经网络(Artificial Neural Network,简称ANN)脉冲化,在计算量较少、能耗较低的情况下,减少陨石坑定位误差,提高探测器定位精度。实验结果表明所提模型可精确提取陨石坑的经纬度信息,辅助探测器预选着陆区定位,与ANN相比模型浮点运算数降低约2个数量级,能耗降低约500倍。 针对星体表面地形公开数据形式单一的问题,构建地形雷达点云数据集(Lunar Terrain Simulation Point Cloud Data,简称LTS-PCD)。通过分析星体表面陨石坑和岩石的分布情况构建仿真地形并采集地形点云数据,结合实际探测任务需求研究合理的点云数据标签集制定方法,完成地形点云数据LTS-PCD构建,填补着陆点选择领域中雷达点云数据的缺失,为后续基于多源信息融合的着陆点选择技术提供数据支撑。 针对现阶段基于视觉图像的探测器着陆点选择算法存在易受光照干扰、缺乏自主性的问题,本文使用自建雷达点云数据集LTS-PCD分别构建基于多目标优化理论的安全地形图和基于点云分割网络的安全地形图;并结合实际工程需求,综合考虑距离和安全探测面积,在安全地形图上分别提出最大安全着陆面积的着陆点检测算法和最近安全着陆点的检测算法,通过实验验证所提算法在着陆点自主选择任务中具有较好的表现。

关键词： 脑小血管病   脑类淋巴系统   认知功能障碍   脑脊液   组织间液  

摘要： 背景脑小血管病(cerebral small vessel diseases,CSVD)是一类常见的慢性进行性脑血管疾病,主要累及大脑小动脉、穿支动脉、毛细血管及小静脉等小血管[1]。其患病率随着年龄的增长而增加,50～90岁人群的CSVD患病率约为5%,而90岁以上人群的患病率几乎为100%[2]。CSVD是引起血管性痴呆和卒中最常见的原因之一,其引起的认知障碍占血管性痴呆的50%以上,其导致的脑出血、腔隙性脑梗死等急性症状,约占症状性卒中的20%[3]。CSVD已知的病因和危险因素包括年龄、高血压[4]、分支动脉粥样瘤性疾病、脑淀粉样血管病、辐射暴露、免疫血管炎、某些感染和某些遗传性疾病等[2]。CSVD可以无临床症状,但根据病灶位置的不同,病变可能会导致轻度至重度认知功能障碍、情绪障碍、运动和步态功能障碍以及尿失禁等[1,2]。目前对于CSVD的诊断主要是根据患者的临床表现以及影像学标志,包括皮质下小梗死(recent subcortical small infarct,RSSI)、脑白质高信号(white matter hyperintensity,WMHs)、脑微出血(Cerebral microbleeds,CMBs)、血管周围间隙扩大(enlarged perivascular spaces,EPVS)和脑萎缩等[4,5]。CSVD的发病被认为可能始于一种特定的病原学损伤,从而导致神经血管功能障碍[6],其发病机制可能包括:慢性脑缺血与低灌注损伤、血管阻塞、毒素、血脑屏障破坏、炎症反应、遗传因素、组织间液(interstitial fluid,ISF)回流障碍、脑清除率降低等[7]。然而,其发病机制的不确定性及临床诊断的局限性,限制了 CSVD的治疗方法的研究,部分治疗方式仍处于研究阶段。无症状性CSVD的治疗以控制相关危险因素及改善生活方式为主,急性期采用溶栓治疗、抗栓治疗等[8]。中枢神经系统(central nervous system,CNS)一直被认为是缺乏经典定义淋巴系统的免疫豁免器官,脑组织的免疫机制及脑实质中代谢产物和溶质的清除途径一直不明[9]。2015年Louveau等人首次发现了硬脑膜淋巴管的存在,这改变了人们长久以来的认知[10]。然而,大脑与外周组织淋巴系统循环构成不尽相同。脑脊液(cerebrospinal fluid,CSF)通过动脉周围间隙进入脑实质,与脑组织间液交换混合后,引流至静脉周围间隙,该系统称为类淋巴系统[11]。其由全脑内的动静脉周围间隙构成,具有与淋巴系统相似的功能。由于星形胶质细胞足突上的水通道蛋白4(Aquaporin4,AQP4)介导CSF-ISF快速交换流动系统,类淋巴系统又称为胶质淋巴系统[12]。类淋巴系统对脑组织产生的可溶性蛋白和代谢产物初步过滤清除,并进一步引流至硬脑膜淋巴系统,最终回流至颈深淋巴结[10]。大脑类淋巴-脑膜淋巴系统构成了脑组织淋巴循环的主要通路,但其具体功能仍不十分清楚,多数学者认为主要参与了脑组织免疫及清除代谢产物等功能[13]。目前,脑类淋巴-脑膜淋巴管系统的功能及具体运行机制仍不十分明确,鉴于脑组织功能的复杂性及大脑淋巴循环结构的特殊性,研究病理状态下脑类淋巴-脑膜淋巴系统的运行机制可能成为某些疾病的突破口。脑类淋巴系统介导CSF-ISF的交换流动,血管周围间隙这一解剖结构属于脑类淋巴系统的一部分,亦在脑小血管病有重要作用。高龄是脑类淋巴系统功能障碍和脑小血管病共同的危险因素,认知功能减退以及痴呆是脑类淋巴系统功能障碍和脑小血管病共同的临床病损[14]。基于以上,脑类淋巴依赖的CSF-ISF交换和脑小血管病可能具有非常紧密的联系,脑类淋巴依赖性CSF-ISF交换障碍可能参与了脑小血管病发病、进展、演化等环节。迄今为止,脑类淋巴依赖的脑脊液-组织间液交换在脑小血管病中的作用机制仍不明确,鉴于上述研究背景,本项目拟通过CSF流动成像技术(the cerebral aqueduct using phase-contrast cine MRI,PC-MRI)、动态对比增强磁共振(Dynamic contrast-enhanced magnetic resonance imaging,DCE-MRI)等一系列影像学技术评估CSVD患者和正常志愿者脑脊液流动成像参数,如血管周围间隙面积占比、脑室面积占比和定量磁共振参数Ktrans,对比CSVD患者和正常志愿者脑类淋巴系统功能以及脑类淋巴依赖的CSF-ISF交换功能,填补CSVD患者脑类淋巴依赖的CSF-ISF交换功能评估的空白。同时,本项目拟探究脑类淋巴系统及其介导的CSF-ISF交换与CSVD患者认知功能的相关性,从而探索脑类淋巴依赖性CSF-ISF交换障碍与脑小血管病的认知功能障碍是否

关键词： 动态突触   小世界网络   随机共振   相位同步   神经环路   路径选择  

摘要： 近年来,人工智能快速发展且与多种应用深度融合。但由于计算模型复杂、海量数据标注困难、计算资源消耗大等问题,导致人工智能无法真正开启“机器智能”新纪元。随着脑科学的深入研究,许多研究学者逐渐意识到类脑智能将是打破人工智能桎梏的重要方式,因此通过模拟脑网络的运行机制来构建类脑智能网络是当下研究的热点。基于此,本文在理解大脑“智能”关键机制的基础上,结合脑科学最新研究成果,对神经环路与信息表征之间的关系进行进一步探究,构建了符合生物机理的动态突触模型,提出一种基于信息流扰动的动态路径选择方法,以刺激信号携带的相位信息作为网络中路径选择机制的调控开关,进而找到最优路径用以表征网络信息。首先,本文依据突触自适应性受突触种类、突触数量、分子或离子浓度等因素的影响,提出一种仿生动态突触模型,并将该模型与FHN神经元模型结合,构建双耦合的神经系统和小世界特性的网络系统,以此深入研究基于动态突触神经系统的随机共振现象,分析重要参数对神经系统响应能力的影响。仿真实验表明:在动态突触的神经系统中,电/化学突触占比、突触强度、突触数量以及网络参数等因素均影响着系统响应能力,且一定存在最优值使得系统响应能力达到最强。本研究结果表明以动态突触构建的神经系统的响应能力相较于单一突触是更稳定的,其更有利于弱信号的检测和传输。其次,本文将基于动态突触构建基元模型及类脑网络模型,通过提取节点对的神经信号在时序上的相位同步特征,深入研究在刺激信息作用下同步放电活动对有效链路的调控作用,进而以节点对之间信息传输能力最大化为目标设计路径选择策略,提出四个指标:1)同步增强指数,2)路径激活指数,3)路径相位偏好指数,4)路径选择指数,将其作为网络中路径选择主要依据。研究结果表明:在时延作用下神经元节点的同相、反相的迁转是构成有效链路的重要方式,且除突触强度、中枢节点数量对同步特性的影响外,刺激信号携带的相位信息对路径选择也有调控作用。经统计结果分析,网络中刺激节点对间的路径都存在着不同相位的偏好性,在构建的20个节点网络中,发现42%的刺激节点对有着较强的相位偏好性,即可以通过信息流携带的相位信息进行路径选择和切换,进而找到具有更优表征信息的路径。通过对动态突触模型的构建和网络中信息流路径选择机制的探索,本文从实验和模型的角度揭示“类脑智能”的潜在机制,为类脑智能如何更优表征信息提供了一种新思路。

关键词： 卷积神经网络   脉冲神经网络   图像识别   LIF神经元模型   SNN转换算法   FPGA  

摘要： 卷积神经网络(Convolutional Neural Network,CNN)已在深度学习领域得到了广泛应用。但随着任务复杂度的提升,神经网络模型的参数量和计算量急剧增加,模型训练和推理所消耗的硬件资源和功耗也随之增大,给算法模型的硬件部署带来了巨大挑战。而脉冲神经网络(Spiking Neural Network,SNN)的事件触发机制具有计算和存储需求少、功耗低的优点,因此逐渐成为深度学习领域的研究热点。但SNN的激活值为离散值,CNN的训练方法无法直接应用。鉴于此,将完成训练的CNN转换为SNN已成为提升SNN准确率的有效方法。同时由于计算机处理器并行度低、功耗大,而类脑芯片开发成本高,因此基于FPGA开发具有高硬件执行效率的脉冲神经网络处理器对于SNN的工程应用具有重要意义。 现有的SNN转换算法可以实现准确率较高的CNN到SNN转换过程,但该方法对输入值的脉冲编码过程以及最大池化层和Softmax层转换算法存在复杂的逻辑运算和大量乘法计算,硬件资源消耗仍然较高。因此,本文针对性地提出了动态阈值激发频率编码算法,通过神经元的累积激发过程将像素值转换为脉冲序列,以大幅度减少像素值脉冲编码过程的乘法计算。此外,还提出了基于脉冲计数的最大池化层和Softmax层转换方法,该方法通过统计脉冲值数量的方法将脉冲序列转换为脉冲频率,以简化计算逻辑。在CIFAR10数据集上的测试实验结果表明,CNN转换得到的SNN,其图像分类准确率为86.17%,与原CNN网络的准确率接近。 随后本文基于FPGA设计了脉冲神经网络处理器。针对神经网络参数存储量和计算量大的问题,本文采用int8量化算法将模型参数值从32位浮点数映射为8位整型数。本文根据脉冲神经元的累积激发机制特别设计的脉冲计算单元,将卷积的乘加计算转换为累加并激发脉冲的过程,利用事件激发的稀疏性降低计算动态功耗。对于最大池化层和输出结果统计层,本文设计了基于脉冲计数的频率计算模块,并根据脉冲序列的地址确定输出结果。为了提升数据传输效率,还针对设计了多层并行复用机制,实现不同计算模块间数据的高效传输。原型仿真实验结果表明,与CNN处理器相比,该处理器的功耗降低了 77.4%。且该处理器在MNIST测试集中得到了 96.31%的准确率,在规模更大的CIFAR10测试集中得到85.61%的准确率,与CNN模型的准确率接近。 本文设计的SNN处理器能以更低功耗实现图像识别任务,为SNN在计算机视觉算法中的应用部署提供了技术支撑。

关键词： 脉冲神经网络   内在可塑性   推理响应速度   抗噪鲁棒性  

摘要： 生物神经可塑性,是指神经元突触对所接受的刺激做出的功能和结构的适应性应答反应,通过调节神经元的功能态和构造态,实现生物大脑的学习、记忆和认知能力。神经元内在可塑性(intrinsic plasticity,IP),作为一种重要的神经可塑性机制,描述了单个神经元或突触活动对神经元的内在电特性的持续改变。IP在塑造神经系统内在适应性变化能力发挥着关键作用,并对大脑的认知能力形成起着重要支撑。近年来,对IP进行数学建模并应用于类脑计算智能框架——脉冲神经网络(spiking neural network,SNN)中,也成为了一项具有吸引力的研究课题。然而,由于IP建模理论、应用构建等相关研究还处于初期,导致IP对SNN的作用影响依然没有被充分利用和深刻揭示。本文围绕IP的建模和应用问题,重点研究了IP的相关建模方法、以及基于IP的SNN在图像模式识别任务中的性能表现。 本文的主要贡献和创新点如下: 1)将基于生物神经元现象建模的IP机制应用于常见的基于脉冲的前馈神经网络和卷积神经网络中,每个神经元仅根据自身的局部状态就能实现对IP参数的更新。通过实验发现,IP机制可以使得神经元的放电状态保持在“低,但不至于过低;高,但不至于过高”的相对稳态范围内,并且显著地提升脉冲全连接前馈网络(spiking feed-forward neural network,SFNN)和脉冲卷积神经网络(spiking convolutional neural network,SCNN)的响应速度。不仅如此,在面对各类常见噪声的数据集,IP机制也能有效地提升网络的抗噪鲁棒性。 2)针对上述的IP机制进行优化,提出了基于事件触发的IP。SNN的低功耗优势主要来源于其“事件驱动、稀疏计算”的特点,而上述的IP机制则是连续计算的,在每个时间步,IP都需要根据神经元的状态,对其参数进行更新。因此,基于该连续计算IP机制的SNN网络会虽然在抗噪鲁棒性和响应速度方面取得了显著优势,却也失去了在神经形态计算芯片上部署的低功耗的特点。针对该问题,本文提出了两种基于事件驱触发的IP机制,即输入驱动的IP(inputdriven IP)和自驱动的IP(self-driven IP),有效地解决了传统IP需要连续计算的问题。相比于传统IP机制,输入驱动IP和自驱动IP机制均减少了计算操作,并且进一步提升了网络响应速度。 3)在SNN模型的学习算法中,ANN2SNN的权值转化已经成为一种被广泛采用的方法。通常,首先构建一个基于Re LU激活函数的传统连续值ANN模型,使用BP训练方法对其训练完成后,再将其权值映射到相同结构的基于IF(integrate-and-fire)脉冲神经元的SNN中。然而,上述的1)和2)中的IP规则是针对LIF(leaky integrate-and-fire)神经元设计的。因此,本文提出了一种面向IF神经元的IP规则,并将IF神经元设计中的更多参数(例如放电阈值、恢复电势)考虑进去。最后,通过理论分析和实验结果,证明了提出的IP规则具有更快的响应速度和更少的计算操作。 4)提出了一种基于软重置脉冲神经元的IP模型。基础的LIF或者IF神经元模型中,当其膜电势超过放电阈值后,神经元会立即产生一个沿轴突向后传播的脉冲电流,并将其膜电势重置为较低的恢复电势。需要指出的是,IP机制的动力学模型的推导需要保证目标变量在数学上连续可导,因此,本文提出了一种膜电势连续可导的软重置脉冲神经元,并以膜电势为目标变量提出了新的IP模型。通过实验证明了提出的IP模型能够进一步强化SNN的响应速度和抗噪鲁棒性。

关键词： 医学图像融合   边缘保持滤波   脉冲耦合神经网络   边缘注入   颜色空间变换  

摘要： 医学图像分析是辅助医学诊断的重要方式.单一成像提供的信息有限,无法满足医生全面审查病症的需求.医学图像融合可以融合不同测量设备的影像,丰富融合图像信息,提高融合图像质量.现有的医学图像融合算法已取得了较为成功的应用,但是仍存在诸多不足之处,如融合图像边缘信息容易缺失,图像整体对比度低等.本论文研究工作关注于基于脉冲耦合神经网络(Pulse Coupled Neural Network,PCNN)的医学图像融合,具体内容如下:1.分析了基于不同变换的图像融合方法的特点和局限性,讨论了颜色空间原理,重点分析了脉冲耦合神经网络的原理及数学模型,为后续的融合策略设计提供理论依据.2.提出了一种基于参数自适应PCNN的医学图像融合方法.选取多级边缘保持滤波方法将源图像分解为三层:粗结构层、细结构层和基层,采用参数自适应的PCNN模型来融合粗、细结构层,避免了人为设置参数的主观、繁冗.该算法一定程度避免了功能图像的色彩信息掩盖住解剖图像的结构纹理信息,融合图像的亮度和对比度俱佳,边缘保持能力良好.3.提出了一种基于边缘注入和信息度量的医学图像自适应融合方法.首先进行RGB-YUV颜色空间转换.由于边缘能反映图像强度的变化,为综合两幅图像的边缘能量,故而对源图像采取索贝尔算子(Sobel)进行边缘提取,将此图像注入到源图像中,建立权重公式获得待融合的两幅图像.采取非下采样剪切波变换(Non-Subsampled Shearlet Transform,NSST)将这两幅图像分解为高频子带和低频子带.高频子带利用信息度量自适应PCNN进行融合,采取两个活动水平测度来融合低频子带.将融合获得的高、低频子带通过NSST逆变换得到融合亮度图像,综合UV通道图像获得最后的融合图像.该算法提供了清晰的细节纹理信息,保持了源图像中更多的边缘能量,视觉效果良好.仿真实验表明,本文所提算法在主观视觉效果和客观评价指标上相比于现有的算法均具有优势.

关键词： 脉冲神经网络   地址事件表示   时间表面   动态阈值  

摘要： 事件相机是一种新型的神经形态设备,由于它具有高时间分辨率和低功耗的优势,近年来吸引了国内外许多学者的关注。事件相机将视觉输入记录为异步离散事件,通常用地址事件表示(Address-Event Representation,AER),因此它们使用脉冲神经网络(Spiking Neural Networks,SNN)来处理具有生物学上的合理性和更高的效率。然而现存的AER对象识别模型存在特征提取部分对空间信息不敏感的问题,在学习算法部分存在对神经元阈值调整的全局性的忽略,且缺乏直接针对多脉冲神经网络AER对象识别模型。综上,本文基于脉冲神经网络的AER对象识别研究内容如下:(1)研究提出一种基于时间表面的AER特征提取方法F-Time-Surfaces。该方法通过挖掘样本内不同空间位置和样本间相同空间位置的重要性,衡量脉冲事件空间位置的重要性,解决了原生时间表面(Time surfaces)受噪音影响明显且空间信息不敏感的问题。该方法可以提取到精确的分类特征,并能用多种分类器(如SVM或SNN)进行分类。本文在MNIST-DVS等多个开源数据集上进行了实验,该方法提取到的特征,不论使用SVM或SNN进行分类都能有较好的效果,并且与HATS和zhao’s模型相比可通过较少的信息达到更好的效果。(2)研究提出一种全局精确阈值突触调整算法GPSA。该算法利用图像处理领域的Otsu阈值分割算法来进行神经元阈值调整方向的选择,最后通过函数映射将阈值全局范围调整。解决了先前的工作中单神经元或局部神经元调整导致的大量神元死亡和神经元敏感性无法区分的问题。本文经过大量实验证明了该算法对多脉冲进行学习的可行性与稳定性,并且具有较强的抗噪性。(3)研究提出一种基于时间表面的多脉冲神经网络AER对象识别模型FTime-Surfaces-GPSA。该模型结合本文提出的特征提取方法F-Time-Surfaces和全局精确阈值突触调整算法,在特征提取部分深度挖掘脉冲位置重要性信息,并且在SNN学习部分考虑神经元的全局性,从而增强学习网络的鲁棒性和识别能力。实验表明,该模型能高效地对时空数据进行处理,对AER对象进行识别的能力优于HATS-SNN等同类模型,且具有良好的抗噪性和较快的收敛速度。最终,本文将优化的特征提取方法、突触调整算法以及多脉冲神经网络AER对象识别模型应用于AER对象可视化训练平台中,实现了用户自定义参数对AER数据进行可视化的训练和识别。

关键词： 神经形态   皮层微电路   脉冲神经网络   模块化模型   小脑微电路模型   现场可编程门阵列  

摘要： 层次化柱状微电路是脑皮层的基本单元,每个柱状微电路都是一个复杂的神经网络,并以相似的结构完成皮层功能异质性的表达。皮层以模块化的特殊组织结构与形态特征体现人脑的多细胞类型、动态结构、局部与全局连接等特性,从而实现脑功能的分离和整合。借助皮层柱状微电路的网络组成、形态结构和功能特性并以生物真实的方式构建神经形态系统,将有助于从多方面提高其计算应用性能。但当前的神经形态系统架构往往忽略了脑皮层的特性,从而限制了神经形态系统计算性能的提升。针对神经形态系统的可拓展性、模拟能力与应用性能等问题,本论文依据皮层的结构和功能特点,提出类皮层微电路的神经形态系统,并从系统的结构设计和脉冲神经网络(Spiking Neural Network,SNN)的模型、算法等方面开展研究,取得了如下结果:(1)结合现场可编程门阵列(Field Programmable Gate Array,FPGA)的结构特性和脑皮层的形态与功能特性,提出了类皮层微电路的计算架构以构建神经形态系统。架构中将皮层柱状微电路看作人脑的“规范化”组成模块,根据真实的生物形态并通过多模块组合的方式构建神经形态系统,提高了系统的可拓展性和通信能力。(2)根据微电路的结构与功能,设计了可组合的神经形态模型与算法,从而支持多形态微电路的模拟与应用功能的开发。依据皮层神经元的多样性,设计实现了片上可配置的模块化神经元模型,以支持不同形态神经元的模拟,与常用脉冲神经元模型相比最多可节省63.2%的资源消耗,提高了资源利用率的同时突破了神经形态系统所能模拟神经元模型的类型限制;实现了可完成信用分配的SNN学习算法,避免了局部训练造成的信息缺失与训练缓慢等问题;完成了多种脉冲编码算法的评估,提出了用于算法选择的适配性评分方法,提高了SNN的编码效率。(3)依据微电路的形态特性设计了系统内外部的连接方式与拓扑结构,搭建了类皮层微电路的神经形态系统。该系统可支持三百万数量级神经元规模的神经网络模拟与应用功能的开发,具有类皮层结构与更高的可拓展性;依据此系统构架,提出了三维多级簇型网状片上网络结构和路由算法,提高了饱和点注入率并降低了资源消耗,具有更低的通信延迟。(4)为提高皮层微电路模型在神经形态系统上的实现效率,针对模型非线性运算与定点数实现的问题提出了非线性计算模块、误差可控的定点化设计算法等一系列资源优化设计方法。应用所提出方法实现的神经元与突触模型最多可节省78.9%的模型资源消耗,同时以运算模块的形式简化了模型的实现流程。(5)根据所提出神经形态系统的模块化神经元模型、学习算法和构架,利用FPGA构建了小脑微电路的SNN模型。所构建模型遵循生物神经网络的神经元比率、多时间尺度可塑性与神经元形态多样性,可复现网络放电活动与多种生理现象;将模型以微电路的形式映射到了所构建的神经形态系统上,完成了机械臂的自适应控制任务。本文针对构建神经形态系统所面临的若干关键问题,依据皮层微电路的形态特性从模型、算法、优化实现设计和系统结构等方面进行了研究,为神经形态计算及其应用提供了思路。

关键词： 脉冲视觉芯片   架构设计   脉冲神经网络   卷积神经网络  

摘要： 视觉芯片是一种集成了图像传感器及视觉处理器的新型片上系统，具有低功耗、集成度高、处理能力强的优点。单光子雪崩二极管(SPAD)型脉冲图像传感器具有高光子检测率和高时间分辨率的特点，搭配脉冲神经网络(SNN)处理器可以构成高度仿生的脉冲视觉芯片。与此同时，SPAD图像传感器可以通过简单预处理产生类似传统CMOS图像传感器的实数帧,与实数型卷积神经网络耦合完成智能化视觉处理。然而，目前还没有一种能够支持脉冲型并兼容实数型视觉图像处理的视觉处理系统芯片架构来支持视觉处理器芯片设计。针对以上问题，本文开展了脉冲视觉芯片的关键技术研究，并取得了以下主要创新性研究成果:　　提出了一种兼容SNN和低比特CNN处理的可重构脉冲视觉芯片架构，芯片包括SPAD图像传感器、预处理器以及可重构处理器，具备脉冲图像获取与多层次并行视觉信息处理的能力。通过预处理器与可重构处理器的搭配，可以高效进行脉冲型或实数型人工神经网络的处理，实现了多功能、高速、高集成度、低功耗的脉冲视觉成像及处理。　　提出了一种针对SPAD视觉传感器的脉冲图像预处理器，支持脉冲图像压缩和灰度图像生成处理。通过压缩脉冲以及灰度积累为脉冲型和实数型人工神经网络提供了数据源，通过硬化算法逻辑提高了系统的并行度。该预处理器复用了部分计算单元，使得脉冲视觉芯片在相对较低的硬件代价下获得了性能提升。　　提出了一种兼容SNN和低比特CNN处理的可重构处理器，包含了一个可重构的PE单元阵列，通过外部指令控制进行电路可重构实现SNN处理或者低比特CNN处理;针对人工神经网络的数据特点，设计了专用指令集，可以灵活地配置存储网络以及PE单元结构，高效率地支持实数型与脉冲型人工神经网络计算处理。　　采用55nm CMOS工艺设计实现了该脉冲视觉芯片，采用FPGA验证系统和芯片硬件仿真系统进行了芯片验证，结果表明，芯片系统在CNN模式下峰值性能可达953.6GOPS@4b，SNN模式下性能可达953.6GSOPS。可以高效地完成不同需求的视觉任务。