课程文献中心 更多>>

关键词： 丝网印刷   离子凝胶   In2O3晶体管阵列   突触功能   亚阈值摆幅   负光电导效应   环境自适应   人工视觉感知  

摘要： 随着神经形态电子技术的发展,类脑仿生研究已经得到了广泛的关注,研究者们开始致力于突触电子器件的设计与制造。传统的三端硅基氧化物器件中,由于氧化硅栅介质比电容较小,致使器件的开启电压过大,大大的增加了器件的能耗,这与突触电子器件设计的初衷相违背。本研究采用丝网印刷引入高比电容离子凝胶,与热蒸发引入的具有捕获作用的氧化铝(AlO)层,作为堆叠栅介质,构建了一种性能优异的电解质栅控氧化铟(InO)晶体管器件阵列。有效提降低了InO器件反扫时的亚阈值摆幅(SS),提高了器件的存储能力,并模拟了突触的基本功能。此外,研究了电解质栅控InO器件的光电性能,在此基础上研制了能够自适应环境亮度的人工视觉感知阵列。本文主要内容包括:(1)优化了InO晶体管阵列的微电子加工工艺,获得了最佳制备工艺条件。采用丝网印刷离子凝胶与AlO层形成堆叠栅介质,制备出具有大回滞窗口,反扫时SS值小于60 m V/decade的InO晶体管阵列,证实了小于60 m V/decade亚阈值摆幅来源于AlO层的正电荷捕获。研究了InO晶体管对基础突触功能的模拟,如兴奋性突触后电流、双脉冲易化、频率突触可塑性、短程塑性到长程塑性的转变。通过电脉冲刺激下突触功能的模拟,实现了受生物大脑启发的闪光灯记忆和高通滤波功能。(2)研究了InO晶体管阵列的光电性能,首次发现该类器件的负光电导现象,阐明了离子凝胶产生强电场促使光生载流子重新分布导致的负光电导行为。在厘清负光电导效应的形成机理上,成功模拟了人工视觉自适应过程,可在不同的光强水平下表现出光的自适应行为,展示出对外部环境具有可调阈值范围的视觉适应性。本文包含图41幅,参考文献152篇

关键词： 脉冲神经网络   类脑计算   FPGA   多路时分复用   乳腺癌诊断  

摘要： 人工智能和脑科学的研究正处于快速发展阶段,从脑科学研究的新视角探讨脑启发的人工智能是目前科学研究的一个重要方向。类脑计算是高度模仿人脑信息处理机制的新型运算范式,可以有效提高类脑智能系统的性能。脉冲神经网络中神经信息采用精确定时的编码方式,使其更有利于从模型计算角度理解大脑信息处理机制。随着研究者们对脉冲神经网络研究的逐渐深入,网络规模逐渐增大使得网络模型的计算量成倍增长,导致大规模深度脉冲神经网络在缺乏硬件加速支持的冯·诺依曼结构计算机软件上仿真效率过低,难以对庞大的网络模型进行高效的模拟。因此,在充分结合现场可编程门阵列（Field Programmable Gate Array,FPGA）的高并行特性后,本文提出了一种多路时分复用结构（Multichannel TimeMultiplexed Architecture,MTMA）来实现高效的深度脉冲神经网络硬件架构,并基于神经形态芯片建立了威斯康星州乳腺癌诊断数据分类模型,本文的主要研究内容如下:（1）通过对脉冲响应神经元模型的分析,设计并实现了基于坐标旋转数字计算（Coordinate Rotation Digital Computer,CORDIC）的脉冲响应神经元FPGA数字电路。首先,对整个系统的硬件实现中用到的加/减运算、累加运算和乘法运算进行了快速准确的硬件映射。其次,通过改进CORDIC实现了脉冲响应神经元模型中的指数函数,改进CORDIC不仅保证了数据计算的准确性,还很大程度上节约了硬件资源。最后,在已经实现的运算器模块基础上实现了脉冲响应神经元模型的FPGA数字电路。（2）考虑大规模脉冲神经形态硬件实现的低能耗需求和芯片面积的限制,设计了多个神经计算单元的多路并行时分复用结构。首先,针对深度前馈脉冲神经网络结构,结合串行计算与并行计算的优缺点,提出了多神经计算单元并行的MTMA,并设计了基于MTMA的深度脉冲神经网络硬件整体结构。其次,对基于MTMA的深度脉冲神经网络硬件结构的整体工作流程进行了数字化设计,在此基础上成功实现了4种多路时分复用深度脉冲神经网络的FPGA数字电路。最后,对4种深度脉冲神经网络硬件系统进行了硬件资源和运行时间的对比,经过对比分析,8路时分复用深度脉冲神经网络硬件系统在硬件资源和运行时间上表现出优秀的性能。（3）将数据集的样本特征编码为脉冲序列,提出了基于8路时分复用结构的神经形态芯片模式分类模型,并测试了该分类模型在威斯康星州乳腺癌诊断数据集上的分类性能。首先,应用基于反馈对齐机制的深度脉冲神经网络监督学习算法训练网络,得到突触权值。其次,将训练好的突触权值固化在8路时分复用结构的神经形态芯片上。最后,使用8路时分复用结构的神经形态芯片模式分类模型对威斯康星州乳腺癌诊断数据进行了分类实验,得到训练集的分类准确率为84.58%,测试集的分类准确率为83.63%。基于神经形态芯片的分类模型与软件系统仿真的分类结果一致,说明多路时分复用深度脉冲神经网络硬件系统具有准确的计算能力。本研究提出了多路时分复用深度脉冲神经网络硬件实现方法,并在FPGA上进行了数字实现。通过相关性能比较与分类准确度的实验,充分验证了所提出的多路时分复用方法可以为神经形态硬件系统的研究提供思路。

摘要： 近年来，以神经网络为代表的类脑人工智能技术正深刻影响人类社会，但目前运行神经网络计算的硬件系统依然基于传统硅基运算器与存储器，能效远低于人脑。研发具有神经形态模拟功能的类脑器件，如神经网络硬件系统的核心器件——电子突触，是进一步推进人工智能发展的重要途径之一。为执行复杂的人工智能任务，神经网络硬件系统对电子突触器件提出了诸多苛刻要求，然而，已报道的类脑突触器件无法全面满足相关指标要求。

关键词： 忆阻器   氧化铪   突触特性   脉冲神经网络  

摘要： 近年来,人们的生活方式很大程度上依赖于电子产品指数级别增长的计算和存储能力,从历史上看,器件尺寸的缩小驱动了先进的计算能力,同时也增加了功耗。随着摩尔定律的失效,进一步减小器件尺寸成为一大难题,忆阻器作为一种高速、低功耗、易集成,且与CMOS(Complementary Metal–Oxide–Semiconductor)工艺兼容的器件,成为下一代高密度存储和高性能计算的候选者。同时其具备的电子突触和神经形态计算功能,可以作为未来非冯·诺依曼架构体系的核心器件。本文基于氧化铪忆阻器及氧化镓叠层器件,探究了其基本阻变特性、多值特性和突触特性,并基于其特性建模,实现了生物工作记忆的功能与脉冲神经网络的无监督学习。主要研究内容如下:(1)研究了Al/TiN/HfO/Ti N/Al器件的直流扫描特性,不同的限制电流对耐疲劳特性的影响,以及器件的保持特性、转换速度。研究了器件阻变层厚度、电极大小、电极材料对窗口值、操作电压、良率的影响。结果表明对称结构的氧化铪器件的操作电压分布较为集中。限制电流较大会降低器件的耐疲劳特性,而较小会使得窗口值减小。固定电压幅值的情况下,器件的转换速度达到百纳秒级别。不同厚度氧化铪阻变层和不同的顶电极材料对器件的良率、操作电压和窗口值都有影响,Cu为顶电极时窗口值最大,而W为顶电极时操作电压最小。(2)在Al/TiN/HfO/Ti N/Al单层阻变材料器件的基础上,增加了GaO阻变层,形成Al/Ti N/Hf O/GaO/Ti N/Al叠层器件,研究了叠层器件的基本直流扫描特性、耐疲劳特性和保持特性,并研究了叠层器件的多值特性。结果表明加入氧化镓阻变层后器件的操作电压变大,窗口值减小。叠层器件在脉冲个数调制和脉冲幅值调制下都表现出多值特性,在两种调制方式中,都能找出12个互不重叠的阻态,并且能够很好的保持。(3)基于Al/TiN/HfO/GaO/Ti N/Al叠层器件,实现了器件的突触可塑性和易失性电导特性。结果表明器件的双脉冲易化程度与脉冲间隔关系密切,当脉冲间隔较大时,双脉冲易化现象减弱。退火后的叠层器件的电导易失性表现与遗忘特性曲线接近。对传统二值忆阻器模型进行改进,实现了基于氧化铪氧化镓叠层器件的阈值特性与电导易失特性模型。并使用这种特性的忆阻器仿真实现了生物工作记忆的功能,仿真结果与真实结果较为接近。(4)对脉冲神经网络的三种常见神经元进行建模并仿真,接着基于LIF(Leaky Integrate-and-Fire)神经元模型与具有STDP(Spike-Timing-Dependent Plasticity)特性的叠层器件作为突触模型搭建脉冲神经网络(Spiking Neural Network,SNN)。网络能够很好的完成无监督学习,并以MNIST手写数据集检验网络的学习能力。同时改变网络的参数,模拟真实映射时器件的不一致性或失效带来的波动,来验证网络的鲁棒性。最后描述了忆阻器的读写电路、限流电路,以及映射电路系统,并最终在脉冲神经网络上实现了三分类,达到了88%的准确率。

关键词： 固定翼无人机   类脑智能   长短时记忆网络   直觉决策   直觉模糊多属性群决策   多准则妥协解排序法   轨迹跟踪控制  

摘要： 无人机类脑智能安全控制是实现无人机在复杂环境下自主规避、自主控制、自主决策以及协同编队作战的核心,然而类脑智能技术在无人机上的应用仍处于初步探索阶段。本文以固定翼无人机为研究对象,研究基于类脑智能的无人机威胁规避算法、基于直觉模糊多属性群决策模型和概率神经网络的无人机规避决策制导方法,以及输入受限下的无人机轨迹安全跟踪抗扰控制技术。本论文的主要研究内容如下: 首先,建立了固定翼无人机的非线性数学模型。结合固定翼无人机的飞行运动特性,推导了运动学和动力学方程组,得到固定翼无人机六自由度十二状态方程,并通过开环仿真实验验证该模型的准确性,为无人机轨迹安全跟踪控制的研究奠定基础。 然后,针对无人机在非博弈对抗飞行环境中安全规避及智能机动决策问题进行研究。类比人脑的信息处理机制和认知行为机制,提出了一种基于经验直觉的无人机威胁规避机动决策方法。将无人机的态势信息和威胁信息进行结构化处理,并根据无人机的前视锥形区域将规避区域等分为十二份并用相应的标签与之对应,将无人机基于数据信息训练的隐式直觉算法和直觉启发辅助规避方法相结合,进而给出了无人机基于经验直觉的机动规避决策方法。通过仿真分析,验证了所研究方法的有效性。 其次,针对直觉模糊多属性群决策模型和概率神经网络对无人机进行规避决策制导研究。对无人机选定的威胁规避区域进一步确定威胁规避制导点,根据无人机威胁规避六个约束属性采用多准则妥协解排序法的直觉模糊多属性群决策理论对九个规避方案进行决策;根据直觉模糊多属性群决策模型的多组约束指标与决策结果方案集,设计了基于概率神经网络的规避决策制导方法。通过仿真实例验证了概率神经网络决策结果的准确性和直觉模糊多属性群决策结果的可行性。 最后,针对固定翼无人机飞行过程中对规避决策结果和制导指令进行有效响应,对高度和速度的跟踪控制问题进行研究。根据时标分离的原则,将轨迹跟踪控制分为高度速度环控制和输入受限的姿态环控制;引入非线性干扰观测器来估计外界有界干扰和模型不确定性组成的复合干扰,并引入一阶滤波器对反解出的期望信号进行滤波;构造无人机姿态系统滑模控制器;利用Lyapunov方法证明了闭环系统稳定性,数值仿真验证了所设计控制器的有效性。

关键词： 情绪识别   脑电信号   BSA编码   ReliefF分析   脉冲神经网络   负反馈抑制  

摘要： 情绪是人体基于环境感知所引发的一种心理生理过程,在人类的日常认知与生活中起着至关重要的作用。随着近年来人工智能技术的不断进步,情绪识别已广泛应用于教育规划、医疗保健、舆情监测与安全驾驶等领域。脑电信号相比于人的外在行为特征具有更好的自发性和客观性,与产生人类情感的大脑联系最为紧密,是表达情绪信息的良好载体。但是目前在情绪脑电信号的研究中仍然存在着诸如非线性特征表现困难,脑电通道与情绪关联度低,神经网络计算量较大、模型的生物可解释性差等亟须解决的难题。因此,本文围绕如何有效提取脑电信号情绪特征,减少脑电通道冗余,高效、准确地识别情绪状态三个问题,分别从脑电信号的脉冲编码、通道选择与分类模型三个方面做了以下研究:1、针对传统信号分析方法难以反映脑电信号的非线性特征,脉冲神经网络无法使用模拟信号作为数据输入等问题,本文采用基于刺激估计技术的BSA编码算法对DEAP数据集的原始脑电信号进行编码,通过将单个受试者的连续脑电原始信号与线性滤波器进行反卷积计算生成大小为40*32*60*128的离散脉冲时间序列,其次结合信噪比与均方根误差指标评价并优化编码结果。同时针对不同实验体脑电信号差异显著的问题,采用网格搜索改进BSA编码的超参数优化功能,分别构建不同实验体的最优编码参数组以提高编码脉冲的信息表达效率与精度。2、针对情绪识别任务中不同脑电通道的情绪表征能力差异与通道冗余问题,本文提出基于ReliefF特征分析的通道选择算法,首先计算32个脑电通道的平均脉冲强度作为特征值,其次分别基于ReliefF特征分析计算不同近邻数下的通道特征权重以描述DEAP数据集中各个脑电通道对Valence、Arousal、Dominance和Valence-Arousal四个情绪维度的情绪表征能力,最后结合特征权重评估结果将脑电数据由原先的32通道分别降为8、10、10、16通道,有效排除了情绪相关度较低的通道并通过划分时间片构建了效价、唤醒、支配维度的三个二分类数据集和效价-唤醒维度的四分类数据集。3、针对传统人工神经网络存在的生物可解释性差、模型参数多、网络结构复杂、计算量庞大等问题,本文提出了基于负反馈抑制的脉冲神经网络模型,通过具有自适应膜电位阈值的LIF神经元模型构建了具有输入层、激活层与抑制层的三层脉冲神经网络,同时结合基于脉冲响应增益机制的STDP学习规则对模型进行情绪状态分类训练。最终通过DEAP数据集验证了模型的有效性并在Valence、Arousal、Dominance三个情绪维度下分别获得了82.54%、78.31%和85.17%的二分类准确率,在ValenceArousal情绪维度下获得了73.98%的四分类准确率,相较于同类别模型分类准确率有明显提升。

关键词： 脉冲神经网络   梯度下降   误差反向传播   脉冲频率   神经形态类脑计算  

摘要： 与传统的人工神经网络(Artificial Neural Network,ANN)采用连续的实数值进行信息传递不同,脉冲神经网络(Spike Neural Network,SNN)采用类似于大脑神经元产生动作电位的离散脉冲事件进行信息传递,因而具有更接近于大脑的信息处理能力。SNN通过脉冲事件驱动的通信实现神经元和突触计算,其与事件传感器相结合,有望突破深度人工神经网络所面临的能源和吞吐量瓶颈,实现低功耗、低延迟和高精度的目标识别。但由于脉冲函数无法求导数,误差反向传播算法难以直接应用于SNN训练,阻碍了SNN的发展。为此,本文从神经元模型、网络结构、算法优化等几方面进行研究,提出了一种新的基于脉冲频率与输入电流关系(Spike Rate Input Current,SRIC)的SNN训练算法,进一步提高了SNN在图像识别方面的性能,并显著提高了学习效率,具体包括:(1)提出SRIC训练算法。针对目前SNN仍然面临无法直接训练难题,受到神经科学领域关于LIF(Leaky Integrate-and-Fire)神经元响应机制研究启发,本文提出了一种新的基于频率编码的SNN训练算法。通过仿真实验对LIF神经元发放脉冲频率进行建模,得到LIF神经元脉冲频率与输入电流之间显示表达关系,并将其导数作为梯度。解决了SNN训练过程中脉冲函数的不可微性问题,使得可利用BP算法对SNN进行训练。其次,采用LIF神经元响应机制的参数更新机制。现有基于频率编码的方法大多采用时间信用分配(Temporal Credit Assignment)机制进行参数更新,通常具有较差的学习效率,为此,本文采用LIF神经元响应机制更新网络参数,提高学习效率。(2)针对本文提出的SRIC算法进一步改进,提高SRIC算法在深层网络上的识别精度与SRIC算法的抗噪性。针对训练深层SNN时脉冲发放速率变得极低,从而导致识别精度较差的问题,提出对SRIC算法的脉冲输入标准化。具体来说,在网络训练时的每一时间步,对卷积后的脉冲输入进行标准化,从而完成在时间和空间两个维度上的标准化,使脉冲的发放频率保持稳定,进而提高SRIC算法在深层网络的识别精度。其次,将侧向作用机制引入到SRIC的网络结构中,通过引入一个可训练的核,使得膜电位的更新受到该神经元的邻近神经元影响,进而提高了SRIC网络的抗噪性。仿真实验结果表明,本文所提出的SRIC算法在静态数据集和动态数据集的识别精度均有不同程度的提升,在训练效率上,相较于采用时间信用分配机制更新参数的其他SNN算法有着较大提升。其次,通过增加脉冲输入标准化与侧向作用,使得SRIC算法进一步提高了在深层网络训练的识别精度以及算法的抗噪性能。

关键词： 脉冲神经网络   工作负载映射   分布式计算平台   NEST仿真器   计算能效  

摘要： 类脑计算的基础是脉冲神经网络(Spiking Neural Network,SNN),相比深度神经网络(Deep Neural Networks,DNN)等第二代神经网络,SNN工作机理更接近于生物大脑,因此被认为是第三代神经网络。发展类脑计算有望克服现有深度学习“需要海量标注数据、通用智能水平弱”等局限性,受到了众多研究人员的关注。在分布式计算平台上运行大规模的脉冲神经网络是提升类脑计算智能水平的基本手段之一,但其难点在于:如何快速、准确地分析脉冲神经网络的工作负载,并将其合理映射到计算平台上;计算平台的架构如何更好地适应工作负载。针对该问题,本文以类脑计算领域应用最广的仿真器——NEST为研究对象,基于NEST仿真器对SNN工作负载进行建模;设计了基于NEST的SNN负载分析器;最后基于工作负载分析设计并实现了一种高能效类脑计算系统,具体研究内容如下:第一、提出了一种描述SNN工作负载的模型。针对NEST仿真器的运行机制、实际运行时的工作负载特性进行分析,建立基于NEST的SNN负载特性模型,将SNN的网络信息转化为的具体的负载消耗数据,以此说明计算平台运行SNN应用时面临的负载情况。第二、以SNN工作负载模型为依据,基于NEST仿真器设计了一种SNN负载分析器,能够自动地完成工作负载在分布式硬件上的合理部署。首先对SNN工作负载模型中的参数进行分类,针对其中的具有实时性、稳定性的建模参数,分别设计了参数量化方法。然后基于负载特性模型预测SNN案例的负载消耗。最后给出合理映射方案的预测。帮助研究者快速建立SNN案例的工作负载初步估计,计算出合理映射方案。实验结果表明:针对不同的SNN案例,在对合理映射方案的预测方面,SNN负载分析器达到了97.55%的准确率,该工作通过准确预测SNN工作负载在计算平台上的合理映射方案,避免了手动反复试探的过程。第三、基于工作负载研究,设计并实现了一种高能效的类脑计算系统。基于PYNQ集群的FPGA资源设计神经元加速模块,构成了一种计算规模可扩展、节点算力可调节的类脑计算系统。通过使用SNN负载分析器,为类脑计算系统提供负载分析与加速判断、网络承载能力预测和映射方案指导功能。实验结果表明:SNN负载分析器在对映射方案和网络承载能力的预测方面取得了较高的准确率。通过准确预测系统网络承载能力和合理映射方案,提高了系统的使用效率、运行性能和稳定性。