课程文献中心 更多>>

关键词： 遥感图像   图像配准   SIFT算法   脉冲耦合神经网络   图像分割  

摘要： 图像配准是图像处理中的一项重要任务,其目的是将不同时间、不同传感器或者不同视角获取的两幅或者多幅图像进行几何对齐和匹配的过程。随着遥感技术的快速发展,来自不同传感器的遥感图像的光谱和空间分辨率通常有所不同。针对不同传感器或不同光谱波段的多源遥感图像的高精度配准是图像融合、图像镶嵌、目标识别、和变化检测等的先决步骤。然而,在多源遥感图像配准中,目前基于图像分割的遥感图像配准方法大多将分割与配准分为两个独立的步骤,缺乏配准质量对分割结果的反馈。且由于多源遥感图像灰度差异大,利用单一特征提取方法可能会导致图像特征信息提取不足和正确匹配数量的减少,这些都会影响到图像配准质量。为此,本文基于脉冲耦合神经网络(Pulse coupled neural network,PCNN)的图像分割方法与基于点特征的图像配准方法,开展混合特征的多源遥感图像配准算法研究,以获得高精度的多源遥感图像配准结果。本文的主要研究内容和创新点如下:(1)针对传统配准算法中图像分割与图像配准缺乏反馈的问题,提出了一种基于自适应PCNN分割的遥感图像配准算法。目前基于图像分割的遥感图像配准方法大多将分割与配准分为两个独立的步骤,缺乏配准质量对分割结果的反馈。对于不同的配准数据集,仅使用单次分割结果会导致配准质量存在差异。为此,本文提出了一种分割配准一体化的遥感图像配准方法,通过黏性霉菌算法(Slime mould algorithm,SMA)的迭代将每次图像配准的质量反馈给分割,使得PCNN分割参数得到自适应优化,并进行重新分割,最终获得最佳配准质量的PCNN分割参数。(2)针对单一特征匹配效果不佳的问题,提出了一种基于PCNN分割特征与点特征相结合的遥感图像配准算法。虽然基于特征的方法在遥感图像配准上取得了较好的效果,但采用单特征检测方法可能会丢失遥感图像中潜在的其它特征信息,导致对内容复杂的遥感图像配准效果不佳。而且正确匹配数目的数量,也会影响几何变换矩阵的拟合精度。基于此,论文针对单一特征配准问题和提高正确匹配数量展开研究。通过UR-SIFT算法与自适应PCNN分割方法分别获得点特征与面特征,并分别利用尺度-主方向约束策略与联合得分最近邻距离比匹配点面特征,以获得高精度的多源遥感图像配准结果。论文结合PCNN网络模型,提出了两种遥感图像配准算法。对配准中的分割与配准效果的自适应反馈、PCNN网络模型的参数自适应和分割区域的匹配策略等问题开展了针对性研究。通过不同传感器数据集的对比实验,验证了本文方法在遥感图像配准中的有效性。论文设计算法对多源遥感图像配准具有一定的理论和实践借鉴意义。

关键词： 脉冲神经网络   高光谱图像分类   梯度替代算法   平滑激活函数   类脑计算   学习算法  

摘要： 随着高分辨率对地观测系统的建设和国家民用空间基础设施的发展，高光谱图像可在连续的光谱段内提供丰富的地物信息，具有光谱分辨率高、图谱合一的独特优点，广泛应用于遥感信息提取。针对高光谱图像的分类任务，深度神经网络在解决高维特征和频带冗余等问题取得良好突破，但由于网络架构复杂导致其训练时间长，计算能耗高，无法满足移动计算平台的实时图像分类需求。为解决移动计算问题，具有时空动力学特性和低能耗特点的类脑脉冲神经网络被广泛关注，然而由于脉冲神经元的激活函数不可导，故缺乏高效的学习算法，同时冗长的脉冲时间步和相对较低的分类精度是脉冲神经网络亟待解决的关键问题。针对以上问题，本文主要研究工作如下：　　（1）为了提升脉冲神经网络分类高光谱图像的性能，研究和设计了一种基于Integrate-and-Fire（IF）神经元和通道注意力机制的类脑脉冲神经网络。针对IF神经元函数不可导问题，提出了一个梯度替代算法实现网络的训练和推理。模型使用速率编码将输入的高光谱图像转换成符合泊松分布的脉冲序列。模型的隐藏层由脉冲卷积层、脉冲池化层和通道注意力模块构成，其中脉冲卷积层使用3×3的小卷积提取高光谱图像特征，脉冲池化层采用平均池化减少网络参数，通道注意力模块以压缩激活模块为基础，融入了通道混淆的思想，融合高光谱图像特征，提高了网络的分类性能。在三个高光谱基准数据集上，同主流人工神经网络相比，模型取得了最优的分类精度，实验数据表明通道注意力模块可以有效地提高脉冲神经网络的分类精度。　　（2）为了减少脉冲神经网络分类高光谱图像的训练时间步，研究和设计了一个基于LeakyIntegrate-and-Fire（LIF）神经元的双通道类脑脉冲神经网络模型。针对LIF神经元函数不可导问题，提出了一种平滑激活函数实现了网络的训练和推理。模型使用直接编码机制将输入的高光谱图像转换成相应的脉冲序列。隐藏层的主体部分由两条分支构成，其中一条分支采用卷积核大小为3×3的脉冲标准卷积提取高光谱图像特征，另一条分支使用卷积核大小为3×3的脉冲深度卷积提取图像特征和卷积核大小为1×1的脉冲点卷积整合图像特征。在多个高光谱基准数据集上，同主流人工神经网络相比，模型取得了较高的分类精度，同脉冲神经网络相比，模型可以有效地减少网络训练和推理的时间步。　　本研究是类脑计算的科学理论在高光谱遥感图像分类的积极探索，旨在克服高光谱图像应用的技术瓶颈。基于脉冲神经网络的高光谱图像分类对解决无人自主系统等移动计算的关键问题，以及实现无人机、软件定义卫星等平台的工程应用具有重要意义。

关键词： 忆阻器   阈值转变   导电丝   选通管   人工神经元   脉冲神经网络  

摘要： 随着信息技术和人工智能的发展,兼具生物可行性和计算有效性的类脑计算系统受到了越来越多的关注。为了构建高能效的类脑计算系统,需要研制具有丰富动力学过程的人工神经元。目前传统的人工神经元主要基于CMOS混合电路设计,需要集成多种有源元件、电路复杂,动力学特性有限。阈值转变忆阻器的阻变行为丰富,基于简单的电路就可以实现高仿生的神经元电路。然而,值得注意的是,目前报道的阈值转变忆阻器因阻变源于导电丝的随机形成-断裂过程,导致器件的均一性和循环稳定性有待进一步提高。 针对此问题,本文以二维GaSe为阻变层研制了阈值转变忆阻器,通过电极/阻变层界面优化和阻变层缺陷调控,提高了器件阻变的均一性和稳定性,并探讨了GaSe阈值转变器件作为选通管和神经元器件的应用。本文主要研究内容如下: (1)通过Ag/GaSe界面优化和GaSe缺陷控制提高了器件的均一性和稳定性。在Ag/GaSe界面引入3 nm超薄Ti层,Ti层可避免Ag离子过度注入到阻变层中,同时加快Ag离子还原,提升器件阻变的均一性、稳定性和开关速度。通过Ar等离子体处理工艺在GaSe层中引入Ga空位缺陷,利用Ga空位和Ag离子的协同作用,实现了～20 pA的高阻态电流、<40 ns的开启速度、10～7的高开关比、10.6%的循环间差异性以及良好的循环稳定性。 (2)探讨了GaSe基阈值转变忆阻器作为选通管(selector)在大规模忆阻交叉阵列中的应用潜力。以具有多级存储的Pt/Ti/GaSe/Pt忆阻器作为存储单元(resistor),构建了同质1S1R(one-selector-one-resistor)交叉阵列,GaSe基阈值转变器件具有低于20 pA的漏电流和～0.5 V的低工作电压,可将阵列字位线规模扩展至8.4×10～6。 (3)基于GaSe基阈值转变忆阻器可调的开启延迟动态过程,构建了发放频率自适应的LIF神经元。通过连续脉冲调制,GaSe基阈值转变器件开启延迟的时间随着开关次数的增加逐渐变短。以此器件为核心元件,基于简单的RC电路模拟构建了LIF人工神经元,实现了尖峰频率自适应的生物神经元功能。并将其应用到自适应脉冲神经网络中,有效提高了网络的识别率,并且自适应网络的功耗降低为非自适应网络的1/3。

关键词： 生成模型   变分自编码器   脉冲神经网络   脉冲编码  

摘要： 脉冲神经网络由于时空神经动力性和生物可解释性,被称为继人工神经网络和深度神经网络后的第三代神经网络。由于二值性和神经形态设备,脉冲神经网络具有高速低能耗的特点。目前研究提出的脉冲变分自编码器(Fully Spiking Variational Autoencoder,FSVAE),在解决图像生成问题上已具有很好的性能,但依旧存在模型不稳定以及无法生成指定图像的问题,准确性也有待提高。 为了提高准确性,本文提出一种基于全时信息的自回归脉冲隐空间分布构建方法,充分利用脉冲时间序列特征,改进FSVAE隐空间构建模块;为了提高稳定性,提出一种脉冲泊松采样方法,对离散脉冲序列分布进行采样。针对无法生成指定数据的问题,提出一种脉冲特征编码方法,充分利用监督信息,构建基于特征信息的脉冲编码器提取特征,并将特征信息作为条件参与脉冲解码器的图像重建。最终提出了名为脉冲条件变分自编码器(Fully Spiking Conditional Variational Autoencoder,FSCVAE)的生成模型,所有模块都使用脉冲神经网络进行构建。 在多个常用图像数据集上进行了实验,使用公认的生成模型评判指标IS评分(Inception Score)和FID评分(Fréchet Inception Distance Score)对本文FSCVAE模型进行评价,与传统深度条件变分自编码器模型相比,能快速低能耗地生成更高质量的图像,与同样使用脉冲神经网络构建的变分自编码器相比,模型的多样性和稳定性最好,并且支持生成指定的高质量图像。

关键词： 脉冲神经元   脉冲神经网络   文本分类   基因分析   目标追踪   代理梯度  

摘要： 目前,人工智能技术受到越来越多的关注和研究。脉冲神经网络(Spiking Neural Network,SNN)是一种受生物神经元信息处理方式而设计的第三代神经网络。SNN利用脉冲信号传递数据,具有低能耗,计算效率高的优点,非常适合低能耗硬件的部署。此外,SNN整合了多种信息,如时间、空间和频域等信息,具有更好的生物可解释性,有很大的潜力去模拟大脑中的复杂的信息处理过程。本文致力于深度脉冲神经网络监督学习算法和应用研究,使用直接训练的深度脉冲神经网络用于文本分类、基因分析和目标追踪,内容归纳如下: 1.提出了一种具有残差连接的深度卷积脉冲神经网络(Deep Convolutional Spiking Neural Network,DCSNN)用于文本数据分类,使用代理梯度的方式在不同的公开数据集中实现深度脉冲神经网络端到端的训练,并且在不同重置方式、不同替代函数、不同池化方式和不同观测时间的条件下分别进行仿真实验和对比分析。结果表明:第一,本文提出的 DCSNN 模型在 MR、AG News、IMDB 和 Yelp Review Polarity 数据集上分别达到0.7636、0.9103、0.8806和0.9399的准确率。第二,本模型使用软重置方式的准确率稍优于硬重置;而不同替代函数在不同文本数据集上的准确率大小各有不同;第三,在其他条件一定时,模型使用最大池化方式的准确率优于平均池化的方式。最后,模型在不同观测时间内达到的最大收敛精度非常接近相同条件下深度神经网络所能达到的最大收敛分类精度。 2.使用DCSNN模型,使用不同编码方式,在基因分析任务中进行泛化研究。实验结果发现,使用词向量编码时在HIV、Splice、Promoter和H3数据集分别达到了0.9133、0.9642、0.8936和0.8844的收敛精度。而在使用K-mer编码时,K值越小,模型分类效果越好,其中在K=3时,模型在HIV、Splice、Promoter和H3数据集的收敛精度分别是0.7333、0.9544、0.8834和0.8406。这说明了模型使用词向量编码的整体性能优于K-mer编码。此外,本文的提出SNN模型在HIV、Splice、Promoter和H3数据集上的准确率比RNN中的LSTM模型分别高了 0.0113、0.0358、0.0661和0.0574。这说明了本文提出的深度卷积脉冲神经网络模型在处理序列数据上的良好性能,也为基因序列的应用和分析提供了新的途径。 3.提出了一种基于深度脉冲神经网络的目标跟踪器Spiking SiamCAR实现单目标跟踪。该网络使用Spiking AlexNet进行特征提取,然后通过分类和回归网络进行像素级别的边界框预测。将网络模型在不同的单目标跟踪公开数据集中进行仿真实验和分析,实验结果表明,Spiking SiamCAR跟踪器在VOT2016数据集上的平均准确率(A)、平均重叠率(R)和期望平均重叠率(EAO)分别为0.595、0.317和0.327;在VOT2018数据集上,相应的A、R、EAO分别为0.564、0.417和0.279;在OTB2015数据集的精确率和成功率分别为0.834和0.634;在UAV123数据集上的成功率和精确率分别为0.634和0.834。这说明该模型具有较好的的追踪性能,可以为SNN在目标跟踪领域的广泛应用提供有益参考,同时也有助于推动SNN算法在嵌入式硬件设备或芯片上的部署应用。

关键词： 智能控制  

ISBN: (纸本)9787111725442

摘要： 本书着重介绍作者在这一领域的最新研究成果, 主要包括: 汽车集群态势复杂性分析及建模方法、不同驾驶人情绪下的汽车运动特征、单/双车道环境汽车驾驶人意图的情感作用机制及辨识方法、基于多人动态博弈的汽车行驶车道选择模型。本着严谨科研、实用为上的原则, 本书对研究中涉及的实验组织、数据采集与处理、模型验证等技术方案进行详细阐述, 并给出大量参考文献以供希望进一步深入了解的读者使用。

关键词： 脉冲神经网络   监督学习算法   Tempotron学习算法   NeuCube网络架构   人脸情绪识别  

摘要： 脉冲神经网络是受生物启发的新一代神经网络模型,不同于传统神经网络,它能有效地模拟生物神经元的工作方式,同时能将时间信息融入到编码过程中,具有更强的时空信息处理能力。神经元之间的连接具有动态性和可塑性,能够自适应地调整连接权重,提高了脉冲神经网络的容错性。具有更高生物学合理性的脉冲监督学习算法,可以让脉冲神经网络有效地学习到更多、更深的决策规则。脉冲神经网络在生物可解释性、响应速度以及能源消耗等方面有较传统神经网络更突出的优势,然而目前在实际中却并未得到广泛应用,其根本原因在于缺乏高效的学习算法。在监督学习中,脉冲神经网络可以利用反向传播算法进行训练,提高模型的分类准确率和泛化能力。然而,由于脉冲神经网络自身存在的离散和非线性机制,因此很难构建高效的脉冲神经网络监督学习算法,现存算法大多不能很好地适用于深度或大型网络。此外,目前脉冲神经网络的相关算法软件仍未得到广泛应用,一定程度上限制了脉冲神经网络的发展。为了提高脉冲神经网络监督学习算法的高效性并验证现存算法平台的优势,本文基于脉冲神经网络监督学习算法及应用做了相关研究和分析,主要内容和研究成果如下:(1)为提高脉冲神经网络监督学习算法的高效性,对现有经典算法Tempotron进行改进。结合小批量梯度下降机制与Tempotron算法各自优点,提出一种改进算法,并将其命名为MB-Tempotron算法。为验证所提出算法的高效性,利用MBTempotron算法对手写数字数据集MNIST进行分类实验。结果表明,利用小批量梯度下降进行权重调整的MB-Tempotron算法,相比于传统Tempotron算法学习,分类准确率提升了4.2%,一定程度上解决了脉冲神经网络监督学习算法Tempotron在数据分类任务中分类准确率低的问题。(2)为评估改进算法MB-Tempotron应用在更复杂场景下的性能,基于MTFL数据集进行了人脸情绪识别分类实验。研究并分析神经形态算法平台,具有性能高、功耗低等优势的Neu Cube架构。将Neu Cube与其它网络模型下得到的情绪识别算法实验结果进行比对,说明Neu Cube架构对人脸情绪识别分类实验的优势所在。MB-Tempotron学习算法相比于Neu Cube有更高的分类准确率,进一步说明MB-Tempotron算法的可行性和有效性。

关键词： 脉冲神经网络   时间序列分类   人工神经网络   手势识别   动作识别  

摘要： 随着无线领域的兴起和计算机的迅速发展,人体动作识别作为智能家居中重要的辅助技术,在安防监控、医疗监护和人机交互等领域中具有重大的研究意义和广阔的应用前景。毫米波雷达以其精度高,不容易受到环境干扰的特点被广泛应用于时间序列的采集。数据采集完毕后使用算法模型对数据进行分类,以此达到人体动作识别的目的。针对以上问题本文首先提出了基于Res Net-18和LSTM的手势分类算法,在公开数据上达到了92.55%的准确率,准确率较现有最优算法高5.4%。然后,通过毫米波雷达硬件自采人体动作数据集,并向数据中添加了三种不同的噪声,验证了噪声会造成传统的深度学习算法准确率下降。最后,本文使用新兴起的类脑模型脉冲神经网络搭建了人体动作识别算法,通过实验验证了本文所提出的脉冲神经网络模型在小样本数据集和含有不同噪声的数据集上进行实验,结果均得出了较高的准确率。本文的主要工作内容如下: 1)数据集采集和预处理。本文所使用的数据是由实验室毫米波雷达设备采集的时序数据制作而成。数据集包含9种不同类别的动作特征,分别为右走、右跑、左走、左跑、前走、前跑、后走、后跑、跳。为了更好的对动作特征进行识别,将采集到的原始回波数据经过数据预处理形成微多普勒特征图,并通过标准化处理构建了人体动作数据集。最后,通过向采集到的雷达数据添加了随机、高斯和椒盐三种噪声,构建了雷达噪声数据集,为接下来的算法验证和提出提供了数据支持。 2)设计基于深度学习的手势分类模型。首先,本文搭建了常用的深度学习算法,包括CNN、Res Net、LSTM等网络,以此验证含有噪声的雷达数据能否对深度学习算法产生影响。然后,使用Res Net-18提取序列数据的空间特征,LSTM提取序列数据的时间特征,提出了一种基于Res Net-18和LSTM的毫米波雷达手势分类模型。该模型可以识别多达11种不同类别的手势,并得到了92.55%的平均分类准确率,与当前流行方法相比具有更好的识别效果。 3)通过使用脉冲神经网络对时间序列进行分类。设计了一种脉冲神经网络的模型对毫米波雷达人体动作数据进行分类,该模型由三个部分组成,分别是输入层,递归层和分类层。分类过程中首先将微多普勒图转换成脉冲序列形式输入到模型中,然后通过神经元之间的信号传递,得到一个有关突触强度的特征矩阵,最后将特征矩阵输入到逻辑回归分类器进行特征分类,得到分类准确率。并与当下流行的人工神经网络进行对比。对比结果显示脉冲神经网络在小样本和加入噪声的前提下均能得到稳定的分类准确率,验证了脉冲神经网络的有效性。

关键词： 钢轨损伤   故障诊断   寿命预测   脉冲神经网络  

摘要： 随着列车运量和轴重的提高，铁路钢轨伤损产生速度不断加快。这不仅大幅增加了日常维修养护工作量，还时刻威胁着铁路的行车安全。因此，对铁路运输的重要组成部件钢轨进行有效的状态监测刻不容缓。由不同传感器收集的多通道振动数据，虽然包含着丰富的信息，但是由于这些数据具有复杂的相关性和时序性，这给基于振动数据开展部件损伤故障诊断与寿命预测研究带来了挑战。为此，本文利用脉冲神经网络所拥有的丰富时空动力学特性，结合深度学习中的相关知识，开展基于脉冲神经网络的钢轨损伤故障诊断与寿命预测研究。首先对表征钢轨过去状态的损伤故障数据进行诊断，然后对钢轨的未来退化趋势进行学习并预测其剩余使用寿命。具体研究内容如下：　　（1）针对卷积神经网络忽略数据的时序相关性问题，提出了一种基于卷积脉冲神经网络的故障诊断方法。首先，利用替代梯度法，使得能对网络端对端进行训练。然后，利用脉冲神经网络强大的时空动力学特性以及卷积神经网络挖掘数据空间特征的能力，充分提取振动信号的时间与空间特征，其中，脉冲最大池化与脉冲神经网络的二值特性相契合。最后，实验表明该方法能在较短时间步长内实现良好的诊断性能。　　（2）针对浅结构的脉冲神经网络模型特征提取能力不佳的问题，提出了一种基于脉冲残差卷积神经网络的剩余使用寿命预测方法。首先，借鉴经典残差网络中的残差连接，实现了对脉冲神经网络的残差学习。然后，构建了较深层次的脉冲神经网络模型来提高网络的特征提取能力，进而对钢轨部件进行退化行为学习。最后，通过在钢轨振动数据集上的实验对所提出的方法进行了评估，并通过轴承振动数据集上泛化性能实验证明所提方法的可行性。　　（3）针对多传感器中多通道数据存在耦合导致难以有效建模的问题，提出了一种基于改进深度脉冲残差网络的剩余使用寿命预测方法。首先，利用脉冲可分离卷积对数据间的相互关系进行有效建模，引入注意力机制进一步突出了有效的脉冲特征。然后，对脉冲残差连接方式进行改进，缓解了脉冲神经网络层数加深可能导致的退化问题。最后，实验表明该方法能够得到更准确的预测精度，且具有良好的泛化性能。