课程文献中心 更多>>

关键词： 神经元   Zynq   图像分割   二维熵评价函数  

摘要： 随着现代军事技术的飞速发展,智能弹药已成为现阶段军事领域的研究热点。针对现有智能弹药视觉跟踪系统采集图像像素少、算法资源消耗大、一体化程度低等缺点,本文设计了一种基于脉冲神经网络(SNN)的嵌入式图像处理系统。具体内容如下:首先,根据“采集+处理”一体化的系统需求,提出了一种基于多核ARM与FPGA的嵌入式图像处理系统总体设计方案,并通过对比分析确定了基于漏积分发放(LIF)神经元模型和首脉冲编码方式相结合的前馈式脉冲神经网络结构,给出了基于阈值的SNN图像分割处理方案。在此基础上,完成了核心处理板、图像传感器等核心部件的选型。其次,针对传统图像分割算法计算量大、精细度不高的缺点,搭建了一种结构简单的前馈型脉冲神经网络,并设计了基于膜电位阈值的SNN图像分割算法。针对分割效果难以评定的问题,设计了基于图像二维熵值的评价函数,以量化的方式实现了分割结果优劣的比较。仿真实验结果表明,基于SNN的图像分割算法与传统分割算法相比,计算量更小、精细度更高。然后,针对市售图像处理设备难以直接提供用于基于SNN图像分割的CMOS图像传感器原始数据的问题,完成了基于脉冲神经网络的嵌入式图像处理系统软硬件设计,包括:CMOS图像传感器数据处理电路原理图与PCB图的设计,以及SPI通信、LVDS解串、图像存储、图像分割等软件模块的详细设计。最后,搭建了基于脉冲神经网络的嵌入式图像处理系统实验平台,并完成了通信实验、解串实验、原始图像采集实验、基于SNN的图像分割实验。实验结果显示,基于SNN的图像分割结果二维熵值无限接近于1,证实了所设计系统的有效性。

关键词： 强化学习   神经元   智能体   伪梯度函数  

摘要： 随着智能决策技术的发展,基于人工神经网络(ANN)的深度强化学习算法已成功应用于智能体行为决策,但对计算资源的需求限制了它在计算资源受限场合下的使用。因此,本文以计算效率高、状态表征能力强、生物可解释性好的脉冲神经网络(SNN)为载体,对基于SNN的单智能体离散、连续动作空间中的行为策略以及多智能体协同行为策略进行了研究,具体如下:首先,从神经元计算模型、网络拓扑结构、脉冲编码方式三个方面对SNN的运行机理进行了深入分析。根据强化学习算法应用场合的不同,分别对基于值函数和基于策略梯度的强化学习算法进行了介绍。其次,针对常规基于精确模型设计的行为策略通用性不强的问题,提出了一种基于ANN-SNN的离散动作空间端到端行为决策方法。其中,针对ANN转换到SNN过程中存在转换误差的问题,引入剩余膜电位的方法对最后一层脉冲神经元的发放率进行校正,并设计了一种采用最近最少使用(LRU)机制进行经验存储以及基于优先级混合抽样对经验数据进行再利用的方法以提高算法的收敛速度。仿真实验结果表明,所提方法与传统方法相比,智能体的决策能力更强且收敛速度更快。然后,针对连续动作离散化后出现的维度灾难问题,提出了一种基于脉冲动作网络(SAN)-深度评价网络(DCN)混合框架的连续动作空间行为决策方法。针对常规漏积分发放(LIF)神经元相邻两次脉冲发放时间间隔较长的问题,使用过冲电压对LIF神经元的计算模型进行改进。在此基础上,采用神经元群编码方式对环境信息进行编码,并采用伪梯度函数将两个网络进行联合训练。以机器人无地图导航任务为例进行了仿真实验,结果表明,相较于传统深度学习算法,所提方法在节约建图时间的同时可获得更高的导航成功率,从而提高了任务效率。最后,针对面向单智能体设计的行为策略难以直接应用到多智能体进行协同决策的问题,提出了一种基于先验知识的多智能体行为决策方法。该方法采用集中训练分布执行的行动者-评论者(actor-critic)框架,通过共享参数和引入注意力机制的方式在智能体的critic和actor部分引入先验知识,为智能体在训练过程中提供有效的信息指导。仿真实验结果表明,相比于传统深度学习算法,该方法能够有效提升多智能体在协作场景下的决策性能。

关键词： 智能车辆   避障控制   脉冲神经网络   STDP算法   投票竞争机制  

摘要： 随着科学技术的飞速发展,人们正快速进入人工智能的时代,智慧城市是当前研究的热点,作为智慧城市一部分的智能车辆,也是当今时代的重点研究对象之一。由于人们生活水平的提升,车辆的使用率也随之猛增,但道路交通安全的问题却越来越严重,还造成了环境的污染,如何解决这些问题成为了社会越来越关注的重点。为解决这些问题,需要重点研究如何提高车辆的自动避障能力、对周围环境变化的敏锐程度以及车辆的预判能力等方面。本文针对智能小车避障能力进行了相关的研究设计,其中包括设计避障控制模块以及对基于脉冲神经网络的避障算法分析。本文首先对传统避障模型算法,如人工势场法和虚拟力场法等,以及模糊控制算法进行简单的描述,同时根据算法的避障原理分析这几种算法针对小车在实现避障行为问题上存在的不足之处,进而引出基于脉冲神经网络小车避障控制算法。其次阐述了脉冲神经网络生物意义,介绍了脉冲神经网络的基本结构,对脉冲神经元模型的动力学原理及基本应用进行简要介绍,采用泊松编码机制和STDP训练算法,并在其基础上进行相应的改进。然后针对基于STDP规则的全连接网络的不足之处进行改进,改进的方式为动态更改网络概率连接以及增加一种竞争算法机制。相关的仿真实验表明,改进之后的网络模型在一定程度上降低了网络的训练时间。输入到神经网络中的数据需要对其进行编码,编码后的脉冲序列才能被网络识别。本文对泊松编码机制进行了改进,对其增加了一个比例系数和偏置系数,通过实验得知,改进后的泊松编码机制可以动态地调节脉冲神经元发放脉冲的数目,使之增加了网络训练的分类准确率。最后对不同网络模型进行相应的仿真,实验表明了脉冲神经网络相对于其它神经网络能更好地实现小车避障行为。在脉冲神经网络的基础上,就改变网络连接概率和增加算法机制两个角度,设计了四种不同的网络结构模型,并对其分别进行仿真实验,实验说明基于概率连接竞争学习的脉冲神经网络相对于基于STDP规则的全连接脉冲神经网络准确率提高了1.6%,更改网络连接结构和增加竞争算法机制能最大程度上降低网络计算速率,缩短训练时间。并在特定的条件下,基于概率连接竞争学习的脉冲神经网络的准确率能提高2.6%,并在避障分类准确率相对其他分类更高,进一步表明了本文选用的算法模型具有一定的研究价值。

关键词： 脉冲神经网络   存算一体   存储器编译器   物理实现  

摘要： 随着深度学习的快速发展,人工神经网络已经在日常生活和生产工作中的各个方面得到了广泛的应用。相比于生物神经元模型,基于传统计算机架构的人工神经网络需要耗费更多的硬件资源。其中的一个原因是受到了传统计算机冯诺依曼架构的限制。对此研究人员提出了存算一体(computing-in-memory)的概念,在存储器内直接完成部分计算操作。目前存算一体电路的设计通常由手工搭建,这是一个既费时又繁琐的工作。存算一体电路具有规则的结构。因此可以采用存储器编译器(memory compiler)的方式进行存算一体电路的搭建,从而快速生成的存算一体阵列电路。本文首先对神经网络研究背景进行介绍,在神经网络硬件面临着冯诺依曼瓶颈挑战的背景下,存算一体架构应运而生。然后对目前存算一体电路理论及存储器编译器理论进行介绍,存储器编译器的方法可以用于存算一体阵列这样的规整电路进行软件方式的生成。本文主要开展了以下工作:(1)提出了一种基于SRAM的存算一体单元及其读写关键模块。其阵列可用于MNIST手写数据识别的二值化脉冲神经网络中大量出现的点乘运算。该存算一体单元存储部分原理和结构与标准SRAM单元相同,读出时会将存储值与输入值进行二值乘法运算然后读出,以此实现所提出的神经网络算法所需要的大规模乘法运算。并设计该存算单元阵列的读写所需其他功能电路。(2)使用开源存储器编译器Open RAM对所提出存算一体电路进行物理文件生成。基于55nm工艺,设计存算一体阵列的各模块的基本单元电路及版图,形成基本单元库。使编译器能够使用所设计的基本单元库,生成所述存算一体阵列电路的版图文件,LEF文件,spice网表文件等物理文件。(3)编写文件框架,并使用编译器生成存算电路的Verilog、lib等逻辑信息文件,将存算一体模块作为IP核进行使用。经验证,编译器所生成存算一体电路文件完整,可以使用半定制化方法将存算一体阵列作为IP调用以及设计其外围逻辑。本文从算法背景到电路再到编译生成,对存储器编译器用于存算一体电路编译实现进行研究,这样的方法相对于全定制设计,生成速度快,自动化程度高,通用性强。这有助于存算一体的研究及应用。

关键词： 忆阻器   窗函数   忆阻突触   脉冲神经网络  

摘要： 现如今,随着人工智能、类脑计算等信息技术的发展以及物联网、通信网等基础设施的建设,这些新兴产业给人们生产生活带来便利的同时,也产生了海量的数据供我们处理,那么对于设备以及网络的处理速度和反应能力也有着更高的要求。忆阻器作为一种纳米级的元器件,既有阻值可变性、非易失性、类突触特性等优点,也有着更高的集成度、更低的功耗、更快的读写速度,在存储电路、逻辑计算和类脑计算等领域有望大幅提升数据处理能力和机器学习能力,对于构建新一代智能信息处理系统有着非常重大的意义。脉冲神经网络是对真实生物神经网络更具合理性的模拟,它将现实世界的信息编码成脉冲序列来实现其功能,具有低功耗、高时效性、实时性等优势,在联想记忆、模式识别、图像处理等方面有着巨大的应用潜力。二者的结合为构建存算融合的智能系统,实现大规模的数据处理提供了非常可行的方案。本文基于忆阻器和脉冲神经网络的研究成果,将二者相结合,探究基于忆阻器的脉冲神经网络的实现方案,具体内容如下:(1)详细介绍了常用的三种忆阻器模型,即惠普忆阻器、自旋忆阻器、电压阈值自适应忆阻器,通过数学表达式描述了各个忆阻器模型忆阻值变化的机制,并且通过MATLAB仿真实验研究了它们的忆阻特性,为后面基于忆阻器的研究提供基础支持。(2)基于惠普忆阻器模型,总结归纳出其经典的窗函数模型的优缺点,在此基础上改进提出一个新的通用窗函数,给出模型中可调参数的取值范围,进一步对使用新窗函数的忆阻器模型进行仿真实验,观察其忆阻值、状态变量等一些重要物理量的变化情况,验证其有效性,并且将其与经典窗函数模型进行对比分析,清楚地展现其存在的优势。(3)基于忆阻器和突触在结构上的相似性,通过数学公式建立起忆导值的变化和突触权值变化的关系,并就忆阻器的串并联电路进行了讨论,在此基础上,使用电路分析及数值仿真等手段对现有的忆阻突触电路进行全面的概括总结,为下一步构建神经网络奠定基础。(4)结合脉冲神经元的生理机制对使用较为广泛的三种神经元模型---HH模型、LIF模型以及IZ模型进行了详细的论述和有效的仿真,进一步实现基于忆阻器的脉冲神经网络,其中包括对LIF模型的改进、对神经网络结构的阐述以及对训练算法的数学推导,最后,通过标准的手写数字体识别数据集(MNIST)来充分验证整体方案的可行性和有效性。

关键词： BP神经网络   脉冲神经网络   时间信息   空间信息   时空结合  

摘要： 脉冲神经网络由于其独特的类脑结构被誉为第三代人工神经网络。其以更具生物可解释性的脉冲神经元模型为基本单元而构成脉冲神经网络(spiking neural network,SNN)。目前的人工神经网络是第二代神经网络。其中最典型的也是最简单的即1986年Kumelhart等人提出了利用误差进行反向传播的神经网络,简称BP神经网络。这些神经网络是前一层与下一层的神经元全连接,并且其传递的信息都是连续的。虽然现在的人工神经网络得到了飞速的发展,尤其是卷积神经网络和深度卷积神经网络的出现,极大的促进了工业的发展,比如日常生活的语音识别,人脸识别等。但是如今应用广泛的神经网络都缺乏了生物的可解释性。于是后来的研究者们就提出了第三代神经网络,脉冲神经网络(Spiking Neural Network,SNN),想要在生物可解释性上做出突破。利用现有的ANN的知识来模拟所提出的脉冲神经网络。所以SNN与ANN类似也有监督学习与非监督学习,其中在监督学习中由于膜电压的变化与时间的变化关系并不是可导的,所以当我们利用现有的ANN的知识去求解SNN网络的反向传播过程会使得不可导,于是我们可以利用近似可导来达到我们的监督的目的本文旨在将ANN的空间信息和SNN的时间信息进行有效的结合来提高网络的利用率。本文根据生物获取信息的方式,先用眼睛提取物体的空间信息再转化为人脑的脉冲形式进行信息的传递。所以先用BP神经网络进行信息的提取,然后在隐层将提取到的信息进行时间编码将空间信号转化为时间信号,最后利用Spikeprop的网络结构进行处理。整个网络结构在UCI数据库中的五个数据集上进行了实验。有效的解决了SNN所带来的网络收敛不稳定以及精度的问题。

关键词： 脉冲神经网络   忆阻器   器件建模   手写字体识别  

摘要： 忆阻器具有和神经突触类似的性质,可以构成突触电路与脉冲神经网络相结合,显著降低脉冲神经网络的硬件成本。而评估基于忆阻器的脉冲神经网络表现,忆阻器模型具有关键性作用。但是现有忆阻器模型要么对忆阻器拟合精度不足,要么在忆阻网络仿真中计算效率低甚至不收敛。因此构建一个快速准确的忆阻器模型十分重要。针对现有忆阻器模型存在的精度不足以及计算效率低的问题,本文提出了一种基于多项式的忆阻器模型,该模型借鉴了VTEAM模型简洁的幂函数形式以加快计算速度,改进了公式中的窗函数提以使得公式能更好拟合器件的非线性特性,使用了平滑函数以提升模型的平滑性与收敛性。本文还给出了通用的参数提取流程用于器件参数的确定。所提出忆阻器模型写成Verilog A模型并在Virtuoso中进行仿真分析,实验结果表明本文模型与器件误差只有0.0236%,相比已有模型,拟合精度最高,并在仿真速度方面,相比已有模型,仿真时间可减少20%以上。基于本文提出的模型,本文设计了一个基于忆阻器的脉冲神经网络,给出了网络参数以及学习规则设计。之后利用brian2仿真平台进行了网络的仿真分析,仿真结果验证了基于本文所选忆阻器的脉冲神经网络的可行性,在合适的网络参数下,网络准确率最高可达84.7%,与基于理想突触的软件网络准确率相当。同时通过实验证明了网络的良好鲁棒性,网络在器件波动小于25%或者读噪声小于10%的情况下准确率几乎不受影响。最后进一步对比本文模型和已有模型在网络仿真中的表现。结果表明,相对已有模型,仿真时间可减少30%以上。

关键词： 容迟容断网络   DTN   脉冲神经网络   机器学习   CGR路由  

摘要： DTN（Delay-Tolerant Network）协议是实现未来深空网络长时延、断续连通环境组网的关键。然而,随着深空网络节点数量的增多,DTN协议,特别是基于Dijkstra的CGR（Contact Graph Routing）路由协议的计算开销和存储开销显著增长,可能无法适应资源受限的星上节点。针对这一挑战,本文提出了一种基于脉冲神经网络（Spike Neural Network,SNN）的路由方法,将每束（Bundle）的路由计算过程转化为基于SNN的分类问题,降低计算量。基于SNN的路由模块将链路信息作为特征向量,以CGR计算结果作为标记训练数据,对SNN模型进行训练,获得权重参数。存储大量时域信息的脉冲神经元作为神经网络的计算单元,提出一种适应于脉冲神经元的STDP权重更新算法的变体。由于只考虑时间信息,基于SNN的DTN路由方法可能存在欠拟合问题,本论文通过扩充了链路可用容量,排队时长,时延信息作为特征向量以及选择合适的参数从而优化机器学习模型,尝试改善路由性能。本文搭建了基于ION-DTN的国际空间站数据回传场景,验证了增加链路可用容量为特征向量能够提升选路准确率,并且使用随机生成的DTN网络验证了基于SNN的DTN路由算法的复杂度特性。基于DTNSim软件构建了 48节点DTN网络仿真场景,实验结果显示,在计算开销大幅降低的前提下,改进模型的路由结果和CGR的计算结果相当,得出基于机器学习的路由方法在计算性能上优于CGR的结论。本文的研究证明了基于SNN的DTN路由方法的优势和可行性,对DTN路由的设计和开发有一定的参考价值。

摘要： 4月1日,科技部、发改委、工信部等六部门联合发布《长三角G60科创走廊建设方案》(以下简称《方案》),明确G60科创走廊的战略定位为:中国制造迈向中国创造的先进走廊、科技和制度创新双轮驱动的先试走廊、产城融合发展的先行走廊.《方案》列出了具体而精准的时间表与路线图.到2022年,科创走廊建设初显成效.地区研发投入强度达到3％,战略性新兴产业增加值占地区生产总值比重达到15％,上市(挂牌)企业数量年均新增100家以上,高新技术企业年均新增3000家左右,引进高层次人才、应届高校毕业生等各类人才每年不少于20万人.

关键词： 随钻测量   陀螺仪   漂移误差补偿   稀疏冗余   脉冲神经网络   改进抗差卡尔曼滤波  

摘要： 随着近年来对地下资源的不断勘探开采及地下工程钻通的需要,随钻测量(MWD)技术得到了广泛的应用。导向钻井是钻井工程领域的高新技术,其技术的进步和捷联惯性导航系统(SINS)的发展密切相关,该系统主要采用陀螺仪、加速度计和磁强计微惯性器件(MEMS)组成的微惯性测量单元(MIMU),借此单元可采集到钻头三轴加速度和角速度信息,通过解算从而得到钻具的井斜角、工具面角和方位角。MEMS陀螺仪具有低成本、低功耗、小尺寸、抗冲击能力强和可靠性高等优点,可以直接解算得到钻具的三个重要姿态信息。但在钻井的过程中,陀螺仪存在漂移,钻具在长时间的高温强振环境下,累积误差不断变大,导致钻具的姿态信息存在大量噪声。由此,鉴于国内外大量文献的研究基础上,本文首先分析随钻陀螺仪的主要误差特性,通过对非线性的陀螺仪误差特性直接通过算法进行处理;再者利用神经网络模型实现降低振动噪声对陀螺仪的干扰,重点研究随钻陀螺仪在惯性组合下的误差补偿方法,主要的研究内容如下:(1)简要介绍了陀螺仪的工作原理,重点分析了陀螺仪的误差特性并建立Allan方差误差模型,且进行最小二乘误差辨识。(2)为了提高随钻测量过程中MEMS陀螺仪的测量精度,针对EMD分解的模态函数中存在噪声的问题,提出了一种稀疏冗余算法,有效提取陀螺仪有用信息。(3)针对钻井过程中钻头在不同振动频率下,MEMS陀螺仪信号中存在大量噪声的问题,提出了改进突触可塑性的SNN算法,有效提高陀螺仪信号的抗干扰能力。(4)针对随钻陀螺仪漂移的问题,建立了惯性组合下加速度四元数估计陀螺仪误差四元数模型,提出了改进抗差卡尔曼滤波算法对该模型进行估计和补偿。图29幅,表6个,参考文献68篇。