课程文献中心 更多>>

关键词： 时滞   递归神经网络   脉冲   指数稳定性   线性矩阵不等式   指数同步化  

摘要： 递归神经网络如Hopfield神经网络、细胞神经网络、Cohen-Grossberg神经网络等,在信号和图像处理、联想记忆、模式识别、并行计算和最优化等方面具有潜在的应用.由于神经网络的动态特性如平衡点特性、稳定性、极限环及混沌等是其应用的前提,在其理论研究中也一直占据着重要的地位.但是在其信号的传递过程中时滞不可避免.时滞意味着网络模型应该与过去时刻的神经元状态有关,常常导致网络模型的不稳定,甚至可能产生周期振荡或混沌现象,并对网络模型的动态特性有很大的影响.此外,电压的突变会产生错误的电路,即出现脉冲现象,它可以影响神经网络的瞬时行为,因此研究神经网络的稳定性,同时考虑时滞和脉冲的因素是非常必要的. 此外,在过去的二十年中,由于混沌系统在许多不同领域包括安全通信、化学、生物、信息科学和光学等的潜在应用,其同步化问题已经被广泛地研究了.事实上,混沌同步化是实现保密通信的关键,而且混沌保密通信由于实时性强和保密性高等优点,成为一种新型高效的保密方式.因此研究系统的同步化问题具有重要的现实意义. 基于以上考虑,本文深入分析了两类时滞递归神经网络的动态行为,主要工作如下： 1.研究了一类变时滞脉冲递归神经网络的周期解的全局指数稳定性.通过构造恰当的Lyapunov泛函,并结合线性矩阵不等式方法,得到了确保此网络全局指数稳定的充分条件.所得结果推广了已有结果,降低了系统的保守性.由于这些条件用线性矩阵不等式表示,所以易于在Matlab软件LMI工具箱中实现.数值模拟验证了所得结论的正确性及所给条件的易检验性. 2.研究了一类变系数时滞脉冲递归神经网络的指数同步化.由于系统的连接权依赖于神经元的状态,应用集值映射和微分包含理论,通过构造Lyapunov函数同时利用代数不等式技巧,给出了保证该网络指数同步化的充分条件.数值模拟验证了所得到的结论的正确性及所给条件的易检验性.

关键词： 脉冲神经网络   进化算法   文化学习   自主智能体  

摘要： 最近几年来，人工神经网络的研究重点逐渐转向更具生物真实性的脉冲神经网络。随着神经科学研究和技术的快速发展，很多研究者认为基于脉冲定时的神经网络是神经信息处理的基础。理论研究已经表明传递单个神经元脉冲序列时域信息的脉冲神经网络其计算能力要强于一般使用Sigmoid为激励函数的人工神经网络模型。目前，人工神经网络在生物种群的进化和学习领域中的应用十分广泛，基于脉冲神经网络的特性，本文重点研究了应用脉冲神经网络模拟种群的进化和学习行为。 达尔文的自然选择学说表明，种群进化过程中，拥有优良性状的个体会更加容易获得繁殖的机会，经过一代一代地继承，这些优良性状成为种群的主要性状。脉冲神经网络个体——自主智能体的进化依赖于脉冲神经网络的结构特性，本文应用了前馈型脉冲神经网络模型，设计了增加噪声算子、权值替换算子和行列交换算子等进化算子。在进化算子的作用下，实现了自主智能体权值的进化。实验结果表明，种群在进化算法的作用下对环境的适应能力逐步提高。 种群进化的同时，自主智能体之间存在学习行为，这种学习行为对提高种群的适应能力有重要的作用。本文研究了文化学习对脉冲神经网络种群的影响，首先确定了教师/学生的文化学习实现方案，然后选择了基于梯度下降的多脉冲误差反向传播算法作为文化学习的具体实现算法，最后在进化算法的基础之上，实现了脉冲神经网络的文化学习。为了更好地表明文化学习对进化种群的重要作用，我们在实验中对比了进化种群和文化学习种群的适应值，结果表明，文化学习可以更好地提高种群对环境的适应能力。

关键词： 脉冲神经网络   并行计算   CUDA   GPU  

摘要： 脉冲神经网络(Spiking Neural Network,SNN)已经广泛应用于各个领域中,并且取得了令人瞩目的进展,其中在数字图像处理方向的应用与日俱增,为智能图像处理提供了一种新的方法。 一般而言,科研人员在研究脉冲神经网络算法时,所采用的是常见的串行算法,即CPU上的运算。由于脉冲神经网络的大规模的并行计算,尽管CPU的计算能力在不断增强,在普通CPU计算机上使用脉冲神经网络还要耗费很长的计算时间。CUDA的出现为解决这一问题带来了新的实现方案。 CUDA(Compute Unified Device Architecture)是NVIDIA公司推出的基于GPU的通用并行计算架构,利用此架构使我们可用GPU解决复杂繁琐的并行计算问题。可在普通PC机上进行原先需要大型机才能进行的运算,对于脉冲神经网络的并行计算同样可以很方便利用这一架构在PC机上进行仿真。随着技术的进步,GPU的计算能力还在快速地提高。 本文通过对CUDA技术的基本编程方式和编程模型深入研究分析。在CUDA技术的基本编程思路和方法的基础上,研究了脉冲神经网络模型并行和CUDA并行的异同点,分析了神经网络结构与CUDA结构的异同点,将脉冲神经网络模型与CUDA编程模型相融合,提出一种基于GPU的脉冲神经网络图像处理的并行算法。并将这样的算法应用到实现基于脉冲神经网络边缘检测和人体皮肤检测的实例中,通过实验将应用所提出的基于GPU的脉冲神经网络图像处理的并行算法所花费的计算时间与C、C#语言实现的运行时间进行比较,结果显示本文所提的算法可得到很大的提速,这为科研与工程人员在PC计算机上仿真大规模的脉冲神经网络提供一种快速的方法。

关键词： 位置细胞   实验鼠   神经细胞   大脑   网格细胞   医学奖   诺贝尔  

摘要： 因发现"组成生物体内大脑导航细胞"的三位科学家分享了2014年度的诺贝尔医学奖,他们分别来自美国的约翰·奥基夫(John OKeefe)和挪威的梅-布莱特·莫瑟尔(May Britt Moser)、爱德华·莫瑟尔(Edvand Moser)夫妇,他们的发现解决了一个困扰科学家和哲学家几个世纪之久的难题——大脑、记忆与位置环境之间的关系——即大脑是如何对我们生活环境产生一个地图并为我

关键词： 机器学习   图论模型   流形排序矩阵   图k均值   脉冲神经网络  

摘要： 机器学习是人工智能的一个分支,其研究的目标是构建一个能够从数据中自主学习出一定的规律(或模式)并将此规律应用于后续数据处理的系统。作为一个基础性的学科分支,机器学习在许多领域有着重要的应用,例如生物信息学、人工智能、航空航天、现代医学等。图论作为一个数学分支,其在机器学习中的研究与应用近年来得到了快速的发展。基于图论的机器学习算法就是把机器学习的问题归结为图论的问题,然后利用图论理论进行分析和求解的一类学习算法。相比较于其他算法模型,基于图论的机器学习算法有着以下优势:一、图论作为一个数学分支,有着深厚的数学理论背景,这为对机器学习算法从理论上分析做了必要的准备。二、图论具有模型简单、概括力强的特点,这使得很多问题可以利用图论模型进行描述和求解。三、图论模型可以利用矩阵描述并利用线性代数和矩阵理论知识进行分析和求解,因此表达形式简洁但富有概括力,同时便于进行深入理论分析。四、基于图论谱分析的机器学习算法很多具有闭合的解析解表达式,或者可以利用凸优化理论进行求解,这样可以求得全局最优解,避免局部最优解。已有的基于图论的机器算法研究主要集中在两个方面:一个是基于图论的半监督学习算法,包括半监督分类算法、半监督降维等;二是基于图论的无监督学习算法,包括谱聚类算法、无监督降维算法等。虽然已有算法在很多应用中取得了成功,但仍有许多不足,概况说来有以下几点:一、图论的半监督学习算法已被成功应用于许多领域,其主要特点是能够利用极少量标记样本对大量未标记样本进行分类,这就减少了很多用于标记样本时所消耗的人力和财力等资源。但半监督学习多为直推式学习且/或预测新样本时运算量较大。监督学习的优势是能够在输入样本空间中构建一个监督模型,从而对已见样本和未见样本都能高效地进行直接分类;其缺陷是要构建一个具有很好泛化能力的模型往往需要大量标记样本进行训练。能否将二者的优势结合,利用极少标记样本在输入空间中构建出一个具有良好泛化能力的高效监督模型是一个很值得探讨的问题,具有很大的实用价值。本文在这方面进行了尝试。二、现有的聚类算法,如谱聚类,虽然能够在很多情况下取得较好的结果,但在应对高维非线性流形分布的数据时仍然有不足,具体表现为:对于不同流形分布出现交叠或有类间有大量歧义点时聚类结果往往不满意或者需要进行复杂的非光滑优化问题求解,从而需要很大的计算量和内存开销;更进一步,聚类算法对于每个类别,无法在给出类别标记信息的同时给出此类中最具代表性的样本点,而这一点在如视频或者文本自动摘要上有着重要应用。三、在处理时空分布数据(spatio-temporaldata)时,由于时空分布数据具有一定的空间分布特性,同时这种分布特性在时间上可能存在不断演化,而且此类数据的数据量一般较大。传统的机器学习算法(如svm)适合于处理静态的向量数据,其很难学习和描述此类时空数据中蕴含的这种复杂的、动态的时空交互演化关系。针对以上问题,本文主要工作和创新点可归结为以下几个方面:一、本文对基于图论的半监督学习算法localandglobalconsistency(lgc)进行了改进,使其具备“各向异性”的传播特性,即在高样本密度区域具有较快的标记信息传播,在低样本密度区具有较慢的标记信息传播,从而抑制类间区域的不正确标记信息传播。在此基础上本文提出了一种两步学习的新型监督学习框架,能够在极少的标记样本数量情况下在输入空间中构建并学习一个具有良好泛化能力的监督模型。二、受到lgc算法和流形排序算法的启发,本文把传统欧氏空间中点云中心概念拓展到黎曼几何中流形中心概念,提出了一种基于图论的k均值算法用于非线性流形聚类。该算法不仅对传统高斯分布类型数据(适合于经典k均值算法)具有很好的效果,而且对于(低维)流形分布的高维数据同样能够给出很好的聚类结果,同时给每一类选出一个最具代表性的样本点,这些代表点在数据集压缩及自动摘要上有着重要的应用。三、进一步,本文针对以上算法中(也是许多其他图论算法中)的关键排序矩阵的计算量大的特点,提出了一种时间和空间均为线性复杂度的快速算法,对于大样本集具有很好的可扩展性,并把该算法引入到神经网络系统结构的分析中,使得网络模型具有多种可视化效果,有助于更好地理解模型和数据。同时在已有工作的基础上本文拓展了一种新型时空数据(spatio-temporaldata)学习架构,NeuCube架构,使原有架构能更好地对任何时空数据进行处理,使早期事件预警以及时空模式识别性能具有较大改善。四、除此之外,本文还对图论机器学习算法中的一些其他问题进行了研究。例如,不同类间往往存在歧义点(也称“桥接点”),这会对很多流形聚类算法的性能造成严重影响。针对这种情况,本文给出了一种有效去除类间歧义点的算法。还有,非线性多变量向量值函数的拟合,常用的方法是多层神经网络或者单个分量

关键词： TIME delay systems   TIME delay estimation   LYAPUNOV exponents   DIFFERENTIAL equations   NUMERICAL analysis  

摘要： We study a class of impulsive neural networks with mixed time delays and generalized activation functions. The mixed delays include time-varying transmission delay, bounded time-varying distributed delay, and discrete constant delay in the leakage term. By using the contraction mapping theorem, we obtain a sufficient condition to guarantee the global existence and uniqueness of the solution for the addressed neural networks. In addition, a delay-independent sufficient condition for existence of an equilibrium point and some delay-dependent sufficient conditions for stability are derived, respectively, by using topological degree theory and Lyapunov-Krasovskii functional method. The presented results require neither the boundedness, monotonicity, and differentiability of the activation functions nor the differentiability (even differential boundedness) of time-varying delays. Moreover, the proposed stability criteria are given in terms of linear matrix inequalities (LMI), which can be conveniently checked by the MATLAB toolbox. Finally, an example is given to show the effectiveness and less conservativeness of the obtained results.

关键词： 导航系统   GPS   位置细胞   网格细胞   内嗅皮层   海马回  

摘要： 大脑研究的又一突破人类的大脑是怎样在纵横交错的复杂空间中辨识物体的位置、寻找行走的方向的?这有赖于我们大脑里的"GPS导航系统"。正是这样一个系统的存在,我们才能知道自己与周围物体的位置关系,才能在环境中识别、记忆并辨别方向。如果没有大脑中的这套定位系统,我们肯定无法在三维世界中活动与生存,这是大脑的基本能力之一。虽然人类的科学水平已经得

关键词： 脉冲耦合神经网络   车辆目标检测   车型分类   车辆检索   交通标志识别  

摘要： 随着道路交通系统的日益发展,人们出行方式的多样化选择,基于机器视觉的智能交通系统在交通管理领域有着更广阔的应用和重要的商业价值。智能交通监控的主要目的是通过摄像头捕捉交通道路上的车辆信息,并通过图像处理与模式识别的方式来完成车辆行为和信息的统计。目前智能交通监控的应用领域主要集中在车辆违章抓拍、道路拥堵分析、卡口车辆监控、收费站车辆管理等诸多方面,这些实际应用所涉及到的图像处理技术主要包括车辆目标检测、车牌定位、车辆检索和车型分类等。从目前的研究情况来看,对于车辆信息的获取很大程度上依赖车辆的运动信息,车牌的定位以及分析在实际应用中也起到了关键的作用,但是在实际应用过程中并非所有的场景都有车辆运动信息的存在,而车辆的牌照信息只能作为车辆的一种参考,同时在交通监控中对于车辆图像的实时处理有着重要的应用价值。如何解决在静态场景中对车辆进行实时处理的一系列问题成为了本文关注的焦点。 人工神经网络是运用生物神经网络的机理,即通过大量相对简单的非线性神经元之间复杂而又灵活的联接来模仿人脑的智能化信息处理过程。本文借鉴仿生学模型,把第三代神经网络——脉冲耦合神经网络(Pulse-Coupled Neural Network,简称PCNN)引入到智能交通图像处理领域。脉冲耦合神经网络与传统的人工神经网络模型相比较,因其具有动态神经元、时空总和特性、波的自动传播、同步脉冲发放等特性而备受关注,同时脉冲耦合神经网络还具有模型简洁、运行速度快、便于硬件实现等特点,本文针对智能交通监控领域存在的静态目标检测、车型分类、车辆检索、交通标志识别等问题,提出了基于脉冲耦合神经网络模型的相对应解决方案。这些方法能有效的完成交通图片相关处理,并提高其运算的实时性。本文的具体工作如下： 1.为了解决静态图像中的车辆目标检测问题,本文提出了基于UL-PCNN模型的脉冲迭代平均熵信息车辆目标快速检测方法。该方法首先利用UL-PCNN模型对搜索框中的静态图片进行脉冲迭代激发,在不同的迭代周期内提取二值图像的熵信息,并将不同周期所得到的熵序列进行平均,把平均熵信息作为判断该图片区域为目标或背景的依据。该方法能快速、准确的检测到静态图片中的车辆目标,对于多车辆目标检测、多尺度车辆目标检测该方法同样有效。 2.为了解决车型的快速分类问题,本文提出了一种基于UL-PCNN模型边缘提取的不变线矩车型分类新方法。这是首次将PCNN方法引入到车型分类系统中,该方法利用UL-PCNN模型对图像进行形态学处理,快速而完好的提取出车辆图片的边缘信息,然后计算出不同类型车辆边缘的不变线矩特征,把这些特征放入在SVM分类器进行训练,生成车型预测模型,实现车型分类。该方法与常用车型分类算法相比,能迅速的通过脉冲激发得到车辆的边缘轮廓信息,而车辆的轮廓信息是判断车型的最大依据。实验证明,该方法在真实道路交通场景中能有效的进行车型分类。 3.为了解决大数据库中的车辆快速检索问题,本文提出了一种基于多通道脉冲耦合神经网络加权模型的多特征融合车辆检索方法。为了便于研究实际交通路口环境下的车辆检索,本文自建了一个车辆图片数据库,该数据库的建立采用了HOG-SVM的车辆特征分类方法来区分车辆图片与非车辆图片。在进行车辆检索时,本文基于多通道PCNN加权模型对车辆脉冲迭代点火比特征进行提取,同时提取车辆最直观的颜色直方图信息进行融合,形成多特征联合检索。由于该联合特征稳定且维数较小,因此采用这种方法进行车辆检索相比于常用算法具有速度快、效率高等优点。 4.为了解决交通标志的快速识别问题,本文针对交通标志自身的特点,提出了一种基于多通道局部加权PCNN特征级联的交通标志识别方法,该方法能快速有效的完成交通标志识别,准确率高。交通标志识别在智能交通系统中有着十分重要的作用,特别是在无人驾驶领域。交通标志图片有着自身的特点,比如分类明确,形状规则等。对于一幅彩色交通标志,首先对图像进行分割,根据不同类型图像的特点,可以把图像均匀的分成若干块,也可以按一定比例对图像进行分块截取。把图像分成不同的空间区域后,利用PCNN特征提取方法在各个区域提取脉冲点火时间信号作为特征。图像的分割是从整体上进行,而对于特征的描述则是按局部图像来完成,这种采用整体图像分割、局部特征提取,并将特征级联的方法能很好的反映图像PCNN特征与像素空间位置的信息。这种算法十分适合于道路交通标志识别。 本文从脉冲耦合神经网络的基本原理出发,深入分析研究了脉冲耦合神经网络的脉冲激发特性,提出了多种改进模型,并将其应用于智能交通领域。通过一系列的实验,表明本文提出的方法能快速、有效地进行静态车辆目标检测、车型分类、车辆检索、交通标志识别,这也为脉冲耦合神经网络在图像处理领域的进一步研究提供了借鉴。

关键词： EXPONENTIAL stability   CONTROL theory (Mathematics)   NEURAL networks (Computer science)   PERTURBATION (Mathematics)   LYAPUNOV functions   TIME-varying systems  

摘要： This paper investigates mean-square robust exponential stability of the equilibrium point of stochastic neural networks with leakage time-varying delays and impulsive perturbations. By using Lyapunov functions and Razumikhin techniques, some easy-to-test criteria of the stability are derived. Two examples are provided to illustrate the efficiency of the results.

关键词： 脉冲神经网络   前向通道   突触   建模   FPGA  

摘要： 脉冲神经网络被誉为第三代神经网络,近年来受到许多相关学者的关注,其优势已在模式识别,计算机视觉等领域得到发挥。脉冲神经网络的硬件化是实现其强大计算能力的重要途径。目前,虽然有比较经典的数学模型来描述脉冲神经网络,但是将这些模型直接实现到FPGA上将会消耗较多的硬件资源和时间资源。因此,本文在脉冲响应模型的基础上,建立了一个适合硬件实现的突触硬件模型,这个模型对脉冲响应模型进行了精准的逼近,在FPGA上实现这个硬件模型可以节省大量的硬件资源和时间资源。根据所建立的突触硬件模型,在Simulink平台上构建了突触的硬件电路,并且得到了理想的仿真结果。然后在突触电路的基础上建立了一个完整的脉冲神经网络前向通道的电路模型,并用这个模型成功的解决了异或问题。而后,对前向通道进行了基于FPGA的可重构实现。最后对今后的工作做出了展望。