课程文献中心 更多>>

关键词： 电子鼻系统   仿生嗅球模型   仿生嗅皮层模型   脉冲编码  

摘要： 电子鼻系统是一种气体检测仪器,由于其快速、便携、准确的优点,广泛运用于食品质量检验、化工材料识别、医学诊断等领域,电子鼻系统是由气体传感器阵列、数据预处理算法和模式识别算法组成的。其中在数据预处理模块中,特征提取过程繁琐复杂,且人工特征提取过程缺乏明确的指导,因此在处理某些数据集时,需要进行繁琐的尝试和实验,这会耗费大量的时间,且影响模式识别的结果。此外,在模式识别领域,现有的很多模型缺乏生物可解释性,这些模型在其设计和运行过程中往往难以与生物系统的工作方式相对应或解释。为了解决以上提出的问题,本文提出了改进的方法: 首先,针对传统电子鼻系统中人工特征提取过程繁琐且准确度不高的问题,本文引入了基于仿生嗅球模型的电子鼻信号特征提取方法,该方法受到哺乳动物嗅觉感受器和嗅球的启发,能够自动提取特征,将传感器输出的电信号转化为脉冲序列,并通过嗅球模型自动完成特征提取。通过与传统处理算法的对比实验,本文证明了该模型在数据处理能力上的优越性,能够提取出数据中关键的特征信息。 其次,为了提高模式识别算法的生物可解释性和分类准确率,本文构建了基于SNN的嗅觉信号传导与识别网络。该网络完善了嗅球模型中神经元的连接结构,设计了具有生物可解释性的脉冲编码算法,实现了仿生嗅觉感受器,并搭建了嗅皮层模型,嗅皮层模型能够对气味信号进行更深层次的分析和处理,从而实现对气味特征的更准确识别和分类。通过实验验证,本文发现使用嗅皮层模型进行分类的效果明显优于传统分类器,且具有鲁棒性和强大的泛化能力,这一模型的建立不仅提高了电子鼻系统的识别性能,还为深入理解气味感知的生物学基础提供了有益的参考和启示。

关键词： CNN到SNN高精度转换   脉冲神经网络   双阈值记忆神经元   自适应阈值   心电分类  

摘要： 脉冲神经网络(Spiking Neural Network,SNN)由于在神经形态芯片上低功耗和高速计算的独特性质而受到广泛的关注。尽管脉冲神经网络具有诸多优势,但由于脉冲信号的不可微性,训练过程变得更加困难。将卷积神经网络(Convolutional Neural Networks,CNN)转换为SNN是一种有效的训练方法,通过特定算法将CNN中的参数转换为SNN中的参数,从而解决了训练的难题。CNN到SNN的转换作为训练SNN的一种高效算法,仍面临精度下降和推理时间长的问题。本文从神经元模型、激活函数和训练算法三方面入手研究,主要的研究内容和创新点如下: (1)通过对转换过程中的误差进行详细地分析,将其分解为“量化和裁剪误差”以及“不均匀误差”。提出了一种改进SNN阈值平衡的自适应阈值算法,通过使用最小化均方误差更好地平衡量化误差和裁剪误差。此外,基于IF神经元模型引入了双阈值记忆机制,有效解决了“不均匀误差”。 (2)偏离常规CNN太多的定制CNN会降低其性能,导致转换后的SNN继承其性能损失。为了最小化分层转换误差,同时保持定制的CNN的性能尽可能接近常规CNN的性能。本文重新分析了IF神经元模型和Re LU激活函数之间的关系,提出了滑动分段Re LU(Slide Piecewise Re LU,SPRe LU)激活函数并将其用于CNN的训练,然后以极小的转换误差将CNN转换为SNN,得到精度高、延迟低的SNN模型。 (3)将CNN转SNN学习算法应用于心电信号(Electrocardiogram,ECG)分类,设计了一种两阶段CNN工作流程,该工作流程具有早期停止功能,以减少处理正常心电图心跳的时间和能量成本。然后将训练好的CNN网络转换为SNN网络,以进一步降低能耗。 实验结果显示,本文所提出的神经元模型、激活函数以及改进的训练算法在准确性和延迟方面表现优异。在CIFAR-10、CIFAR-100数据集以及MIT-BIH心律失常数据库上取得了卓越的成绩,尤其是在CIFAR10数据集中,仅用两个时间步长便达到了93.98%的高精度,充分验证了算法有效性。

关键词： 睡眠剥夺   炎症反应   PGD2   血脑屏障的外排活动  

摘要： 对绝大多数动物而言,睡眠是不可或缺的。针对果蝇、小鼠、大鼠、狗等多种实验动物的实验表明,长时间睡眠剥夺会导致动物死亡。人类一生需要花费约1/3的时间用于睡眠,睡眠不足会导致多种健康问题,如易受感染、出现炎症反应或引发慢性免疫系统疾病。然而,关于睡眠的具体功能以及睡眠机制的研究尚不明确,睡眠如何调控免疫系统,睡眠不足又如何导致此类负面的健康影响,具体机制亟待解释。 通过实验手段控制人类实验志愿者或实验动物睡眠时长并观察机体免疫系统状况,是探究睡眠如何调控天然免疫系统的有效方案。在基础研究中,完全睡眠剥夺是最常用的实验方案。以往,研究者们开发了一系列适用于小鼠的睡眠剥夺系统。然而这些睡眠剥夺系统均难以对抗小鼠自身睡眠稳态调节带来的睡意,无法对小鼠进行充分的睡眠剥夺,因而对于睡眠调控免疫系统的研究往往存在实验表型不够显著的现象,继而无法触及机制层面。由此,构建一套能够长时间持续对小鼠进行睡眠剥夺的实验系统是进行睡眠功能研究的第一步。 本研究设计并搭建了一种新型睡眠剥夺系统——“Curling Prevention by Water”,简称为CPW睡眠剥夺系统。基于脑电图/肌电图的睡眠/觉醒分析方法证明,CPW睡眠剥夺系统可以高效剥夺小鼠绝大多数的非快速眼动睡眠(95%)和快速眼动睡眠(83%)。因而,CPW睡眠剥夺系统可以实现在无人为监督的情况下,使小鼠在长时程(超过4天)中持续保持觉醒状态(觉醒时间超过96%)。 实验结果表明,在长时间的睡眠剥夺后,小鼠表现出严重的系统性炎症反应,并且在睡眠剥夺的4天时间(含睡眠剥夺后的睡眠回补阶段)内,小鼠死亡率达到75%。在睡眠剥夺的过程中,首先可以观察到小鼠体内产生大量炎性细胞因子及趋化因子(以白介素-6和CXCL1为代表)。炎性因子在循环系统中的积累将大量中性粒细胞招募到血液中,导致小鼠出现中性粒细胞增多症。随后,睡眠剥夺小鼠开始出现多器官功能失调综合征,表现为血液生化指标的改变和伴随着炎性细胞浸润的多器官损伤。最终,大多数睡眠剥夺小鼠死亡。进一步研究结果表明,在睡眠剥夺过程中,为小鼠提供治疗细胞因子风暴的药物(如对乙酰氨基酚或皮质酮),能够显著降低睡眠剥夺导致的死亡;此外,研究还发现免疫缺陷小鼠(如M-NSG小鼠)能够完全抵抗4天睡眠剥夺导致的死亡。因此,对小鼠而言,长时间的睡眠剥夺能够诱发危及生命的类细胞因子风暴综合征。 在哺乳动物中,睡眠通常被认为是一种大脑活动,因此本研究着眼于睡眠剥夺对大脑的改变。研究发现,睡眠剥夺会显著增强血脑屏障的主动外活动排并且破坏外排活动的昼夜节律。进一步研究发现,在睡眠剥夺过程中,大量前列腺素D2(PGD2)在小鼠大脑中积累,并且伴随着血脑屏障上ABC转运蛋白4(ABCC4)的外排活动增强,被转运到外周循环系统中。通过PGD2/前列腺素D2受体(DP1)信号通路的激活,PGD2在循环系统中积累导致免疫反应的出现。通过药理学手段(如使用ABCC拮抗剂或DP1拮抗剂)或者遗传学手段(如敲除Abcc4或前列腺素合成酶基因(Ptgds))抑制或阻断脑源PGD2——外周DP1信号通路,可以显著降低睡眠剥夺导致的炎症反应。 综上所述,本研究证明了睡眠参与调控中枢神经系统和免疫系统的互相作用,并揭示了 PGD2-DP1信号通路在介导睡眠缺失所导致的免疫反应过程中发挥的核心作用。

关键词： 脉冲神经网络   序列学习算法   记忆模型   运动识别模型   视网膜模型  

摘要： 尽管人工智能技术在各行业广泛应用,但与人类智能仍有显著差距。为了弥补这一差距,类脑计算通过模拟生物大脑的结构和功能,旨在打造具备类脑智能的系统。脉冲神经网络作为类脑计算的重要分支,精确模拟生物神经元的脉冲发放模式,在处理时序数据上优势显著。然而,目前多数脉冲神经网络的模型与算法仍过度依赖传统人工神经网络方法,导致其时序特性未能得到充分发挥,在性能上与人脑存在显著差距。如何深入挖掘脉冲神经网络的潜力,提升其信息表达和处理能力,充分发挥SNNs的时序优势,同时结合生物机制与科学发现,探索构建更加智能的类脑模型,以缩小人工智能与人类智能间的差距,是类脑计算领域的关键问题。针对上述问题,本文围绕脉冲神经网络模型及算法展开研究,借鉴生物结构和功能,结合大脑仿生机制,整合不同脑区的信息传递方式,提出多种基于生物激励的脉冲神经网络学习算法和模型。主要创新点如下: (1)针对经典SNNs学习算法中存在的灾难性遗忘的问题,提出序列学习算法RLSBLR(Recursive Least Squares-Based Learning Rule),以增强序列学习的精度、效率和鲁棒性。RLSBLR基于膜电压和放电阈值差异构建误差函数,并通过当前时刻的权重重新计算先前错误时刻的误差信号以维持学习信息完整性。同时,受生物延迟传输机制的启发,在算法中融入延迟学习,解决静默窗口内的学习难题,提高算法在稀疏脉冲序列中的学习性能。在模拟实验、语音识别和故障诊断上的结果表明,RLSBLR的学习性能优于经典序列学习算法。 (2)针对多序列记忆和多时间步序列记忆的问题,提出基于海马体结构和脉冲神经网络的序列记忆BSTM(Bionic Spiking Temporal Memory)模型,提高序列记忆的检索准确率及鲁棒性。现有模型在多序列预测时易产生冗余或错误信息,且多时间步预测需指定时间步长,限制了模型的灵活性和实用性。BSTM模型借鉴大脑锥体神经元和神经柱结构,结合海马体信息传递机制,通过模拟序列记忆的编码、存储和检索过程,有效实现多序列和多时间步记忆。实验结果表明,BSTM模型在文本序列记忆上的鲁棒性和精度远超其他记忆模型。 (3)受海马体和大脑皮层的神经元信息传递启发,基于BSTM融入抑制和神经振荡机制,提出一种新的序列记忆模型BSSM(Bionic Spiking Sequence Memory),进一步增强记忆模型的检索精度和抗噪能力。通过抑制性突触引入竞争机制,减少噪声和非相关神经元及神经柱的活动,提升特征选择能力并优化信息传递能力。通过引入振荡机制,大多数皮层神经元倾向于在振荡波峰附近发放脉冲,与大脑中的振荡现象相类似,有助于增强神经元的同步性和信息传递效率。在文本检索应用中,BSSM模型展现出比柱模型、脉冲网络模型和深度学习模型更高的精度和鲁棒性。 (4)为了探索大脑MT(Medial Temporal)区到MST(Middle Superior Temporal)区的信息提取过程,提出一种MT到MST的运动识别模型。该模型借鉴大脑视觉背侧通路的MT到MST的信息传递方式和层次结构,结合猴子大脑采集的MT与MST神经元的电生理数据,通过突触学习后可有效地提取生物运动形态、身体方向和行走方向的信息。实验结果表明,该模型的MST神经元对不同运动刺激响应各异,其放电模式和响应特性与生物学研究结果相似,验证模型在处理运动信息方面的仿生性。通过分析该运动模型的结果,推测神经元的功能,为进一步生物实验的侧重点提供方向。 (5)针对现有视觉区域模型未能充分利用生物机制和神经元特异功能的问题,提出一种视网膜启发的图像去雾模型。该模型借鉴生物视网膜的层次结构和神经元特性,模拟从感光神经元到神经节神经元的信息处理过程,并结合侧抑制、中心-周围拮抗感受野、颜色对抗、去抑制等生物机制。通过结合颜色和亮度信息,该模型直接生成清晰的图像,有效减少雾霾影响。在去雾数据集上的实验结果表明,该仿生模型具有与经典去雾模型相当的性能。

关键词： 脉冲神经网络   STDP   学习算法   图像分类  

摘要： 作为神经计算和类脑科学研究的核心,脉冲神经网络(Spiking Neural Networks,SNN)以最贴近生物真实性的方式实现人工智能,且能够降低计算平台的能耗,在当前碳中和绿色发展背景下,已然成为人工智能研究的焦点。然而训练困难、费时等问题一直阻碍着脉冲神经网络的发展,研究高效的学习算法是当务之急。基于脉冲时间依赖可塑性规则(Spike Timing Dependent Plasticity,STDP)的学习算法非常符合生物学习机制,但较之其他学习算法,性能表现稍逊,为此本文围绕此问题展开相关研究。 早期基于STDP规则的学习算法多为无监督训练,而且所训练模型结构主要是全连接网络,模型表现与ANN有较大差距。随着深度学习的发展,陆续出现了结合深度学习技术的深度SNN,例如卷积脉冲神经网络。虽然模型表现有所提升,但是依然面临着特征冗余、脉冲发射频率不稳定等诸多问题。此外,近些年出现的基于STDP规则的半监督学习算法,大致可分为无监督预训练和监督微调两个部分,其中预训练阶段存在着学习效率低、冗余计算等问题,而监督微调阶段,一般是在梯度计算部分结合STDP表达式,没有充分利用STDP进行权重更新,忽略了STDP规则的生物特性,并且计算形式复杂。为此,本文从两个方面提出了相应的学习算法,具体内容如下: 1)针对STDP无监督学习算法,本文提出了基于自适应阈值LIF神经元、批次更新STDP以及动态策略的无监督学习方法。通过引入自适应阈值,提高模型的稀疏性、自适应性。采用批次更新突触权重的方式,有助于加快训练,避免收敛不稳定性。对于神经元之间的突触连接,采用动态侧抑制策略来保证层内特征多样性,提高学习能力,另外采用动态突触滤波器来调节输入电流,增强发射频率稳定性。最后,通过图像分类应用以及相关实验对方法的有效性进行验证。 2)针对STDP半监督学习算法,从两个阶段进行改进。对于无监督预训练,在STDP权重更新中采用依赖于当前突触权重的非线性项,提高突触特征学习效率,依据学习目标来确认单位层是否训练完成,并通过WTA和伪神经元减少冗余计算,提高计算效率。对于监督微调阶段,通过在反向传播时计算不同层的引导值来指示STDP更新权重,采用三值化函数简化计算形式。最后,通过实验证明所提出的方法相比同类方法具有一定优势。

关键词： 阻变存储器   自适应自反馈神经元   脉冲神经网络   权重量化   手写数字识别  

摘要： 脑科学与人工智能研究正在相互促进中迎来飞速发展,具有交叉学科特点的神经网络也因此受到人们日益广泛的关注。当前以深度卷积神经网络(Deep Convolutional Neural Network,DCNN)为代表的人工神经网络(Artificial Neural Network,ANN)得到研究与发展,虽已在人工智能领域取得了一些成果,但仍存在一些局限性:由于网络的连接密集度、复杂度较高,导致计算和存储资源需求极高;同时,由于时间上的关联性较弱,传统网络模型难以处理事件驱动的时空信息,且训练通常需要大量样本。为解决这些问题,研究人员提出了模仿生物大脑神经元运行机制的第三代神经网络,即脉冲神经网络(Spiking Neural Network,SNN)。由于SNN在信息传递过程中的稀疏连接特性,使其具备更高的计算效率和资源利用率;同时,SNN能够更好地处理实时事件和动态环境中的信息,因此更加适用于事件驱动的计算,展示出较强的生物性,且在训练过程中样本需求相对较少。但基于传统硬件电路平台模拟SNN仍存在一些问题,主要包括如何实现突触权重的无条件约束写入、如何提高神经元硬件电路的仿生程度、如何设计网络外围控制电路等。针对这些问题,本文围绕网络结构、神经元、网络外围控制电路等方面展开系统研究,设计了基于自适应自反馈神经元的脉冲神经网络硬件平台,为实现低能耗神经形态芯片设计提供可行方案和参考,具体内容如下: (1)为实现SNN硬件化,本文搭建了基础网络模型,并针对神经元、突触等硬件单元进行设计与验证。首先基于RRAM设计具有高可塑性的忆阻突触电路,单元采用1T1R结构,不仅可以实现精准控制突触电路中每个单元,且解决了漏电流问题,进一步降低电路能耗。其次设计LIF神经元电路,基于CMOS搭建电流镜电路、积分电路、不应期电路等,实现脉冲发放功能,且由于不应期电路的存在,神经元不会对连续刺激信号做出连续不断地反映,提高神经元电路生物性。此外,针对突触电路与神经元级联问题,设计了一个基于Verilog-AMS语言的信号同步采集器,该采集器能够高效率、无失真地将突触电路输出的电流信号同步输入到神经元电路中,增强网络稳定性,并为后续神经元功能优化提供基础。 (2)为提高硬件电路的仿生程度,对LIF神经元电路做进一步优化。在生物系统中,神经元可以根据输入信息自适应地调整膜电位强度,进而调整脉冲发放频率,根据此特性,设计自适应电路模块,使LIF神经元电路也可以自适应调整积分电路中阈值电压大小,从而模拟神经元自适应功能。除此之外,神经元之间竞争机制也非常重要,其通过自反馈增强兴奋神经元间的连接强度,同时抑制其他神经元,因此,设计自反馈电路使LIF神经元电路通过竞争机制以提高识别准确率。最后,为使LIF神经元电路能够最大程度模拟生物神经元,把自适应电路和自反馈电路融合在一起形成自适应自反馈电路模块,使LIF神经元不仅可以根据输入信号和输出信号自适应调整自身膜电位强度,还可以通过神经元之间的竞争机制增强兴奋神经元间的连接强度,提高网络稳定性、准确性和学习能力。 (3)根据前两部分的设计与优化,搭建网络外围控制电路,并提出新的权重量化方法,这种方法在不改变电路结构前提下,实现正负权重共同写入,极大地提高网络生物性和稳定性;其次优化网络最终输出模块,该模块可以对网络识别结果进行快速分析,提高数据分析效率;最后,本文基于MNIST数据集对设计的硬件仿真平台进行手写数字识别验证,不仅实现单张图片准确识别,还支持多张图片连续识别,最终得到90.8%的识别准确率,与相同网络结构的软件平台92%的准确率相比,仅有1.2%的差距。以上数据证明所设计SNN硬件平台的可行性和应用价值,为后续SNN相关研究提供参考。

关键词： 高压电力设备   故障诊断   脉冲神经网络   声音信号   深度学习  

摘要： 高压电力设备是电力系统的核心部件,一旦发生故障,会导致电力系统局部停电甚至大规模瘫痪,直接带来巨大的经济损失。传统智能诊断方法由于存在停机检测、造价昂贵、耗时耗力等固有缺陷,限制了其广泛应用。基于声信号的高压电力设备故障诊断方法是一种非接触式、廉价且便捷的诊断方法,能有效地克服传统智能诊断方法的固有缺陷。然而,前期的研究大多是参考相对成熟的机械故障诊断方法进行低级特征提取及诊断模型搭建,导致其诊断准确性和鲁棒性较低。此外,前期的研究也缺乏对其诊断结果的有效解释,导致模型的可信任度降低。实践表明,经验丰富的巡检电工能通过高压电力设备声信号精准地判断其是否存在故障,证明了人耳听觉系统具有优异的声信号分析与识别能力。同时,受人耳听觉系统感声机理启发的梅尔频谱变换在声信号处理领域取得了巨大成功,也侧面印证了人耳听觉系统的出色性能。 鉴于此,本课题受人耳听觉系统感声机理的启发,以高压电力设备声信号为出发点,开展了基于类脑听觉的高压电力设备故障诊断研究,旨在探索一种无损、方便、精确、廉价、且具有可解释性的高压电力设备故障诊断方法。主要研究内容如下: (1)开展了实验平台搭建及高压电力设备故障声特性分析研究。分析了两种高压电力设备的产声机理及声传播途径,即气体绝缘开关和干式变压器;基于高压电力设备声信号采集的国际标准,搭建了高压电力设备声信号采集实验平台;调研了两种高压电力设备的常见故障类型,并制定了故障模拟方案;获取了不同状态下的高压电力设备声信号,并搭建了多任务高压电力设备声数据库,为后续的研究奠定了数据基础;基于时频分析法,对比分析了高压电力设备在不同状态下的声信号特性,为诊断结果提供辅助性解释。 (2)针对在基于声信号的高压电力设备故障诊断中,缺少一种有效的低级生理特征提取方法的问题,开展了外周听觉系统建模及高压电力设备声信号低级生理特征研究。分析并揭示了外周听觉系统的感声机理,以拟定外周听觉系统的建模目标;基于卷积编码器-解码器架构及模块化建模策略,构建了完整的外周听觉系统模型;基于定性定量相结合的方法,对比分析了所建模型与外周听觉系统计算模型的输出,验证了所建模型的精确性;基于所建模型,提取了高压电力设备声信号的低级生理特征;结合经典的深度学习模型,探究了不同的低级生理特征在高压电力设备故障诊断上的性能差异,并以此确定了后续听觉中枢模型的输入特征。 (3)针对在基于声信号的高压电力设备故障诊断中,诊断模型存在准确性和高级特征提取能力不足的问题,开展了基于单尺度类脑听觉模型的高压电力设备故障诊断方法研究。分析并揭示了听觉中枢的感声机理,以拟定听觉中枢的建模目标;基于脉冲神经网络及层次化处理策略,构建了单尺度听觉中枢模型ACSNN;结合外周听觉系统模型,运用模块化建模策略,构建了单尺度类脑听觉模型Brain LH;基于对数MFCC谱图及当前最先进的深度学习模型,构建了基于传统信号分析的对比方法;针对多任务高压电力设备声数据库中各类样本不均衡问题,提出了公平的评价指标UAR;结合t-SNE方法,从诊断准确性和高级特征提取能力两个方面对比分析了Brain LH模型和对比方法,验证了Brain LH模型在高压电力设备故障诊断上的优异性,证明了运用层次化处理策略及模块建模化策略进行类脑听觉系统建模的合理性和有效性。 (4)针对单尺度模型存在多尺度特征信息丢失的问题,开展了基于多尺度类脑听觉模型的高压电力设备故障诊断方法研究。总结了多尺度深度学习建模策略,并结合听觉中枢的多尺度感声机理,拟定了多尺度听觉中枢的建模目标及多尺度模拟方案;基于层次化处理策略及多尺度特征融合策略,利用PLIF神经元及脉冲神经网络,构建了多尺度听觉中枢模型MAc Snn;结合外周听觉系统模型,运用模块化建模策略,搭建了多尺度类脑听觉模型MBrain LH;基于MBrain LH模型,构建了NBrain LH对比模型;基于评价指标UAR和t-SNE方法,从诊断准确性和高级特征提取能力两个方面验证了MBrain LH模型在高压电力设备故障诊断的优异性,证明了多尺度特性的引入对类脑听觉模型性能的提升具有积极的影响。 (5)为了探究类脑听觉模型鲁棒性及其诊断结果可解释性的问题,开展了类脑听觉模型鲁棒性分析与可解释性研究。基于多任务高压电力设备声数据库及不同信噪比高斯白噪声,运行加性噪声叠加策略,模拟了不同程度的强背景噪声环境;基于多样化的强背景噪声环境,从多个角度探究了类脑听觉模型和各种对比方法的鲁棒性;基于可解释AI技术,搭建了用于解释类脑听觉模型的方法;基于可解释方法及高压电力设备声信号特性,多方面剖析了类脑听觉模型在不同强背景噪声环境下的模型内部决策逻辑,验证了其建模的合理性和有效性。 该论文有图134幅,表18张,参考文献150篇。