课程文献中心 更多>>

关键词： 慢性睡眠障碍   胶质类淋巴系统   物质清除   神经退行性疾病  

摘要： 睡眠是必备的生理过程,具有神经系统内环境维稳、能量代谢平衡等重要作用。胶质类淋巴系统是近年来新发现存在于中枢神经系统中,由星形胶质细胞结构和功能介导的脑脊液循环-交换体系,它被认为在脑内物质清除过程中扮演着重要角色。胶质类淋巴系统在睡眠期呈高功能状态,急性睡眠剥夺即可导致代谢废物清除减缓。同时,多种神经系统慢性疾病常伴睡眠障碍的临床表现,且严重程度常与病程和预后密切相关,既往认为由神经元损伤或丢失导致,但具体机制不明,临床也尚缺少有针对性的干预手段。近年来研究报道称,阿尔兹海默病、脑卒中等神经系统疾病中,胶质类淋巴功能受损明显,物质清除效率降低。关于慢性睡眠障碍-神经系统疾病-胶质类淋巴系统功能异常三者之间的因果关系,目前存在激烈学术争论。本文回顾总结了近年来相关领域的研究报道,为进一步探究慢性睡眠障碍的发生机制提供依据。

关键词： 合理膳食   危险因素   发病风险   记忆储存   日常生活   大脑   老年人  

摘要： 很多老人常感慨,随着年龄增长记性越来越差。这是因为,大脑会不同程度地发生老年性脑改变,使记忆储存和提取的物质基础发生了改变,不能对新学习的知识进行编码和储存,就表现为记忆力下降。若老年人出现严重的记忆力下降,应当予以警惕;若忘记的事经过别人提醒后会想起来,则不需要治疗。日常生活中,合理膳食能预防大脑退化的某些危险因素,减低记忆变差甚至痴呆的发病风险。

关键词： 前沿科技   区域统筹   战略发展方向   长三角   产业链竞争力   人工智能   大脑功能   生活方式变革  

摘要： 近年来,长三角区域高度重视类脑智能产业发展,均将发展类脑智能作为战略发展方向。浙江省拥有发展类脑智能的良好条件,大力发展类脑智能是大势所趋随着数字时代加速来临,浙江省以人工智能为核心的数字经济应用加速发展,积极培育类脑智能产业发展,有利于深化数字经济"一号工程"2.0版,提升产业链竞争力;有利于促进数字生活方式变革,满足美好品质生活需要;有利于提升产业大脑功能,更好促进区域统筹管理;有助于从前沿科技突破,打造创新强省,更好融入长三角科技创新网络。

关键词： 车辆重识别   脉冲神经网络   模糊情景   深度学习   注意力机制  

摘要： 随着人工智能的高速发展,社会对终端人工智能设备的效果、种类及功耗要求在不断升高。在终端设备面对的问题中,车辆重识别任务对社会的重要性是十分明显的。运行成熟的车辆重识别系统,可以对社会中的车辆进行高效的管理,对社会治安、交通稳定起到了重要的作用。但在当今疫情对社会的影响下,终端人工智能设备功耗过高的问题逐渐凸显。在智慧市政终端智能化体系中,一旦终端设备功耗超过阈值,会造成终端设备不能正常运行或运行效果不佳的后果。同时在数据传输过程中,当终端设备遭遇极端天气或外界恶劣条件影响后,若终端设备产生极大的损耗,则需要重新进行定制终端设备,导致大量时间、预算和人力的浪费。本文针对车辆重识别任务在边缘设备上整体功耗高、低质量数据处理效果差的问题,提出了一种融合脉冲神经网络的模糊情景车辆重识别算法(Fuzzy Scene Vehicle Re-Identification using Spiking Neural Network)。论文在以下三个部分进行了研究与工作:1)论文设计了一种使用脉冲神经网络(SNN)进行模糊特征提取的模型,用于完成模糊情景下的车辆重识别任务。在模型中,使用脉冲神经元替换激活层,并且将输入与输出进行残差计算,同时添加通道空间注意力机制,在不提高算法整体功耗的基础上完成特征提取任务。实验表明,算法可以在模糊数据集上完成车辆重识别任务,并且效果稳定,可以应用于实际场景。2)论文针对上一部分研究中算法整体功耗过高的问题,设计基于脉冲神经网络的全局特征提取模型。在模型中,使用脉冲Res Net50网络模型,同时设计网络结构避免脉冲神经网络出现梯度爆炸、梯度消失的问题。实验表明,脉冲神经网络在功耗上有显著优势,使用脉冲神经网络作为骨干网络的终端芯片可以适配终端设备,有良好的稳定性,可以有效降低算法整体功耗。3)论文将前两部分研究中设计的脉冲神经网络全局特征提取网络模型和模糊特征提取网络模型进行结合,同时使用其他方法对整体优化,得到可以在模糊情景下进行车辆重识别任务的低功耗算法。算法在将两部分融合后训练时间变快,迭代次数减少,表明算法在车辆重识别任务中功耗低且性能优秀,可以完成真实场景下的车辆重识别任务。

关键词： 脉冲神经网络   反向传播算法   泄漏整合发放模型   N-MNIST   类脑智能  

摘要： 虽然人工智能技术已经取得了令人瞩目的成果和巨大的进步,但是离最终实现计算机科学家追求的通用人工智能仍有巨大的技术差距。而类脑智能被认为是可能实现通用人工智能的技术途径,同时它也是新一代人工智能的研究方向之一。脉冲神经网络(Spiking Neural Network,SNN)是类脑科学研究中的重点部分,也是目前最具有生物意义的网络模型。本文研究了基于脉冲神经网络的手写数字识别方法并设计和实现了手写数字识别系统,论文主要工作如下:(1)将前馈SNN模型与CNN中的卷积思想结合构造了CSNN模型,使用MNIST训练时测试集上的识别率达到了99.2%。(2)将模型在经典的MNIST数据集和神经形态数据集N-MNIST上进行训练,探究了在使用静态和动态数据集训练时SNN模型的表现差异。(3)基于CSNN模型搭建了手写数字识别系统,其中手写数字收集端是Android系统的平板,数字推理端是ARM架构树莓派单板。本文将脉冲神经网络成功应用于手写数字识别任务中,具有较好的理论意义和工程应用前景。

关键词： 图像识别   脉冲神经网络   脉冲时空通道   类脑计算  

摘要： 近些年来,随着深度学习的崛起,人工智能逐渐成为时代的主题,在计算机视觉领域,以卷积神经网络(Convolutional Neural Network,CNN)为代表的深度神经网络发展迅速,性能持续创造新高。然而,由于人脑实际是基于脉冲编码的信息处理方式,这与传统人工神经网络的连续数值计算有很大的区别。随着类脑智能的提出,被誉为第三代神经网络的脉冲神经网络(Spiking Neural Network,SNN)重新引起学界的研究兴趣,它将输入信息编码成脉冲序列,在预定的时间里逐个输入网络。不仅如此,脉冲神经网络采用的神经元也是仿生的,它的输入计算过程模拟了生物神经元的膜电位累积过程,内部激活函数模拟了生物神经元的动作电位发放过程。尽管具有仿生的特性,SNN的训练仍然存在着巨大的挑战。一方面,由于天然的不可微分特性,经典的反向传播(Back Propagation,BP)算法一直无法很好地适用于脉冲神经元,这导致很长一段时间SNN是基于无监督的学习,很难在分类任务上达到好的效果。另一方面,由于在时间上的记忆特性,SNN在仿真平台上无法完全地并行计算,这直接导致SNN的训练时间是ANN的好几十甚至上百倍,因此纯SNN的架构往往规模较小,很难达到常见CNN那样的大规模。基于上述SNN的局限性,本文综合考量这两个方面,提出了一种基于脉冲时空通道的SNN架构,并针对此架构推导了直接监督算法,本文的贡献和创新点如下:(1)改进了传统的迭代漏积分发放模型(Leaky Integrate-and-Fire,LIF),通过引入新神经元模型,网络的收敛速度加快,节省了SNN的训练时间成本。该方法通过将神经元输入电流的系数固定为1,即让输入在当前时间点不泄漏,而只是让神经元的记忆信息发生衰减。这一点在生理上模拟了神经元对原有信息的遗忘和保留对当前信息的专注,本工作的工作中认为该思想更符合常理。(2)提出原创性的脉冲时空通道(Spiking Spatio-Temporal Channle,SSTC)的概念,并引入SNN中,在时间维度上拓展了网络权重,得到了新的架构,这种架构在不影响网络训练时间成本的前提下,提升了图像分类精度。例如,假设网络一次迭代的时间窗设为30,那么将有30套不同的权重参数用于匹配每一个时间点。通过这种方式,网络可训练的参数增加,但是并没有增加神经元数目的开销,每个时间点只是取出其中的一套权重进行计算,因此模型的前向传播时间并不会受到影响,进而网络的推断时间也就较原来没有增加。具体而言,使用新的SNN架构,本工作在数据集MNIST上得到了目前同等网络规模下相对优异的精度,达到了99%。针对此架构的SNN多层感知机模型(Multilayer Perceptron,MLP),在时间和空间上推导了其BP算法,发现由于引入了SSTC,该BP算法相较其他SNN的训练算法尤为精炼简洁,一定程度上降低了计算复杂度。(3)针对脉冲卷积神经网络模型(Spiking Convolutional Neural Network,SCNN),通过引入一个编码层,分离了卷积与全连接层,让卷积层专注于对原始信息特征的提取,随后经由编码,让全连接层以新的SNN架构运行,专注于对特征的推断。经数据集CAFIR-10对比验证,此网络较不使用卷积自编码或者不引入脉冲时空通道两种情况识别正确率得到了大幅提升。

关键词： 脉冲神经网络   无监督学习   细粒度图像分类  

摘要： 人脑作为人类处理各种事务的运行中枢,拥有对现实场景实时反应的能力和高效处理复杂问题的能力。类脑计算希望能够参照生物的大脑结构和神经形态,探索不同且更为智能高效的信息处理模式、大规模计算架构和芯片设计方法等。Spiking神经网络（SNN）作为类脑计算的研究分支,拥有不同于传统人工神经网络的显著特点,那就是它能够处理复杂的时空信息,并且具有低延时、低功率、低复杂度的特性。STDP学习规则是SNN中的重要学习规则,它与脑内神经元的突触权重更新方式高度相似,其高仿生特性具有更强的生物学合理性。本文针对基于STDP的SNN模型在细粒度图像上性能欠佳的问题,通过对模型结构的逐层分析,提出一种细粒度图像分类的优化模型,即细粒度脉冲深度神经网络（Fine-grained Spiking Deep Neural Network,FGSDNN）模型。并将该模型运用于具有细粒度特点的医学图像分类任务中。本文的主要工作包括:1.为了改善基于STDP的特征选择的特征倾向性,本文基于生物视觉通路的动态阈值特性,提出了一种基于视觉通路的全局感受野结构。全局感受野结构能够无监督地学习不同类别图像中通用的特征信息,并通过反向抑制过程在脉冲编码阶段实现对脉冲序列的数据增强。具有细粒度特点的图像经过全局感受野结构处理后具有更差异化的特征信息,有利于模型后续的特征提取过程。2.本文提出一种基于脉冲且可快速学习的分阶段卷积层。普通脉冲卷积结构在对细粒度图像进行特征提取时,不同卷积核之间学习到的特征相似程度高,容易干扰对细粒度图像的分类。阶段卷积层改进了卷积层的学习过程,能够实现分阶段地学习,加大了卷积核各个阶段对于不同级别特征敏感度的差异性,整体结构学习到更多的图像信息,从而有效提升卷积结构的特征提取效果。3.结合提出的两种改进结构,提出一种细粒度图像分类的优化模型FGSDNN。在实验阶段将该模型运用于具有细粒度特点的医学MRI图像和CT图像的分类任务上,通过可视化和实验结果的方式对比分析了FGSDNN模型与同类Spiking模型以及基于迁移学习的CNN模型之间的性能表现,应用结果显示优化模型对细粒度图像具有良好的分类效果。

关键词： 脉冲神经网络   FPGA   H-H神经元模型   化学突触模型  

摘要： 随着社会迈入信息化和智能化时代,人们对人工智能提出更高的要求。受人类大脑工作机制的启发,以脉冲神经网络为基础的类脑计算系统具备更接近于人脑的信息处理机制,具有高度的并行、极低的功耗和存算一体的特征,受到国内外学者的广泛关注。研究脉冲神经网络的硬件实现,旨在建立可以突破传统冯·诺伊曼架构不足的新型类脑计算系统。本文从硬件实现脉冲神经网络建立类脑计算系统角度出发,探究基于FPGA(Field Programmable Gate Way)硬件实现脉冲神经网络的思路与方法。本文重点对单神经元与脉冲神经网络的工作特性、离散化模型搭建与硬件实现展开研究。主要工作内容如下:(1)单神经元与脉冲神经网络的数值模拟分析。首先,通过Simulink软件对H-H神经元模型进行仿真分析,探究其在不同外部信号刺激下神经元的动作电位响应以及各离子通道最大电导参数对神经元放电特性的影响;然后,通过对脉冲神经网络中突触前后神经元动作电位进行仿真分析,探究化学突触模型各参数对动作电位传递的影响。研究发现,神经元模型的动作电位响应与外部输入信号有关;各离子通道最大电导参数对神经元模型放电特性有不同程度的影响;通过改变化学突触可逆电位和电导参数可以有效地控制神经元之间动作电位的传递。本文通过对单神经元及脉冲神经网络数值模拟分析,为建立脉冲神经网络硬件系统提供理论基础。(2)单神经元模型的搭建与硬件实现。首先,利用DSP builder平台完成离散化H-H神经元模型的搭建,并对其接入不同的外部信号进行仿真测试。然后通过Quartus软件完成H-H神经元模型的驱动电路设计,并对其进行仿真验证。最后在FPGA芯片上进行硬件实验检测,并与离散化神经元模型仿真结果进行对比分析。结果发现,硬件实现的单神经元模型其工作特性与仿真结果高度一致。通过对单神经元模型的硬件实现研究,明确了脉冲神经网络硬件实现的思路及方法,为后续基于FPGA硬件实现脉冲神经网络奠定基础。(3)脉冲神经网络模型的搭建与硬件实现。首先,运用搭建离散化神经元模型的方法建立化学突触模型,并与离散化神经元模型相结合建立不同结构的脉冲神经网络模型,通过接入不同的外部输入信号对脉冲神经网络进行仿真测试分析。然后,根据搭建的脉冲神经网络模型完成硬件电路结构设计,并对其进行仿真验证。最后在FPGA芯片上完成硬件实验检测并与仿真结果对比分析。结果表明,建立的脉冲神经网络硬件系统能够正常运行,其工作特性与仿真结果高度一致。通过本文对脉冲神经网络基于FPGA的硬件实现研究,为建立全数字电路类脑计算系统提供新思路,对促进类脑智能的发展具有重要意义。

关键词： 显著目标检测   视觉感知饱和   类脑   特征融合   注意力机制  

摘要： 人类的视觉感知系统具备快速感知视觉场景中显著区域或者感兴趣对象的能力。而计算机视觉领域中热门的显著性目标检测任务的目的就是让机器来模拟人眼的注意机制和信息筛选能力,利用有限的资源识别并分割出图像中人类感兴趣的显著区域或对象。目前很多基于深度的显著性目标检测算法忽略了不同特征对显著预测的贡献差异,导致在复杂的场景中依然会出现预测不完整以及背景干扰的情况。其次,现有的显著目标检测方法通常只考虑单通道处理模式,仅使用固定数据集训练模型,很少考虑训练集的自增和模型自我更替,并且缺少决策层面的融合,与人类的视觉感知方式存在出入。为了解决上述问题,本文的主要工作内容如下:第一,提出了多注意力嵌套网络的显著性目标检测算法(MAENet)。此模型的多尺度特征提取操作,由四个不同扩张率的空洞卷积来丰富最高层特征中的多尺度上下文信息,并通过自注意力处理实现了优化筛选;并提出分层次地使用通道注意力机制和空间注意力机制来有效的引导深层特征和浅层特征之间的融合;然后设计注意力残差细化模块来进一步优化特征的细节输出。本文在5个公开数据集上进行性能评估,结果表明MAENet能更好地在复杂环境中过滤背景噪音、保留目标细节,性能更加优异。第二,提出了多通道类脑自主学习的显著目标检测算法。模拟人类双目视觉系统,构建具有多个并行感知通路、依靠感知正反馈与视觉感知饱和机制来检测图像显著目标的算法框架。其中,通过比较不同感知通道的目标预测结果,可将被测目标像素的感知饱和程度作为置信度;高置信度的预测目标可作为一种图像目标的自动标注,形成新的自主训练集;利用自主训练集再生成新的有监督深度模型,可以扩增原视觉感知通道,不断提升系统性能直到性能饱和。此外,对无人工标注的COCO数据集进行显著目标检测实验,通过自主标注的训练数据获得新的感知模型来扩增原系统感知通道。结果表明本文方法能够有效提升显著目标检测性能,检测结果更符合人类感知。

关键词： 脉冲神经网络   无监督学习   图像分类   稀疏方法  

摘要： 脉冲神经网络(Spiking Neural Network,SNN)是一种受脑启发和事件驱动的人工神经网络(Artificial Neural Network,ANN),在完成各种机器学习任务方面取得了巨大的成功。在对SNN的研究中,基于脉冲时间依赖可塑性(Spike-TimingDependent Plasticity,STDP)的SNN由于认知方式高度符合人脑学习方式,被认为是最有发展潜力的SNN。然而,现有基于STDP的SNN缺乏高效的网络结构,在处理图像分类任务时准确率较差。针对以上问题,本文改进了其网络结构,设计了两种稀疏方法,本文的主要工作如下:(1)针对SNN的网络结构,设计了二并行网络结构和五并行网络结构。这两种网络结构采用并行的方式连接输入层与输出层,每一条路径根据不同的感受域映射图像的输入区域,使得每一条路径上输入到输出的连接存在差异。同时,并行的网络结构连接密集度低于全连接的网络结构,可以减少计算开销。实验结果表明,在同等规模下,使用五并行网络结构的SNN达到的分类精度比使用全连接网络结构的SNN高。(2)设计了两种稀疏方法,分别为三步法和时变权重法。三步法的步骤为先训练SNN,然后稀疏训练好的SNN,最后再训练稀疏后的SNN。实验结果表明,三步法可以显著提高SNN的分类精度,同时可以有效的降低SNN模型的大小。时变权重法是一种在训练过程中动态的改变SNN输入层与输出层连接的稀疏方法,它将数据集分为若干个等大的子集,使每个子集训练的SNN输入层与输出层的连接都存在差异,同时又统一于初始的SNN。引入时变权重法的SNN在整个训练过程中都是稀疏的,这满足了SNN在低资源设备上训练的需求,同时也降低了SNN模型的大小。(3)设计了四种基于STDP的稀疏SNN。采用控制变量法,组合两种并行网络结构和两种稀疏方法,设计了四种基于STDP的稀疏SNN。这样可以有效的甄别网络结构和稀疏方法对SNN性能的影响,确保设计的SNN具有更好的性能。实验结果表明,本文设计的SNN在使用较小SNN模型的情况下,可以取得比较好的分类精度。