课程文献中心 更多>>

关键词： 表没食子儿茶素没食子酸酯   茶黄素   脑类器官   转录组测序   神经发育  

摘要： 表没食子儿茶素没食子酸酯(EGCG)、茶黄素(TF)均为茶叶生物活性成分,具有抗氧化、抗癌以及神经保护等功能,大脑神经发育对人体来说至关重要,本研究基于脑类器官,探究茶叶生物活性成分对大脑神经发育的影响,为研发治疗神经发育疾病药物提供理论和试验依据。构建脑类器官模型,根据转录组测序结果,获得特异性差异基因并分析其调节机理,通过免疫荧光(IF)以及实时荧光定量(RT-q PCR)等实验技术进行验证。主要试验结果如下:1.构建人诱导性多能干细胞(hiPSCs)来源的脑类器官并探究最佳诱导时间。培养hi PSCs来源的脑类器官过程中发现不同诱导时间会导致脑类器官形态有明显差异,RT-q PCR和IF结果显示增加诱导时间会下调脑类器官兴奋性、抑制性、神经瘠细胞以及皮层特异性等基因及蛋白表达量,结果提示脑类器官在培养过程中,诱导阶段时间为两天时可能是最佳时间。***对脑类器官神经发育过程中相关基因表达的响应及分子机制研究。将培养30天的脑类器官分别用20、100μM EGCG处理10天后进行RT-q PCR检测和转录组基因测序,筛选显著性差异表达基因,使用基因本体学(Gene Ontology,GO)和京都基因与基因组百度全书(Kyoto Encylopaedia of Genes and Genomes,KEGG)对差异表达基因进行功能注释和通路分析。结果显示脑类器官神经发育过程中,100μM EGCG处理组共有223个基因表达上调,217个基因表达下调。进一步通过GO功能富集与KEGG通路富集分析相关差异基因及RT-qPCR表达验证提示EGCG可能通过促进神经免疫系统发育和成熟,抑制突触结构信号传递从而影响脑类器官神经发育。***对脑类器官神经发育过程中相关基因表达的响应及分子机制研究。将培养30天的脑类器官分别用20、100μM TF处理10天后进行RT-q PCR检测和转录组基因测序,筛选显著性差异表达基因。使用GO和KEGG分析对差异表达基因进行功能注释和通路分析。结果显示20μM TF处理组有68个基因表达上调,7个基因表达下调,100μM TF处理组有231个基因表达上调,35个基因表达下调。进一步通过GO功能富集与KEGG通路富集分析相关差异基因及RT-q PCR表达验证提示TF可能通过促进神经元功能发育和成熟,影响Wnt等信号通路,进而促进大脑神经发育。

关键词： 疲劳检测   脉冲神经网络   深度网络   ANN到SNN参数迁移   人脸特征检测  

摘要： 交通事故给人们的财产及人身安全造成巨大威胁。世卫组织数据指出,由于疲劳驾驶造成的交通事故占40%。因此进行疲劳检测并及时对驾驶员进行预警尤为重要。目前进行驾驶员疲劳检测的方法中卷积神经网络由于强大的图像识别和分类能力占据主导地位,该方法缺点是占用资源多、能耗大。脉冲神经网络作为最新一代的神经网络符合人脑神经元机制,它无论是计算量还是能耗都低于卷积神经网络,但是脉冲神经网络训练过程不易。为此本论文中将训练后的卷积神经网络权值迁移至脉冲神经网络的方法进行疲劳检测,这个方法可以结合两者优势,同时解决脉冲神经网络训练困难的问题,在脉冲神经网络上实现仿真。本文的主要工作如下:(1)基于参数迁移转换的脉冲神经网络驾驶员人脸检测方法。针对迁移之后脉冲神经网络识别特征较弱的问题,提出基于注意力机制的频率编码方法,以此保证最大脉冲发放率。参数迁移转换方法以YOLO模型为基础,将其参数迁移至脉冲神经网络中,对卷积层、归一化提出实现方法,并在人脸数据集上进行了参数迁移以及编码方法的效果验证。实验结果表明,迁移之后的脉冲神经网络在人脸检测数据集上准确率达到91.96%,与原始网络效果近似,并且迁移之后的网络模型对资源占用少,能耗低。(2)构建基于深度脉冲卷积神经网络的眼部及嘴部图像分类模型。该模型将低功耗的脉冲神经网络和分类能力较好的深度卷积神经网络两者结合起来。训练模型时采用的学习方法为脉冲时间依赖可塑性规则的无监督学习和奖励调制脉冲时间依赖可塑性规则的强化学习这两种学习方法的联合。实验结果表明,该模型在眼部和嘴部数据集上对眼睛和嘴巴状态识别准确率分别达到了96.53%、95.75%,准确率相比于相同实验条件下的卷积神经网络分别提高了3.17%、1.5%。(3)综合面部与头部信息的驾驶员疲劳判定。针对疲劳判定指标单一而导致检测不准确的情况,定义了PERCLOS、闭眼时间、眨眼频率、打哈欠频率、点头率5个疲劳特征指标,将它们特征结合起来判定驾驶员是否疲劳。实验表明在Yaw DD数据集上疲劳检测准确率达到了92.31%,准确率相比于YOLOv3算法降低了2.01%,但是能耗仅仅是其五分之一。脉冲神经网络低能耗的特点适合在司机疲劳检测这种实时检测以及计算资源有限场景得到广泛应用。

关键词： Spike编码   脉冲神经网络   小波变换   小波包变换   MFCC  

摘要： 脉冲神经网络(Spiking neural network,SNN)因其生物可塑性和高效的信息处理能力,近年来在人工智能领域备受瞩目。在将外部信息输入SNN之前,需要进行Spike编码。这个编码过程包括两个关键步骤:特征提取和脉冲序列生成。视觉和听觉是大脑主要的信息获取途径,研究它们的Spike编码方法意义重大。已有的视觉和听觉Spike编码方法很少考虑信号本身的频率特性,更多侧重在脉冲序列的生成方法。因此,本文聚焦于解决视觉和听觉领域的Spike高效编码问题,从提取信号特征角度和硬件模拟两方面,开展了以下研究工作: (1)在视觉Spike编码的特征提取方面,传统的编码方法将像素值作为特征,忽略了频域信息,编码后的脉冲冗余度较高,难以适配不同数据信息。针对此问题,提出新方法:利用小波变换的多分辨率特性,把图像从空间域转换到频域,提取频率特征并生成脉冲序列。在同一个SNN网络中,将两种方法应用于MNIST数据集的分类任务,实验表明:相较于传统编码方法,该方法可以降低32%输入的脉冲数量,减少SNN的计算负担;在小规模网络中准确率提高了3.73%;通过编码感兴趣的区域将输入神经元的数量减少了25%,输入的脉冲数量减少47.6%,同时保持准确率稳定。此外,当更换Fashion-MNIST数据集时,该方法效果更为出色。 (2)在听觉Spike编码的特征提取方面,传统的MFCC(梅尔倒谱系数)方法基于快速傅里叶变换,对低频和高频的分辨率较差,并且容易丢失时域信息。针对此问题,提出了一种基于小波包变换的MFCC编码方法:通过对声音信号频带的多层次划分,根据符合人耳听觉特性的Mel频率尺度自适应地选择相应频带,从而提高声音的时频分辨率。在同一个SNN网络中,将两种方法应用于TIMIT数据集的音素分类任务中,实验表明:经过小波包划分的节点中心频率能较好地与Mel滤波器的中心频率拟合;相较于传统的MFCC方法,该方法对音频信号中的时频特征有更好的捕获能力,音素识别的准确率提高了2%。 (3)在Spike编码脉冲序列生成的硬件模拟方面,设计了一个Spike速率编码硬件电路,可生成近似泊松分布的脉冲序列;设计了一个Python程序,根据编码需求自动生成相应的硬件电路。电路的仿真结果以及示波器输出验证了其良好的速率编码特性。

关键词： 中小学生   心理健康教育   焦虑情绪   认知结构模型   类脑系统  

摘要： 焦虑作为个体在应对当前或将要出现的危险状况时表现出的一种警示信号，是一种常见的个体体验。据《中国国民心理健康发展报告（2021-2022）》中调查结果显示，我国人口焦虑风险的总体检出率高达15.8%，其中中国青少年研究中心2022年对全国24758名中小学生调查发现焦虑检出率高达31.3%。不仅如此，针对不同人群的调查结果同样揭示出大众高焦虑水平的严峻现状，其中以青少年焦虑最为突出。事实上，焦虑往往作为许多精神障碍及其他器质性疾病的伴随症状存在，具有较高的共病率。因此，焦虑的高检出率、高共病率都是对焦虑研究的重要性和紧迫性的真实写照。　　对焦虑成因的既有研究可分为医学模式和心理模式两种理论范式。医学模式通过医学仪器、动物模型等手段对遗传因素、神经递质、脑网络等焦虑生理学因素进行探索，并据此研发有效的治疗药物。心理模式则采用基于个案分析或问卷调查等方法对焦虑相关的心理变量及其关系进行探究。不可否认，医学模式是目前焦虑研究及临床治疗的主流方式，然而，鉴于对心理问题以及精神疾病医学模式理论解释的局限性，心理模式仍是至关重要且充满希望的。遗憾的是，心理科学当前对焦虑机制的研究尚存在若干不足：一是学科间深度交叉研究的匮乏，二是研究方法类型的单调，三是呈现谱系连续性的割裂。故而，需要在学科交叉视角下，积极寻求并引入新的科学研究手段，并对焦虑进行跨越“正常—失常—异常”的连续谱探索。　　在这样的理论背景下，又恰逢我国大力推进“脑研究计划”，并在类脑智能领域取得重要突破。受脑神经机制和认知行为机制启发，类脑机器研究通常以计算建模为手段，通过软硬件协同实现机器的智能化。依据智能实现的不同方式，本研究将类脑智能研究划分为仿生与仿心两大学派。仿生学派借助对人类大脑生理结构的模仿实现智能，例如神经元网络，仿心学派则通过对人类认知功能原理或原则的模拟实现智能，例如通用人工智能系统。通用人工智能系统在信息处理元机制的功能水平上类似人脑，在认知行为和智能水平上类人，其目标是使机器实现多种与人类相仿的认知能力及其协同机制。作为目前具有完备理论和工程实现的仿心派类脑系统的代表作，NARS（Non-Axiomatic Reasoning System）不仅具备元推理学习能力，可根据后天经验建构知识和技能，还具有情感动机、决策等机制，从而在认知层面呈现出与人类心智的功能相似性。此外，其开源软件系统OpenNARS还设置了与外界环境交互的接口可对感知运动信息进行处理，从而为心理模式下焦虑研究提供了理论基础和实验平台。　　因此，有必要借助类脑系统OpenNARS对于焦虑的形成机制的展开研究。　　首先，基于连续谱视角，本研究在认知理论层面提出焦虑的认知结构模型。该模型对焦虑的发生发展机制分为两种不同类型：（1）“正向刺激趋近受阻”，即在目标达成过程中，决策主体面对与目标完成有利的正向刺激的趋近行为受阻，以至于目标无法达成，从而产生焦虑反应;（2）“负向刺激趋离受阻”，即是在目标达成过程中，决策主体面对与目标完成有害的负向刺激的趋离行为受阻，以至于目标无法达成，从而产生焦虑反应。不论那种类型，过度焦虑都可能发展为焦虑障碍。　　其次，基于类脑系统平台的虚拟实验环境，对焦虑认知结构模型的可行性进行验证。类脑系统OpenNARS控制虚拟场景中行为主体Robot对不同环境情形做出行为反应，对应人在某一情境下的行为反应，由此来实现对焦虑发生发展机制的模拟。根据实验结果得知，OpenNARS控制下的行为主体Robot面对不同情形（正常模式、趋近受阻模式、趋离受阻模式）下反应指标（行为指标、认知指标、复合指标）皆具有显著差异，可验证焦虑认知结构模型的可行性。　　再次，使用真实的个案数据，对焦虑认知结构模型的可用性进行验证。利用对中小学生频发且影响较大的考试焦虑为例，对其进行认知结构模型的具体再阐释，并以此为依据，在认知行为疗法的结构下设计了基于类脑系统模拟的考试焦虑干预方案。通过对两例典型个案的干预效果评估得知，经过六次干预（总用时三周）之后，两例个案在考试焦虑量表和学习成绩上均有不同程度的改善，可验证焦虑认知结构模型的可用性。　　最后，将理论研究成果转化为教育应用项目，设计并构建“中小学焦虑辅助服务系统”的原型系统，为后续向中小学心理健康真实服务场景做好应用准备。系统核心功能包括学生信息建档、焦虑状况测量、焦虑干预实施、焦虑追踪管理以及焦虑知识宣讲五个部分。学生焦虑的健康管理工作具有复杂和持续的特点，本系统以学生用户为核心，功能涉及中小学心理健康教育工作的多个阶段，为其带来便利的同时也能够提升干预管理效果。　　本研究具有一定的理论新颖性，将类脑智能研究的理论进展及通用人工智能技术引入心理学研究，不仅开阔了焦虑的理论视野，也提出了可证伪的干预设计新思路。此外，本研究还能够促进科学研究系

关键词： 脉冲神经网络   医学数据分类   多脉冲学习   脉冲序列核误差   Multi-SpikeProp算法  

摘要： 在大脑神经系统中的信息通常由精确定时的脉冲序列（时间编码），而不仅仅是脉冲发放频率（频率编码）来编码和表示。事实上，由于没有考虑单个脉冲的精确时间信息，传统的基于频率编码的神经网络模型对于神经信息处理的能力显著降低。基于时间编码的脉冲神经网络，能够模拟多种神经信号和近似任意连续函数，这种更具生物可解释性的计算模型是进行复杂时空信息处理的有效工具。但由于脉冲神经网络内在的非线性机制，以及基于离散脉冲网络误差计算的复杂性，构建高效的脉冲神经网络监督学习算法非常困难。同时，医学数据的准确分析在早期疾病检测、医疗诊断等方面变得越来越重要。应用脉冲序列编码表示医学数据信息，构建基于脉冲神经网络的医学数据分类模型，解决医学数据间的非线性关系，提高医学数据处理与分析性能，也是目前研究中面临的重要挑战。本文应用脉冲序列核构建误差函数，提出了一种高效的基于脉冲神经网络的多脉冲监督学习算法，并应用于医学数据分类问题。本论文主要工作包括以下三个内容：　　（1）通过对脉冲神经网络监督学习算法计算框架的分析，发现构建适合的脉冲序列误差函数对实现突触权值学习规则的推导是重要的。目前脉冲神经网络的梯度下降学习算法，在脉冲误差计算过程中需要脉冲一对一的对齐，但通常输出和期望脉冲数目并不一致。应用卷积核运算，将离散的脉冲序列转换为连续函数，构建了一种新的脉冲序列核误差函数，不仅解决了目前梯度下降学习算法中实际输出脉冲与期望输出脉冲无法一一对齐问题，而且克服了离散脉冲误差的梯度计算问题。　　（2）在脉冲序列核误差函数的基础上，提出一种基于多层前馈脉冲神经网络的多脉冲监督学习算法，称为Multi-STKE。该算法以序列核构建的误差函数为基础，克服了实际输出脉冲序列和期望输出脉冲序列中脉冲数量不相等的问题，进一步优化了脉冲神经网络的梯度下降学习规则。本文对所提算法的计算复杂度进行分析，并与Multi-SpikeProp学习算法进行对比，发现提出的Multi-STKE具有更小的计算复杂度。将该算法应用到脉冲序列的学习任务中，分析了不同参数对于该学习算法性能的影响，实验结果表明该算法有较高的学习准确率。因此，该算法解决了离散脉冲构造的网络误差的梯度计算问题，有效地处理复杂的时空模式学习问题。　　（3）结合医学数据的脉冲序列编码和Multi-STKE学习算法，构建了一种基于多层前馈脉冲神经网络的医学数据分类模型，实现了基于脉冲计算的医学数据处理和分类。实验中，选取了4个UCI医学数据集进行验证和分析，对输入样本采用线性编码方法进行脉冲序列编码。最终实验结果表明，Multi-STKE学习算法比Multi-SpikeProp具有更高的分类准确率，同时将该分类结果与其他方法相比较，证明该方法可以有效地解决医学数据分类问题。

关键词： 图像分类   脉冲神经网络   编码补偿   网络转换  

摘要： 脉冲神经网络(Spike Neuron Network,SNN)是更加符合生物神经系统的第三代神经网络，生物可信性强，是类脑计算领域的研究热点。虽然SNN已在图像处理等领域得到广泛应用，但因为使用离散的脉冲序列传递信息，训练较为困难。尤其是在端设备上实现实时分类时，仍然存在着推理时间长等问题。本文针对该问题展开研究，首先对网络转换过程进行理论分析，然后在此基础上提出改进的图像分类模型，最后将该模型部署到端设备并与原始模型进行了推理时间和能耗对比。主要工作内容如下:　　(1)针对基于网络转换的SNN图像分类方法推理时间过长的问题，提出了改进的SNN模型(IC-SNN)。该模型使用具有初始膜电位的神经元来消除转化误差和编码损失。首先，对网络转换过程进行理论分析，得到残余膜电位的忽略是低时延下图像分类性能下降的主要原因。然后，提出初始膜电位方法以减少残余膜电位对网络性能的影响。其次，采用编码补偿策略降低脉冲编码造成的信息损失，并将补偿值与初始膜电位相结合。最后，在公开数据集CIFAR10和CIFAR100上对模型的有效性进行了验证。使用CIFAR10作为数据集时，IC-SNN在8个时间步长时准确率误差降低为10％,同类方法通常需要超过32个时间步长。IC-SNN在CIFAR100上使用16个时间步长将准确率误差降到7％,其他方法则需要128个时间步长。实验结果表明，与同类方法相比，IC-SNN具有更短的推理时间，可以在更低的时间步长下逼近原始网络的性能。　　(2)将改进后的网络模型部署到端设备，以探索其推理时间和能耗。综合网络规模、算力需求、经济性和应用场景等因素，选择树莓派作为端部署硬件,使用USB外接摄像头作为图像信息实时采集设备。使用公开数据集CIFAR10和工业数据集Kylberg对IC-SNN的可行性和有效性进行了实验验证。实验结果表明，在CIFAR10数据集上，IC-SNN使用32个时间步长时准确率误差为1％,推理时间快了 8％;在Kylberg数据集上，IC-SNN使用32个时间步长时准确率误差为2％,推理时间快了 7％。最后，基于研究文献提供的硬件计算操作成本,对IC-SNN和原始网络的能耗进行了估算和对比。结果显示，IC-SNN的能耗比原始网络降低了一到两个数量级。与原始网络相比，IC-SNN能够以更短的推理时间得到近似的网络准确率，网络整体能耗更少，具有低能耗的特点。

关键词： 脉冲神经网络   负载表征与量化分析   SNN映射方法   分布式计算  

摘要： 脉冲神经网络(Spiking Neural Network,SNN)是类脑计算研究的基础。SNN的工作方式与传统的人工神经网络有较大区别,其更接近于人脑的工作原理,因此也被称之为第三代人工神经网络。为了探究人脑的工作原理,如何快速进行SNN模拟是一个亟待解决的问题。在分布式系统上进行并行模拟是提高SNN模拟速度的主流方法,但由于SNN负载难以准确地映射到分布式平台上,有时并行模拟反而会比串行模拟更慢。因此,对SNN进行负载表征与量化研究是解决该问题的关键手段,可以指导SNN到分布式平台的映射,并提出一种高效准确的映射方法。为了解决SNN负载量化与负载映射问题,本文包含以下研究内容:针对时钟/事件驱动方式,进行了量化分析,并建立了SNN负载模型;提出了一种基于联合权重的SNN超图划分方法,实现了SNN到分布式平台的精准映射;设计并实现了一款集成多种负载探测功能的高自由度开源SNN并行模拟器——FreeSNN。具体研究内容如下:第一、建立SNN负载模型:本文首先剖析了现有的SNN模拟机制,并确定了对分布式模拟来说,时钟/事件驱动方式是一种较优的驱动方式。然后,对时钟/事件驱动下的SNN负载进行了详细的分析,并对影响模拟性能和精度的主要因素进行了量化研究。最后,根据分析结果建立了一种适用于SNN分布式模拟过程中的负载建模方法,并说明了该方法在指导SNN负载分析与映射方面的作用。第二、基于联合权重的SNN超图划分方法:在建立了SNN负载模型的基础上,本文提出了一种基于联合权重的超图划分方法来实现SNN负载映射。联合权重是一种综合考虑突触计算负载和神经元计算负载的指标,可以用它来衡量SNN中神经元或突触对计算负载的贡献程度。本文将SNN抽象为一个超图,使用联合权重建模方法对超图中的神经元节点进行赋值,之后对带有联合权重的超图进行划分,从而将SNN负载均匀地映射到不同的进程上。这样可以有效降低进程间的通信开销,同时平衡进程间的计算负载。实验结果表明,使用本文的SNN映射方法相比于使用循环分配的方式,可以使模拟速度提高了50%以上。第三、设计并实现一款SNN并行模拟器:为了解决现有SNN模拟器的局限性,本文设计并实现了一款开源的、高自由度的并行模拟器。它具有以下特点:1,提供了一个神经元映射方式的接口,可以让使用者根据自己的需求自定义神经元与突触在进程间的分配方式,从而方便地进行不同负载均衡算法的对比。2,利用了SNN通信稀疏的特点,采用了稀疏通信代替常用的集体通信,大幅降低了通信量。3,提供了一个神经元方程自定义接口,可以让使用者根据自己的需求自定义神经元行为。4,内置了多种负载探测方式,可以得到SNN的负载信息。

关键词： 仿生脑模型   类脑计算   脑仿真   模型转换  

摘要： 人类对大脑结构和功能的探索从未停止,脑科学和脑认知被许多国家视为人类科学领域“皇冠上的明珠”。继美国、欧盟和日本之后,我国在“十三五”国家科技创新规划中推出脑科学研究计划,明确提出发展类脑计算与脑机智能。随着类脑计算研究的推进,使用计算机或专用硬件执行大规模脑仿真,模拟神经信号在神经元内部的产生以及其在神经元之间的传递过程,这为人类研究生物脑运作机理提供一种有效手段。然而对生物脑抽象建模得到仿生脑模型,并部署到专用硬件上执行仿真,需要研究人员具备较强的计算机科学专业技术,无疑为相关研究增加了研究难度。为降低脑科学研究人员在对生物脑建模并部署仿真时的知识门槛,本文设计并实现了一个仿生脑模型构建系统,为相关研究人员提供一个对生物脑进行抽象建模和仿真的平台。本系统主要包括模型构建、模型转换、模型仿真、结果展示、模型管理、系统管理和日志管理等功能,为仿生脑模型的构建和仿真以及系统运行提供支撑。本文主要工作包括:1.仿生脑模型构建。本文根据实际应用场景,定义适用于本文系统的仿生脑模型相关文件的格式。本文系统根据用户提供的神经元、神经元簇等模型参数构建仿生脑模型,并使用结构化的模型描述文件和模型数据文件,记录仿生脑模型的结构信息和突触连接数据。2.模型转换策略设计与实现。本文系统基于某类脑系统,该类脑系统提供特制类脑芯片和类脑仿真引擎为仿生脑模型仿真提供支持。而特定硬件对仿生脑模型中神经元出度大小存在限制,出度超出限制的神经元在仿真过程中会带来额外的突触数据读取和脉冲信号传递的时间开销。此外在仿真过程中,仿真引擎需要比较神经元突触延迟和当前时间拍,两者一致时神经元之间才会传递脉冲信号。神经元之间各异的突触延迟会增加仿真引擎的判断分支,带来额外的时间开销。本文针对上述问题设计而向特定硬件的两种模型转换策略,对仿生脑模型进行定向转换,以在使用特定硬件仿真时加速模型仿真过程。***仿真器神经元模型库的扩展。本文系统集成了业界流行的NEST仿真器作为用户的仿真引擎备选。然而NEST仿真器缺少某类脑系统支持的经典LIF神经元模型。不同仿真引擎对同一仿生脑模型的仿真结果应保持一致。为保证系统兼容性,本文修改部分NEST源码,新增经典LIF神经元模型,满足用户构建和仿真仿生脑模型时的神经元类型需求。本文系统采用前后端分离式开发架构,后端包括业务服务器和若干计算节点,业务服务器使用Django框架处理用户在前端发起的请求,计算节点负责具体的模型构建、仿真任务。同时本系统使用腾讯云提供的COS对象存储服务解决仿生脑模型相关文件存储问题,以及使用MPI消息传递接口实现系统后端计算节点间通信与构建模型时涉及的并行计算。本文首先介绍了系统开发涉及的相关技术和类脑计算领域相关知识,分别分析仿生脑模型构建系统的相关模型构建、模型转换、模型仿真等功能型需求和系统性能、安全等非功能型需求。其次,本文设计并实现面向特定仿真硬件的模型转换策略。再次,本文设计系统整体架构并划分具体功能模块,以及简要对模块间接口和数据存储进行说明。接着,结合时序图和类图详细介绍系统各功能模块实现方案。然后本文设计测试用例,测试系统功能模块运行情况,并分析测试结果。最后,本文总结全文工作内容,并针对系统实现过程中存在的不足提出改进方法。

关键词： 深度脉冲神经网络   编程框架   时间编码   学习算法  

摘要： 深度学习成功借鉴大脑在宏观尺度的层次化信息处理结构,在智能应用领域取得了重大突破。但是,深度学习通常需要较多的计算资源和功耗,难以在资源受限的场景中大量部署。受生物脑启发的脉冲神经网络模拟了生物神经元在微观尺度的信息编码和运行机制,具有超低功耗、超低延迟运行的潜能。因此,结合深度学习和脉冲神经网络的优势,研究深度脉冲神经网络模型,有望实现高智能、低功耗、低延迟的类脑智能新范式。但是目前深度脉冲神经网络的应用相比深度学习模型来说还不够广泛,一方面是因为其离散的脉冲发放机制使得对网络的训练变得十分困难,另一方面是其较为复杂的模型运算机制提高了编程实践的难度。现有框架大多关注于对脉冲神经元特性的模拟,而缺乏对各种深度脉冲神经网络模型的构建与训练工具。为了解决上述问题,本文设计并实现了基于深度脉冲神经网络的编程框架。同时,在编程框架中融入了新提出的基于时间编码的深度脉冲神经网络学习算法。具体研究内容包括:(1)本文设计实现了针对于深度脉冲神经网络的编程框架,降低了深度脉冲神经网络的编程复杂度。框架基于Pytorch框架进行编写,包含了搭建深度脉冲神经网络应用所需要的数据集模块、编码模块、突触模块、神经元模块与训练算法模块。这五个模块充分支持了深度脉冲神经网络常用的神经元计算模型及其对应的编码方式与训练算法,可以帮助领域内各个方向研究者较为简单的实现从脉冲输入信息处理到模型搭建再到模型训练整个过程。(2)本文提出了一种基于时间编码的深度脉冲神经网络转换学习算法,并将其集成进框架中,使得框架对深度脉冲神经网络的训练更加完备。首先提出了解决了时间动态特性问题的同步脉冲神经网络模型,并在该模型基础上推导出了与之对应的代理人工神经网络模型。由于这两者具有高度等价性以保证了转换而来的脉冲神经网络模型在单个脉冲发放的情况下仍然具有较低的转换损失。经实验结果证明,该算法在保证了网络稀疏性的同时取得了较好的性能。(3)本文对框架分别在两种模式识别任务上进行了验证。通过使用框架中各个模块进行了数据集的加载与处理,网络模型的搭建及训练,展示了框架在搭建深度脉冲神经网络应用过程的编程简洁性及训练所得模型的高性能。

关键词： 脉冲神经网络   建筑物提取   边缘检测   脉冲神经元   突触可塑性  

摘要： 随着遥感空间技术的发展,如何实时、精准地从遥感图像中提取建筑物是智慧城市建设、地理信息更新及城市规划等领域的重要研究内容之一。传统的建筑物边缘提取算法只适用于规整的建筑物类型,对建筑物边缘线特征的提取存在断裂现象,实际应用时需要大量的后处理工作,无法满足当今快速化、智能化、自动化提取要求。深度学习的发展,虽为快速、准确地从高分辨率遥感图像中提取建筑物提供了新的技术手段,但这种人工神经网络的学习过程在实现遥感图像处理时训练代价高,需要额外的计算成本和存储资源。其处理信息机制的灵感虽源于大脑,但本质与实际的大脑模型却相差甚远,对类脑生物视觉的仿真模拟也存在一定的局限性。 对此,本文以高分辨率遥感图像为数据源,提出了基于脉冲神经网络的建筑物边缘提取方法,旨在弥合计算机与类脑科学之间的差异,使用最拟似生物神经元机制的视觉模型实现建筑物边缘提取,主要工作和贡献如下: (1)脉冲神经网络模型的构建。受到类脑视觉认知系统的启发,提出了一种适用于建筑物边缘提取的网络模型。首先,模拟大脑初级视觉皮层处理边缘信息的回路设计脉冲网络模型结构。其中,输入层对应光感受器细胞,接收外界刺激信息;中间层仿照初级视觉皮层V1功能,提取图像中的边缘及方向特征;输出层与视觉中枢相对应,将特征信息整合后识别遥感图像中建筑物边缘信息。其次,根据建筑物的边界信息、几何特征设计了网络的中间层神经元阵列,获取图像中丰富的边缘信息。 (2)脉冲神经元模型的构建。脉冲神经元是以脉冲序列的形式传输和处理外界信息,脉冲信号中蕴涵了丰富时域信息,且神经元间信息传递的过程与生物神经元细胞相似,即两个神经元通过突触传递脉冲信号。为此,本文以突触可塑性为依据,采用无监督学习算法更新神经元间的突触连接权重;Gabor滤波器对输入信息的频率和方向表达与人类视觉系统相似,因此选用Gabor函数作为边缘提取的线性滤波器对神经元进行建模,实现遥感图像中建筑物边缘的提取任务。 (3)本文将高度仿真的脉冲神经网络与建筑物边缘检测任务相结合。解决了基于传统边缘检测算子提取建筑物时边缘间断、抗噪性能弱等问题,改善了人工神经网络在处理遥感图像时仿真效果差、数据冗余量大等现象,同时增强了建筑物边缘的清晰度。在不同数据集上进行实验,实验结果表明,与其他六种方法相比,本文网络模型在F1和Io U两项精度评定指标上均获得了最佳的结果,其中与Seg Net网络相比,F1提高了8.47%,对建筑物提取具有较好的先进性和鲁棒性。 该论文有图30幅,表3个,参考文献88篇。