关键词： 近红外光谱技术   CNN   模式识别   集成学习   VS1-stack算法  

摘要： 随着近红外光谱技术(NIRS)与机器学习算法的发展,越来越多的研究者将NIRS结合机器学习算法运用于对物质的模式识别研究。NIRS具有方便、快速、高效和无损性等特点,常被用于物质的成分检测识别。机器学习是人工智能的一个重要研究方向,随着近些年的快速发展,特别是神经网络研究的重新兴起,机器学习的研究在全世界范围内出现新的高潮。卷积神经网络(CNN)具有强大的模式识别能力,不仅在二维图像方面,在一维数据方面也具备的强大模式识别能力。集成学习可以将多个弱分类器组合成一个强分类器,最终通过子模型对待测样本进行投票得到预测结果。针对在样本量不足时CNN的模型性能受到限制的情况,本文提出通过引入迁移学习结合CNN方式,改进原始CNN在小样本情况下模式识别的性能不足。通过更大样本数据集训练完成的源域模型具有更好的模型性能,冻结并迁移源域模型的网络参数至目标域模型,并初始化目标域模型的全连接层,最后再训练通过迁移学习方式改进后的CNN模型。通过实验并对比改进前后CNN的准确率、精确率、召回率和F1值四项评估指标。实验结果表明,改进后CNN在四项评估指标中得分都高于原始CNN。说明通过迁移学习改进的CNN比原始CNN模型,在对纯净莜面、莜面掺杂10%-50%浓度的土豆淀粉的分类数据中具有更好的模型性能。针对传统集成学习算法所有子模型都是相同投票权重,无法发挥性能较强子模型的优势的情况,本文提出Exponential-VS1-stack(简称VS1-stack)算法对集成学习投票权重进行调整。该算法使得集成学习子模型的投票权重各不相同,根据子模型的样本分类性能,通过VS1-stack算法计算该模型投票权重。通过实验并对比分析改进前后集成学习的准确率、精确率、召回率和F1值四项评估指标。实验结果表明,通过VS1-stack算法改进投票权重的集成学习在四项评估指标中均优于传统相同权重的集成学习。说明VS1-stack集成学习算法比传统集成学习算法,在对纯净莜面、莜面掺杂10%-50%浓度的土豆淀粉的分类数据中具有更优越的模型性能。

关键词： LiNbO3忆阻器   易失性   储备池计算   神经形态计算   模式识别  

摘要： 在传统数字计算机中,数据和信息以二进制数制的形式表示,并以静态的方式储存在晶体管中进行处理。随着晶体管逐渐逼近其物理极限,当前计算效率的提升速度也已经放缓。目前,从生物的动态和自适应特性中获得灵感,进行神经形态计算研究具有很大的发展前景。忆阻器是一种带有记忆功能的非线性电阻,器件内部可以自然地体现动力学过程。将其作为非线性节点应用到储备池计算中,可以提高计算效率。本论文提出了一种新型铌酸锂(Li Nb O,简称LNO)忆阻器,采用光学曝光和磁控溅射技术制备。经电学平台测量,器件具有非线性和短期记忆特点,适合用作储备池计算中的非线性节点。相比于传统数字计算而言,它具有更强的计算能力和更高的能量效率。本文首先介绍了传统数字计算机的计算方式和现有计算效率的局限,然后介绍了基于忆阻器的动态特性进行计算的研究背景和目的。其次,详细介绍了本文所采用的忆阻器的制备流程和方法,并通过一系列电学测试验证其易失性、重复性和稳定性。随后,详细描述该忆阻器的性质及其在储备池计算系统中的应用。通过单个器件实现传统储备池计算中需要大量互连节点才能实现的功能,并通过5个忆阻器成功地完成了机写的阿拉伯数字图像的模式识别任务。最后,探讨了应用LNO忆阻器的储备池计算系统的研究成果对未来神经形态计算领域的理论和实际意义,以及可能的发展方向。

关键词： 计算机视觉   模式识别   对抗样本   黑盒对抗攻击   元学习  

摘要： 当下深度神经网络被发现存在严重的安全问题,攻击者可以通过使用预先生成好的对抗样本使目标模型识别能力失效。目前,根据对抗样本生成过程是否需要使用目标模型的内部信息,对抗攻击方法可以被分为白盒对抗攻击和黑盒对抗攻击。在现有对抗攻击方法研究中,由于黑盒对抗攻击研究具备苛刻的限制条件,因此其被认为是最接近现实场景的攻击研究。在黑盒对抗攻击条件下,目标模型的内部信息对攻击者完全隐藏,且攻击者仅可以使用目标模型有限的输出信息,这完全模拟了现实场景下攻击者所处的攻击环境。因此,黑盒对抗攻击研究成为了当前计算机安全领域发展方向上的一个重要课题。然而,目前主流的黑盒对抗攻击方法还存在利用信息不完全问题和查询目标模型次数过多问题。针对上述的问题,本文对元学习模拟器黑盒对抗攻击方法进行研究和改进,提出了一种新的元学习黑盒对抗攻击模型Simulator Attack+,其中主要工作有以下三个部分:(1)本文证明了初始模拟器模型中特征层信息的正确性和可用性。本文所使用的初始模拟器模型是由元学习训练得到,通过对该模型进行特征层信息提取和可视化,并将这些信息与主流识别模型的特征层信息进行比较,本研究发现初始模拟器模型特征层已可以聚焦图片中的关键特征区域。合理设计方法以运用此类特征区域信息,再结合相关增强模块,可以提高黑盒对抗攻击的信息利用率及查询效率。(2)本文提出了一种新的元学习黑盒对抗样本攻击模型Simulator Attack+。该对抗攻击模型主要使用了四个新模块以解决黑盒对抗攻击方法查询效率低的问题,包括:a.注意力特征区域增强模块(Feature Attentional Boosting Module,FABM):该模块根据(1)的发现,使用初始模拟器模型的特征层信息并以此增强相关区域的攻击效果,加速对抗样本生成;b.线性自适应模拟器调整步幅机制(Linear Self-adaptive Simulator-predict Interval Mechanism,LSSIM):该模块允许模拟器模型在对抗攻击迭代前期对自身模型进行充分微调,以达到更精准地模拟黑盒目标模型的目的;c.无监督聚类模块(Unsupervised Clustering Module,UCM):该模块在有目标类别黑盒对抗攻击的情况下,在每轮攻击前期设置热启动模块使查询效率提升;d.余弦相似度损失函数模块(Cosine Loss Module,Cos Loss M):该模块将模型输出结果向量的方向信息与角度数据纳入黑盒对抗攻击模型自我调整过程,提高模拟器模型输出的模拟能力。(3)本文结合基于元学习的黑盒对抗样本攻击模型Simulator Attack+设计了一个应用系统。该系统将黑盒对抗样本攻击模型植入其中,并提供多种元学习素材模型供实验者选择,系统集成了元学习模拟器训练功能、黑盒对抗攻击目标模型选择功能、黑盒对抗攻击功能及其他基本系统管理功能,实现了本研究的应用化。在CIFAR-10和CIFAR-100数据集上进行实验后的结果表明:本文提出的元学习黑盒对抗攻击模型Simulator Attack+可以有效减少对黑盒目标模型的查询次数,并在提高查询效率的同时具备高攻击成功率,在可接受的时间内完成对相应图像的黑盒对抗攻击任务。

关键词： 工作模式识别   意图推理预测   知识图谱   图神经网络   TemporalGCN网络  

摘要： 由于新体制雷达技术的不断发展,传统的机械式扫描雷达慢慢被复杂体制雷达以多目标、多功能、高机动以及抗干扰等优势所代替,不同作战任务下它的多种工作模式对应相区别的威胁级数。对于己方部署和战斗决策起着重中之重的环节是用效率高的工作模式将其识别以及进行意图推理。 本文主要以复杂体制雷达为研究对象,分析复杂体制雷达不同工作模式的特性,并对几种典型场景下的工作模式进行仿真,提出了复杂体制雷达多工作模式分类识别和意图推理预测的算法。本文的主要工作如下: 首先,从复杂体制雷达信号层级模型出发,以天线扫描特性、波位编排、资源管理与调度等多个方面对其搜索、跟踪工作方式进行分析,并对复杂体制雷达典型的作战场景进行仿真建模。深入分析复杂体制雷达处于不同工作模式时的信号特征参数规律,并提取能够表征不同工作模式特点的参数,用于后续的工作模式识别和意图推理预测。 其次,提出了两种复杂体制雷达工作模式识别算法。其一,基于加入注意力机制的GCN(Graph Convolutional Networks)构建GAT(Graph Attention Networks)模型,利用同构图对单一类型节点进行关联及注意力机制在关联上有倾向程度的优势,实现了对复杂体制雷达的多工作模式识别,并在注意力权重熵分布上进行实验,说明了在工作模式图结构数据的识别中加入注意力机制的有效性;其二,基于RGCN(Relational Graph Convolutional Network)算法,在多关系多类型节点的知识图谱(异构图)上,通过对复杂体制雷达不同工作模式有倾向地学习不同特征参数的影响,实现了对多工作模式识别并且有较好的识别效果。在5d B～20d B的信噪比条件下,工作模式识别率最高达到了96%。 最后,提出了一种复杂体制雷达意图推理的预测算法。借助1D-CNN网络对时间序列进行特征提取,GCN网络对图结构的表征能力,提出了一种复杂体制雷达典型场景下的意图推理算法,该算法在推理上准确率上达到了87.9%,优于CNN-LSTM网络和Bi-GRU预测模型。

关键词： 盆式绝缘子   局部放电   样本增强   生成对抗网络   模式识别  

摘要： GIS凭借其运行安全可靠、占地空间小、有利于环境保护等优点,被广泛用于输电和配电系统中。盆式绝缘子作为GIS重要组成部分,在生产制造、储存安装等过程中会产生一些缺陷,导致运行时发生局部放电,影响GIS绝缘性能,因此有必要对盆式绝缘子局部放电缺陷进行识别。传统的GIS盆式绝缘子局部放电模式识别主要存在以下两个问题:第一,依赖于大量的原始信号,在数据匮乏的情况下识别效率较低;第二,盆式绝缘子局部放电缺陷的制作较为简单,尚未对复合缺陷进行制作和识别。因此,制作出盆式绝缘子典型缺陷并在小样本下达到较高的识别正确率至关重要。本文的主要研究内容和结果如下: (1)论文根据550k VGIS盆式绝缘子结构特点,按照10:1的比例设计并制作出盆式绝缘子典型缺陷局部放电模型。仿真并制作出带有表面金属颗粒、裂纹、气泡、嵌件毛刺四种单一缺陷的小型盆式绝缘子样品和表面金属颗粒+裂纹、气泡+裂纹两种复合缺陷的样品。搭建局部放电实验平台,进行实验并采集大量各类缺陷局部放电信号。 (2)本文基于S变换对采集的各类缺陷信号进行去噪处理,结果表明:S变换用于局部放电信号的去噪效果较好,优于小波包去噪法和经验模态分解法。绘制各缺陷信号时域波形图和脉冲序列相位分布谱图,并分析各类缺陷信号基本特性,结果可以为现场局部放电缺陷的人工识别提供参考。再利用滑动窗口算法将去噪后信号转换为灰度图的形式,方便后续的样本增强和模式识别。最后分析生成对抗网络的不足,提出改进方法:将残差网络结构思想运用到生成对抗网络中,在生成器中使用反射填充的方式进行填充,在判别器中利用批量归一化的方法,使网络更加容易收敛。 (3)论文使用提出的改进方法,建立基于改进CGAN和ACGAN的模式识别模型,改进后CGAN生成的样本明显优于改进前且损失值更低,ACGAN的识别正确率也从改进前的87.33%上升到97.83%,改进效果明显,且当训练集每类大于50个样本时改进后CGAN生成效果最佳。分别使用原始样本和生成的样本充当训练集在不同训练集大小下进行训练,结果表明:当每类仅有50个原始样本时,通过真实样本识别的正确率为96%,通过样本增强可以将正确率提高到97.83%,验证了改进CGAN在样本匮乏情况下的优越性。最后采用基于支持向量机(SVM)的模式识别方法进行识别,结果表明:不论在SVM较为擅长的小样本下还是较大样本下,其识别正确率都比改进后ACGAN低2%左右,验证了改进ACGAN用于模式识别的优越性。

摘要： 针对新工科背景下《模式识别》课程教学模式存在的问题，从课程的教学内容、教学方法和实验设置三个方面进行了优化、改进，以夯实学生理论基础，并提高学生的实践能力和创新能力。随着科技革命与产业变革的持续推进，以及创新驱动发展和“中国制造2025”等一系列国家战略的提出，对人才类型的需求也随之发生变化。为此，教育部积极推进新工科建设，先后形成了“复旦共识”“天大行动”和“北京指南”等模式，旨在适应未来产业发展，培养具有一定创新能力的高素质卓越工程科技人才。

关键词： 中子能谱反演   多球中子谱仪   MLEM   PSO   模式识别  

摘要： 在中子辐射防护、反应堆控制、中子检测技术等应用场合,快速获取中子能谱信息至关重要。多球中子谱仪测量方法具有能量测量量程宽、仪器结构简单等特点,广泛应用于中子能谱测量。在多球中子谱仪测量中子能谱的过程中,能谱的反演计算是关键步骤,影响中子能谱测量结果的准确性。目前各中子能谱反演算法中,MLEM算法具有较好的反演精度与稳定性,但该算法对迭代初始值的要求较高,需要设置具有先验信息的初始谱作为迭代初始值。然而,在未知的测量环境中,初始谱难以准确预置。 基于多球中子谱仪测量系统,本文深入研究了中子能谱反演方法。文章提出了一种基于模式识别原理的中子能谱反演初始谱预置方法,并设计了PSO-MLEM反演算法。为了评估算法的性能,使用蒙特卡罗模拟方法,对3He正比计数器多球探测系统进行了模拟计算,并采用模拟数据对初始谱预置方法和PSO-MLEM反演算法进行了验证。在实验方面,使用金刚石探测器中子测量系统开展了测量实验,获得了热中子和超热中子探测数据,并应用初始谱预置方法与PSO-MLEM算法开展了中子解谱,评价了算法的准确性。 论文取得的重要成果: （1）提出了一种基于模式识别原理的中子能谱反演初始谱预置方法。该方法解决了中子能谱反演计算过程中初始谱的预置问题。根据中子能谱测量系统的待解方程组,初始谱预置方法可以自动的从数据库中配置反演迭代初始谱,显著提升了中子能谱解析的精度与自动化程度。在模拟数据加入±10%随机误差的情况下,初始谱预置方法识别结果依然与期望初始谱保持了较高的相似性,表现出了较强的稳定性与匹配精度。 （2）提出了混合PSO、MLEM算法的PSO-MLEM算法。该算法改善了MLEM算法后期易陷入局部最优解的问题,并通过动态加速因子提高了粒子的寻优效率与计算精度。通过模拟实验数据验证,PSO-MLEM算法重建出来的中子谱,对比PSO算法,稳定性更佳,曲线更光滑;对比MLEM算法,形状与期望结果相似度更高,避免了局部最优解的影响。 （3）开发了自动中子能谱解析程序。解谱程序对上述的两种算法进行了实现,并使用多线程并行的方式提升了运算速度。使用自动中子解谱程序解析了来自金刚石探测器中子测量系统的实验数据,成功反演出了入射热中子、超热中子能谱,反演结果具有较好的稳定性与计算精度。

关键词： FPGA   电子鼻   加速器   卷积神经网络   模式识别  

摘要： 电子鼻系统是一种利用传感器阵列识别气体的设备,由传感器阵列、模式识别引擎和外围电路接口组成,其中模式识别引擎负责完成气体种类的识别。模式识别引擎的低功耗、小型化和高速响应对于电子鼻系统的应用有着重要的意义。一些研究人员将深度学习用于电子鼻系统的模式识别引擎,并且取得了较高的识别率。然而具有高识别率的神经网络往往拥有复杂的结构和巨量的参数,给系统带来了额外的功耗和延迟,严重阻碍了电子鼻系统在端侧设备的部署。本文以设计更加低功耗、低时延、高集成化的电子鼻系统作为研究目标,通过设计高硬件友好度的电子鼻模式识别引擎,并对其进行结构简化和参数量化,使其具有较高的硬件友好度。此外,本文基于FPGA设备设计了模式识别引擎硬件加速器,并将FPGA作为电子鼻系统的硬件载体完成了其在边缘设备的部署和应用。本文主要的工作总结如下:(1)本文通过搭建气体数据采集平台,完成了十类别的气体数据采集工作,为电子鼻的模式识别引擎设计奠定了基础。(2)本文以卷积神经网络为核心架构,设计了面向电子鼻系统的模式识别引擎,并能够以较高的推理精度完成十类气体的分类任务。(3)本文提出了混合精度量化策略,完成了对模式识别引擎的参数层级的优化,使其权值格式从高精度浮点数简化成整数类型。此外,通过使用跳跃连接融合方法完成了对模式识别引擎的结构层级的优化,参数优化与结构优化使模式识别引擎具有较高的硬件友好度,同时,经过优化的模式识别引擎能够以99.23%的推理精度完成气体分类任务。(4)本文设计了基于FPGA的模式识别引擎硬件加速器,实现了电子鼻模式识别引擎在FPGA中的加速推理计算。相较于高性能通用处理器(Intel I7-12700K),基于FPGA的模式识别引擎硬件加速器具有38倍的加速效果,同时功耗仅为I7-12700K的2.27%。本文的工作能够给低功耗与低延迟场景下的电子鼻部署以及应用提供一种新的思路。

关键词： 开关柜   局部放电   小波阈值去噪算法   特征提取   XGBoost算法  

摘要： 随着电力系统的飞速发展,开关柜因其绝缘性能好、可靠性高和占地面积小等优点,在高压配电领域被广泛应用。局部放电(Partial Discharge,简称局放)是造成开关柜绝缘故障的主要原因之一,通过对局放信号进行实时监测与模式识别能够及时发现开关柜内潜在的绝缘缺陷,对保障开关柜的供电可靠性具有重大指导意义。但局放多样性和复杂性的特点,导致模式识别的难度增加。为保证识别结果的准确性,应用于识别的算法性能也需要进一步提升。因此,本文分别对局放信号的去噪、特征提取和模式识别算法做出改进,提升开关柜局放类型识别的效果,主要研究工作如下: 针对局放信号中存在白噪声的问题,在传统小波阈值去噪算法的基础上,引入了一个趋势调节参数,对阈值函数进行改进,提出了连续自适应小波阈值去噪算法。对仿真局放信号和真实局放信号去噪结果表明,该算法对局放信号去噪效果明显优于传统的去噪算法,很好地保留了原信号的特征,即使随着噪声强度的不断增强,所提算法依旧可以保持不错的去噪效果。 为了解决局放信号特征提取过程中,特征维数过高导致冗余信息过多与特征信息分散的问题,提出了一种局放信号特征优选方法。该方法首先计算信号的一维特征并进行特征融合,然后计算特征的重要性指标并进行排序,最后除去非敏感特征和干扰特征,选择能够为局放信号识别提供更多信息的重要特征。对特征优选方法进行分析发现,其可以在降低局放特征维度的同时保证局放信号模式识别的准确性。 针对极端梯度提升树(e Xtreme Gradient Boosting,XGBoost)算法超参数选择困难的问题,改进粒子群算法,提出了自适应粒子群(Adaptive Particle Swarm Optimization,APSO)算法,通过APSO算法对XGBoost算法中的超参数进行调节,提升XGBoost算法模式识别的准确率。为了验证APSO-XGBoost算法的有效性,将局放信号按照3:1的比例划分为训练集和测试集,分别采用原始特征与优选后特征对不同识别算法模型进行性能测试。结果表明,基于优选后局放特征和APSO-XGBoost算法的局放信号模式识别准确率均高于其他算法,证明了所提算法的有效性以及优越性。 为了方便实际工程上的应用,基于Lab VIEW设计了开关柜局放识别软件,将局放信号的去噪、特征提取与模式识别算法封装。测试结果表明,该软件能够高效准确地识别出局放类型,具有良好的实际应用价值。