关键词： 深度学习   Transformer   语音识别   手语识别   小样本学习  

摘要： 当前,基于深度学习的序列学习模型在依赖时序关系的模式识别任务(如语音识别、手语识别)中取得了突破性进展。从基于循环神经网络、卷积神经网络的深度学习模型,到现在流行的自注意力模型Transformer,序列标注的精准度也屡创新高。Transformer模型由于在捕捉长距离依赖性和并行计算方面的优势,在序列建模方面得到了广泛的应用。另一方面,卷积神经网络通过参数共享机制在捕捉局部特征模式方面表现出不可替代的优势。最近的大量工作都在尝试融合卷积与自注意力机制,初步结果表明了融合方式比单独使用二者更具优势。例如,Conformer模型通过改进Transformer的编码器结构,在语音识别任务中取得了当前最好的结果。本文针对两种不同的序列标注任务,探索一种高性能、通用的序列学习模型与训练方法。通过引入一种新的优化函数设计,本文提出了一个改进的Conformer模型——AF Conformer模型,并将该模型应用于语音识别小样本学习与手语识别任务。具体而言,在小样本语音识别任务中引入一种专门增强语音数据集的Spec-Augment方法,同时提出一种新颖的优化函数-反焦点损失函数(Anti-focal Loss),高效提升模型在小样本数据集下的收敛速度。在AISHELL-1数据集上的实验结果表明,上述提出的方法进一步提升了Conformer基准模型的识别性能。研究将提出的AF Conformer模型直接应用于手语识别任务。在公开德文手语数据集PHOENIX14T上的实验结果显示,相比于前沿模型Sign Language Transformer,上述提出的模型在验证集和测试集上将识别正确率分别提升了3.95%和2.4%。

关键词： 人脸识别   模式识别   稀疏编码   字典学习   机器学习  

摘要： 在人脸识别领域,深度学习是当前的一个重要研究方向。但是当训练样本的数量较少,尤其是在样本数量较少的同时类内存在较大的差异时,深度学习的表现效果往往不尽如人意。而以稀疏表示为理论基础的字典学习方法目前则在小样本上表现较为优异。在对字典学习的探究过程中,发现字典学习存在如下问题:1)字典在进行学习的过程中,虽然对样本数量的依赖性弱于深度学习,但是训练样本的多样性依旧极大的影响了字典的训练效果2)字典训练极度依赖未受污染干扰的训练样本,一旦训练样本本身收到干扰,很可能学习到错误的特征3)人脸在面对腐蚀、遮挡的情形下识别率严重下降,在极端复杂条件下,基于字典学习的人脸识别表现能力尚需提高。以上的问题严重限制了字典学习在实际工程中的应用。本文针对以上问题做出了以下几点改进,并提出了几种新的字典学习算法:(1)基于现有的核理论,将核理论引入字典学习领域,并在学习过程中增强了类之间的区别性,即判别性。首先通过核理论将字典原子映射到高维空间,在高维空间进行非线性学习,之后通过引入判别性约束来增强类别之间的区分性,以降低字典学习对于训练样本多样性之间的依赖。实验表明该算法在多个传统的实验数据集上有着良好的表现。(2)在字典学习的过程中,双字典学习在字典学习领域是一个较为新颖的研究方向。本文在现有双字典学习的理论基础上,提出了一种基于交替最优化的低秩判别字典学习算法。该算法同时考虑了训练样本的特有特征与普遍特征,通过交替的字典学习,增强了训练样本的可识别度,提高了针对受污染训练样本的鲁棒性,同时也减轻了对样本多样性的依赖。实验表明,该字典学习算法在多个实验数据集上有着优秀的表现。(3)针对(1)(2)算法的优缺点,进行了总结与改进,提出了一种基于交替最优化的双字典学习算法。该算法采用了算法(1)中优秀的判别性约束,并通过算法(2)中所提出的双字典算法的协助,使得该字典学习算法在面对小样本、高腐蚀、强遮挡的情况下识别效率明显高于其它字典学习算法。

关键词： 电缆沟外力破坏预警系统   多通道时频注意力机制   特征提取   模式识别   深度学习  

摘要： 现在的城市规划建设中,大部分输电线路采用了地下敷设方式。然而,电缆沟中敷设的地下电缆容易受到道路开挖、管道埋设等外部因素影响。这些施工过程可能会对电缆产生不同程度的损害,进而严重影响供电安全可靠性,给用电区域群众以及电网单位造成巨大损失。目前,为了防范此类事故的发生,电网单位对重点输电线路加强了现场巡视和检查,禁止工程机具在电缆沟周边进行施工作业。但是这种处理方法需要的人力及物力成本高,因此有必要设计一套自动化预警系统,确保在电缆受到外力破坏前能够及时预警,实现对地下电缆线路的全天保护。本文针对电缆沟外力破坏预警系统,开展了以下四个方面的研究工作:(1)以电缆沟外破机具声波传播特性为研究对象,分析声音信号传播衰减率和距离、声音信号频率等影响因素之间的关系以及声音传播过程中干扰信号的影响,确定了电缆沟的声音传感器安装位置以及电缆沟安全距离阈值。(2)基于电缆沟外力破坏事件的声音信号特点,分析不同特征对外破声音事件的特征表达能力。采用数据增强方法解决外破声音样本数量及多样性的不足所引起的模型训练过拟合问题,使模型在应对声音数据变化时识别性能更加稳定。(3)基于外破声音识别任务特点,提出了外破声音识别模型。模型同时学习外破声音事件与安全事件的区别以及各个外破声音事件之间的特征差异,推理破坏事件的存在可能性以及破坏事件的具体类型。另外,为了降低背景噪音对模型识别性能的影响,采用时间注意力、频率注意力和通道注意力等注意力特征增强模块对声音特征进行增强或抑制,并采用并行的多通道时频注意力机制提高模型的计算效率。(4)基于对系统功能需求及性能需求分析的基础上,设计并实现了电缆沟外力破坏预警系统,并在实际场景的测试应用过程中,验证系统对外力破坏事件预警功能的有效性。

关键词： 欠驱动仿人手   抓取模式识别   深度学习   自主抓取  

摘要： 随着机器人作业任务越来越复杂精细,实现仿人机械手稳定可靠的抓取是机器人领域的重要挑战。欠驱动仿人手在抓取中具有自适应性,但是抓取的灵活性和精确性不足。由于缺乏合适的抓取规划策略,欠驱动仿人手较难应用于自主抓取。本文受到人类能够预测匹配物体抓取手势的启发,基于深度学习方法与欠驱动仿人手抓取的互补性,提出一种基于抓取模式识别的刚软仿人手自主抓取方法。该方法通过视觉信息和深度学习方法识别物体的抓取模式和抓取姿态,简化了抓取规划和控制,最后搭建刚软仿人手抓取平台进行了实验验证。本文的具体研究内容如下:基于刚软仿人手的结构和欠驱动自适应抓取方式,进行了单手指运动学分析。根据虚功原理得到手指刚性关节转角与腱绳拉力的关系,根据等效悬臂梁结构得到柔性指节弯曲变形的挠度和转角,再通过叠加得到手指的运动状态以及指尖运动轨迹。进一步分析了五指仿人手的整体运动学,通过Matlab仿真得到刚软仿人手的运动空间。根据人手的抓取模式分类,制作了用于深度学习网络训练的抓取检测数据集,其中将物体分为柱形包络、球形包络、精细捏取和宽型捏取四种平面抓取模式。使用基于深度学习的YOLOv3物体检测算法识别了已知和未知物体的抓取模式和抓取区域,使用基于Open CV的Canny边缘检测、轮廓检测和轮廓最小外接矩形等图像处理方法检测了物体的抓取角度。通过刚软仿人手的位置控制实现不同的抓取模式,利用速度控制实现多手指的协调运动,利用电流反馈控制间接实现抓取的力反馈和抓取制动。在手指接触检测中利用高斯过程回归来预测驱动电流的均值和置信区间。利用ROS软件系统实现UR3e机械臂的运动规划和仿真,并通过相机的手眼标定完成抓取目标点的坐标变换。搭建刚软仿人手实验平台,在手指的运动控制实验中验证PID位置控制和速度控制的准确性,在手指接触检测实验中验证接触反馈的及时性。通过UR3e机械臂搭载刚软仿人手,在物体抓取实验中验证了抓取模式识别和自主抓取的稳定性。实验结果表明本文所提抓取方法具备实用性,能够适用于不同形状大小的生活日用物体。

关键词： 设计模式识别   Boosting算法   特征提取   软件度量   微结构  

摘要： 设计模式广泛应用于软件开发中,是针对软件开发常出现的问题,总结出处理软件复杂逻辑的方案,同时提供优秀的软件架构。设计模式可以有效提高面向对象系统的开发人员的工作效率,并且提高面向对象程序的可维护性和可靠性。然而,当开发的文档记录不够充分或过时,设计模式在目标系统的使用情况就会丢失,开发人员无法利用已有的设计模式进行理解或者重构程序。因此,在面向对象的系统源代码中,识别出已使用的设计模式具有重要意义。由于系统代码的动态行为信息难以获取,导致对于行为型设计模式以及变体的识别比较困难。鉴于Boosting模型算法应用在各种领域性能优异,且鲁棒性比较强。为提高对于结构型、创建型以及行为型设计模式的识别准确度,对不同分类模型识别设计模式的性能进行研究,提出基于Boosting模型的设计模式识别方法,主要研究工作如下:(1)数据集标注。首先需要对代码数据进行收集和分析,本文选取了组合模式、单例模式、工厂模式、对象适配器模式以及观察者设计模式。根据设计模式的特点,对这五类设计模式结合基础特征和人工纠偏的方式进行Java代码数据集标注。(2)特征提取与处理。传统机器学习方法提取的特征不够完善,仅包含静态的结构信息,比较单一。提取计数向量时需要对代码数据采用类似于文本处理的方式去除多余特征,减少数据噪声。后续引入计数向量、软件度量和微结构进行完善特征,更全面的获取系统代码中的结构和行为信息,以提高机器学习分类模型识别的准确率。并且计数向量可以降低数据标注成本,获取代码的语义信息可作为辅助识别特征。特征处理主要采用SMOTE增强数据和Minmax归一化预处理方法提高数据的稳定性。(3)研究机器学习分类模型的训练过程。在分类模型训练阶段,对比二分类任务与多分类任务在各种分类模型的训练结果,确定出Boosting模型。同时通过调整数据集的划分、交叉验证方法来确保训练效果,最后采用正交调参的方法来优化Boosting模型。(4)实验环节分阶段对实验结果进行分析。选取JRefactory v2.9.19等经典开源项目分阶段实验并分析结果,并且通过多个实验指标与其他方法对比,验证本文方法可以有效地提高对于结构型、创建型以及行为型设计模式的识别准确率。

关键词： 工业大数据   制造装备   故障诊断   模式识别   剩余寿命预测  

摘要： 工业互联网技术的广泛应用推动制造业产生海量数据,这些数据中通常包含表征制造装备健康状态的丰富信息。在机械故障诊断与寿命预测领域,现有的信号处理和故障诊断技术难以从强耦合、低信噪比、高掩盖的混合信号数据中提取出能够表征装备真实状态的信号,导致了制造装备故障识别精度低、寿命预测波动大、健康管理能力差。针对上述问题,本文以采集的原始测量数据为基础,深入制造装备关键部件故障产生机理与退化演化规律,开展数据驱动的制造装备关键部件故障诊断与寿命预测研究。通过分析频域信号特性和滤波机制,提出针对强噪声干扰下的制造装备关键部件早期故障诊断方法,实现超低信噪比下信号处理及故障诊断;基于集成学习思想,提出了多源数据集成的故障模式识别模型,提升了小样本目标域训练集下的故障识别精度;基于装备的退化规律,提出了健康状态评估和寿命预测混合模型,实现制造装备的自主监测与智能诊断。具体内容概括如下: (1)提出了一种制造装备关键部件早期故障诊断模型。该模型设计了基于频率加权能量算子和功率谱融合的信号处理算法,克服了现有信号处理算法抗噪性弱、鲁棒性低的问题,实现了强噪声干扰下制造装备关键部件的早期故障诊断。 (2)提出了一种制造装备关键部件故障模式识别模型。该模型构建了基于域间分布度量和样本相似度的多源数据集成策略,解决了同领域不同工况下多源数据难以有效融合的问题,提高了小样本目标域训练集下故障模式识别精度。 (3)提出了一种制造装备关键部件健康状态评估和寿命预测混合模型。该模型构造了一种具有较高综合性能的健康指标族并改进了现有的分阶PE裂纹扩展模型,解决了原有PE模型适应性低、约束条件较多的问题,实现了制造装备关键部件的退化跟踪和寿命预测的有机结合。

关键词： 局部放电   超声波检测法   特征提取   相关向量机   模式识别  

摘要： GIS具有运行可靠性高以及占地面积小等优点,因此被广泛应用在电力系统中。然而生产、运输、安装和长期运行过程中形成的缺陷会导致GIS设备出现绝缘故障,局部放电与GIS设备的绝缘状态息息相关,不同类型缺陷所产生的局部放电对设备的危害程度也不同,因此有必要对GIS设备进行局部放电检测。本文在实验室中搭建了典型缺陷实验平台,采集了大量的局部放电信号,研究了局部放电信号的去噪处理、特征提取和模式识别等方面。主要研究内容如下: 1)首先在实验室中搭建了局部放电超声波检测系统;然后设计了金属突出物缺陷、自由微粒缺陷、绝缘子表面污染物缺陷和绝缘子内部气隙缺陷等四种典型缺陷模型;最后通过具体可行的试验方案采集了大量不同的局部放电信号,并分析了不同局部放电信号的时域和频域特征。 2)为有效去除局部放电信号中大量的噪声干扰,提出一种基于改进变分模态分解算法(IVMD)的去噪方法。首先针对变分模态分解中分解参数的选取问题,提出以能量差最小确定分解层数,以天牛须搜索(BAS)算法优化各分量对应的惩罚因子;然后在分解出的一系列BIMF分量中采用峭度准则确定有效分量,去除窄带干扰信号和高频白噪声,同时利用3σ准则确定阈值,结合阈值函数进一步去除有效分量中残留的白噪声;最后重构有效分量。 3)在充分研究IVMD算法的基础上,提出一种基于改进变分模态分解算法和Wigner-Ville分布(IVMD-WVD)的局部放电信号特征提取方法。首先通过IVMD算法分解局部放电信号得到若干有效的BIMF分量;然后线性叠加各BIMF分量的WVD结果,从局部放电信号IVMD-WVD时频分析结果中发现在去除噪声的同时能有效消除WVD中的交叉干扰项;最后从时频图中提取出表征整体分布的7维矩特征、局部方向纹理的4维GLCM纹理特征和全局方向纹理的4维Tamura纹理特征,并将以上15维特征参数归一化处理得到特征参数集。 4)在主成分分析法(PCA)对15维特征参数集进行降维处理的基础上,提出了一种多核多分类相关向量机(MMRVM)模型。首先提出将高斯核函数和多项式核函数组合构建出一种多核核函数作为RVM的核函数;然后以BAS算法优化多核核函数参数;最后将PCA降维后的特征参数作为MMRVM模型的输入数据进行缺陷识别训练和测试,并和RVM的分类结果进行对比得出本文提出的MMRVM模型可有效识别出局部放电缺陷类别。

关键词： 迎宾机器人   人脸识别   RetinaFace   MobileFaceNet   语音交互   自主导航  

摘要： 迎宾机器人作为服务机器人的一种,已广泛出现在各种生活场景中。迎宾机器人的功能主要有身份识别、接待互动和导览讲解,涉及到人脸识别技术和语音交互技术。目前,迎宾机器人上采用的处理器多为移动端或嵌入式设备这些小型计算平台,计算资源相对有限。因此迎宾机器人上采用的基于深度学习的人脸识别方法不仅要能识别实际场景中不同光照、角度、姿态、表情的人脸,检测速度也需要达到实时性的要求。良好的语音交互则需要机器人能准确识别访客的意图,从而实现语音问答和导航功能,带给访客更好的体验。论文根据机械馆门厅环境和基本需求,改进了人脸识别算法,开发了语音交互功能,并应用于迎宾机器人。对比分析了多种算法,选择了Retina Face算法用于人脸检测,再用Mobile Face Net算法对得到的人脸进行身份识别。针对Retina Face的主干特征提取网络进行了调整,引入轻量级网络Mobile Net V2并结合坐标注意力机制,使改进后的模型既能适应复杂场景下的人脸检测,又能减少模型计算量,满足实时性的需求。针对Mobile Face Net中的bottleneck模块在提取特征时容易发生空间信息丢失的问题,采用sandglass优化模块构建了改进的Mobile Face Net模型,在保证人脸识别准确率的同时,有效减少了模型大小和计算量。针对语音问答功能,通过科大讯飞SDK进行语音识别,再采用Gensim框架对文本解析,匹配最相似的问题,确定对应的答案,最后通过SDK将答案文本进行语音合成。针对语音导航功能,基于ROS的功能包,采用Gmapping算法对机械馆门厅环境进行了全局地图构建,并采用A*算法和TEB算法实现自主导航过程中的路径规划,并自动避障。最后在迎宾机器人平台上搭建了人脸识别系统和语音交互系统。经过测试,改进后的人脸识别的准确率高、实时性好,语音问答功能可以满足与访客的交流,语音导航时,机器人能高效迅速地达到目标点,同时避开门厅中的行人。该迎宾机器人在机械馆门厅中具有良好的人机交互功能。

关键词： 故障诊断   模糊PID   电机损耗   模式识别   Smith预估   温度场计算  

摘要： 随着工业技术水平的快速提升,电动机市场对高功率密度和扭矩密度的永磁同步电机的需求日益增长。对此,课题组提出了新型的摆线结构永磁同步电机。该电动机借鉴了永磁电机与摆线液压马达等机构的结构特性,较同条件的永磁同步电机,其输出扭矩提高了168%,输出功率提高了168%,输出转速降低至八分之一。针对这种结构的电动机,本文从电机发热是否影响磁路安全的角度,仿真计算其温度场分布;从电机过热保护的角度,提出一种包含故障诊断功能的过热保护温度控制策略,理论验证此温度控制策略的可行性。 针对本电机的定转子摆线配合的行星运动难以适配主流电磁分析软件的问题,基于铁耗分离模型,在电机静态仿真的基础上理论计算了不同交变频率下的定子铁芯损耗。在Transient Structural中设计了辅助零件,通过设置其运动副参数,巧妙地完成符合行星运动的动态仿真,进而求得电机支撑层在不同转速下的机械摩擦损耗。损耗的计算结果显示,电动机温度场主要热源为定子、电机支撑层结构、绕组,其具体数值为温度场仿真奠定了基础。 针对电机直接进行动态温度场仿真引入复杂的流体力学计算的问题,本文将电机静态化处理。Fluent中温度场仿真结果显示在上限安全电流3A,环境温度300K的情况下,设计转速下的转子及永磁体低于永磁体的最大工作温度,电机磁路安全。定子绕组是温升最严重的部位,确定定子绕组作为温度控制系统的控制对象。 温度控制系统的温度反馈通常存在一定滞后,这将大大影响系统的稳定性和准确性。通过对电机传热路线的分析,理论建立电机绕组温升的基本模型,开展电机温升的阶跃响应实验,分析阶跃响应曲线的关键节点,明确该模型参数数值,基于该模型实现了Smith预估器。该预估器应用在PID控制系统上,将振荡次数减少至2次,超调量减至9.8%,克服了温度控制系统的时滞问题,提高了系统的控制性能。 为了避免对电机的破拆,设计了模拟电机缺相、短路、堵转等故障的方法,在故障模拟实验中获取了模拟故障的电机三相温度数据。使用此样本训练神经网络模式识别模块,发现交叉熵损失达到7.5e-7,误差直方图的数据分布集中,验证了样本数据的实用性。 搭建支持PID参数手动调节的温度控制软硬件平台,通过调试PID参数,确定模糊参数规则表。经仿真验证,模糊PID控制器的超调量为1.5%,稳态误差为0℃,抗干扰能力也强于普通PID控制器,通过该平台测定的模糊PID参数数据库提升了PID控制器的稳定性和准确性。

关键词： 高压发电机   定子主绝缘   复合缺陷   局部放电   图卷积神经网络  

摘要： 作为在电力系统中承担电能输出任务的重要设备,大型高压发电机的安全性与运行稳定性会直接影响电力系统运行的可靠性。目前高压发电机大部分的故障来自于定子绕组主绝缘的老化失效。主绝缘老化后会同时产生多种类型的绝缘缺陷,其会引发局部放电且放电信号因绝缘缺陷不同而各有差异。通过对高压发电机定子绕组主绝缘的局部放电情况的监测与分析,可实现对其绝缘性能的及时有效评估,这对高压发电机的安全运行有着重要意义。本文以13.8k V发电机的定子线棒为研究对象,总结分析了高压发电机定子绕组内部放电、槽部放电、端部电晕放电、端部相间放电以及端部表面放电的放电成因、放电危害与放电机理,基于此制作了四种含有不同复合缺陷的高压发电机定子线棒模型,以用于局部放电试验。设计搭建了在不同温度与湿度条件下进行局部放电试验的气候箱与局部放电测试电极结构和测试电路,确立了温度与湿度的调节步骤与升压方式。基于已建立的含有复合缺陷的高压发电机定子线棒模型,结合对其在不同电压等级、温度与湿度下的局部放电测试,对高压发电机定子主绝缘上的局部放电图谱进行了研究分析。结果表明,电压等级会显著地改变局部放电规模与放电图谱形貌,放电规模随外加电压的升高而增大,各类放电组分的放电规模随电压的升高出现不同程度的增大;温度升高会促进电晕放电的进行但高温会对电晕放电带来更多的负面影响,温度对于相间放电、槽部放电与端部表面放电带来的负面影响小于其带来的正面影响;湿度对电晕放电、相间放电与端部表面放电带来的负面影响较大,而槽部放电受到湿度的负面影响较小。为了对高压发电机定子线棒复合缺陷的局部放电类型进行智能识别,基于图论与图结构搭建了图卷积神经网络。将局部放电图谱转化为图结构信号,并深入研究了图卷积神经网络在不同超参数下的识别性能。最后比对了BP神经网络、卷积神经网络与图卷积神经网络对于局部放电类型分类的结果。结果表明,图卷积神经网络具有更高的识别率,为高压发电机定子线棒复合缺陷的局部放电类型的智能识别方式提供了更多的选择。