关键词： MFR工作模式识别   无人机集群   平滑图信号   自组织映射   图注意力网络  

摘要： 无人机集群因具有感知范围广、部署灵活等优点,被广泛应用于电子侦察。多功能雷达(Multi-Function Radar,MFR)工作模式识别作为电子侦察的核心内容,对截获的信号样本进行分析以判定MFR的工作模式,为制定电子对抗策略提供情报基础。本文以无人机集群对抗多个MFR为研究背景,引入图信号处理技术,建立信号样本间的融合依据,围绕工作模式样本不平衡且训练样本较少情况下的MFR工作模式识别开展了深入研究。具体研究内容如下:(1)针对无人机集群截获的信号样本难以直接融合分析,以及工作模式样本不平衡且训练样本较少的情况,提出一种基于平滑图信号生成的MFR工作模式识别方法。先将样本集重表征为平滑图信号,得到相同工作模式下信号样本间的关联,图信号中一个节点即为一个信号样本;然后利用图注意力网络(Graph Attention Networks,GAT)对其进行样本数据融合与分类,实现MFR工作模式识别。其中,将融合范围限制在一阶邻域,从而减少不同工作模式样本间的干扰,以应对工作模式样本不平衡;另外,GAT可进行邻域类别信息传递以摆脱对大规模训练样本的依赖。仿真结果证明了该方法的有效性。以K近邻图算法生成平滑图信号为例,当工作模式样本不平衡度约为10:1,每种类别训练样本数目为25时,该方法的识别准确率和F1指数相对现有方法分别提高了22.38%和21.62%,且能够适用于存在一定噪声干扰的情况。(2)针对传统平滑图信号生成算法的时间复杂度较高且无法用于无人机集群分布式处理架构的问题,提出一种基于分布式自组织映射(Self-Organizing Map,SOM)的平滑图信号生成算法。采用分布式SOM算法对信号样本集聚类,由于单个聚类簇内的信号样本属于相同工作模式的可能性较大,相邻的聚类簇包含的样本也具有一定相似性,且所有聚类簇的拓扑关系是已知的,因此可依据簇邻居关系生成关于信号样本集的平滑图信号。理论分析与仿真结果表明,该算法相比传统算法具有更低的时间复杂度,且与上述GAT结合能够取得较高MFR工作模式识别精度。

关键词： 模式识别   典型相关分析   多模态特征融合   局部增强   聚类自适应  

摘要： 大数据和互联网时代背景下,多模态数据已经成为各行各业数据存在的主要形式,特征融合作为多模态数据学习的关键技术受到模式识别、机器学习等研究领域的广泛关注。典型相关分析作为多模态特征融合的代表方法,旨在学习两组模态数据的相关投影方向,在低维子空间中获得更具鉴别力的相关融合特征。目前,典型相关分析及其变体已广泛应用于图像处理、信息融合、生物信息学等领域,但其作为处理两模态数据的线性方法,仍存在无法揭示多模态数据的非线性复杂结构、无法自适应于聚类方法等问题。针对上述问题,本文以典型相关分析为基础,以特征融合为方向,融合局部信息,建立一种新的局部增强的特征融合的优化模型,并进一步拓展至多模态典型相关分析,提出一种聚类自适应的特征融合方法。具体研究工作如下:(1)为了有效挖掘原始高维数据中的局部结构信息,本文提出了一种基于局部增强的正交特征融合方法,即跨模态局部正交典型相关分析。该方法融合局部邻域信息和投影变换矩阵的正交约束,建立跨模态局部增强散布,构建局部增强的正交特征融合优化模型。借助局部增强结构,该方法在面对复杂的非线性问题时可以有效挖掘隐藏在数据中的局部结构信息,揭示了数据内在本质流形结构,克服了对于原始数据分布的高度依赖,能更好地保留数据之间的重构关系,获得的低维相关融合特征更具鉴别力。在人脸和多特征数据集上的大量实验结果验证了该方法的有效性。(2)为了让多模态特征融合方法与聚类方法自适应,本文提出了一种聚类自适应多模态典型相关分析方法。该方法构建了多模态典型相关分析和聚类的统一优化模型。特征融合方法中获取的低维相关融合特征可以进一步提高聚类性能,而聚类方法中的类别标签可以进一步约束特征融合的相关投影方向。该方法不仅实现了在无监督情况下的相关投影方向的判别学习,而且能够直接获得高维多模态数据的类别标签。另外,该方法还实现了类标签中的样本外扩展,通过迭代的方式优化解,在理论和实验上分析了迭代的收敛性,在多特征、多语言、图像数据集上的大量实验结果证明了该方法的有效性。图[8]表[12]参[74]

关键词： 手机信令数据   区域联系   模式识别   重庆与周边地区   规划响应  

摘要： 手机信令数据作为依附在居民个体出行行为下的一项重要数据来源，利用手机信令数据开展区域联系模式研究具有先天优势。针对目前少有采用不同时段手机信令数据分析区域联系模式的研究现状，从区域联系内涵出发，将区域联系解构为联系强度、联系方向、联系功能三个维度，结合手机信令数据的识别方法，构建基于手机信令数据的区域联系模式分析框架。采用工作日、周末、节假日等不同时段的手机信令数据，通过构建联系强度指数和联系方向指数，将区域联系模式分为通勤型、商务型、游憩型和综合型四种。最后，以重庆与周边地区为例，采用中国联通数据开展实证研究。研究发现，重庆中心城区与周边地区联系模式主要为游憩型，主城都市区内的重要节点城市和门户城市多为综合型，渝东北和渝东南多为商务型；周边地区中，成都、达州、广安等22个地级市与重庆的区域联系模式为综合型，遵义市、宜昌市和南充市为游憩型。未来应注重提升区域内的产业协作能力，加快推动便捷生活政策工具，促进毗邻地区协作发展，提升一体化发展水平。

关键词： 密度峰值聚类算法   异常用电检测   负荷模式识别   负荷聚类   共享最近邻  

摘要： 智能电表的广泛普及应用,在用户侧累积了海量多源异构负荷数据。深入分析电力负荷特性,通过无监督聚类算法挖掘负荷数据间潜藏的关联特征信息,能有效识别负荷用电模式,掌握用户用电习惯和用能规律,实现用户精细化分类,为负荷预测、用电异常检测、需求响应等具体应用场景提供关键信息支撑,提高电网运行的可靠性和经济性。密度峰值聚类算法(DPC)是一种新型的无监督学习方法,聚类原理简单,能发现任意形状的簇,有效克服一些传统聚类算法的局限性。同时,DPC算法也存在一些不足,如截断距离dc选取困难,一步分配策略容错性差等。针对海量高维复杂的用户负荷数据,为了提高负荷聚类算法性能实现负荷用电模式精确识别,本文在现有密度峰值聚类算法的基础上,提出了相应改进方案,主要工作如下:(1)针对用户日负荷曲线中存在的异常数据,本文通过高斯平滑滤波法过滤掉噪声值数据,采用三次样条插值法填补缺失值数据;为了消除不同用户间负荷用能的量纲差异,对负荷数据进行归一化处理,并对高维复杂负荷曲线进行PCA降维处理。(2)针对原始DPC算法的不足,提出了一种基于两步分配策略和共享近邻相似度的密度峰值聚类算法(TSNN-DPC)。改进算法引入了共享邻居的基本思想,充分考虑样本的真实分布信息和局部结构信息,优化改进了局部密度ρ和相对距离δ的计算;针对一步分配策略的严重弊端,提出了基于必然从属点和可能从属点的两步分配策略。最后在UCI真实数据集、人工数据集以及电网实测数据集三种应用场景进行仿真验证,结果表明所提算法能有效改善在变密度、多尺度数据集上聚类性能的不足,鲁棒性强。(3)基于TSNN-DPC算法,提出一种典型负荷模式识别及异常用电检测模型。首先,将改进算法对待测负荷数据集进行聚类分析;然后,基于样本数据集的γ-图和ρ-δ决策图分别获取聚类中心和异常点,根据异常用电判据,实现用户典型用电负荷模式提取,并完成异常用电模式检测。最后,采用美国开放能源信息网站(OpenEI)上获取的16种不同类型商业用电数据构造仿真算例,算例分析结果表明所提模型可以准确识别负荷用电模式并检测异常用户。

关键词： 深度表型表征   中文电子病历   语言模式   模体挖掘   模式识别  

摘要： 电子病历中的表型描述大多为非结构化的自由文本,无法直接用于临床研究。电子病历的深度表型表征算法可以高保真地结构化电子病历中的表型信息,日益成为医学信息学界的研究焦点。我国拥有丰富的电子病历资源,然而由于中文医学本体不完善以及细粒度标注数据的缺失,发展中文电子病历深度表型表征算法面临着巨大挑战。在这种低资源条件下,探索如何利用有限的细粒度标注数据集开发出具有泛化能力的中文电子病历深度表型表征算法,具有重要意义。本研究想要发展出一种基于有限标注语料学习表型描述的语言模式,并基于所学习的语言模式对中文电子病历进行深度表型表征的算法。在该研究中,首先,基于一种用于深度表型表征中文电子病历的语义信息模型-PhenoSSU模型,对1000份中文电子病历进行了人工标注,并将之按照7:3的比例分为训练集和测试集。随后,将训练集中的自由文本编码为单字母序列(如表型编码为P、属性编码为A),然后使用生物序列模式分析挖掘工具MEME模体挖掘工具分析该单字母序列中表型(P)-属性(A)的组合表达模体,并进一步基于这些模体抽象出PhenoSSU在文本中以正则表达式表征的语言表达模式。基于PhenoSSU的语言模式,本研究中发展了一种中文电子病历的深度表型表征算法,包括基于深度学习模型的实体识别算法与基于模式识别的属性预测算法。之后,将本研究中开发的算法应用于两个真实世界的案例研究:基于慢性支气管炎电子病历的深度表型表征更新其诊疗指南;基于体检电子病历的深度表型表征构建甲状腺疾病预测模型。通过将训练集中的电子病历表征为单字母序列,本研究使用MEME模体挖掘工具共计得到51个具有统计学意义的序列模体。这些模体可简并为6个正则表达式,即PhenoSSU模型在中文电子病历中的语言模式。同时本研究发现最少基于134(+/-9.7)份人工标注的电子病历即可学习到这6个正则表达式。通过在测试集上的算法评估,本研究中开发的算法在PhenoSSU层次上可取得F*WA=0.844的算法表现。其中,对于实体识别任务,本研究采用了 BERT-BiLSTM-CRF深度学习模型,可取得F1-score 0.898的算法表现;对于表型关联的属性预测任务,本研究使用了基于语言模式识别的方法,可取得加权准确率0.940的算法表现,相较之下,基于传统机器学习策略的SVM算法的加权准确率为0.709。本研究通过两个案例研究证明了算法潜在的应用前景:通过慢性支气管炎的病历与指南在PhenoSSU层面的对比,证明了基于电子病历更新指南的可能;基于体检电子病历的深度表型表征,本研究中构建了一种可以预测体检人群促甲状腺激素异常的机器学习模型。在缺少细粒度标注语料的低资源场景下,本研究发展了一种简单高效的中文电子病历深度表型表征算法。本工作将有助于提升中文电子病历资源的转化利用,同时给世界上其它非英语国家发展电子病历深度表型表征算法提供启发。

关键词： 统计过程控制   随机森林   离合器   模式识别   机器学习  

摘要： 现代社会,汽车已经成为生活中不可或缺的工具,汽车使用的安全性也受到广泛关注,汽车传动系统中离合器作为控制动力传递的起步元件,直接关系到汽车的行驶安全问题,要求的质量水平也日渐提升。因而,如何提升离合器的生产质量,延长离合器使用寿命,是汽车企业关注的重点。统计过程控制作为企业实施全面质量管理的重要方法,在制造业得到广泛运用。控制图作为SPC的核心工具,能够直观的反映生产过程的状态,控制图模式的识别更是有助于识别生产过程状态,及时发现异常。与机器学习相结合的控制图模式识别方法,提高了控制图识别异常的敏锐度,完成对生产过程中质量异常的预警并提出原因分析和解决措施。本文将统计过程控制与机器学习相结合,建立基于机器学习的控制图模式识别模型,提高对控制限内控制图模式的有效识别。本文首先分析了统计过程控制及其关键工具在控制图应用过程中存在的缺陷,针对控制图控制限内模式识别不充分的问题,提出了基于随机森林的控制图模式识别模型,通过搭建随机森林的基本框架,利用网格搜索法进行参数优化,建立基于随机森林算法流程和控制图模式识别模型以识别影响过程失控的系统性因素;其次以汽车离合器为例,将随机森林算法应用到离合器制造过程的控制图识别中,通过提取关键特殊特性相关数据,建立了基于随机森林的离合器装配线控制图模式识别模型,并与支持向量机、逻辑回归等机器学习方法相比较,验证随机森林模型对控制图模式识别的可行性和有效性;最后以某离合器公司生产制造过程为应用场景,结合生产过程质量控制需求,设计开发面向离合器生产过程的质量控制系统,将该系统进行实际应用测试,测试结果显示,该系统可以实现对离合器生产过程质量的有效控制,对提高离合器装配质量有一定的意义。

关键词： 脑机接口   运动想象   中风   深度学习   模式识别  

摘要： 中风是一种脑组织损伤的急性脑血管疾病。我国心脑血管疾病患者病死率呈现上升趋势,中风患者数量居首位,现患病人数约1300万,发病率为345.1/10万,平均发病年龄为(66.4±12.0)岁,给中国造成的经济负担每年高达400亿元。越来越多的脑卒中患者需要接受康复治疗,以重获肢体运动功能。基于运动想象(Motor imagery,MI)的脑机接口(Brain-computer interface,BCI)技术是一种新的中风患者运动功能康复疗法,通过分析脑电信号(Electroencephalogram,EEG)来解码MI意图,实现大脑和外部设备的交流和通信。研究立足于中风患者的EEG信号分析,利用卷积神经网络(Convolutional Neural Networks,CNN)、长短期记忆网络(Long Short-Term Memory,LSTM)及其变体门控循环单元(Gated Recurrent Unit,GRU)和双向LSTM(Bi-directional Long Short-Term Memory,BI-LSTM)的深度学习网络,提取中风偏瘫患者的EEG信号特征,对其左手、右手MI意图进行识别,取得了卓有成效的成果。主要研究内容及结果如下:1、设计一种LSTM与全连接层(Fully Connected Layers,FC)组成的模块,提出包含64个LSTM-FC-LSTM并联模块的算法。每个LSTM-FC-LSTM计算一个信道数据,实现独立提取每个信道的特征;算法引入Spatial Dropout1D层,实现针对不同被试自主选择与分类任务相关的信道;统计分析信道间的相关性,最终得到健康人与中风患者在左、右手MI时的相关信道。有效的解决因脑损伤区域不同造成的激活脑区对应信道高精度选择问题。2、探讨了5个分类模型在左右手运动想象BCI中的应用,全面比较了各个模型的优缺点和适用范围,为实时BCI分类模型的选择提供理论和实验依据。实验结果表明:GRU-GRU模型与BILSTM-BILSTM模型可以更好的拟合个体训练集,用更少的训练样本达到更高的分类准确率;LSTM-LSTM模型离线校准时间最短,但是其分类准确率较低;从离线校准时间和平均分类准确率来看,BILSTM-LSTM模型表现仍为最优。3、为减小不同受试者间EEG信号的差异对分类准确率的影响,设计一个CNN-LSTM算法。该算法MI意图识别率高达0.89,求得精确率为0.88、灵敏性为0.89、F1分数为0.89。该方法在不依靠针对特定个体的离线校准下,能够独立提取运动想象左手与运动想象右手的本质特征。通过分析在进行左、右手MI时受试者脑区的事件相关去同步/同步现象,得出了健康人、中风左偏瘫患者与中风右偏瘫患者在C3与C4信道周围脑区的激活情况。有效提高BCI分类准确率,为受损脑区定位提供实验依据。MI可以激活大脑神经元,完成大脑神经功能性重建,帮助中风患者部分恢复或者恢复运动能力。BCI技术利用MI特征控制外部设备。本文的研究工作有力地推动了基于MI的BCI技术应用于中风患者康复治疗技术的发展。

关键词： 模式识别   神经网络   多任务学习   传感器阵列   混合气体识别  

摘要： 在人类日常生活以及工业生产中,对环境中的有毒有害气体进行准确快速的检测识别,可以对气体危险事故的产生起到预警和防范作用,对人类健康安全、社会和谐安定具有重要意义。对比传统的化学分析仪器,机器嗅觉已经凭借快速、简便和低成本的优点获得了广阔的应用前景。由于金属氧化物传感器存在交叉敏感性和响应时间长的问题,使得混合气体识别的准确率和效率不够高。鉴于以上背景,本文重点研究基于数据驱动的多元混合气体识别技术,包括基于深度学习的混合气体浓度预测算法研究,以及基于多任务学习的气体分类与浓度预测算法研究。目的是在传感器不需要达到稳态响应的情况下准确地识别出气体的组成成分并预测其对应的浓度。所做的具体工作如下:1、本文提出了一种基于卷积神经网络和长短期记忆神经网络的混合气体浓度预测算法。根据传感器数据长序列的特点,优化了矩形卷积核的结构和大小用于同时提取特征,并提出了一维卷积网络结合LSTM进行特征高效学习的方法。探讨了所提方法的预测效果和截取时序数据长度的关系。在UCI公共数据集上,与已有方法LSTM、SVR和RC算法进行对比实验。由实验结果来看,本文所提的算法拥有最好的气体浓度预测效果、较短的响应时间以及较快的收敛速度,截取20s响应片段时模型的预测效果最佳。例如一氧化碳和乙烯混合气体物的浓度预测精度R2可达0.99,相对于最大浓度值,乙烯的预测误差为8%,一氧化碳的为2%。相比于LSTM网络,R2提高了13个百分点,相比于PSO+SVR网络,R2提高了14个百分点。2、本文研究了多任务学习的参数共享特性,提出了三种基于不同多任务学习框架的神经网络算法,分别是硬参数共享、软参数共享和Cross-stitch参数共享,并结合贝叶斯优化算法调整网络的超参数。利用UCI公共数据集进行了三种算法之间的对比实验,分析评估了它们的性能优劣,并与单任务学习算法进行比较。实验结果表明,基于多任务学习框架的三种算法最差也达到分类精度Acc.0.97,浓度预测精度R2 0.98的结果,可以高效高精度地并行完成气体分类和浓度预测任务;在基于这两个特定任务的场景下,软参数共享的多任务学习框架是优于硬参数共享的,准确率更高,且泛化性更好。

关键词： 模式识别   支持向量回归机   孪生支持向量回归机   损失函数  

摘要： 支持向量回归机(Support Vector Regression,SVR)是机器学习和模式识别领域处理回归问题的有效且重要的工具.受SVR的启发,孪生支持向量回归机(Twin Support Vector Regression,TSVR)于2010年被提出,随着不断深入地研究,TSVR逐渐成为模式识别领域研究热点之一.然而,在真实世界中,样本数据通常由于受到各种因素的影响而存在噪声或离群点,使得TSVR的预测能力受到影响,其影响一般表现为对噪声或离群点较为敏感,模型鲁棒性较差.本文尝试从提升算法训练速度、预测精度以及降低模型对噪声或离群点敏感等方面对TSVR开展研究,构建新型损失函数,运用最优化理论与方法,提出鲁棒的孪生支持向量回归机算法,使其能更有效地处理实际问题.本文具体研究内容如下:1.针对TSVR预测精度和训练速度问题,通过在目标函数中加入调节参数,对上下边界进行约束,提出了一种新型非平行平面支持向量回归机(A Novel Nonparallel Hyperplanes Support Vector Regression,NNHSVR).该算法构造两个较小规模的二次规划问题,并在对偶空间中利用超松弛迭代法求解.实验结果表明,NNHSVR不仅有较好的泛化性能,且训练速度比TSVR快.2.针对TSVR对噪声或离群点敏感的问题,基于ε-不敏感损失函数与Huber损失函数构造了混合Hε损失函数,考虑结构风险最小化原则,提出了一种新型鲁棒孪生支持向量回归机(A Novel Robust Twin Support Vector Regression,Hε-TSVR).该算法在原始空间中利用牛顿迭代法求解,实验结果验证了Hε-TSVR的有效性和鲁棒性.3.为了进一步解决TSVR对噪声或离群点敏感的问题,受Hε-TSVR和截断损失函数的启发,基于ε-不敏感损失函数与Huber损失函数构造了光滑截断Hε损失函数,考虑结构风险最小化原则,提出了一种基于光滑截断Hε损失函数的鲁棒孪生支持向量回归机(Robust Twin Support Vector Regression Based on Smooth Truncated Hεloss Function,THε-TSVR).该算法转化为非凸优化问题,在原始空间中采用CCCP技术求解,实验结果验证了THε-TSVR的有效性和鲁棒性.

摘要： The evolution of traditional electricity grids to smart grids requires analyt- ical tools that can enable smart grid stakeholders to make decisions and effec- tively manage grid resources. Distribution network operators and other smart grid stakeholders need to use appropriate smart metering data analytic tools to address the smart grid problems they face. This thesis contributes to the knowledge base of algorithmic technologies suitable for smart grid analytics ap- plications. Advanced Metering Infrastructure (AMI) is an integrated system of smart meters and data processing tools, and AMI is a core smart grid compo- nent. The implementation of AMI requires analytical tools for smart metering data. A focus is given to developing and evaluating tools for smart metering data analysis that enable AMI. Smart meters contain more information than simple meter readings and ana- lytical tools to extract patterns from smart metering data are needed. More and more countries around the world have realised the importance of smart grids in recent decades and have developed smart grid projects; many households and premises worldwide have installed smart meters. The need for interpretable white box approaches to classification is addressed as much of the existing work on classification is focused on black box models. Black box methods are un- suitable for many smart grid applications due to the fact that the classifications they make cannot be explained. The methods applied in this thesis are suitable for application to real world smart metering problems, and their performance is evaluated using smart meter- ing data provided by an industry partner to demonstrate this capacity. The work in this thesis contains three different smart metering classification approaches. They are a motif based approach, a knowledge based approach, and a tree based approach. All three approaches are demonstrated to be interpretable and effec- tive at classification of smart metering data. The developme