关键词:
Hadoop
数据管理系统
数据处理
数据挖掘
状态评估
摘要:
随着物联网和云计算技术在工业生产中广泛应用,煤矿开采朝着信息化智能化方向发展。传统煤矿数据中心管理的数据规模庞大且大多分散存储,给数据综合管理带来很大难度,这种管理方式已经无法满足建设智慧煤矿的需求。本文应用Hadoop作为煤矿设备数据管理平台,为实现煤矿端海量数据的存储以及优越的系统管理性能提供了可靠的技术架构。本文研究内容包括如下几个方面:(1)对煤矿大数据管理系统的基本需求以及基本功能进行分析。考虑到煤矿大数据的结构类型复杂多样,引入XML文档技术实现对数据的统一描述,结合模型驱动映射的方法实现数据从XML文档格式映射到数据库,实现数据的规范化处理。(2)对整个煤矿设备数据管理平台的架构进行分析,具体包括数据的采集、清洗、传输与数据存储这四个部分。为煤矿现场的不同设备间交互提供便捷通道,采用OPC UA协议配合OPC服务器完成数据采集工作。采集的数据往往存在少量坏点,提出基于Map Reduce的煤矿数据特征提取方案,完成数据的清洗工作。为了实现煤矿端与上级监管中心实时数据一致性,保证系统具有良好的读取性能,采用基于Redis数据联网传输架构,实现数据的低延迟传输,保证系统获取数据的实时性。利用Hadoop生态系统自带HBase数据库完成煤矿设备海量数据的存储。通过这四个部分的详细说明完成整个系统的设计工作。(3)利用Hadoop平台完成数据高效管理的同时,结合大数据挖掘技术从海量煤矿设备数据中挖掘有价值的信息实现对煤矿高效管理。提出一种基于时间序列与BP神经网络结合的预测模型对煤矿关键设备的运行状态进行预测,并采用层次分析法建立煤矿设备健康状态的评价模型。以枣矿集团一煤矿采煤系统为实验对象,通过采煤机原有数据进行预测并对采煤机进行状态评估,所提方法能够可以有效预测且做出合理评价,利于煤矿端人员进行管理。(4)以枣矿集团各煤矿公司为实验对象搭建完整的煤矿机电设备数据管理云平台,本文设计的管理系统可以将各个煤矿公司关键参数集成在一起,实现对众多分散矿点的集中统一管理。同时搭建虚拟机验证平台对系统的存储、查询、读写性能进行测试。实验证明,利用Hadoop集群的优化调度资源可以应付煤矿大数据背景。该论文有图37幅,表9个,参考文献62篇。