技术领域
[0001] 涉及生态环境在线监测数据采集传输技术领域。
相关背景技术
[0002] 传统的环保数据采集传输仪(以下简称数采仪)通过采集污染源自动监控设备的工作参数、运行状态及环境监测数据,将所有数据按国标HJ212格式打包之后,明文传输到国家环保平台。目前,污染源在线监测系统以环保平台中心服务器提供服务,属于高度集中的系统架构,在数据传输过程中,易受到攻击导致数据被篡改,无法保证环境监测数据的真实性,而且给生态环境部门的监管增加了难度。
[0003] 另外,传统的数采仪设备仅采集实时数据,经简单的统计计算、存储后,通过无线或有线方式传输至国家、各省市各级环保平台。海量的数据要求平台有强大的存储和数据挖掘能力。在实际应用中,存在大量冗余的无效数据,增加了数据处理成本,不符合环保监测的绿色、节能的目标相悖。
[0004] 因此,如何确保获取到的环境监测数据真实有效而且不易被篡改,强化非现场监管,提高数据质量,压缩数据大小,减少传输成本,成为目前亟待解决的难点问题。
具体实施方式
[0037] 为使本发明提供的技术方案的优点和有益之处体现得更清楚,现结合附图对本发明提供的技术方案进行进一步详细地描述,具体的:
[0038] 实施方式一、本实施方式提供了数据质量提升网关,所述网关包括:
[0039] 数据采集模块,用于采集数据并进行预处理;
[0040] 经纬度定位模块,用于为预处理后的所述数据匹配经纬度信息;
[0041] 区块链模块,用于将匹配了经纬度信息的所述数据进行加密处理;
[0042] 边缘计算模块,基于神经网络和AI算力,对加密处理后的所述数据进行:根据预设条件进行数据筛选、进行数据储存、进行数据融合以及对数据进行去噪和降维处理;
[0043] 核心处理单元,用于对边缘计算模块输出的所述数据进行解密处理,并上传至上级平台。
[0044] 具体的,在本实施方式中,核心处理单元是数据采集传输仪的核心部件,负责整合、处理和传输采集到的数据。
[0045] 它将采集到的监测数据、工作参数和设备状态进行汇总,进行分析、处理、计算和存储,并通过有线网络或无线网络传输至上级环保平台或直接上链到区块链网络。
[0046] 核心处理单元还负责管理与外部网络之间的数据交互,以满足现场不同的组网条件。
[0047] 本实施方式中,经纬度定位模块使用经纬度定位模块采集自动监控设备所在位置的经纬度信息。这可以通过全球卫星导航系统(GNSS)实现,例如GPS、GLONASS或北斗系统。
[0048] 经纬度定位信息的获取确保了监测数据的空间位置信息,增强了数据的可信度和分析价值。
[0049] 所述区块链模块还用于为匹配了经纬度信息的所述数据附加时间戳和哈希值,以及为每一个匹配了经纬度信息的所述数据分配标识编码。
[0050] 区块链模块将采集到的监测数据通过加密算法进行加密处理,同时附加上时间戳和哈希值。
[0051] 使用区块链技术将处理后的数据存储到区块链网络中。这可以通过智能合约来实现,智能合约会确保数据的安全性和不可篡改性。
[0052] 区块链技术还可以为每个数据块分配一个唯一的标识编码,以便日后检索和验证数据的完整性。
[0053] 实施方式二、本实施方式是对实施方式一提供的数据质量提升网关的进一步限定,所述数据为:污染物监测数据、仪器参数数据或设备工作状态数据。
[0054] 具体的:本实施方式提供的网关,可以用于采集废水、废气、地表水等环境监测领域的数据,包括但不限于以下内容:
[0055] 污染物监测数据:包括废水中的各种污染物(如重金属、化学物质、有机物等)、废气中的气体污染物(如二氧化硫、氮氧化物、挥发性有机物等)以及地表水中的污染物(如悬浮物、溶解氧、pH值等)的监测数据。
[0056] 仪器参数:包括监测仪器的量程、斜率、校准等工作参数,这些参数对监测数据的准确性和可信度至关重要。
[0057] 设备工作状态信息:包括监测仪器的运行状态、连接状态、故障信息等,这些信息有助于监测系统的运行和维护。
[0058] 经纬度定位信息:用于确定监测设备所在的具体地理位置,以便对监测数据进行空间分析和定位。
[0059] 本实施方式提供的技术方案,支持多种类型的数据采集和处理,适应不同应用场景的需求,提高系统的通用性和实用性。
[0060] 实施方式三、本实施方式是对实施方式一提供的数据质量提升网关的进一步限定,所述预处理包括:对数据的格式化与整合。
[0061] 具体的,本实施方式中,数据采集模块使用模拟量通道和数字量通道实时采集各类在线监测仪器的监测数据、仪器参数和工作状态信息。
[0062] 模拟量通道可以采集连续型信号,例如传感器输出的模拟电压信号,而数字量通道则可以采集离散型信号,例如开关信号或串口数据。
[0063] 负责将采集到的数据进行格式化和整合,以便后续的处理和传输。
[0064] 本实施方式提供的技术方案,确保数据的一致性和标准化,便于后续处理和分析,提升数据的整体质量。
[0065] 实施方式四、本实施方式是对实施方式一提供的数据质量提升网关的进一步限定,根据预设条件进行数据筛选具体为:基于神经网络处理单元,通过预设模型对所述数据进行筛选。
[0066] 本实施方式提供的技术方案,提高数据筛选的准确性和智能化水平,能够自动识别并过滤异常数据,提高数据的可靠性和实用性。
[0067] 实施方式五、本实施方式是对实施方式四提供的数据质量提升网关的进一步限定,所述预设模型具体为:分类模型,用于识别异常数据或预设关键事件。
[0068] 本实施方式提供的技术方案,通过深度学习模型对多个相似数据进行融合和聚合,提高数据的完整性和准确性,减少数据冗余。
[0069] 能够精准识别和分类数据中的异常情况或重要事件,提高系统的监测和预警能力。
[0070] 实施方式六、本实施方式是对实施方式一提供的数据质量提升网关的进一步限定,进行数据融合具体为:基于神经网络处理单元,利用深度学习模型对多个满足预设相似条件的所述数据进行融合和聚合。
[0071] 本实施方式提供的技术方案,
[0072] 实施方式七、本实施方式是对实施方式六提供的数据质量提升网关的进一步限定,预设相似条件根据数据来源的监测点之间关联性和相互影响进行判断。
[0073] 具体的,本实施方式中,边缘计算模块使用神经网络处理单元和AI算力对接入到网关的大量数据进行筛选、存储、融合和优化等操作。
[0074] 边缘计算模块可以根据预设的算法或模型,对数据进行实时处理和分析,从而减少数据传输量和降低云端平台的存储和计算压力。
[0075] 其中,对数据进行实时处理和分析,从而减少数据传输量和降低云端平台的存储和计算压力的方式具体为:
[0076] 进行数据筛选:
[0077] 神经网络处理单元可以通过训练好的模型对采集到的数据进行筛选。模型可以根据预设的条件对数据进行分类和过滤,只选择符合条件的数据进行后续处理。
[0078] 例如,可以使用分类模型来识别异常数据或关键事件,或者使用回归模型来预测未来的数据趋势。
[0079] 进行数据存储:
[0080] 神经网络处理单元可以根据数据的重要性和需求将数据存储到不同的存储介质中。存储介质可以包括快速的闪存、固态硬盘或云存储等。
[0081] 数据存储的方式可以根据应用场景和资源限制进行优化,例如使用高效的数据结构和压缩算法来减少存储空间的占用。
[0082] 进行数据融合:
[0083] 神经网络处理单元可以利用深度学习模型对来自多个监测点的数据进行融合和聚合。深度学习模型可以学习不同监测点之间的关联性和相互影响,从而将相似的数据合并或汇总。
[0084] 数据融合的过程可以采用循环神经网络(RNN)、卷积神经网络(CNN)或递归神经网络(RNN)等模型进行处理。
[0085] 进行数据优化:
[0086] 神经网络处理单元可以利用深度学习模型对采集到的数据进行预处理和优化。例如,可以使用自动编码器来进行数据降维和去噪,以减少数据的复杂度和噪声。
[0087] 数据优化的目标是提高数据的质量和可用性,减少不必要的信息和干扰,从而提高后续处理和分析的效率。
[0088] 实施方式八、本实施方式提供了数据质量提升方法,所述方法包括:
[0089] 采集数据并进行预处理的步骤;
[0090] 为预处理后的所述数据匹配经纬度信息的步骤;
[0091] 将匹配了经纬度信息的所述数据进行加密处理的步骤;
[0092] 基于神经网络和AI算力,对加密处理后的所述数据进行:根据预设条件进行数据筛选、进行数据储存、进行数据融合以及对数据进行去噪和降维处理的优化步骤;
[0093] 对进行优化步骤后的所述数据进行解密处理,并上传至上级环保平台的步骤。
[0094] 实施方式九、本实施方式提供了计算机储存介质,用于储存计算机程序,当所述计算机程序被计算机读取时,所述计算机执行实施方式八提供的方法。
[0095] 实施方式十、本实施方式提供了计算机,包括处理器和储存介质,当所述处理器读取所述储存介质中储存的计算机程序时,所述计算机执行实施方式八提供的方法。
[0096] 实施方式十一、本实施方式提供了计算机程序产品,包括计算机程序,其特征在于,当所述计算机程序被处理器读取时,实现实施方式八提供的方法。
[0097] 实施方式十二、结合图1说明本实施方式,本实施方式通过具体实施例,对上述提供的技术方案进行进一步详细地描述;
[0098] 本实施方式提供的技术方案,将区块链、边缘计算和定位技术结合起来,为环境监测领域带来了一种全新的数据采集和传输解决方案。通过采集监测数据并直接将其上链到区块链网络,不仅确保了数据的安全性和完整性,还有效地减少了数据篡改的可能性。同时,边缘计算的应用也提高了数据处理的效率,减轻了云端平台的负担。
[0099] 不仅适用于常规污染源在线监测,还可以应用于更广泛的生态环境监管领域,为环境保护部门提供了更准确的数据和决策依据。这对于解决当前在线监测数据源头伪造和篡改的问题具有重要意义。整体来看,这一技术方案在提高数据可靠性、降低环境监测成本以及改善监测效率方面都具有积极的影响。
[0100] 具体的:
[0101] 本实施方式的目的在于,提供一种带区块链、边缘计算、定位功能的数据采集网关。该装置适用于废水、废气、地表水等环保在线监测领域,直接从源头上采集在线监测分析仪的污染物监测数据,以及分析仪设备的量程、斜率、校准等工作参数以及工作状态等信息,并携带经纬度定位信息,在精确传输至各级环保平台的同时,也可以经区块链算法加密之后固化到区块链平台上,保证了监测数据的不可篡改性。本装置还可以兼容接入传统数采仪数据,完成数据筛选、清洗、优化和融合,提高数据质量,减少数据冗余。
[0102] 本实施方式实现的带区块链、边缘计算和定位功能的数据采集传输仪以一个高性能64位ARM处理器及嵌入式软件作为核心处理单元,包括电源模块、显示模块、数据采集模块、经纬度定位模块、通信模块、区块链模块、边缘计算模块。利用数据采集模块实时采集各类在线监测仪器的监测数据、仪器参数和工作状态以及经纬度定位信息等数据,由核心处理单元将各类数据进行分析、处理、计算、存储并显示,然后将处理后的数据通过有线网络或无线网络传输至上级环保平台,或者直接上链到区块链网络,减少了中间环节,充分排除了人为篡改源头数据的可能性,保证监测数据在源头上真实可靠、无法篡改。边缘计算模块内置神经网络处理单元NPU和AI算力,具有一定的异构数据处理能力,并对接入的多个节点设备的序列号、连接状态及节点信息进行管理。
[0103] 结合图1,电源模块为核心处理单元和其他所有模块提供电源,采用明纬公司15V开关电源,额定输出电流2.4A;显示模块用于显示并存储监测污染物数据、监测设备工作参数以及数据采集网关的配置参数,采用1280*800高分辨率的10.1寸电阻触摸屏;数据采集模块通过模拟量通道(12bit分辨率、8通道ADC芯片ADC128S102)、数字量通道(8路RS232和6路RS485)、网络通道(双千兆以太网)实时采集各类在线监测仪器的监测数据、仪器参数和工作状态信息;定位模块采集自动监控设备所在位置的经纬度信息,采用中科微电子ATGM336H定位芯片,定位精度2.5cm;通信模块用于核心处理单元与外部网络之间的数据交互,采用有人物联网的4G路由器模块G805;区块链模块使用加密算法对监测数据进行加密处理并附加上时间戳,通过哈希函数计算出Hash值,以Merkle树的结构存储到区块。
[0104] 核心处理单元是数据采集传输仪的核心部件,采用RK3588八核处理器,内置6TOPS算力,支持通用、AI和异构计算,主要完成以下功能:
[0105] 利用数据采集模块采集各类在线监测仪器的监测数据、仪器参数和工作状态信息;
[0106] 利用定位模块采集自动监控设备所在位置的经纬度信息;
[0107] 汇总各类监测数据、工作参数和设备状态,进行分析、处理、显示。
[0108] 将数据按国标212协议帧格式打包,发送至区块链网络,获取区块链标识编码,将区块链标识编码叠加到数据报文中,发送到区块链生态监管平台;同时,打包的数据还可以明文发送至国家、省市、地区各级环保平台,实现多平台多协议传输。
[0109] 利用边缘计算模块,对接入到网关的大量数据进行筛选、存储、融合和优化等操作,提高数据质量,压缩数据大小,减轻云端平台的存储和计算的压力。
[0110] 核心处理单元可利用有线网络、无线公网或APN专网等多种方式与各级环保平台、区块链生态监管平台通信,以满足现场不同的组网条件。
[0111] 本实施方式提供的技术方案的有益之处在于:
[0112] 多平台多协议传输,可同时应用于常规污染源在线监测领域和生态环境监管领域的数据采集传输;
[0113] 采用区块链网络技术,使污染源在线监测系统的数据信息具备了不可篡改的技术特性,解决了目前的在线监测数据源头伪造篡改的问题,为环境监管部门提供准确的决策依据;
[0114] 采集监测信息,并叠加高精度定位信息,直接源头上链到区块链网络,减少了中间环节,充分排除了人为篡改源头数据的可能性,确保监测数据在源头上具备真实可靠性,从而解决目前的数采仪无法有效保证数据源真实可靠的技术问题。
[0115] 采用边缘计算,边缘侧叠加AI算力,有效地减轻了云端平台的存储和计算压力。也可扩展更多应用场景。
[0116] 以上通过几个具体实施方式对本发明提供的技术方案进行进一步详细地描述,是为了突出本发明提供的技术方案的优点和有益之处,不过以上所述的几个具体实施方式并不用于作为对本发明的限制,任何基于本发明的精神和原则范围内的,对本发明的合理修改和改进、实施方式的组合和等同替换等,均应当包含在本发明的保护范围之内。