一种高并发数据采集场景下的数据熔断控制方法和装置

    公开(公告)号:CN118381714B

    公开(公告)日:2024-11-08

    申请号:CN202410813438.5

    申请日:2024-06-24

    Abstract: 本申请公开了一种高并发数据采集场景下的数据熔断控制方法和装置,属于物联网数据处理技术领域,方法包括:分别构建秒级和分钟级两个粒度的数据处理缓存数据结构,对进入转发或存储模块的数据流量进行存储;基于可用带宽计算每秒数据流量上限值,基于每秒数据流量上限值和不同场景的管控要求分别计算不同设定时间周期的数据处理上限值;基于不同的流量监控定时周期分别从数据处理缓存数据结构处获取对应的缓存数据流量值,将获取的缓存数据流量值分别与数据处理上限值进行比较,判断数据缓存队列是否为空,如果为空,解除超限状态,实时处理全部数据;如果不为空,将全部数据存入数据缓存队列,按照数据处理上限值定时处理数据。

    一种自动触发的实时变频的数据推送方法及系统

    公开(公告)号:CN117857491A

    公开(公告)日:2024-04-09

    申请号:CN202410052051.2

    申请日:2024-01-12

    Abstract: 本申请实施例提供了一种自动触发的实时变频的数据推送方法及系统,方法包括采集包括点位ID及其对应的历史值或最新值的点位数据;将点位ID及其历史值存于时序数据库;对多个转发通道的包括关联的通道ID、通道类型、通道主题和通道所要转发的点位的配置信息进行配置;将点位ID及其最新值、转发通道的配置信息和数据转发的时间戳存储于Redis缓存;根据Redis缓存中点位ID、通道ID、通道主题和通道所要转发的点位,获取通道类型对应的转发流程,触发时高频转发的转发流程运用时序数据库;转发流程中达到转发条件,对转发点位数据并将其转发的时间戳存于Redis缓存,变频转发不同点位数据,避免了全量推送导致的崩溃或卡顿。

    一种基于数采引擎到数据应用的断点续传方法及系统

    公开(公告)号:CN113836120A

    公开(公告)日:2021-12-24

    申请号:CN202111427236.X

    申请日:2021-11-29

    Abstract: 本申请公开了一种基于数采引擎到数据应用的断点续传方法及系统,涉及大数据传输和存储技术领域,该系统通过链路监控模块设置,根据数据应用数据接受周期,定时启动链路监控任务,判断数据链路的异常与否,并在数据链路异常,但数据应用数据库可以正常连接时,根据监听KAFKA主题,直接将数据写入数据应用数据库中,当数据应用恢复时,则直接加载数据,免去自断点起始时间从数采引擎将中断的数据续传入数据应用数据库的时间,更及时的恢复数据,缓解数据集中写入网络及数据应用数据库的压力,此外,还可以自动定位问题、记录断点起始时间以及针对不同原因导致的数据中断采用不同的续传方案,保证数据应用的数据完整性以及数据续传的及时性。

    一种自动识别采集点位数据类型的方法及系统

    公开(公告)号:CN119472458A

    公开(公告)日:2025-02-18

    申请号:CN202510024569.X

    申请日:2025-01-08

    Inventor: 王玮玮 薛灿

    Abstract: 本申请涉及工业数据采集数据处理技术领域,具体提供一种自动识别采集点位数据类型的方法及系统。设定判定采集条数和预设数据类型占比,采集未预设数据类型的点位数据,判断采集的所述点位数据条数,是否达到所述判定采集条数;以及是否存在某数据类型的条数占采集的所述点位数据条数的占比达到所述预设数据类型占比。使得系统在采集到足够数量的数据样本后,能够迅速做出数据类型判断,从而缩短数据采集周期。加快了数据处理速度,提高整体工作效率,提高了数据采集的准确性和效率。再通过预设判断点位数据类型的满足条件以及触发人工机制的条件,实现自动为主,手动为辅的点位数据类型的判断,提高点位数据类型的准确性,减少采集数据的丢失。

    一种基于数采引擎到数据应用的断点续传方法及系统

    公开(公告)号:CN113836120B

    公开(公告)日:2022-03-11

    申请号:CN202111427236.X

    申请日:2021-11-29

    Abstract: 本申请公开了一种基于数采引擎到数据应用的断点续传方法及系统,涉及大数据传输和存储技术领域,该系统通过链路监控模块设置,根据数据应用数据接受周期,定时启动链路监控任务,判断数据链路的异常与否,并在数据链路异常,但数据应用数据库可以正常连接时,根据监听KAFKA主题,直接将数据写入数据应用数据库中,当数据应用恢复时,则直接加载数据,免去自断点起始时间从数采引擎将中断的数据续传入数据应用数据库的时间,更及时的恢复数据,缓解数据集中写入网络及数据应用数据库的压力,此外,还可以自动定位问题、记录断点起始时间以及针对不同原因导致的数据中断采用不同的续传方案,保证数据应用的数据完整性以及数据续传的及时性。

    一种针对数据链路的监控方法、装置及系统

    公开(公告)号:CN115842860B

    公开(公告)日:2023-06-13

    申请号:CN202310171469.0

    申请日:2023-02-28

    Abstract: 本申请涉及数据链路监控技术领域,具体而言,涉及一种针对数据链路的监控方法、装置及系统,一定程度上可以监控数据链路是否出现异常,提高数字应用过程中的安全性和可靠性。所述方法应用于监控服务器,监控服务器与待监控的数据链路相连接,所述方法包括:通过数据链路中的数据采集平台获取在数据链路中传输的点位的点位状态,点位状态用于表征点位所在链路的运行状态,点位所在链路为数据链路中的分支;当成功获取点位状态,且检测到点位中的第一点位的点位状态异常时,获取第一点位所在链路上一次的运行状态;当第一点位所在链路上一次的运行状态正常时,对数据链路中待监控节点进行检查,以确定第一点位所在链路中的异常节点。

    数据处理系统和数据处理方法

    公开(公告)号:CN115580619A

    公开(公告)日:2023-01-06

    申请号:CN202211486607.6

    申请日:2022-11-25

    Abstract: 本申请实施例提供了一种数据处理系统和数据处理方法,该数据处理系统包括数据采集服务和数据处理服务,数据采集服务与至少一个边缘设备连接。其中,边缘设备用于采集监控环境中的数据,得到多条原始数据;数据采集服务用于从边缘设备中获取多条原始数据,并将多条原始数据发送给数据处理服务;数据处理服务用于处理数据采集服务发送的多条原始数据。由此可见,本申请的数据处理系统在数据采集服务和数据处理服务之间,去除了传统的消息服务队列,节省了部署消息队列服务所需的运行资源和服务器资源。而且,数据采集服务和数据处理服务之间采用点对点的模式进行通信,降低了消息传输时延,提高了系统响应的实时性。

    一种高并发数据采集场景下的数据熔断控制方法和装置

    公开(公告)号:CN118381714A

    公开(公告)日:2024-07-23

    申请号:CN202410813438.5

    申请日:2024-06-24

    Abstract: 本申请公开了一种高并发数据采集场景下的数据熔断控制方法和装置,属于物联网数据处理技术领域,方法包括:分别构建秒级和分钟级两个粒度的数据处理缓存数据结构,对进入转发或存储模块的数据流量进行存储;基于可用带宽计算每秒数据流量上限值,基于每秒数据流量上限值和不同场景的管控要求分别计算不同设定时间周期的数据处理上限值;基于不同的流量监控定时周期分别从数据处理缓存数据结构处获取对应的缓存数据流量值,将获取的缓存数据流量值分别与数据处理上限值进行比较,判断数据缓存队列是否为空,如果为空,解除超限状态,实时处理全部数据;如果不为空,将全部数据存入数据缓存队列,按照数据处理上限值定时处理数据。

Patent Agency Ranking