一种可监控预警的多源数据实时采集方法及系统

    公开(公告)号:CN115033457B

    公开(公告)日:2023-08-25

    申请号:CN202210712183.4

    申请日:2022-06-22

    Abstract: 本发明涉及一种可监控预警的多源数据实时采集方法及系统,涉及数据处理技术领域,首先利用定制化脚本采集器实时采集主流平台数据;利用Kafka和Redis对主流平台数据进行缓存;利用Flink实时数据流引擎对缓存数据进行清洗;然后获取预警策略;根据清洗数据利用ARIMA模型预测出预设时间范围内的数据;最后将预测数据与预警策略进行比较,发送预警信息。本发明采用了定制化脚本采集器,实现多源数据的高性能实时采集,利用了主流消息队列组件Kafka和实时流处理引擎Flink的全联通,保证链路数据的一致性,还实现了预警策略与ARIMA模型的结合,从而避免触发阈值时机器宕机造成无法弥补的损失。

    一种数据的实时交互监测与分析方法及装置

    公开(公告)号:CN115514631A

    公开(公告)日:2022-12-23

    申请号:CN202211155977.1

    申请日:2022-09-22

    Abstract: 本发明提供了一种数据的实时交互监测与分析方法及装置,所述实时交互监测与分析方法包括:S1、设置工作区间Token,将采集客户端部署到目标机器上进行数据采集,接收所述目标机器及其所在网络上的全链路数据,并对所述全链路数据进行初步处理得到源数据;S2、将源数据在采集客户端的IO模块进行数据缓存,并通过数据网关发送至数据中心;S3、数据中心接收到源数据后,将数据分别写入数据库,并对数据库中的数据进行异常检测分析,触发告警;S4、用户通过前端页面查看数据库中的数据,并通过筛选、聚类对数据进一步进行处理。本发明的方法能够对全链路数据进行采集,具有存储功能,步骤简单,便于管理及运维。

    基于代码结构语义信息的深度代码搜索方法、系统及装置

    公开(公告)号:CN113761163A

    公开(公告)日:2021-12-07

    申请号:CN202110946937.8

    申请日:2021-08-18

    Applicant: 浙江大学

    Abstract: 本发明公开了一种基于代码结构语义信息的深度代码搜索方法、系统及装置,包括从目标软件项目中提取代码文件中的方法级代码和相关注释,形成数据集;训练分词模型生成代码搜索数据集;预处理代码搜索数据集,将方法级代码解析为抽象语法树,遍历抽象语法树并提取API序列;构建深度代码搜索模型,包括代码结构信息编码模块、代码语义信息编码模块、信息融合模块、自然语言编码模块;使用预处理后的数据集,优化深度代码搜索模型;利用深度代码搜索模型,从代码搜索数据集中获得与自然语言查询对应的方法级代码。本发明的方法能够有效提升代码搜索模型对于代码结构语义信息以及自然语言描述文本的理解能力,提高代码搜索系统的搜索效果与性能。

    对数据划分分布式环境实现动态划分和负载均衡的方法

    公开(公告)号:CN102207891B

    公开(公告)日:2013-03-06

    申请号:CN201110155674.5

    申请日:2011-06-10

    Applicant: 浙江大学

    Abstract: 本发明公开了一种对数据划分分布式环境实现动态划分和负载均衡的方法,本发明通过动态组合基本数据单元即进行动态划分进行局部负载均衡,使得划分粒度能够适应系统运行时的要求,解决了固定划分方法由于粒度过大导致负载均衡时效的问题;本发明采用划分请求队列及稀缺资源队列模型分析节点负载具有较广泛的适用性;系统达到负载均衡后,本发明中的局部监视器可以动态调整划分个数,即使划分在节点内部进行自适应调整,以增大节点内部的资源利用率,进而提高整个系统的工作效率。

Patent Agency Ranking