公开(公告)号：CN118567842B

公开(公告)日：2024-12-27

申请号：CN202410640831.9

申请日：2024-05-22

Applicant: 中国地质大学(北京)

Inventor： 孙大为 ,  赵卓文

IPC: G06F9/50 ,  G06F9/48 ,  G06N3/047 ,  G06N3/045 ,  G06N3/092

Abstract: 本发明涉及分布式流计算技术领域，特别是指一种基于DQN算法的流系统资源优化调度方法及装置。方法包括：基于流处理模型，将应用拓扑建模为有向无环图，基于有向无环图的起始点，从外部环境中接收原始数据流，将数据流传递给下游的数据处理组件进行处理和分析；建立流应用模型，包括系统的任务完成时间和资源消耗；建立资源模型，并基于资源模型设计资源约束，进而建立环境模型，把调度过程形成一个模型数据的变化；基于改进的强化学习模型DQN优化流处理系统中的资源分配和任务调度；基于梯度策略算法更新资源分配策略。采用本发明，可以优化调度策略和优化奖励函数，进一步降低系统的资源消耗。

公开(公告)号：CN118567842A

公开(公告)日：2024-08-30

申请号：CN202410640831.9

申请日：2024-05-22

Applicant: 中国地质大学(北京)

Inventor： 孙大为 ,  赵卓文

IPC: G06F9/50 ,  G06F9/48 ,  G06N3/047 ,  G06N3/045 ,  G06N3/092

Abstract: 本发明涉及分布式流计算技术领域，特别是指一种基于DQN算法的流系统资源优化调度方法及装置。方法包括：基于流处理模型，将应用拓扑建模为有向无环图，基于有向无环图的起始点，从外部环境中接收原始数据流，将数据流传递给下游的数据处理组件进行处理和分析；建立流应用模型，包括系统的任务完成时间和资源消耗；建立资源模型，并基于资源模型设计资源约束，进而建立环境模型，把调度过程形成一个模型数据的变化；基于改进的强化学习模型DQN优化流处理系统中的资源分配和任务调度；基于梯度策略算法更新资源分配策略。采用本发明，可以优化调度策略和优化奖励函数，进一步降低系统的资源消耗。