-
公开(公告)号:CN116527567B
公开(公告)日:2023-09-12
申请号:CN202310788324.5
申请日:2023-06-30
Applicant: 南京信息工程大学
IPC: H04L45/02 , H04L45/12 , H04L45/302
Abstract: 本发明公开了一种基于深度强化学习的智能网络路径优选方法与系统,包括:采集目标网络的原始数据,计算目标网络的每条可执行路径的状态信息,构建深度强化学习模型,获取目标网络当前时刻的网络状态、执行最优路径动作、下一时刻的网络状态、当前奖励,并存储在经验回放池中,对深度强化学习模型进行迭代训练和参数更新,获得目标网络的最优路径,下发至目标网络的交换机设备中进行路径安装,本发明所设计的方法提高了智能体提取显著奖励经验的概率,加快了智能体学习最优策略的速度,算法的收敛速度显著提高,有效提高了网络吞吐量,降低了端到端时延和丢包率。
-
公开(公告)号:CN116566906B
公开(公告)日:2023-11-03
申请号:CN202310809767.8
申请日:2023-07-04
Applicant: 南京信息工程大学
IPC: H04L47/12 , H04L47/6295 , H04L47/24
Abstract: 本发明公开了一种基于队列状态的异构链路汇聚节点队列管理方法及系统,涉及路由器队列管理和拥塞控制技术领域,用以增强指挥控制网络下异构链路汇聚节点队列管理对队列状态的敏感度,进而增强主动队列管理的控制力度,利用平均队列长度表征队列变化的长期状态,利用队列长度变化率表征队列变化的瞬时状态,并且将两者相结合构建了队列状态判定模型,并给出了突发容忍、突发抑制、衰减容忍、衰减抑制、队列平稳五种队列状态的判定依据;在此基础上,结合队列状态判定结果设计具有自适应调整能力的丢弃概率函数,进行主动队列管理,实现对网络流量服务质量的可靠保障。
-
公开(公告)号:CN118694717A
公开(公告)日:2024-09-24
申请号:CN202411164462.7
申请日:2024-08-23
Applicant: 南京信息工程大学
IPC: H04L47/127 , H04L47/62 , H04L41/147 , H04L41/16 , H04L43/0829 , H04L43/0852 , G06N3/0442 , G06N3/092
Abstract: 本发明公开了一种基于流量状态预测的队列智能管理方法,包括:基于GRU算法,进行网络流量状态预测;构建网络状态元组,基于策略神经网络和目标神经网络组成智能体,智能体根据当前时刻的网络状态,基于ε‑greedy策略决策并输出动作;设置奖励函数,智能体根据所采取的动作获得相应的奖励,更新网络状态,组建经验样本;智能体选取经验样本,对策略神经网络和目标神经网络进行训练并更新权重,完成队列的管理;本发明所设计的方法在提高了算法泛化性的同时,通过对网络流量状态的预测,实现了对突发流量的合理控制。
-
公开(公告)号:CN116599860B
公开(公告)日:2023-10-13
申请号:CN202310843127.9
申请日:2023-07-11
Applicant: 南京信息工程大学
IPC: H04L41/147 , H04L41/16
Abstract: 本发明提出一种基于强化学习的网络流量灰色预测方法,包括如下步骤:首先采用公开网络流量数据集,并截取部分公开数据集作为待预测流量序列;然后构建基于GM(1,1)灰色预测的强化学习模型:基于每一个时间步长,智能体获得当前环境状态,并根据策略函数生成动作,环境在执行动作后,将当前环境状态更新,同时将动作的奖励值反馈给智能体,智能体根据更新的环境状态和奖励值生成下一个动作,直到达到预设迭代次数,获得基于GM(1,1)的强化学习模型。最后利用强化学习模型输出最终预测结果。本发明将强化学习的决策能力与灰色模型的小样本、定量预测优势相结合,旨在提高传统灰色预测模型的预测精度。
-
公开(公告)号:CN116599860A
公开(公告)日:2023-08-15
申请号:CN202310843127.9
申请日:2023-07-11
Applicant: 南京信息工程大学
IPC: H04L41/147 , H04L41/16
Abstract: 本发明提出一种基于强化学习的网络流量灰色预测方法,包括如下步骤:首先采用公开网络流量数据集,并截取部分公开数据集作为待预测流量序列;然后构建基于GM(1,1)灰色预测的强化学习模型:基于每一个时间步长,智能体获得当前环境状态,并根据策略函数生成动作,环境在执行动作后,将当前环境状态更新,同时将动作的奖励值反馈给智能体,智能体根据更新的环境状态和奖励值生成下一个动作,直到达到预设迭代次数,获得基于GM(1,1)的强化学习模型。最后利用强化学习模型输出最终预测结果。本发明将强化学习的决策能力与灰色模型的小样本、定量预测优势相结合,旨在提高传统灰色预测模型的预测精度。
-
公开(公告)号:CN116527567A
公开(公告)日:2023-08-01
申请号:CN202310788324.5
申请日:2023-06-30
Applicant: 南京信息工程大学
IPC: H04L45/02 , H04L45/12 , H04L45/302
Abstract: 本发明公开了一种基于深度强化学习的智能网络路径优选方法与系统,包括:采集目标网络的原始数据,计算目标网络的每条可执行路径的状态信息,构建深度强化学习模型,获取目标网络当前时刻的网络状态、执行最优路径动作、下一时刻的网络状态、当前奖励,并存储在经验回放池中,对深度强化学习模型进行迭代训练和参数更新,获得目标网络的最优路径,下发至目标网络的交换机设备中进行路径安装,本发明所设计的方法提高了智能体提取显著奖励经验的概率,加快了智能体学习最优策略的速度,算法的收敛速度显著提高,有效提高了网络吞吐量,降低了端到端时延和丢包率。
-
公开(公告)号:CN118694723B
公开(公告)日:2024-11-26
申请号:CN202411179270.3
申请日:2024-08-27
Applicant: 南京信息工程大学
IPC: H04L47/30 , H04L47/32 , H04L47/36 , H04L47/625
Abstract: 本发明公开了基于动态Hurst参数和队列增长速度的队列管理方法,包括:待新的数据分组到达路由器缓冲区,根据所监测的当前时刻路由器缓冲区的队列状态,判断是否需要将该数据分组中的数据全部丢弃;将新的数据分组放入路由器缓冲区中,计算当前时刻队列的Hurst参数、下一时刻路由器缓冲区的队列状态;进一步计算丢弃概率;将新的数据分组中的剩余数据丢弃;更新路由器缓冲区的平均队列长度和平均队列增长速度,并计算下一时刻队列的Hurst参数,完成队列的动态管理;本发明不仅考虑网络流量自相似性对队列性能带来的影响,还考虑由于链路变速率特性导致的平均队列增长速度变化,实现对网络流量服务质量的可靠保障。
-
公开(公告)号:CN118694717B
公开(公告)日:2024-11-08
申请号:CN202411164462.7
申请日:2024-08-23
Applicant: 南京信息工程大学
IPC: H04L47/127 , H04L47/62 , H04L41/147 , H04L41/16 , H04L43/0829 , H04L43/0852 , G06N3/0442 , G06N3/092
Abstract: 本发明公开了一种基于流量状态预测的队列智能管理方法,包括:基于GRU算法,进行网络流量状态预测;构建网络状态元组,基于策略神经网络和目标神经网络组成智能体,智能体根据当前时刻的网络状态,基于ε‑greedy策略决策并输出动作;设置奖励函数,智能体根据所采取的动作获得相应的奖励,更新网络状态,组建经验样本;智能体选取经验样本,对策略神经网络和目标神经网络进行训练并更新权重,完成队列的管理;本发明所设计的方法在提高了算法泛化性的同时,通过对网络流量状态的预测,实现了对突发流量的合理控制。
-
公开(公告)号:CN118694723A
公开(公告)日:2024-09-24
申请号:CN202411179270.3
申请日:2024-08-27
Applicant: 南京信息工程大学
IPC: H04L47/30 , H04L47/32 , H04L47/36 , H04L47/625
Abstract: 本发明公开了基于动态Hurst参数和队列增长速度的队列管理方法,包括:待新的数据分组到达路由器缓冲区,根据所监测的当前时刻路由器缓冲区的队列状态,判断是否需要将该数据分组中的数据全部丢弃;将新的数据分组放入路由器缓冲区中,计算当前时刻队列的Hurst参数、下一时刻路由器缓冲区的队列状态;进一步计算丢弃概率;将新的数据分组中的剩余数据丢弃;更新路由器缓冲区的平均队列长度和平均队列增长速度,并计算下一时刻队列的Hurst参数,完成队列的动态管理;本发明不仅考虑网络流量自相似性对队列性能带来的影响,还考虑由于链路变速率特性导致的平均队列增长速度变化,实现对网络流量服务质量的可靠保障。
-
公开(公告)号:CN116566906A
公开(公告)日:2023-08-08
申请号:CN202310809767.8
申请日:2023-07-04
Applicant: 南京信息工程大学
IPC: H04L47/12 , H04L47/6295 , H04L47/24
Abstract: 本发明公开了一种基于队列状态的异构链路汇聚节点队列管理方法及系统,涉及路由器队列管理和拥塞控制技术领域,用以增强指挥控制网络下异构链路汇聚节点队列管理对队列状态的敏感度,进而增强主动队列管理的控制力度,利用平均队列长度表征队列变化的长期状态,利用队列长度变化率表征队列变化的瞬时状态,并且将两者相结合构建了队列状态判定模型,并给出了突发容忍、突发抑制、衰减容忍、衰减抑制、队列平稳五种队列状态的判定依据;在此基础上,结合队列状态判定结果设计具有自适应调整能力的丢弃概率函数,进行主动队列管理,实现对网络流量服务质量的可靠保障。
-
-
-
-
-
-
-
-
-