-
公开(公告)号:CN115986750B
公开(公告)日:2024-05-17
申请号:CN202211721686.4
申请日:2022-12-30
Applicant: 南京邮电大学 , 国网电力科学研究院有限公司
Abstract: 本发明公开了一种分层多智能体深度强化学习配电网电压调节方法,包括如下步骤:建立多类型混杂设备配电网电压调节优化模型;根据调控设备时间尺度的不同,构建快、慢时间尺度双层马尔科夫博弈;上层马尔科夫博弈采用离散注意力多智能体深度强化学习算法求解,下层马尔科夫博弈采用连续注意力多智能体深度强化学习算法求解,上、下两层多智能体通过奖励信息的交互实现不同时间尺度多类型设备的高效协同,最终得到离散、连续以及快慢时间尺度下的协同电压调节策略。本发明可实现上层慢时间尺度离散设备的协同,下层快时间尺度连续设备的协同,以及快、慢时间尺度混杂设备的协同,能在维持电压安全范围的前提下有效降低网损。
-
公开(公告)号:CN116681269B
公开(公告)日:2023-10-13
申请号:CN202310968502.2
申请日:2023-08-03
Applicant: 南京邮电大学
IPC: G06Q10/0631 , G06Q50/06 , G06F18/214
Abstract: 本发明公开了一种电网交互型高效居民建筑智能协同运行优化方法,包括以下步骤:在满足用户热舒适性和电网服务需求的前提下,建立居民建筑群运行成本最小化问题,并将其分解为一个主问题和多个从问题;将每个从问题建模为马尔可夫决策过程;利用深度强化学习算法对每个马尔可夫决策过程相关的智能体进行训练;将训练得到的智能体策略作为从问题的求解器;在交替方向乘子法框架下迭代求解从问题和主问题;迭代结束后,将从问题的解作为运行决策进行部署。与现有基于学习的方法相比,本发明方法支持分布式训练和分布式执行协同,具有更高的可扩展性、更强的建筑能源隐私信息保护能力、更优质的电网服务提供能力和更大的运行成本节省潜力。
-
公开(公告)号:CN115544899B
公开(公告)日:2023-04-07
申请号:CN202211475230.4
申请日:2022-11-23
Applicant: 南京邮电大学
Abstract: 本发明公开了一种基于多智能体深度强化学习的水厂取水泵站节能调度方法,包括以下步骤:(1)在维持蓄水池液位、总管压强差、水泵切换次数在安全范围的前提下,将水厂取水泵站总能耗最小化问题建模为马尔可夫博弈,并设计相应的环境状态、行为、以及奖励函数;(2)利用历史运行数据和长短期记忆网络构建取水泵站调度环境模型;(3)基于调度环境模型和多智能体行动者‑注意力‑评论家强化学习算法对深度强化学习智能体进行训练;(4)将训练得到的智能体策略部署到实际系统中。与现有方法相比,本发明提出的方法具有更强的系统安全维护能力、节能潜力(高达12.8%)以及通用性。
-
公开(公告)号:CN112540535B
公开(公告)日:2022-08-30
申请号:CN202011270260.2
申请日:2020-11-13
Applicant: 南京邮电大学
Abstract: 本发明公开了一种基于深度强化学习的办公建筑热舒适控制系统及方法,所述系统包括:与暖通空调子系统、个人舒适子系统连接的深度强化学习智能体模块,所述深度强化学习智能体模块包括控制策略子模块和在线学习子模块;控制策略子模块能够基于环境状态信息,输出暖通空调子系统与个人舒适子系统的协同行为,将协同行为信息发送给所述暖通空调子系统和所述个人舒适子系统进行执行;在线学习子模块与控制策略子模块并行工作,利用环境状态信息和协同行为信息在线训练深度神经网络,定期将训练得到的深度神经网络模型拷贝至控制策略子模块用于决策。本发明能够提供个性化用户热舒适体验,能够优化系统总电费/能耗。
-
公开(公告)号:CN110458443B
公开(公告)日:2022-08-16
申请号:CN201910724530.3
申请日:2019-08-07
Applicant: 南京邮电大学
Abstract: 本发明公开了一种基于深度强化学习的智慧家庭能量管理方法及系统,方法的设计步骤如下:将在无建筑热动力学模型和维持室内温度在舒适范围的情况下最小化智慧家庭能量成本这一能量管理问题建模为马尔可夫决策过程并设计相应的环境状态、行为、奖励函数;利用深度确定性策略梯度算法训练出不同环境状态下能量存储系统或/和可控负载的最优行为,进而最大化奖励函数;将训练好的深度神经网络参数定期拷贝至智慧家庭能量管理系统本地的深度神经网络,用于实际性能测试。本发明提出的方法无需知晓任何不确定性系统参数的先验信息和建筑热动力学模型,且采用本地测试与云端训练相结合的在线学习模式来应对环境变化可能带来的性能降级问题。
-
公开(公告)号:CN112963946B
公开(公告)日:2022-06-17
申请号:CN202110214230.8
申请日:2021-02-26
Applicant: 南京邮电大学
IPC: F24F11/54 , F24F11/64 , F24F11/80 , G06N20/00 , F24F110/10
Abstract: 本发明公开了一种面向共享办公区域的暖通空调系统控制方法,步骤如下:(1)利用历史运行数据建立共享办公区域环境模型;(2)基于建立的环境模型,产生大量的经验进行存储;(3)基于产生的大量经验,并利用多目标深度强化学习算法训练得到暖通空调系统的最优运行策略集;(4)根据环境状态和多用户平均热舒适满意度目标设定值,自适应地调整暖通空调系统运行策略,并根据运行策略对暖通空调系统温度设置点进行控制。本发明提供的方法可实现多用户热舒适满意度和暖通空调系统能耗之间的灵活折中。相比固定温度设置点控制方法,本发明所提方法具有同时提升多用户热舒适满意度和降低能耗的潜力。
-
公开(公告)号:CN114357569A
公开(公告)日:2022-04-15
申请号:CN202111517120.5
申请日:2021-12-13
Applicant: 南京邮电大学
IPC: G06F30/13 , G06F30/27 , G06F119/02
Abstract: 本发明公开了一种基于进化深度强化学习的商业建筑HVAC控制方法及系统,包括:获取商业建筑HVAC控制模型;将HVAC控制模型设计为与风阀控制和区域供风速率控制相关的马尔可夫博弈问题;采用多智能体注意力进化深度强化学习算法并行求解马尔可夫博弈问题,得到多组多智能体群的最优控制策略;对不同种群的最优控制策略进行重组并将其作为规模更大的多智能体群的初始策略;重复求解规模更大的马尔可夫博弈问题直到种群规模与风阀数量与区域数量之和相等,最终得到HVAC系统的最优控制策略;将训练得到的HVAC最优控制策略部署到实际系统进行在线控制。相比现有方法,本发明可在维持高舒适性的同时显著降低能量成本。
-
公开(公告)号:CN108966129B
公开(公告)日:2021-01-26
申请号:CN201810796598.8
申请日:2018-07-19
Applicant: 南京邮电大学
Abstract: 本发明公开一种基于无人机中继网络的最佳高度与位置的联合优化方法,利用无人机作为中继节点,在给定地面源节点和目的节点的传输距离的条件下,考虑以无人机中继通信的两条通信链路损耗为优化目标,计算出无人机的最佳高度与水平位置,以最小化无人机中继通信损耗。本发明通过对无人机中继的高度与水平位置进行联合优化,最大程度减小通信过程中产生的损耗,从而保证应急通信的可靠性,达到最佳传输效果,有效地提高了用户的通信质量。本发明适用于应急通信场景下,地面节点之间的数据传输。
-
公开(公告)号:CN108667498A
公开(公告)日:2018-10-16
申请号:CN201810454905.4
申请日:2018-05-14
Applicant: 南京邮电大学
IPC: H04B7/0456
CPC classification number: H04B7/0456
Abstract: 本发明公开了一种反馈受限下多天线传输的有效容量优化方法,首先源节点对信息进行预编码,然后通过波束成形方式与目的节点进行数据传输。源节点预编码需要获取信道状态信息,为此目的节点首先进行信道估计,并将所估计到的信道状态信息量化后反馈给源节点。随着信道量化的精确度越高,源节点预编码性能越好,但是这也增加了反馈开销。应用本发明反馈受限下多天线传输的有效容量优化方法,通过寻求最佳的信道反馈量化比特,在反馈开销受限的条件下提高了无线传输的有效性和可靠性,同时显著提高了多天线传输的有效容量。
-
公开(公告)号:CN107517483A
公开(公告)日:2017-12-26
申请号:CN201710733131.4
申请日:2017-08-24
Applicant: 南京邮电大学
Abstract: 本发明公开了一种密集部署的无线异构网络的中继分配方法,该方法的中继分配或路由选择是由宏基站(M-cell基站)基于决策树和后验概率计算的,多个M-cell基站可以形成一种自主管理的无线虚拟子网。在本路由选择预测方案下,无线虚拟子网首先按照小基站(P-cell基站)的位置来把本覆盖区域划分为多个子区域,并对用户分配一个初始的P-cell基站。在随后的预测时间间隔上,系统将根据用户的后验概率的变化来预测用户接下来会到达的子区域,以重新进行路由选择,从而动态调整所选的P-cell基站。本发明不仅便于实现中继协同系统中快速的路由预测,也可以使得M-cell基站将用户所请求的数据文件提前缓存到将要切换到的P-cell基站中,从而提高密集部署的无线异构网络的服务质量。
-
-
-
-
-
-
-
-
-