-
公开(公告)号:CN117973561A
公开(公告)日:2024-05-03
申请号:CN202410157828.1
申请日:2024-02-04
Applicant: 重庆邮电大学
IPC: G06N20/00
Abstract: 本发明涉及一种数字孪生场景下用于安全自动驾驶的半异步选择性联邦强化学习方法,属于移动通信领域,包括以下步骤:S1:将物理世界中的自动驾驶车辆映射到数字空间中并创建孪生体;S2:对数字孪生体初始化全局参数;S3:孪生体节点基于全局参数在本地进行基于安全强化学习的本地训练,如果智能体的行动不满足安全约束,则在其网络参数的局部邻域内搜索出能够使智能体的平均预期折扣回报最大的次最优策略;S4:本地训练完成后,使用半异步选择性联邦聚合机制将模型上传到数字孪生服务器进行聚合;S5:判断当前联邦学习迭代轮次中全局模型是否收敛,若没有,则重复S3‑S4,若收敛,将全局模型同步到物理世界的自动驾驶车辆中。
-
公开(公告)号:CN117056729A
公开(公告)日:2023-11-14
申请号:CN202311105169.9
申请日:2023-08-30
Applicant: 重庆邮电大学
IPC: G06F18/214 , G06F21/62
Abstract: 本发明涉及一种基于数字孪生的分布式联邦强化学习方法,属于机器学习领域。首先将真实世界中的物理设备映射到孪生环境中,再对每个设备的孪生体进行初始化全局参数,然后使用全局模型参数在孪生体内运行深度强化学习算法,之后对训练出来的本地深度强化学习模型进行基于孪生映射偏差和训练偏差的可信度加权处理,通过衡量本地训练的深度强化学习模型的可信度来进行全局模型聚合节点的选择,然后在已选择的节点上进行全局模型的聚合,最后将全局模型参数下发至各本地孪生体,开始下一轮训练,直至全局模型收敛。本发明可以在减少设备端与中心服务器之间的冗余通信的同时提高模型的训练质量,降低了通信开销并提高了全局模型的训练速度和精度。
-
公开(公告)号:CN117880895A
公开(公告)日:2024-04-12
申请号:CN202410157857.8
申请日:2024-02-04
Applicant: 重庆邮电大学
Abstract: 本发明涉及一种车联网场景中可变粒度车辆数字孪生体的边缘构建方法,属于移动通信技术领域。该方法,包括以下步骤:构建面向车联网的数字孪生网络;边缘服务器负责确定网络中每个车辆数字孪生体构建策略;车辆根据边缘服务器确定的数字孪生体构建粒度采集对应属性的数据,将数据通过基站传输至目标边缘服务器;边缘服务器对接收到的数据进行计算等处理以构建车辆数字孪生体模型,并评估车辆数字孪生体模型的效用;建立最大化网络中的所有车辆数字孪生体平均效用的优化模型;采用多智能体强化学习算法求解最佳车辆数字孪生体边缘构建方案。本发明考虑了孪生体粒度以及资源分配策略对于车辆孪生体的影响,提高了车联网场景下车辆数字孪生体的效用。
-
公开(公告)号:CN116980424A
公开(公告)日:2023-10-31
申请号:CN202311113123.1
申请日:2023-08-30
Applicant: 重庆邮电大学
IPC: H04L67/101 , H04L67/1023 , H04L41/14 , H04L41/0803 , H04L67/12 , H04W28/082 , H04W28/084
Abstract: 本发明涉及一种用于车联网场景中的车辆数字孪生体边缘部署方法,属于移动通信技术领域。该方法包括:构建数字孪生驱动的智慧交通车联网络;基站负责确定其服务范围内各车辆数字孪生体在边缘侧的部署位置;车辆数字孪生体初始化部署在离当前接入基站最近的边缘服务器上;基站将车辆实时上传的状态数据转发至其孪生体所在的边缘服务器上进行数字孪生同步,数据经过处理后再提供给云端应用层;计算当前部署方式下云端平均信息年龄及孪生体迁移成本;建立最小化云端平均信息年龄和迁移成本的目标函数,并采用多智能体强化学习算法求解最佳车辆数字孪生体部署方案。本发明降低了云端平均信息年龄和孪生体的迁移成本,提高了车辆数字孪生体的部署效率。
-
-
-