-
公开(公告)号：CN111754000B
公开(公告)日：2022-10-14
申请号：CN202010590843.7
申请日：2020-06-24
Abstract: 本发明公开了一种质量感知的边缘智能联邦学习方法及系统，该方法包括：云平台以多个学习任务的聚合模型质量之和在每次迭代中都达到最大为优化目标，构建联邦学习质量优化问题并解决：在每次迭代中，利用参与节点的历史学习质量记录预测参与节点的学习质量；其中，利用每次迭代中损失函数值的减少量来量化节点训练数据的学习质量；在每次迭代中，云平台通过反向拍卖机制激励高学习质量的节点参与联邦学习；以进行学习任务和学习报酬的分配；在每次迭代中，对于每个学习任务，每个参与节点将其本地模型参数上传到云平台以聚合得到全局模型。本发明可以在保护数据隐私的情况下，为模型的训练提供更丰富的数据和更多的算力，以提高模型的质量。
-
公开(公告)号：CN113191484A
公开(公告)日：2021-07-30
申请号：CN202110449033.4
申请日：2021-04-25
Abstract: 本发明公开了一种基于深度强化学习的联邦学习客户端智能选取方法及系统，该方法包括：联邦平台通过从联邦服务市场环境中收集客户端的状态作为输入，输入到基于策略网络的客户端选择智能体中，输出客户端选择方案；联邦平台根据当前环境状况以及客户端选择方案从多个候选客户端中选取一组最优的客户端以协同训练联邦学习模型，并将联邦学习性能作为奖励反馈给客户端选择智能体，以奖励用于优化更新策略网络；策略网络通过强化学习方法离线训练得到。本发明可从候选移动边缘设备中选择高质量的设备参与联邦学习，以处理分布式客户端低质量数据问题，以显著提高联邦学习质量。
-
公开(公告)号：CN116192852A
公开(公告)日：2023-05-30
申请号：CN202310180145.3
申请日：2023-02-17
Applicant: 清华大学
IPC: H04L67/10 , G06F18/214
Abstract: 本发明公开了一种端边云多级联邦学习知识传输方法及装置，该方法包括：在每一轮次的云通信中，利用本地数据训练本地客户端模型的模型参数以得到训练好的本地客户端模型；基于结构相同的训练好的本地客户端模型的模型参数进行参数聚合得到参数聚合结果；根据参数聚合结果更新边缘模型的模型参数，并利用更新后的边缘模型的模型参数和预设的公共数据集进行知识传输。本发明克服了联邦学习客户端与服务器之间共享相同模型的限制，缓解了联邦学习中系统异构的问题，增强了联邦学习的灵活性。
-
Patent Agency Ranking
公开(公告)号：CN111754000A
公开(公告)日：2020-10-09
申请号：CN202010590843.7
申请日：2020-06-24
Abstract: 本发明公开了一种质量感知的边缘智能联邦学习方法及系统，该方法包括：云平台以多个学习任务的聚合模型质量之和在每次迭代中都达到最大为优化目标，构建联邦学习质量优化问题并解决：在每次迭代中，利用参与节点的历史学习质量记录预测参与节点的学习质量；其中，利用每次迭代中损失函数值的减少量来量化节点训练数据的学习质量；在每次迭代中，云平台通过反向拍卖机制激励高学习质量的节点参与联邦学习；以进行学习任务和学习报酬的分配；在每次迭代中，对于每个学习任务，每个参与节点将其本地模型参数上传到云平台以聚合得到全局模型。本发明可以在保护数据隐私的情况下，为模型的训练提供更丰富的数据和更多的算力，以提高模型的质量。
-
公开(公告)号：CN112070240A
公开(公告)日：2020-12-11
申请号：CN202010929585.0
申请日：2020-09-07
IPC: G06N20/20 , G06F30/27 , G06F111/04
Abstract: 本发明公开了一种高效通信的分层联邦学习框架及其优化方法和系统，该框架包括：一个云聚合器、多个边缘聚合器和多个分布式计算节点；在每轮云聚合迭代中，边缘聚合器首先从云聚合器下载全局学习模型，每个分布式计算节点从其关联的边缘聚合器下载全局学习模型，训练模型更新上传到关联的边缘聚合器；边缘聚合器聚合接收模型更新并聚合发送回关联的计算节点，经过多次边缘聚合迭代后，将边缘模型更新上传到云聚合器；云聚合器将多个边缘模型聚合后得到全局模型更新发送回所有的边缘聚合器；重复边缘聚合以及云聚合迭代，直至全局模型达到目标精度。该优化方法采用通信开销最小化作为优化目标。本发明提高学习性能的同时，可降低系统的通信开销。
-
公开(公告)号：CN117609788A
公开(公告)日：2024-02-27
申请号：CN202311618807.7
申请日：2023-11-30
Applicant: 清华大学 , 北京三快在线科技有限公司
IPC: G06F18/214 , G06F21/62 , G06N20/00 , G06F18/23213 , G06F18/241
Abstract: 本公开提供的一种端云接力的点击率预测模型训练方法、装置及存储介质，包括：云服务器利用数据监管前收集的旧数据执行分组元学习训练得到多个初始化设备端模型；云服务器训练一个模型选择器以根据用户偏好来从多个初始化设备端模型中为用户自动化选择初始的设备端模型；设备端下载所述初始的设备端模型并利用数据监管后的本地数据接力训练设备端模型，设备间通过设备端模型参数的共享实现协同训练得到个性化的点击率预测模型。本公开即保护了用户的数据隐私，又实现了模型的更新，能够为用户提供更准确的点击率预测结果。
-
公开(公告)号：CN112070240B
公开(公告)日：2022-10-14
申请号：CN202010929585.0
申请日：2020-09-07
IPC: G06N20/20 , G06F30/27 , G06F111/04
Abstract: 本发明公开了一种高效通信的分层联邦学习框架及其优化方法和系统，该框架包括：一个云聚合器、多个边缘聚合器和多个分布式计算节点；在每轮云聚合迭代中，边缘聚合器首先从云聚合器下载全局学习模型，每个分布式计算节点从其关联的边缘聚合器下载全局学习模型，训练模型更新上传到关联的边缘聚合器；边缘聚合器聚合接收模型更新并聚合发送回关联的计算节点，经过多次边缘聚合迭代后，将边缘模型更新上传到云聚合器；云聚合器将多个边缘模型聚合后得到全局模型更新发送回所有的边缘聚合器；重复边缘聚合以及云聚合迭代，直至全局模型达到目标精度。该优化方法采用通信开销最小化作为优化目标。本发明提高学习性能的同时，可降低系统的通信开销。
-
公开(公告)号：CN113191484B
公开(公告)日：2022-10-14
申请号：CN202110449033.4
申请日：2021-04-25
Abstract: 本发明公开了一种基于深度强化学习的联邦学习客户端智能选取方法及系统，该方法包括：联邦平台通过从联邦服务市场环境中收集客户端的状态作为输入，输入到基于策略网络的客户端选择智能体中，输出客户端选择方案；联邦平台根据当前环境状况以及客户端选择方案从多个候选客户端中选取一组最优的客户端以协同训练联邦学习模型，并将联邦学习性能作为奖励反馈给客户端选择智能体，以奖励用于优化更新策略网络；策略网络通过强化学习方法离线训练得到。本发明可从候选移动边缘设备中选择高质量的设备参与联邦学习，以处理分布式客户端低质量数据问题，以显著提高联邦学习质量。
-
-
-
-
-
-
-
Search Results
8
records
(took 0.013 seconds)
