公开(公告)号：CN117609788A

公开(公告)日：2024-02-27

申请号：CN202311618807.7

申请日：2023-11-30

Applicant: 清华大学 ,  北京三快在线科技有限公司

Inventor： 任炬 ,  邓永恒 ,  王冠博 ,  张尧学 ,  饶玮 ,  祖琴 ,  王文杰 ,  陈帅

IPC: G06F18/214 ,  G06F21/62 ,  G06N20/00 ,  G06F18/23213 ,  G06F18/241

Abstract: 本公开提供的一种端云接力的点击率预测模型训练方法、装置及存储介质，包括：云服务器利用数据监管前收集的旧数据执行分组元学习训练得到多个初始化设备端模型；云服务器训练一个模型选择器以根据用户偏好来从多个初始化设备端模型中为用户自动化选择初始的设备端模型；设备端下载所述初始的设备端模型并利用数据监管后的本地数据接力训练设备端模型，设备间通过设备端模型参数的共享实现协同训练得到个性化的点击率预测模型。本公开即保护了用户的数据隐私，又实现了模型的更新，能够为用户提供更准确的点击率预测结果。

公开(公告)号：CN112070240B

公开(公告)日：2022-10-14

申请号：CN202010929585.0

申请日：2020-09-07

Applicant: 清华大学 ,  中南大学

Inventor： 张尧学 ,  邓永恒 ,  吕丰 ,  任炬

IPC: G06N20/20 ,  G06F30/27 ,  G06F111/04

Abstract: 本发明公开了一种高效通信的分层联邦学习框架及其优化方法和系统，该框架包括：一个云聚合器、多个边缘聚合器和多个分布式计算节点；在每轮云聚合迭代中，边缘聚合器首先从云聚合器下载全局学习模型，每个分布式计算节点从其关联的边缘聚合器下载全局学习模型，训练模型更新上传到关联的边缘聚合器；边缘聚合器聚合接收模型更新并聚合发送回关联的计算节点，经过多次边缘聚合迭代后，将边缘模型更新上传到云聚合器；云聚合器将多个边缘模型聚合后得到全局模型更新发送回所有的边缘聚合器；重复边缘聚合以及云聚合迭代，直至全局模型达到目标精度。该优化方法采用通信开销最小化作为优化目标。本发明提高学习性能的同时，可降低系统的通信开销。