公开(公告)号：CN114358307B

公开(公告)日：2025-04-04

申请号：CN202111447012.5

申请日：2021-11-30

Applicant: 北京邮电大学

Inventor： 高志鹏 ,  杨杨 ,  芮兰兰 ,  段应文 ,  赵晨 ,  莫梓嘉 ,  林怡静

IPC: G06N20/00 ,  G06N3/098 ,  G06N3/094 ,  G06F21/62

Abstract: 本申请实施例提供基于差分隐私法的联邦学习方法及装置，其中的基于差分隐私法的联邦学习方法包括：基于当前接收的用于进行联邦学习的多份训练数据中任一份对应的阶段完成信号，开始监测目标周期内的信号接收情况数据；若监测到目标周期内的信号接收情况数据满足预设的半同步训练规则，则获取目标周期内接收的各个阶段完成信号各自对应的阶段训练结果数据，并基于差分隐私法及各个阶段训练结果数据训练目标模型。本申请能够在为目标模型的联邦学习过程提供差分隐私保护的前提下，有效避免掉队者效应的干扰，避免计算资源的浪费并能够提高目标模型的收敛速度，进而能够有效提高目标模型的训练效率及应用及时性。

公开(公告)号：CN116229170A

公开(公告)日：2023-06-06

申请号：CN202310199005.0

申请日：2023-03-03

Applicant: 北京邮电大学

Inventor： 高志鹏 ,  赵晨 ,  杨杨 ,  芮兰兰 ,  莫梓嘉 ,  俞新蕾 ,  段应文

IPC: G06V10/764 ,  G06V10/82 ,  G06V10/774 ,  G06N3/0464 ,  G06N3/0895 ,  G06N5/02

Abstract: 本发明提供一种基于任务迁移的联邦无监督图像分类模型训练方法、分类方法及设备：获取包含完整标签和部分标签的本地数据集；获取初始神经网络模型，其包括自适应增量层和深度迁移模块；自适应增量层为在初始神经网络模型的每个卷积层后添加一个全连接层；在深度迁移模块中构建域分类和域混淆的竞争机制，并采用知识蒸馏方法保存相关类别之间的信息；采用本地数据集为模型进行训练，构建域分类损失、域混淆损失和软标签损失的联合损失，并根据分类任务平均精度确定任务优先级，训练得到初始图像分类模型；基于各客户端模型参数构建共享模型，并根据共享模型参数更新初始图像分类模型。本发明提供的图像分类模型精度高且能保留个性化局部模型。

公开(公告)号：CN114358307A

公开(公告)日：2022-04-15

申请号：CN202111447012.5

申请日：2021-11-30

Applicant: 北京邮电大学

Inventor： 高志鹏 ,  杨杨 ,  芮兰兰 ,  段应文 ,  赵晨 ,  莫梓嘉 ,  林怡静

IPC: G06N20/00 ,  G06N3/08 ,  G06N3/04 ,  G06F21/62

Abstract: 本申请实施例提供基于差分隐私法的联邦学习方法及装置，其中的基于差分隐私法的联邦学习方法包括：基于当前接收的用于进行联邦学习的多份训练数据中任一份对应的阶段完成信号，开始监测目标周期内的信号接收情况数据；若监测到目标周期内的信号接收情况数据满足预设的半同步训练规则，则获取目标周期内接收的各个阶段完成信号各自对应的阶段训练结果数据，并基于差分隐私法及各个阶段训练结果数据训练目标模型。本申请能够在为目标模型的联邦学习过程提供差分隐私保护的前提下，有效避免掉队者效应的干扰，避免计算资源的浪费并能够提高目标模型的收敛速度，进而能够有效提高目标模型的训练效率及应用及时性。