公开(公告)号：CN114723071B

公开(公告)日：2023-04-07

申请号：CN202210450751.8

申请日：2022-04-26

Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)

Inventor： 廖清 ,  郭松岳 ,  贾焰 ,  高翠芸 ,  王轩

IPC: G06N20/00 ,  G06F18/241

Abstract: 本发明公开了一种基于客户端分类和信息熵的联邦学习方法及装置，涉及机器学习技术领域，该方法包括：基于客户端在非独立同分布数据场景的偏置程度，将客户端归入第一服务器或第二服务器；在相对应的服务器中训练客户端，得到训练好的客户端模型，并确定客户端模型的本地模型参数，并基于本地模型参数对应的更新第一服务器的第一模型参数和第二服务器的第二模型参数；确定第一服务器和第二服务器满足交互条件，基于第一模型参数和第二模型参数分别对应的权重，更新中央服务器的中央模型参数。本发明可以提升联邦学习的模型准确率，使得联邦学习适用于在不同混合程度的Non‑IID场景。

公开(公告)号：CN116127351A

公开(公告)日：2023-05-16

申请号：CN202211606757.6

申请日：2022-12-13

Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) ,  东莞理工学院 ,  平安科技(深圳)有限公司

Inventor： 廖清 ,  郭松岳 ,  丁烨 ,  王轩 ,  肖京 ,  张加佳

IPC: G06F18/24 ,  H04L67/01 ,  G06F18/214 ,  G06N3/098

Abstract: 本发明公开了一种面向双不均衡的联邦学习方法和系统，客户端接收服务器发送的服务器模型参数，并载入本地模型；根据当前样本类别的样本数量占当前客户端样本总数量的比值确定当前样本类别对应的权重因子；利用权重因子计算本地模型识别当前样本类别产生的损失值；利用损失值计算关于当前样本类别的参数变化量，并基于参数变化量对服务器模型参数中关于当前样本类别的模型参数进行更新，直至当前客户端内所有样本类别相关的模型参数均完成更新，得到客户端模型参数；将客户端模型参数发送至服务器，以使服务器通过引力正则项对各个客户端发送的客户端模型参数进行聚合。本发明提供的技术方案，解决了联邦学习的双重不均衡场景模型训练较差的问题。

公开(公告)号：CN114723071A

公开(公告)日：2022-07-08

申请号：CN202210450751.8

申请日：2022-04-26

Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)

Inventor： 廖清 ,  郭松岳 ,  贾焰 ,  高翠芸 ,  王轩

IPC: G06N20/00 ,  G06K9/62

Abstract: 本发明公开了一种基于客户端分类和信息熵的联邦学习方法及装置，涉及机器学习技术领域，该方法包括：基于客户端在非独立同分布数据场景的偏置程度，将客户端归入第一服务器或第二服务器；在相对应的服务器中训练客户端，得到训练好的客户端模型，并确定客户端模型的本地模型参数，并基于本地模型参数对应的更新第一服务器的第一模型参数和第二服务器的第二模型参数；确定第一服务器和第二服务器满足交互条件，基于第一模型参数和第二模型参数分别对应的权重，更新中央服务器的中央模型参数。本发明可以提升联邦学习的模型准确率，使得联邦学习适用于在不同混合程度的Non‑IID场景。