-
公开(公告)号:CN117574416A
公开(公告)日:2024-02-20
申请号:CN202311303726.8
申请日:2023-10-10
Applicant: 西安电子科技大学
IPC: G06F21/62 , G06N20/00 , G06N3/0442 , G06F18/214 , G06F18/24
Abstract: 本发明公开的基于自适应差分隐私的高效通信联邦学习方法,对不同的客户和不同的轮次进行自适应梯度裁剪阈值,保护数据隐私的同时提高了模型性能。然而,这种保护隐私的协作学习形式是以在训练期间花费大量的通信开销为代价的。为了解决这些问题,本发明引入了改进的Top‑k机制,结合稀疏化和量化,同时将其扩展到下游压缩、最优Golomb编码的权重更新,这种改进的机制显著降低了通信开销。本发明的实验在三个不同的学习任务,结果表明,本发明的方法在客户端级DP的隐私性、实用性和通信效率等方面取到了显著的提升。