-
公开(公告)号:CN116468115A
公开(公告)日:2023-07-21
申请号:CN202310459417.3
申请日:2023-04-23
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N3/098
Abstract: 本说明书实施例提供一种联合更新模型的方法及装置,用于纵向联邦学习架构。其中,特征成员利用本地的局部模型处理本地的特征数据得到中间张量,并向标签成员传递将中间张量稀疏化后得到的稀疏张量。标签成员通过全局模型中的融合模块,基于相应的各个融合权重融合各个稀疏张量,并把各个融合权重作为注意力机制下的待定参数,在模型训练过程中进行调整。这种稀疏张量融合方式,可以降低特征成员和标签成员的通信量,并经由利用融合权重关注由各个稀疏张量确定的有效元素的重要程度,从而在提高模型收敛速度的基础上,保证模型准确性。