-
公开(公告)号:CN116386058A
公开(公告)日:2023-07-04
申请号:CN202310131300.2
申请日:2023-02-17
Applicant: 清华大学
Abstract: 本发明提供一种多模态联邦学习训练方法及装置,其中的方法包括:将共享数据输入至初始的服务器端模型,得到输出的全局特征表示,并将所述全局特征表示传输至客户端;接收所述客户端生成的局部特征表示;基于所述全局特征表示以及所述局部特征表示,对所述客户端传输的局部特征表示进行聚合,得到聚合特征表示;基于所述聚合特征表示对所述服务器端模型进行训练,完成一个轮次的模型训练。该方法以共享数据作为服务器端与客户端的知识传递,不仅保证了客户端的私有数据不被传输到服务器端,还使得服务器端能够有效利用客户端上大量的单模态以及多模态数据来训练服务器端模型,从而训练得到一个更大规模且能够实现多种多模态任务的多模态模型。