-
公开(公告)号:CN119831069A
公开(公告)日:2025-04-15
申请号:CN202411798645.4
申请日:2024-12-09
Applicant: 桂林理工大学 , 广西联合征信有限公司
Abstract: 本发明公开了一种用于信用风险评估的动态权重聚合联邦学习方法及系统:首先,计算每个客户端模型与全局模型最后一层梯度的余弦相似度,以评估模型参数的一致性;其次,通过计算每个客户端数据与全局数据的数据统计量差异来量化分布差异,以评估数据的多样性;进一步,通过一个超参数结合余弦相似度和数据分布差异,得到一个综合考虑模型参数相似性和数据分布差异性的贡献度;最后,根据每个客户端的贡献度动态调整每个客户端在全局模型更新中的权重,使得模型更加关注数据质量较高的客户端,从而提升整体模型性能。该联邦学习方法特别适用于处理非独立同分布的数据,并优化模型的泛化能力,适用于金融领域中的信用风险评估。
-
公开(公告)号:CN117994022A
公开(公告)日:2024-05-07
申请号:CN202410124172.3
申请日:2024-01-29
Applicant: 广西联合征信有限公司 , 中国—东盟信息港股份有限公司 , 桂林理工大学
Inventor: 曹薇 , 邱斌 , 王云霄 , 苏康熙 , 吴昌远 , 覃福辉 , 顾祖毅 , 李远泽 , 盘春绿 , 陈旭 , 黄碧琴 , 黄翀 , 黄小钰 , 王蕊 , 陈燕云 , 唐文晶 , 梁慧 , 林晓婷 , 梁藜耀 , 蓝熙 , 梁卉花 , 赵克淳 , 梁小龙 , 蒙娟
Abstract: 本发明公开了一种基于增量联邦学习的企业征信数据模型构建方法及系统,属于信息技术领域,包括:步骤S1、企业征信数据全局模型的初次训练;步骤S2、基于初次全局模型训练的新的全局模型及新增信用数据,进行企业征信数据全局模型的再次优化训练;步骤S3、将所得的当前的修正全局模型及信用数据置为下一轮训练初始参数,重复前述步骤S1‑步骤S2操作,进行企业征信数据全局模型的下一轮全局模型优化。本发明使用增量联邦学习算法,持续采集新增信用数据作为下一次模型训练的数据样本,可以有效提高局部模型的精度,防止模型发生倾斜,通过调整新增数据的权重值和模型影响度,修改模型加权聚合策略,持续优化行业联合模型。
-
公开(公告)号:CN118133984A
公开(公告)日:2024-06-04
申请号:CN202410235759.1
申请日:2024-03-01
Applicant: 桂林理工大学
Abstract: 本发明涉及联邦学习技术领域,具体涉及一种面向数据不平衡分布的节能联邦学习方法,首先构建企业信用评估场景系统模型,针对多客户端的数据不平衡分布问题,通过为每个客户端构造一个局部代理函数来保证全局损失的平稳下降;其次考虑同步通信的方式,将单轮联邦学习的最大时延作为统一的时延约束。最后在此约束下以最小化系统的能耗为目标,提出一种联合客户端CPU频率和带宽分配的联邦学习方法。本发明提出的联邦学习方法有效缓解了数据不平衡分布对模型训练的影响,可以在更少的迭代次数内实现全局模型的收敛,同时通过数值分析推导出最优的CPU频率,在此基础上采用一种迭代的L‑BGFS‑B算法求解最优的带宽分配,最终可以有效降低系统能耗。
-
-