公开(公告)号：CN114357869A

公开(公告)日：2022-04-15

申请号：CN202111581871.3

申请日：2021-12-22

Applicant: 华东师范大学

Inventor： 郝昊 ,  周爱民 ,  钱鸿 ,  邵非 ,  李丙栋 ,  王帅

IPC: G06F30/27 ,  G06N3/12 ,  G06K9/62 ,  G06N20/20 ,  G06F111/06

Abstract: 本发明公开了一种基于数据关系学习和预测的代理模型设计方法，用于提高多目标演化算法的求解效率。其特点是将演化算法中的个体构造为关系对，并利用集成分类学习的方法学习关系数据特征，然后指导演化算法的搜索过程。本发明可以利用已有数据构造高保真的代理模型，并对未知数据提供高鲁棒性的预测结果。在极端有限的计算量下，本发明可以辅助演化算法对问题进行求解。与现有方法相比，本发明首次将数据关系用于代理模型构造，同时表现出更高的建模准确性和预测鲁棒性。在工业优化优化领域，该方法可以用百秒量级的建模与预测成本替代高代价的真实模型评估。将优化成本降低为原优化过程的十分之一内，将优化效率提高10倍以上。

公开(公告)号：CN116992957A

公开(公告)日：2023-11-03

申请号：CN202311205380.8

申请日：2023-09-19

Applicant: 华东师范大学

Inventor： 王帅 ,  高明

IPC: G06N3/098 ,  G06N3/096 ,  G06N3/084 ,  G06N3/045 ,  G06N3/0475 ,  G06F21/62

Abstract: 本发明公开了一种基于无数据知识蒸馏执行模型聚合的联邦学习系统，该系统不会对客户端增加除本地模型更新外的其他操作，充分利用服务端的丰富的计算资源，在服务端通过无数据知识蒸馏技术进行模型的聚合。无数据知识蒸馏模型聚合方法包括生成器训练和模型蒸馏两个过程，生成器训练过程将全局模型和本地模型参数固定，更新生成器；模型蒸馏过程将生成器和本地模型的参数固定，基于生成器当前生成的合成数据和数据缓冲区中的历史合成数据进行本地模型到全局模型的知识蒸馏。通过交替执行生成器训练和模型蒸馏两个过程，实现本地模型到全局模型的聚合。