一种增强隐私保护的联邦学习方法和系统

    公开(公告)号:CN112632620B

    公开(公告)日:2022-08-26

    申请号:CN202011621141.7

    申请日:2020-12-30

    Inventor: 李龙飞 周俊

    Abstract: 本说明书涉及机器学习领域,特别涉及一种增强隐私保护的联邦学习方法和系统。所述方法由多个参与方中的任一训练成员实现,其中,所述参与方包括服务器及多个训练成员,该方法包括:获取隐私样本;获取一个或多个与所述隐私样本同类型的扰动样本;基于所述隐私样本与一个或多个扰动样本生成加密样本;基于所述加密样本,与其他参与方进行联邦学习以对待训练模型进行联合训练。

    模型压缩方法、系统和计算设备

    公开(公告)号:CN112508194B

    公开(公告)日:2022-03-18

    申请号:CN202110142167.1

    申请日:2021-02-02

    Abstract: 本公开提供了模型压缩方法、系统和计算设备。该方法包括:通过至少一个计算设备:加载目标模型,所述目标模型包括多个特征嵌入向量;用训练数据集中至少部分数据训练所述目标模型,直至所述目标模型的损失函数收敛到预设范围内;以及执行模型压缩操作,所述模型压缩操作包括:基于所述训练,自主确定所述多个特征嵌入向量中的至少K个候选特征嵌入向量,所述K为自然数;从所述目标模型中删除所述至少K个候选特征嵌入向量,获得更新后的目标模型;以及用所述训练数据集中至少部分数据训练所述更新后的目标模型,直至所述更新后的目标模型的损失函数收敛到所述预设范围内。

    用于业务对象分类的决策模型训练方法和装置

    公开(公告)号:CN112801231B

    公开(公告)日:2021-07-06

    申请号:CN202110373889.8

    申请日:2021-04-07

    Inventor: 李盟 李龙飞

    Abstract: 本说明书实施例提供一种用于业务对象分类的决策模型训练方法和装置。训练方法包括,首先获取样本总集和训练的约束条件;然后根据样本总集,通过节点分裂的方式构建决策树,其中针对任意的当前节点进行分裂的过程包括:对于当前节点的多个备选分裂条件中任一分裂条件,根据依照该分裂条件对当前节点进行分裂得到的两个子节点对于约束条件的符合程度,确定该分裂条件的约束适应度;根据该分裂条件的分裂纯度和所述约束适应度,确定该分裂条件的综合得分;根据多个备选分裂条件中综合得分最优的分裂条件,对当前节点进行分裂。然后基于上述决策树,确定用于对业务对象分类的决策模型。

    一种个性化的隐私保护学习方法、装置以及设备

    公开(公告)号:CN112819177A

    公开(公告)日:2021-05-18

    申请号:CN202110106050.8

    申请日:2021-01-26

    Abstract: 本说明书实施例公开了一种个性化的隐私保护学习方法、装置以及设备。方案应用于第一参与端,包括:确定全局模型和第一参与端的局部模型;通过与多个第二参与端进行联邦学习,协同训练全局模型,得到第一训练结果;根据第一参与端的训练数据,训练第一参与端的局部模型,得到第二训练结果;根据第一训练结果和第二训练结果,训练第一参与端的局部模型。

    用于业务对象分类的决策模型训练方法和装置

    公开(公告)号:CN112801231A

    公开(公告)日:2021-05-14

    申请号:CN202110373889.8

    申请日:2021-04-07

    Inventor: 李盟 李龙飞

    Abstract: 本说明书实施例提供一种用于业务对象分类的决策模型训练方法和装置。训练方法包括,首先获取样本总集和训练的约束条件;然后根据样本总集,通过节点分裂的方式构建决策树,其中针对任意的当前节点进行分裂的过程包括:对于当前节点的多个备选分裂条件中任一分裂条件,根据依照该分裂条件对当前节点进行分裂得到的两个子节点对于约束条件的符合程度,确定该分裂条件的约束适应度;根据该分裂条件的分裂纯度和所述约束适应度,确定该分裂条件的综合得分;根据多个备选分裂条件中综合得分最优的分裂条件,对当前节点进行分裂。然后基于上述决策树,确定用于对业务对象分类的决策模型。

    模型压缩方法、系统和计算设备

    公开(公告)号:CN112508194A

    公开(公告)日:2021-03-16

    申请号:CN202110142167.1

    申请日:2021-02-02

    Abstract: 本公开提供了模型压缩方法、系统和计算设备。该方法包括:通过至少一个计算设备:加载目标模型,所述目标模型包括多个特征嵌入向量;用训练数据集中至少部分数据训练所述目标模型,直至所述目标模型的损失函数收敛到预设范围内;以及执行模型压缩操作,所述模型压缩操作包括:基于所述训练,自主确定所述多个特征嵌入向量中的至少K个候选特征嵌入向量,所述K为自然数;从所述目标模型中删除所述至少K个候选特征嵌入向量,获得更新后的目标模型;以及用所述训练数据集中至少部分数据训练所述更新后的目标模型,直至所述更新后的目标模型的损失函数收敛到所述预设范围内。

    一种业务规则自动生成方法和系统

    公开(公告)号:CN112365344A

    公开(公告)日:2021-02-12

    申请号:CN202110028140.X

    申请日:2021-01-11

    Inventor: 李龙飞 周俊

    Abstract: 本说明书实施例公开了一种业务规则自动生成方法和系统。所述方法包括:获取多个样本的业务数据,每个样本的业务数据包括该样本的标签数据和N个特征对应的特征数据,N为不小于2的整数;基于多个样本的特征数据进行因果图学习,得到一个或多个因果图,所述因果图包括两个以上存在因果关联的特征;对于一个或多个因果图中的任一个,利用多个样本的标签数据和在该因果图中的特征对应的特征数据训练树模型;基于训练出的树模型生成业务规则。

    行为预测系统的更新方法及装置

    公开(公告)号:CN111553754A

    公开(公告)日:2020-08-18

    申请号:CN202010663599.2

    申请日:2020-07-10

    Abstract: 本说明书实施例提供一种行为预测系统的更新方法,其中行为预测系统包括第一预测模型、第二预测模型和注意力模型,该更新方法包括:先获取训练样本,其中包括第一用户的用户特征,大众偏好特征,业务对象的对象特征及其所属业务方的业务方标识,以及样本标签,指示第一用户在第一历史时刻之后,是否对业务对象做出特定行为;将用户特征和对象特征,输入第一预测模型中,得到第一预测概率,并将大众偏好特征输入第二预测模型中,得到第二预测概率;利用基于业务方标识和注意力模型确定出的第一权重和第二权重,对第一预测概率和第二预测概率进行加权求和,得到综合预测概率,进而结合样本标签,更新行为预测系统中的模型参数。

    实现隐私保护的数据处理方法及装置

    公开(公告)号:CN111523146A

    公开(公告)日:2020-08-11

    申请号:CN202010632215.0

    申请日:2020-07-03

    Inventor: 李龙飞 周俊

    Abstract: 本说明书实施例提供一种实现隐私保护的数据处理方法,该方法包括:获取待处理的传感器数据,以及对应的身份类别标签和业务标签,该业务标签对应针对用户的业务预测任务;接着,将该传感器数据输入数据匿名模型中,得到匿名数据;进一步地,一方面,将该匿名数据输入预先训练的用户身份识别模型中,得到身份预测结果,用于结合身份类别标签确定身份预测损失;另一方面,将该匿名数据输入预先训练的业务预测模型中,得到业务预测结果,用于结合上述业务标签,确定业务预测损失;然后,利用综合损失,训练该数据匿名模型;该综合损失与该身份预测损失负相关,且与该业务预测损失正相关;其中训练后的数据匿名模型用于对目标传感器数据进行匿名处理。

Patent Agency Ranking