多方联合进行模型处理的方法及装置

    公开(公告)号:CN118297141A

    公开(公告)日:2024-07-05

    申请号:CN202410495822.5

    申请日:2024-04-23

    Abstract: 本说明书实施例中提供了一种多方联合进行模型处理的方法及装置,其中目标模型至少包括第一网络部分以及其后接续的第二网络部分,第一网络部分部署在第一参与方,第二网络部分部署在第二参与方,由第二参与方实施的方法包括:从第一参与方接收第一隐藏状态,第一隐藏状态是通过第一网络部分处理目标数据的目标输入特征而得到的;将第一隐藏状态输入第二网络部分,使第二网络部分中的目标网络层输出第二隐藏状态;通过解码器模型处理第二隐藏状态,获得用于拟合目标输入特征的目标拟合特征;对目标拟合特征和第二隐藏状态进行合并处理,获得第三隐藏状态;将第三隐藏状态输入目标网络层的下一网络层,使目标模型输出与目标数据对应的预测结果。

    保护隐私的意图理解模型的训练方法及装置

    公开(公告)号:CN116705008A

    公开(公告)日:2023-09-05

    申请号:CN202310852162.7

    申请日:2023-07-11

    Inventor: 黄炜 王莹桂 王磊

    Abstract: 本说明书实施例披露一种保护隐私的意图理解模型的训练方法,其中意图理解模型包括语音编码器和第一解码器。该方法中任一轮次迭代训练包括:对于当前批次语音样本中任一语音样本,利用语音编码器和多个解码器中与该样本的标签所属任务类型对应的解码器处理该样本,得到语音预测结果,该多个解码器包括第一解码器和用于执行若干隐私任务的若干第二解码器;以减小各个语音预测结果和对应的语音样本标签之间的差距为目标,对语音编码器和多个解码器进行第一训练;再以增大各种隐私任务对应的语音预测结果和语音样本标签之间的差距,以及减小第一解码器输出的语音预测结果和语音样本标签之间的差距为目标,对经过第一训练的意图理解模型进行第二训练。

    用于训练图像识别模型的方法及装置

    公开(公告)号:CN115497142A

    公开(公告)日:2022-12-20

    申请号:CN202211215646.2

    申请日:2022-09-30

    Inventor: 王莹桂 王力 王磊

    Abstract: 本说明书的实施例提供用于训练图像识别模型的方法及装置。在各个第一成员设备处,对训练样本图像数据进行基于频域变换的数据脱敏处理以得到第一脱敏图像数据;将第一脱敏图像数据提供给超参数选择模型来选择第一超参数;使用第一超参数对第一脱敏图像数据进行基于数据增强的图像混合处理,以得到第二脱敏图像数据以及经过标签混合处理的标记标签数据。然后,使用第二脱敏图像数据以及对应的经过标签混合处理后的标记标签数据训练图像识别模型。第二成员设备使用从各个第一成员设备接收的模型训练结果来更新图像识别模型。

    图像数据的处理和识别、图像识别模型训练的方法及装置

    公开(公告)号:CN115497141A

    公开(公告)日:2022-12-20

    申请号:CN202211215209.0

    申请日:2022-09-30

    Inventor: 王莹桂 王力 王磊

    Abstract: 本说明书的实施例提供图像数据的处理和识别、图像识别模型训练的方法及装置。在进行图像数据处理时,对图像数据进行基于频域变换的数据脱敏处理,以得到图像数据的脱敏图像数据,所得到的脱敏图像数据包括子图数据集合,子图数据集合中的每个子图数据对应不同频率。随后,对所得到的脱敏图像数据进行基于数据增强的图像混合处理,以得到经过数据增强后的脱敏图像数据。可选地,对经过数据增强后的脱敏图像数据中的每个子图数据进行图大小对齐处理,以使得经过图大小对齐处理后的每个子图数据的大小与原始图像数据的大小相同。

    基于差分隐私的待共享数据处理方法、装置、设备和介质

    公开(公告)号:CN114912140A

    公开(公告)日:2022-08-16

    申请号:CN202210399998.1

    申请日:2022-04-15

    Abstract: 本说明书实施例公开了一种基于差分隐私的待共享数据处理方法、装置、设备和介质。方案可以包括:获取原始数据矩阵;所述原始数据矩阵包含待共享的数据;所述待共享的数据中包含隐私信息;对所述原始数据矩阵进行奇异值分解,得到左奇异矩阵、对角矩阵和右奇异矩阵;基于预设的扰动值,对所述对角矩阵进行扰动,得到扰动后的对角矩阵;基于所述左奇异矩阵、所述扰动后的对角矩阵和所述右奇异矩阵,得到扰动后的数据矩阵;使用预设的高斯随机矩阵,对所述扰动后的数据矩阵进行随机变换,得到协方差矩阵;所述协方差矩阵用于发布所述待共享的数据。

    一种基于联邦学习进行模型参数更新的方法、系统及装置

    公开(公告)号:CN112990476A

    公开(公告)日:2021-06-18

    申请号:CN202110177803.4

    申请日:2021-02-08

    Abstract: 本说明书一个或多个实施例涉及一种基于联邦学习进行模型参数更新的方法,所述方法由参与方中的任一训练成员实现,包括:获取当前轮对应的待训练模型;基于自身持有的训练样本对所述待训练模型进行训练,获得当前轮对应的第一模型;将与所述第一模型上传给服务器,并获取当前轮下发的聚合模型;将来自一轮或多轮迭代更新的一个或多个聚合模型与来自一轮或多轮迭代更新的一个或多个第一模型通过杂交函数处理,获取多个子代模型;基于突变比例以及预设的突变函数对多个子代模型进行处理,获取突变后的多个子代模型;对突变后的多个子代模型进行性能评估,并筛选出性能最优的子代模型作为下一轮迭代的待训练模型或者基于此确定该训练成员的最终模型。

    保护隐私的多方联合模型预测方法、系统及装置

    公开(公告)号:CN118709727A

    公开(公告)日:2024-09-27

    申请号:CN202410773446.1

    申请日:2024-06-14

    Abstract: 本说明书实施例提供了一种保护隐私的多方联合模型预测方法、系统及装置。其中,计算设备将业务预测模型中的所有非线性激活函数转换成对应的线性激活函数。其中,任意一个非线性激活函数被转换成若干分段的线性函数。任意一个线性函数是在对应分段内的泰勒展开点对非线性激活函数进行泰勒展开而得到的,并且在该分段内,该线性函数与非线性激活函数之间的差异小于预设阈值。接着,第一参与方和第二参与方,按照业务预测模型中包含的线性激活函数指示的逻辑运算,基于多方安全计算进行数据交互,联合执行业务预测模型的预测过程。其中,多方安全计算更适用于对线性激活函数进行计算。

Patent Agency Ranking