-
公开(公告)号：CN118709727A
公开(公告)日：2024-09-27
申请号：CN202410773446.1
申请日：2024-06-14
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供了一种保护隐私的多方联合模型预测方法、系统及装置。其中，计算设备将业务预测模型中的所有非线性激活函数转换成对应的线性激活函数。其中，任意一个非线性激活函数被转换成若干分段的线性函数。任意一个线性函数是在对应分段内的泰勒展开点对非线性激活函数进行泰勒展开而得到的，并且在该分段内，该线性函数与非线性激活函数之间的差异小于预设阈值。接着，第一参与方和第二参与方，按照业务预测模型中包含的线性激活函数指示的逻辑运算，基于多方安全计算进行数据交互，联合执行业务预测模型的预测过程。其中，多方安全计算更适用于对线性激活函数进行计算。
-
公开(公告)号：CN118261209A
公开(公告)日：2024-06-28
申请号：CN202410437771.0
申请日：2024-04-11
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N3/0464 , G06N3/048 , G06N3/098
Abstract: 本说明书实施例涉及一种神经网络结构搜索方法及装置，方法包括：首先，构造搜索空间，其中包括若干神经网络结构，任一神经网络结构对应于多个处理特征图的算子的组合，所述算子包括，包含若干种候选激活函数的卷积算子。其次，对搜索策略进行多轮更新，得到目标搜索策略，用于在所述搜索空间中采样出适用于差分隐私联邦学习的目标神经网络结构，其中，任意一轮更新包括：使用当前搜索策略，从所述搜索空间中采样得到候选神经网络结构；将所述候选神经网络结构发送给基于差分隐私的联邦学习系统，使其训练并评估所述候选神经网络结构，并返回评估结果；基于接收到的所述评估结果，对所述搜索策略进行更新。
-
公开(公告)号：CN118333139A
公开(公告)日：2024-07-12
申请号：CN202410461861.3
申请日：2024-04-16
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供了一种保护隐私的业务预测模型训练方法、装置及系统。在任意一轮联合训练中，成员设备采用多步迭代对本地模型进行训练，任意一步迭代训练包括：基于裁剪阈值确定初始模型参数是否超出预设空间，如果超过则减小学习率，利用本地数据通过本地模型进行预测，基于预测结果确定第一梯度；基于第一梯度与减小后学习率确定减小后第一梯度，从而对初始模型参数进行更新，得到本步迭代的更新后模型参数。在多步迭代执行之后，该成员设备可以获取到更新后模型参数，并采用基于裁剪阈值进行的差分隐私操作，确定更新后模型参数对应的加密模型数据。多个成员设备基于各自的加密模型数据，通过设备之间的数据交互进行本轮联合训练。
-
公开(公告)号：CN118297141A
公开(公告)日：2024-07-05
申请号：CN202410495822.5
申请日：2024-04-23
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例中提供了一种多方联合进行模型处理的方法及装置，其中目标模型至少包括第一网络部分以及其后接续的第二网络部分，第一网络部分部署在第一参与方，第二网络部分部署在第二参与方，由第二参与方实施的方法包括：从第一参与方接收第一隐藏状态，第一隐藏状态是通过第一网络部分处理目标数据的目标输入特征而得到的；将第一隐藏状态输入第二网络部分，使第二网络部分中的目标网络层输出第二隐藏状态；通过解码器模型处理第二隐藏状态，获得用于拟合目标输入特征的目标拟合特征；对目标拟合特征和第二隐藏状态进行合并处理，获得第三隐藏状态；将第三隐藏状态输入目标网络层的下一网络层，使目标模型输出与目标数据对应的预测结果。
-
-
-
Search Results
4
records
(took 0.029 seconds)
