-
公开(公告)号：CN116151627B
公开(公告)日：2023-09-01
申请号：CN202310396957.1
申请日：2023-04-04
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06Q10/0635
Abstract: 本说明书公开了一种业务风控的方法、装置、存储介质以及电子设备，获取业务数据，根据业务数据，确定待发送数据；从待发送数据中确定出无风险数据，并确定待发送数据中除无风险数据以外的剩余数据。无风险数据为发送给接收方后不会导致业务数据泄露的数据。根据业务数据，确定第一信息熵，以及根据业务数据和剩余数据，确定第二信息熵，第一信息熵用于表征在接收方未获取剩余数据的情况下获知全量业务数据所需的信息量，第二信息熵用于表征接收方在获取到剩余数据后获知全量业务数据所需的信息量。根据第一信息熵和第二信息熵，确定风控信息熵，执行业务风控，其中，风控信息熵用于表征将待发送数据发送给接收方后业务数据被泄露的信息量。
-
公开(公告)号：CN113379001A
公开(公告)日：2021-09-10
申请号：CN202110809098.5
申请日：2021-07-16
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本说明书实施例提供一种针对图像识别模型的处理方法及装置，通过本说明书实施例提供的方法和装置，针对使用样本集预训练的图像识别模型，基于样本集中的第一样本图像得到较小的第一分辨率下的第一图像，然后针对第一图像，利用预训练的图像识别模型生成第一对抗样本图像，接着，对第一对抗样本图像提高分辨率，得到较大的第二分辨率下的第二图像，再利用第二图像和第一样本图像对应的第一识别标签作为第一修正样本进一步训练预训练的图像识别模型，以使得修正后的图像识别模型用于图像识别。该实施例方式通过低分辨率图像发现模型漏洞，通过高分辨率图像修复模型漏洞，从而提高图像识别模型的鲁棒性。
-
公开(公告)号：CN111046957B
公开(公告)日：2021-03-16
申请号：CN201911286364.X
申请日：2019-12-13
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06K9/62
Abstract: 说明书披露一种模型盗用的检测、模型的训练方法和装置。一种模型盗用的检测方法，包括：获取目标分类模型的若干对抗样本，所述对抗样本来自所述目标分类模型样本集的第一真子集，所述对抗样本基于所述目标分类模型样本集的第二真子集中的样本生成；将各对抗样本输入待检测分类模型，得到对应的分类结果；对匹配所述对抗样本分类标签的分类结果进行统计；判断统计结果是否符合盗用条件，若是，则确定所述待检测分类模型盗用所述目标分类模型。上述方案可使用对抗样本检测是否有其他模型盗用所述目标分类模型，从而实现目标分类模型私有数据的盗用检测。
-
公开(公告)号：CN111723404A
公开(公告)日：2020-09-29
申请号：CN202010849443.3
申请日：2020-08-21
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本说明书实施例提供一种联合训练业务模型的方法，在多方联合训练业务模型过程中，多个业务方包括至少2个计算方和一个协调方，计算方持有样本数据，一方面，在计算过程中，单个计算方可以先通过差分隐私方式处理样本数据，以保护数据隐私。另一方面，在计算方从协调方接收到模型参数的梯度数据后，还可以对梯度数据进行差分隐私处理，从而使得计算方使用的梯度数据与协调方下发的梯度数据不同，进一步保护计算方的数据隐私。这种处理方式可以有效保障计算方的数据安全。
-
公开(公告)号：CN111539382A
公开(公告)日：2020-08-14
申请号：CN202010442718.1
申请日：2020-05-22
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本说明书实施例提供一种图像识别模型隐私风险的评估方法。其中，方法包括：基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据。将所述目标对象的特征数据输入至所述图像识别模型对应的逆向模型，得到所述目标对象对应的逆向图像，其中，所述逆向模型具有与所述图像识别模型中的输入向量相反表达的输入向量，并以样本对象对应的原始图像为输出、所述样本对象在对应的原始图像中的特征数据为输入进行训练。基于所述目标对象对应的原始图像和逆向图像的相似度，评估所述图像识别模型的隐私风险。
-
Patent Agency Ranking
公开(公告)号：CN110874471A
公开(公告)日：2020-03-10
申请号：CN201911137260.2
申请日：2019-11-19
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本说明书实施例提供一种保护隐私安全的神经网络模型的训练方法和装置，方法包括：获取初步训练的目标神经网络模型和训练数据集，所述目标神经网络模型包括多个中间层，所述训练数据集包括第一数量个成员样本；确定所述多个中间层中的决策重要层和决策无关层，所述决策重要层对决策结果的影响程度大于所述决策无关层对决策结果的影响程度；根据所述训练数据集中的各成员样本，对所述目标神经网络模型进行再次训练，所述再次训练固定所述目标神经网络模型的决策无关层的参数，使决策重要层的部分神经元以一定概率停止工作调整决策重要层的参数。能够防止攻击者探测到神经网络模型的训练数据。
-
公开(公告)号：CN118692123A
公开(公告)日：2024-09-24
申请号：CN202410705104.6
申请日：2024-05-31
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书公开了一种身份验证的方法、装置、存储介质以及电子设备，具体包括：通过将目标人脸图像与人脸图像库中的各人脸图像进行匹配，确定出目标人脸图像的相似人脸图像。将目标人脸图像输入到预设的图像区域识别模型中，以使得图像区域识别模型对目标人脸图像进行图像分割，得到分割结果。根据分割结果，确定出对抗人脸图像区域和非对抗人脸图像区域。根据对抗人脸图像区域与相似人脸图像之间的相似度，和/或非对抗人脸图像区域与相似人脸图像之间的相似度，进行身份验证。此方法极大程度上提升了身份验证过程中的准确性，既能有效降低风险事故的发生概率，还能更为有效地保障用户的个人信息以及财产安全，确保用户在身份验证中的绝对安全。
-
公开(公告)号：CN117786571A
公开(公告)日：2024-03-29
申请号：CN202311745250.3
申请日：2023-12-18
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F18/2433 , G06F18/214 , G06F21/62 , G06N20/00
Abstract: 本说明书公开了一种异常检测方法、装置、设备及可读存储介质，从原始样本集中确定候选样本及其标注，根据第一变换模型和候选样本得到变换样本，并将候选样本的标注作为变换样本的标注，根据变换样本及其标注和除候选样本外的原始样本集，确定目标样本集，将变换样本输入待检测模型，得到变换样本的预测结果，并在变换样本的预测结果与变换样本的标注相同时，确定待检测模型的训练样本是目标样本集。可见，通过上述异常检测方法，只修改少量候选样本为变换样本，且不改变原有的标注，通过判断待检测模型是否具有变换样本的相关知识来判断目标样本集是否被违规使用，还不会引入安全威胁，提高模型的安全性以及数据的隐私安全性。
-
公开(公告)号：CN116992278A
公开(公告)日：2023-11-03
申请号：CN202310659794.1
申请日：2023-06-05
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F18/214 , G06N20/00
Abstract: 本说明书公开了一种模型训练方法、装置、设备及可读存储介质，根据待训练的变换网络以及通过中毒样本训练得到的源模型确定待训练的目标模型，将获取到的干净样本输入目标模型，得到目标模型输出的预测结果，根据预测结果和干净样本的标签，调整变换网络的参数，以便在接收到预测请求时，将待预测数据输入训练完成的目标模型，得到待预测数据的预测结果。可见，基于变换网络对源模型进行重构的方式，在不调整源模型的模型参数的前提下，通过变换网络对受到中毒样本攻击的源模型的输入和/或输出进行变换，以避免源模型针对攻击者预设的样本得到错误的预测结果，从而在保证模型性能的同时实现较高的防御效果，保护隐私数据的安全。
-
公开(公告)号：CN116842569A
公开(公告)日：2023-10-03
申请号：CN202310863481.8
申请日：2023-07-13
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书公开了一种数据泄露检测的方法、装置、存储介质及电子设备。用于隐私保护，该数据泄露检测的方法包括：在样本数据中添加目标干扰数据，得到目标样本数据，并确定目标样本数据所对应的目标标签，将目标样本数据输入目标模型，以得到目标样本数据对应的输出结果，以及确定潜在干扰数据，以最小化目标样本数据对应的输出结果与目标标签之间的偏差，以及确定将添加潜在干扰数据的样本数据输入到目标模型后得到不为目标标签的输出结果为优化目标，对所述目标模型进行训练，而后获取添加目标干扰数据的目标校验数据，将目标校验数据输入到待检测模型，得到待检测模型的输出结果，根据待检测模型的输出结果，检测目标模型的模型数据是否泄漏。
-
-
-
-
-
-
-
-
-
Search Results
32
records
(took 0.028 seconds)
