公开(公告)号：CN117557852A

公开(公告)日：2024-02-13

申请号：CN202311560311.9

申请日：2023-11-20

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 黄源清 ,  王莹桂 ,  王磊

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/047 ,  G06N3/09

Abstract: 本说明书实施例提供一种图像识别模型的隐私泄露风险测评方法及装置，在线上图像识别模型不存在分类器及样本标签的情况下，通过借鉴模型训练架构，使用其他分类器预测模拟攻击图像的类别标签，以使得测评能够有效进行。进而，基于预测的类别标签，可以比较模拟攻击图像与相应类别下的样本图像的相似性，从而确定攻击结果。基于多个模拟攻击图像的攻击结果的统计结果，可以生成对图像识别模型的隐私泄露风险测评结果。如此，可以提高对图像识别模型隐私泄露风险测评的有效性。

公开(公告)号：CN117541867A

公开(公告)日：2024-02-09

申请号：CN202311550900.9

申请日：2023-11-20

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 黄源清 ,  王莹桂 ,  王磊

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/74 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/09

Abstract: 本说明书实施例提供一种图像识别模型的隐私泄露风险测评方法及装置，在线上图像识别模型不存在分类器及样本标签的情况下，通过增加判别模型的架构，来判断所生成的候选图像是否可以攻击图像识别模型，而导致样本图像对应的预定用户的隐私泄露。之后，通过调整候选图像的生成过程中所涉及的参数，使得候选图像具有更高的概率接近样本图像对应的用户的图像。如此，可以提高对图像识别模型隐私泄露风险测评的有效性。

公开(公告)号：CN116758374A

公开(公告)日：2023-09-15

申请号：CN202310772152.2

申请日：2023-06-27

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 黄源清 ,  王莹桂 ,  王磊

IPC: G06V10/774 ,  G06V10/764 ,  G06V10/40

Abstract: 本说明书实施例提供了一种图像识别模型的训练方法、图像识别方法及装置，图像识别模型包括第一特征提取网络和分类网络，该训练方法包括：将第一图像样本分别输入第一特征提取网络和第二特征提取网络，分别得到第一图像特征和第二图像特征；其中，第二特征提取网络是预训练好的参考特征提取网络；根据第一图像特征和第二图像特征，确定特征差异；将第一图像特征输入分类网络，得到分类结果，根据分类结果、以及第一图像样本的分类标签，确定分类损失；以分类损失趋向变小、以及特征差异趋向变大为目标，更新图像识别模型。

公开(公告)号：CN118427875A

公开(公告)日：2024-08-02

申请号：CN202410585205.4

申请日：2024-05-11

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 黄源清 ,  陈辉龙 ,  王莹桂 ,  王磊

IPC: G06F21/62

Abstract: 本说明书实施例提供一种保护隐私的信息处理方法及装置，在服务端提供业务处理的过程中，用户通过终端上传的信息可以经由提取特征向量、向频域变换(进行原特征空间的特征解耦)、在频域采样、逆变换回原特征空间等操作，对信息进行脱敏，从而有效保护数据隐私。

公开(公告)号：CN117557853A

公开(公告)日：2024-02-13

申请号：CN202311560322.7

申请日：2023-11-20

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 黄源清 ,  王莹桂 ,  王磊

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/047 ,  G06N3/09

Abstract: 本说明书实施例提供一种图像识别模型的隐私泄露风险测评方法及装置，在线上图像识别模型不存在分类器及样本标签的情况下，通过图像识别模型的模型参数，挖掘样本图像的残留信息，从而在将当前图像的输入特征与图像识别模型的网络层参数进行比较的情况下，得到参考数据输入判别模型，来判断所使用的图像是否属于图像识别模型的样本成员，并据此确定图像识别模型的隐私泄露风险。如此，可以提高对图像识别模型隐私泄露风险测评的有效性。