公开(公告)号：CN118427875A

公开(公告)日：2024-08-02

申请号：CN202410585205.4

申请日：2024-05-11

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 黄源清 ,  陈辉龙 ,  王莹桂 ,  王磊

IPC: G06F21/62

Abstract: 本说明书实施例提供一种保护隐私的信息处理方法及装置，在服务端提供业务处理的过程中，用户通过终端上传的信息可以经由提取特征向量、向频域变换(进行原特征空间的特征解耦)、在频域采样、逆变换回原特征空间等操作，对信息进行脱敏，从而有效保护数据隐私。

公开(公告)号：CN118261209A

公开(公告)日：2024-06-28

申请号：CN202410437771.0

申请日：2024-04-11

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 程安达 ,  王莹桂 ,  王磊

IPC: G06N3/0464 ,  G06N3/048 ,  G06N3/098

Abstract: 本说明书实施例涉及一种神经网络结构搜索方法及装置，方法包括：首先，构造搜索空间，其中包括若干神经网络结构，任一神经网络结构对应于多个处理特征图的算子的组合，所述算子包括，包含若干种候选激活函数的卷积算子。其次，对搜索策略进行多轮更新，得到目标搜索策略，用于在所述搜索空间中采样出适用于差分隐私联邦学习的目标神经网络结构，其中，任意一轮更新包括：使用当前搜索策略，从所述搜索空间中采样得到候选神经网络结构；将所述候选神经网络结构发送给基于差分隐私的联邦学习系统，使其训练并评估所述候选神经网络结构，并返回评估结果；基于接收到的所述评估结果，对所述搜索策略进行更新。

公开(公告)号：CN117557853A

公开(公告)日：2024-02-13

申请号：CN202311560322.7

申请日：2023-11-20

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 黄源清 ,  王莹桂 ,  王磊

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/047 ,  G06N3/09

Abstract: 本说明书实施例提供一种图像识别模型的隐私泄露风险测评方法及装置，在线上图像识别模型不存在分类器及样本标签的情况下，通过图像识别模型的模型参数，挖掘样本图像的残留信息，从而在将当前图像的输入特征与图像识别模型的网络层参数进行比较的情况下，得到参考数据输入判别模型，来判断所使用的图像是否属于图像识别模型的样本成员，并据此确定图像识别模型的隐私泄露风险。如此，可以提高对图像识别模型隐私泄露风险测评的有效性。

公开(公告)号：CN113159316A

公开(公告)日：2021-07-23

申请号：CN202110379664.3

申请日：2021-04-08

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 王莹桂 ,  贾晓玮 ,  王力

IPC: G06N3/08 ,  G06N3/04 ,  G06F21/62 ,  G06F21/53

Abstract: 本说明书实施例中提供了一种基于隐私保护的模型训练方法、进行预测业务的方法及装置。模型训练方法用于对经过预训练的业务预测模型进行基于隐私保护的增强训练，该业务预测模型包括第1至第n个网络层，该方法应用于包括可信执行环境和非可信执行环境的模型训练方，该方法包括：在可信执行环境中，通过增强卷积层对来自数据提供方并且对应于样本数据的变形数据执行预设可信计算，预设可信计算对变形数据进行预设处理以得到计算结果，该计算结果与利用第1个网络层对样本数据进行处理的结果等同；在非可信执行环境中，根据计算结果和样本数据对应的标签更新第2至第n个网络层的参数。

公开(公告)号：CN111931950B

公开(公告)日：2021-01-26

申请号：CN202011044286.5

申请日：2020-09-28

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 郑龙飞 ,  王莹桂 ,  陈超超 ,  王力 ,  周俊 ,  刘健 ,  郭明宇

IPC: G06N20/20

Abstract: 本说明书一个或多个实施例涉及一种基于联邦学习进行模型参数更新的方法及系统，可用于机器学习过程中的隐私数据保护，所述方法由参与方中的任一训练成员实现；其包括：获取具有与其他参与方相同结构的待训练初始模型；进行多次模型参数迭代更新，每次迭代包括：基于自身持有的训练样本进行模型训练，获得当前次迭代对应的模型数据矩阵；确定当前次迭代对应的传输比例，所述传输比例与迭代次数负相关；基于所述传输比例从所述模型数据矩阵中提取部分参数元素；基于所述部分参数元素生成参数传输矩阵；将所述参数传输矩阵上传给所述服务器；从所述服务器获取更新后的模型参数以基于此进行下一次迭代，或者基于此确定最终模型。