-
公开(公告)号：CN115455377A
公开(公告)日：2022-12-09
申请号：CN202211145984.3
申请日：2022-09-20
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F21/10 , G06V10/776 , G06V10/40 , G06V10/764 , G06V10/82
Abstract: 本说明书公开了一种模型所有权验证方法、装置、存储介质及设备，通过将原始样本输入目标跟踪模型，得到模型的特征提取子网输出的第一特征，将第一特征输入模型的目标跟踪子网，得到跟踪结果。在原始样本中添加指定特征，得到调整样本，并输入目标跟踪模型，得到特征提取子网输出的第二特征。以该跟踪结果与原始样本的标注差异最小，以及该第一特征与第二特征差异最大为优化目标，训练目标跟踪模型。可在当接收到针对待验证模型的验证请求时，将原始样本输入待验证模型，得到第一跟踪结果，以及将原始样本的调整样本输入待验证模型，得到第二跟踪结果，根据第一跟踪结果与第二跟踪结果间的差异，判断待验证模型是否基于目标跟踪模型得到。
-
公开(公告)号：CN115440230A
公开(公告)日：2022-12-06
申请号：CN202211146432.4
申请日：2022-09-20
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书公开了一种模型的所有权验证方法、装置、存储介质及电子设备，所述方法包括：获取认证系统中未保存特征的数据作为第一测试数据，根据调整原始样本的方式调整所述第一测试数据得到第二测试数据，所述原始样本和调整后样本用于训练受害者模型，将第一、第二测试数据分别输入待验证模型，得到第一、第二测试数据的特征与认证系统已保存的特征的相似度，通过比较两个相似度判断待验证模型是否是基于受害者模型得到的。从上述方法可以看出，只需确定该认证系统中未保存特征的数据后按本方法执行就可以对待验证模型的所有权进行验证，快捷准确，且对于认证类模型的所有权验证具有普适性，利于保护隐私。
-
公开(公告)号：CN110889117B
公开(公告)日：2022-04-19
申请号：CN201911193975.X
申请日：2019-11-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书提供一种模型攻击的防御方法及装置。所述方法包括：当集成模型被调用时，获取所述集成模型中各个子模型输出的子预测结果；判断所述调用是否符合攻击调用；若所述调用符合攻击调用，则采用预设的防御输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出。上述方案可有效防御成员推测攻击、对抗样本攻击等模型攻击，避免用户隐私泄露，保护用户个人数据的安全。
-
公开(公告)号：CN111143873A
公开(公告)日：2020-05-12
申请号：CN201911281580.5
申请日：2019-12-13
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F21/62
Abstract: 本说明书提供隐私数据处理方法、装置和终端设备的实施例。所述方法包括：截获传感器采集的隐私数据；在所述隐私数据中添加扰动数据，得到对抗样本；将所述对抗样本提供给调用所述传感器的应用程序。本说明书实施例的隐私数据处理方法、装置和终端设备，可以在传感器的层面，通过对抗样本阻止应用程序滥用用户的隐私数据，使得用户的隐私数据得到保护。
-
公开(公告)号：CN111046957A
公开(公告)日：2020-04-21
申请号：CN201911286364.X
申请日：2019-12-13
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06K9/62
Abstract: 说明书披露一种模型盗用的检测、模型的训练方法和装置。一种模型盗用的检测方法，包括：获取目标分类模型的若干对抗样本，所述对抗样本来自所述目标分类模型样本集的第一真子集，所述对抗样本基于所述目标分类模型样本集的第二真子集中的样本生成；将各对抗样本输入待检测分类模型，得到对应的分类结果；对匹配所述对抗样本分类标签的分类结果进行统计；判断统计结果是否符合盗用条件，若是，则确定所述待检测分类模型盗用所述目标分类模型。上述方案可使用对抗样本检测是否有其他模型盗用所述目标分类模型，从而实现目标分类模型私有数据的盗用检测。
-
Patent Agency Ranking
公开(公告)号：CN110992936A
公开(公告)日：2020-04-10
申请号：CN201911240178.2
申请日：2019-12-06
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本说明书实施例提供了一种使用私有数据来进行模型训练的方法及装置。该方法可以由服务端设备执行，服务端执行以下循环过程，直至满足循环结束条件：将当前全局模型下发给多个客户端设备，每个客户端设备使用本地私有数据作为训练数据对当前全局模型进行训练，以得到当前全局模型的模型参数调整量，从多个客户端设备中的各个客户端设备接收当前全局模型的模型更新量，以及基于所接收的各个模型更新量来对当前全局模型进行模型更新。
-
公开(公告)号：CN116095174B
公开(公告)日：2024-09-13
申请号：CN202211738531.1
申请日：2022-12-30
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书公开了一种业务处理的方法、装置、存储介质及电子设备。首先，接收业务方发送的数据处理请求，数据处理请求中携带有密态业务数据、密态业务数据对应的数据量以及密态业务数据对应的值域范围。其次，预估在对密态业务数据进行数据处理后所得到的数据处理结果的值域范围。而后，根据预估得到的值域范围，判断处理密态业务数据后得到的数据处理结果是否会数据溢出。最后，若是，根据预估得到的值域范围，对密态业务数据进行调整，得到调整后密态业务数据，并根据调整后密态业务数据，进行业务处理。本方法可以提高业务处理过程中的运算结果的精度以及正确率。
-
公开(公告)号：CN113379001B
公开(公告)日：2022-06-28
申请号：CN202110809098.5
申请日：2021-07-16
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本说明书实施例提供一种针对图像识别模型的处理方法及装置，通过本说明书实施例提供的方法和装置，针对使用样本集预训练的图像识别模型，基于样本集中的第一样本图像得到较小的第一分辨率下的第一图像，然后针对第一图像，利用预训练的图像识别模型生成第一对抗样本图像，接着，对第一对抗样本图像提高分辨率，得到较大的第二分辨率下的第二图像，再利用第二图像和第一样本图像对应的第一识别标签作为第一修正样本进一步训练预训练的图像识别模型，以使得修正后的图像识别模型用于图像识别。该实施例方式通过低分辨率图像发现模型漏洞，通过高分辨率图像修复模型漏洞，从而提高图像识别模型的鲁棒性。
-
公开(公告)号：CN114254276A
公开(公告)日：2022-03-29
申请号：CN202111583667.5
申请日：2021-12-22
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本公开提出了一种用于图像保护的主动防御方法，包括：接收真实图像；将隐藏信息添加至所接收的真实图像，以生成第一图像；基于该隐藏信息在该第一图像的指定区域中生成语义图案，以生成第二图像；以及调整该隐藏信息，以使该语义图案和预定义语义图案相似并且使该第二图像和该真实图像相似。还公开了相应的用于图像保护的主动防御装置。
-
公开(公告)号：CN113239851A
公开(公告)日：2021-08-10
申请号：CN202110582852.6
申请日：2021-05-27
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本说明书实施例公开了一种基于隐私保护的隐私图像处理方法、装置及设备，该方法包括：获取待处理的包含用户隐私信息的第一图像；基于第一图像、预设的第二图像和预设的第一扰动条件，通过对抗样本的构建规则，确定对第一图像中的用户隐私信息进行扰动处理的扰动信息，并采用信息隐藏的方式将确定的扰动信息嵌入到第一图像中的用户隐私信息中，得到扰动图像，其中，扰动图像对应的图像特征与第一图像对应的图像特征之间的相似度小于预设第一阈值，扰动图像对应的图像特征与第二图像对应的图像特征之间的相似度大于预设第二阈值，第二阈值不小于第一阈值，第二图像中包含的用户隐私信息与第一图像中包含的用户隐私信息不同；输出扰动图像。
-
-
-
-
-
-
-
-
-
Search Results
32
records
(took 0.032 seconds)
