-
公开(公告)号：CN116151627A
公开(公告)日：2023-05-23
申请号：CN202310396957.1
申请日：2023-04-04
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06Q10/0635
Abstract: 本说明书公开了一种业务风控的方法、装置、存储介质以及电子设备，获取业务数据，根据业务数据，确定待发送数据；从待发送数据中确定出无风险数据，并确定待发送数据中除无风险数据以外的剩余数据。无风险数据为发送给接收方后不会导致业务数据泄露的数据。根据业务数据，确定第一信息熵，以及根据业务数据和剩余数据，确定第二信息熵，第一信息熵用于表征在接收方未获取剩余数据的情况下获知全量业务数据所需的信息量，第二信息熵用于表征接收方在获取到剩余数据后获知全量业务数据所需的信息量。根据第一信息熵和第二信息熵，确定风控信息熵，执行业务风控，其中，风控信息熵用于表征将待发送数据发送给接收方后业务数据被泄露的信息量。
-
公开(公告)号：CN115544555A
公开(公告)日：2022-12-30
申请号：CN202211091524.7
申请日：2022-09-07
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F21/62 , G06F21/60 , G06F16/906
Abstract: 本说明书公开了一种数据处理的方法、装置、存储介质及电子设备。该数据处理的方法包括：获取指定业务场景下的样本数据，针对预设的每个数据处理策略，通过该数据处理策略对样本数据进行处理，得到该数据处理策略对应的处理后数据，根据每个数据处理策略对应的处理后数据，确定每个数据处理策略在各评价方式下对应的安全参数，针对每个评价方式，根据每个数据处理策略在该评价方式下对应的安全参数之间的差异，确定该评价方式对应的区分度，根据每个评价方式对应的区分度，从各评价方式中选取适用于指定业务场景的目标评价方式，在获取到指定业务场景下的待处理数据时，通过目标评价方式，确定出目标处理策略，并对待处理数据进行处理。
-
公开(公告)号：CN117636440A
公开(公告)日：2024-03-01
申请号：CN202311700805.2
申请日：2023-12-12
Applicant: 浙江大学 , 支付宝(杭州)信息技术有限公司
IPC: G06V40/16
Abstract: 本发明提出一种在物理域上针对黑盒人脸识别系统的对抗样本生成方法，应用于人工智能安全领域。所述生成方法包括：1)获得源人脸图像Xatk和目标人脸图像Xtar；2)构建对抗掩膜；3)生成数字域对抗样本Xadv，4)基于计算得到的组合损失函数使用优化器Adam优化对抗性扰动块；5)在物理域打印对抗性扰动块，裁剪后佩戴到攻击者人物模型上，拍摄后得到物理域对抗样本。本发明有效地增强了对抗样本的物理可实现性，有利于提升物理域对抗攻击成功率和活体检测通过率，从而用来对人脸识别系统进行健壮性评估或对抗训练。
-
公开(公告)号：CN113312668A
公开(公告)日：2021-08-27
申请号：CN202110636838.X
申请日：2021-06-08
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本公开实施例提供了一种基于隐私保护的图像识别方法、装置及设备，包括：接收隐私数据处理请求，其中，隐私数据处理请求中携带有待处理的隐私图像，获取用于对隐私图像进行混淆处理的第一图像，并基于第一图像，对隐私图像的像素采用信息隐藏的方式进行混淆处理，生成隐私图像对应的载密图像，然后，将载密图像发送至服务器，以使服务器通过模型预测的方式对载密图像进行隐私图像的识别处理。
-
公开(公告)号：CN112818390A
公开(公告)日：2021-05-18
申请号：CN202110103274.3
申请日：2021-01-26
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本说明书实施例提供了一种基于隐私保护的数据信息发布方法、装置及设备，该方法包括：获取待发布的数据信息；如果数据信息中包括需要进行隐私保护处理的第一隐私数据，则采用与预设类型相对应的隐私保护处理策略，对第一隐私数据进行隐私保护处理，得到处理后的第一隐私数据，其中，第一隐私数据中包括预设类型的隐私数据，隐私保护处理策略是通过模型训练的方式构建的机器学习模型而生成；使用处理后的第一隐私数据替换数据信息中的第一隐私数据生成目标数据信息，发布目标数据信息。
-
Patent Agency Ranking
公开(公告)号：CN111723404B
公开(公告)日：2021-01-22
申请号：CN202010849443.3
申请日：2020-08-21
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
Abstract: 本说明书实施例提供一种联合训练业务模型的方法，在多方联合训练业务模型过程中，多个业务方包括至少2个计算方和一个协调方，计算方持有样本数据，一方面，在计算过程中，单个计算方可以先通过差分隐私方式处理样本数据，以保护数据隐私。另一方面，在计算方从协调方接收到模型参数的梯度数据后，还可以对梯度数据进行差分隐私处理，从而使得计算方使用的梯度数据与协调方下发的梯度数据不同，进一步保护计算方的数据隐私。这种处理方式可以有效保障计算方的数据安全。
-
公开(公告)号：CN119442238A
公开(公告)日：2025-02-14
申请号：CN202510031117.4
申请日：2025-01-07
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F21/56
Abstract: 本说明书实施例公开了一种用于检测攻击行为的方法、装置、存储介质及电子设备，响应于目标应用接收到目标大模型基于提问请求返回的应答内容，对所述应答内容进行解析，其中，所述应答内容包括代码信息；在解析过程中，基于在与敏感操作相关的一个或多个目标函数中嵌入的切点，根据预设检测规则确定所述应答内容是否存在攻击行为；若确定所述应答内容存在攻击行为，针对所述应答内容执行预设响应操作，否则，使得所述目标函数继续执行，在所述目标应用中渲染并展示所述应答内容对应的呈现信息。
-
公开(公告)号：CN113239851B
公开(公告)日：2023-06-23
申请号：CN202110582852.6
申请日：2021-05-27
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 翁海琴
IPC: G06V40/50 , G06V10/74 , G06V10/774 , H04N1/32
Abstract: 本说明书实施例公开了一种基于隐私保护的隐私图像处理方法、装置及设备，该方法包括：获取待处理的包含用户隐私信息的第一图像；基于第一图像、预设的第二图像和预设的第一扰动条件，通过对抗样本的构建规则，确定对第一图像中的用户隐私信息进行扰动处理的扰动信息，并采用信息隐藏的方式将确定的扰动信息嵌入到第一图像中的用户隐私信息中，得到扰动图像，其中，扰动图像对应的图像特征与第一图像对应的图像特征之间的相似度小于预设第一阈值，扰动图像对应的图像特征与第二图像对应的图像特征之间的相似度大于预设第二阈值，第二阈值不小于第一阈值，第二图像中包含的用户隐私信息与第一图像中包含的用户隐私信息不同；输出扰动图像。
-
公开(公告)号：CN116095174A
公开(公告)日：2023-05-09
申请号：CN202211738531.1
申请日：2022-12-30
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书公开了一种业务处理的方法、装置、存储介质及电子设备。首先，接收业务方发送的数据处理请求，数据处理请求中携带有密态业务数据。其次，预估在对密态业务数据进行数据处理后所得到的数据处理结果的值域范围。而后，根据值域范围，判断处理密态业务数据后得到的数据处理结果是否会数据溢出。最后，若是，根据值域范围，对待处理密态数据进行调整，得到调整后密态数据，并根据调整后密态数据，进行业务处理。本方法可以提高业务处理过程中的运算结果的精度以及正确率。
-
公开(公告)号：CN115600090A
公开(公告)日：2023-01-13
申请号：CN202211146420.1
申请日：2022-09-20
Applicant: 支付宝(杭州)信息技术有限公司(CN)
Abstract: 本说明书公开了一种模型的所有权验证方法、装置、存储介质及电子设备，所述方法包括：向原始样本中添加指定特征且不调整原始样本的标注，使调整后样本的标注与调整后样本对应的原始样本的标注相同，根据调整后样本输入待验证模型得到的梯度和输入以原始样本训练的良性模型得到的梯度，判断训练所述待验证模型的样本是否来源于边缘节点。本方法中因调整后样本和其对应的原始样本的标注相同，所以在无法通过标注判断待验证模型的所有权的情况下，通过调整后样本在待验证模型和良性模型中的梯度表现不同来判断训练待验证模型的样本是否来源于边缘节点，可以更加准确地判断待验证模型的所有权。
-
-
-
-
-
-
-
-
-
Search Results
32
records
(took 0.028 seconds)
