-
公开(公告)号：CN112000578B
公开(公告)日：2022-12-13
申请号：CN202010872749.0
申请日：2020-08-26
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 宗志远
Abstract: 本说明书实施例提供了一种人工智能系统的测试方法和装置。根据该实施例的方法，首先，获取至少一个实际检测对象，并且，生成至少一个干扰检测对象；然后，将至少一个干扰检测对象以及至少一个实际检测对象分别作为样本检测对象，组成包括至少两个样本检测对象的测试样本集；之后，从测试样本集中选取至少一个样本检测对象，每一次选取的样本检测对象可能是实际检测对象也可能是干扰检测对象，之后，将选取的对象分别输入人工智能系统，并监控人工智能系统对输入的实际检测对象或者干扰检测对象的检测结果，从而得到人工智能系统的测试结果。
-
公开(公告)号：CN112053276B
公开(公告)日：2022-07-22
申请号：CN202011052602.3
申请日：2020-09-29
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 宗志远
IPC: G06T1/00 , G06K9/62 , G06N20/20 , G06V10/774
Abstract: 本说明书一个或多个实施例公开了一种基于隐写技术的数据处理方法及装置。所述方法包括：获取用于训练指定模型的第一样本数据集。从所述第一样本数据集中确定待处理的第一样本数据，对所述第一样本数据进行指定域上的第一域变换，得到所述指定域上的第一中间数据。确定所述第一样本数据对应的的目标隐写对象，以及，将所述目标隐写对象写入所述第一中间数据对应的指定域空间内，得到第二中间数据。对所述第二中间数据进行所述指定域上的第二域变换，得到携带有所述目标隐写对象的第二样本数据。
-
公开(公告)号：CN111079152B
公开(公告)日：2022-07-22
申请号：CN201911286357.X
申请日：2019-12-13
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 宗志远
Abstract: 公开了一种模型部署方法、装置及设备。通过在可信执行环境TEE中不进行模型训练，而是将预先训练好的模型的预测部分，以TEE中可执行语言的形式部署至TEE环境中。对于线上需要识别的数据流，采用TEE中的公钥进行加密处理，并发送至TEE环境中进行解密，进而在TEE中进行识别，避免了识别过程中的数据外泄，实现对于隐私数据的有效保护。
-
公开(公告)号：CN110889117B
公开(公告)日：2022-04-19
申请号：CN201911193975.X
申请日：2019-11-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书提供一种模型攻击的防御方法及装置。所述方法包括：当集成模型被调用时，获取所述集成模型中各个子模型输出的子预测结果；判断所述调用是否符合攻击调用；若所述调用符合攻击调用，则采用预设的防御输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出。上述方案可有效防御成员推测攻击、对抗样本攻击等模型攻击，避免用户隐私泄露，保护用户个人数据的安全。
-
公开(公告)号：CN112053276A
公开(公告)日：2020-12-08
申请号：CN202011052602.3
申请日：2020-09-29
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 宗志远
Abstract: 本说明书一个或多个实施例公开了一种基于隐写技术的数据处理方法及装置。所述方法包括：获取用于训练指定模型的第一样本数据集。从所述第一样本数据集中确定待处理的第一样本数据，对所述第一样本数据进行指定域上的第一域变换，得到所述指定域上的第一中间数据。确定所述第一样本数据对应的的目标隐写对象，以及，将所述目标隐写对象写入所述第一中间数据对应的指定域空间内，得到第二中间数据。对所述第二中间数据进行所述指定域上的第二域变换，得到携带有所述目标隐写对象的第二样本数据。
-
Patent Agency Ranking
公开(公告)号：CN110990795A
公开(公告)日：2020-04-10
申请号：CN201911158828.9
申请日：2019-11-22
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 宗志远
Abstract: 本说明书实施例公开了一种基于对抗样本的隐私信息保护方法、装置和电子设备，其中，所述方法可以在获取包含用字符表示的隐私信息的原始图像后，对所述原始图像进行处理，生成对抗字符识别算法的对抗样本图像，然后利用所述对抗样本图像代替所述原始图像进行传播。
-
公开(公告)号：CN111368164B
公开(公告)日：2023-05-09
申请号：CN202010114046.1
申请日：2020-02-24
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 宗志远
IPC: G06F16/951 , G06F16/955 , G06F18/214 , G06F18/241 , G06F21/62
Abstract: 本说明书实施例公开了一种爬虫识别模型训练、爬虫识别方法、装置、系统、设备及介质，包括确定指向预设隐私数据的目标行为数据及目标行为数据对应的目标行为链路，从目标行为链路中确定第一爬虫链路，将第一爬虫链路作为第一类标记样本；确定第二爬虫链路，将第二爬虫链路作为第二类标记样本；其中，第二爬虫链路的确定方式异于第一爬虫链路；确定未标记网络行为链路，将未标记网络行为链路作为未标记类样本；基于第一类标记样本、第二类标记样本及未标记类样本进行半监督学习的模型训练，得到爬虫识别模型。将爬虫识别模型用于爬虫识别，能够提高爬虫识别准确率和对隐私数据的保护作用。
-
公开(公告)号：CN112085281B
公开(公告)日：2023-03-10
申请号：CN202010956257.X
申请日：2020-09-11
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 宗志远
IPC: G06Q10/04 , G06Q10/0639 , G06Q10/067 , G06F18/213 , G06F18/2135 , G06F18/24 , G06N3/048 , G06N3/088 , G06N3/09
Abstract: 本说明书实施例提供一种检测业务预测模型安全性的方法及装置，在检测业务预测模型安全性的方法中，在业务预测模型针对第一业务对象进行业务预测的过程中，获取业务预测模型的各层网络中各神经元的激活处理结果。根据各层网络中各神经元的激活处理结果，识别第一业务对象是否为异常对象。至少根据第一业务对象的识别结果，确定业务预测模型是否受到安全攻击。
-
公开(公告)号：CN111107074B
公开(公告)日：2022-04-08
申请号：CN201911284559.0
申请日：2019-12-13
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 宗志远
IPC: H04L9/40 , G06F21/62 , G06F16/951
Abstract: 本说明书实施例提供一种防止网络爬虫窃取隐私数据的方法、训练方法及装置。防止网络爬虫窃取隐私数据的方法包括：从目标客户端的网络流量数据中提取目标客户端在预设时间段内的应用程序接口API访问记录。基于目标客户端的API访问记录，生成待识别数据，所述待识别数据包括以时间和API访问量为维度的目标客户端在预设时间段内的API访问二维图。将待识别数据输入至网络爬虫识别模型，以得到所目标客户端的网络识别结果，其中，网络爬虫识别模型是基于样本数据和样本数据的网络爬虫分类标签训练得到的，样本数据包括以时间和API访问量为维度的样本用户在预设时间段内的API访问二维图。对目标客户端执行与网络爬虫识别结果相匹配的隐私数据保护措施。
-
公开(公告)号：CN112836627A
公开(公告)日：2021-05-25
申请号：CN202110134215.2
申请日：2021-01-29
Applicant: 支付宝(杭州)信息技术有限公司
Inventor： 宗志远
Abstract: 本说明书实施例提供了活体检测方法和装置，该方法首先确定是否接收到对待认证的用户的认证请求，如果接收到，则生成至少两个随机行为；每一个随机行为指示一个被遮挡的面部部位；将至少两个随机行为进行随机组合，生成随机行为序列；将随机行为序列发送给用户；接收用户发来的待验证视频；利用待验证视频，得到遮挡动作序列；该遮挡动作序列中包括依序排列的至少两个被遮挡的面部部位；判断遮挡动作序列中包括的至少两个被遮挡的面部部位以及在遮挡动作序列中的顺序与至少两个随机行为所指示的至少两个被遮挡的面部部位以及在随机行为序列中的顺序是否相同；如果均相同，则通知用户活体检测通过。
-
-
-
-
-
-
-
-
-
Search Results
33
records
(took 0.032 seconds)
