-
公开(公告)号：CN118093988A
公开(公告)日：2024-05-28
申请号：CN202311211874.7
申请日：2023-09-19
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/9535 , G06F18/214
Abstract: 本说明书公开了一种安全检测的方法及装置，涉及人工智能领域，可用于隐私保护，可以从预设的诱导信息库中获取诱导信息，所述诱导信息用于诱导生成模型生成存在风险的内容，而后，将诱导信息输入到预先训练的诱导信息补充模型中，得到用于获取诱导信息的相关内容的询问语句，将询问语句输入到待检测的生成模型中，得到生成内容，通过预先训练的风险识别模型，对生成内容进行风险识别，得到识别结果，以通过识别结果，对待检测的生成模型进行安全检测，可以看出，本方法可以自动化地对生成模型进行安全检测，从而相比于现有技术，能够提高对生成模型安全检测的效率。
-
公开(公告)号：CN116319056A
公开(公告)日：2023-06-23
申请号：CN202310377112.8
申请日：2023-04-04
Applicant: 支付宝(杭州)信息技术有限公司
IPC: H04L9/40
Abstract: 在本说明书提供的防御模型攻击的方法中，根据确定的目标业务，在预设的可执行所述目标业务的各待选模型中，确定目标模型执行所述目标业务，得到第一输出结果后，按照所述目标模型预设的变换函数，变换第一输出结果，得到第二输出结果，根据所述第二输出结果确定所述目标模型的最终输出结果，并根据所述最终输出结果执行所述目标业务。从上述方法可以看出，通过从多个待选模型中随机确定目标模型执行业务，增加了通过多次攻击破解模型结构的难度，同时通过对目标模型输出的第一输出结果进行变换，统一了不同待选模型的输出结果，进一步提高了攻击难度，提高了模型安全性。
-
公开(公告)号：CN111539742B
公开(公告)日：2022-10-18
申请号：CN202010468961.0
申请日：2020-05-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书提供了一种信息处理方法，包括：接收来自第一用户的资源转移请求；确定所述资源转移请求对应的目标第二用户；其中，所述目标第二用户为所述第一用户意图进行资源转移的资源接收方；建立所述第一用户与所述目标第二用户的通信连接；接收所述第一用户针对所述资源转移请求的处理指令；以及根据所述处理指令对所述资源转移请求进行处理。本说明书还提供了实现上述方法的信息处理装置、电子设备及存储介质。
-
公开(公告)号：CN114817933A
公开(公告)日：2022-07-29
申请号：CN202210468467.3
申请日：2022-04-29
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F21/57
Abstract: 本说明书实施例提供了评估业务预测模型鲁棒性的方法、装置及计算设备。方法包括：对于多个业务对象的任意第一业务对象，获取业务预测模型对第一业务对象进行针对业务标签的预测结果，包括基于对应第一业务样本和第二样本分别预测得到的第一预测值和第二预测值；基于各业务对象的第一预测值和各第一预测值形成的第一集合，计算多个业务对象各自对应的第一分位数；基于各业务对象的第二预测值和第一集合，计算多个业务对象各自对应的第二分位数；基于多个业务对象各自对应的第一分位数和第二分位数确定多个业务对象各自的预测误差；基于多个业务对象各自的预测误差确定业务预测模型对抗攻击的鲁棒性得分，不依赖样本标签预测业务预测模型的鲁棒性。
-
公开(公告)号：CN113992429B
公开(公告)日：2022-04-29
申请号：CN202111580928.8
申请日：2021-12-22
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种事件的处理方法、装置及设备，该方法包括：获取目标事件的事件处理请求，其中，该事件处理请求中包括目标事件的事件信息，如果该事件信息满足预设的第一条件，则从预设的知识库中获取目标事件对应的风险防控规则，并将该事件信息分别与获取的目标事件对应的风险防控规则进行匹配，得到与该事件信息相匹配的第一规则，然后，可以基于与该事件信息相匹配的第一规则，确定该事件信息对应的预测风险信息，将该事件信息对应的预测风险信息和该事件信息输入到目标事件对应的风险防控模型中，得到该事件信息对应的风险信息，最终，可以基于该事件信息对应的风险信息对目标事件进行处理。
-
Patent Agency Ranking
公开(公告)号：CN110956278A
公开(公告)日：2020-04-03
申请号：CN201911172318.7
申请日：2019-11-26
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本申请涉及一种用于重新训练机器学习模型的方法，包括：在使用机器学习模型的过程中监控所述机器学习模型在一时间段内的一个或多个性能度量；基于所述一个或多个性能度量确定是否需要重新训练所述机器学习模型；如果确定需要重新训练所述机器学习模型，则至少基于所述时间段内的原始数据自动生成样本特征；以及至少使用所述自动生成的样本特征来重新训练所述机器学习模型。本申请还涉及相应的系统和计算机可读存储介质。本申请能够自动、高效地重新训练机器学习模型。
-
公开(公告)号：CN110781174A
公开(公告)日：2020-02-11
申请号：CN201910978519.X
申请日：2019-10-15
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/215 , G06K9/62 , G06N20/00
Abstract: 本公开涉及一种使用pca和特征交叉的特征工程建模的方案，包括：对特征数据进行特征相关检测；使用独热编码对特征进行编码，并对经编码的特征执行pca算法，其中在执行独热编码的过程中，还可以对所述特征进行特征交叉；通过执行共线性选择和特征重要性选择对所述特征进行筛选；以及将筛选出的特征输出用于特征工程建模。
-
公开(公告)号：CN114859758A
公开(公告)日：2022-08-05
申请号：CN202210711294.3
申请日：2022-06-22
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G05B17/02
Abstract: 本说明书实施例提供了一种针对网络模型的攻防对抗仿真测试方法及系统。网络模型部署在防御方平台中，网络模型向各用户公开提供针对业务数据的预测服务。在仿真测试方法中，攻击方平台伪装成用户，基于攻击算法向防御方平台发送业务请求，业务请求携带待预测的业务数据。防御方平台，接收攻击方平台发送的业务请求，并通过网络模型确定业务数据的预测结果，基于预测结果向攻击方平台发送反馈数据。攻击方平台在接收到反馈数据时，且在反馈数据满足预设条件时调整攻击算法，例如在攻击失败时调整攻击算法的运行逻辑，采用不同的方式继续攻击。同时，防御方平台也对业务请求的处理过程进行异常检测，当检测到异常时采取对应的防御措施。
-
公开(公告)号：CN114723269A
公开(公告)日：2022-07-08
申请号：CN202210334912.7
申请日：2022-03-31
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06Q10/06 , G06K9/62 , G06V10/764
Abstract: 本说明书实施例公开了一种事件的风险防控方法、装置及设备，该方法包括：获取目标事件的待处理的事件数据，然后，基于所述事件数据和所述目标事件对应的第一风控模型，确定所述第一风控模型对应的风险检测结果，所述第一风控模型是由所述目标事件对应的风控策略构建的模型，最终，可以基于所述第一风控模型对应的风险检测结果确定所述事件数据对应的初始风险信息，并将所述事件数据对应的初始风险信息和所述事件数据输入到所述目标事件对应的第二风控模型中，得到所述事件数据对应的风险信息，所述第二风控模型是通过所述目标事件对应的事件数据样本进行模型训练得到的模型。
-
公开(公告)号：CN113313575B
公开(公告)日：2022-06-03
申请号：CN202110640452.6
申请日：2021-06-08
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书一个或多个实施例提供了一种风险识别模型的确定方法及装置，其中，该方法包括：获取目标业务对应的模型训练样本数据和针对目标业务所配置的风控策略信息；基于该模型训练样本数据和用于风险识别的分类模型，对各风控策略信息对应的策略权重进行更新，得到更新后的策略权重；基于该模型训练样本数据和更新后的策略权重，对该分类模型的模型参数进行更新，得到更新后的分类模型；若更新后的分类模型满足预设模型优化终止条件，则将该更新后的分类模型确定为训练后的风险识别模型；若更新后的分类模型不满足预设模型优化终止条件，则将该分类模型作为下一轮策略权重更新所用的用于风险识别的分类模型。
-
-
-
-
-
-
-
-
-
Search Results
39
records
(took 0.043 seconds)
