公开(公告)号：CN117290879A

公开(公告)日：2023-12-26

申请号：CN202311140596.0

申请日：2023-09-05

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 穆家明 ,  李丰廷 ,  郝新

IPC: G06F21/62 ,  G06F16/2455

Abstract: 本说明书实施例公开了一种模型特征的风险评估方法、装置及设备，该方法包括：基于目标模型对应的模型特征生成模型查询数据，并将模型查询数据输入到目标模型中，得到模型查询数据对应的预测标签信息；基于模型查询数据，确定每个模型特征对应的模型查询数据的分布信息，并基于该分布信息对每个模型特征对应的模型查询数据进行分组，得到每个模型特征对应的一个或多个不同的数据分组；获取每个数据分组对应的模型特征与相应的预测标签信息之间的相关系数，并基于获取的相关系数，确定每个模型特征对应的风险信息，该风险信息用于表征模型特征是否存在泄露风险；基于每个模型特征对应的风险信息，确定目标模型对应的模型特征的风险评估结果。

公开(公告)号：CN118194299A

公开(公告)日：2024-06-14

申请号：CN202410384550.1

申请日：2024-03-29

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 穆家明 ,  李丰廷 ,  郝新

IPC: G06F21/57

Abstract: 本说明书公开了一种模型风险检测的方法、装置、存储介质及电子设备，所述方法包括：确定待检测模型，以及确定使用待检测模型的调用方。再根据调用方的类型，确定待检测模型对应的检测策略。根据检测策略，对待检测模型进行风险检测，得到待检测模型的初始结果，并确定对待检测模型进行风险检测所需的计算成本。根据初始结果和计算成本，确定待检测模型的检测结果。通过确定待检测模型的模型隐私泄露的可能性以及对待检测模型进行风险检测所需的计算成本，并根据初始结果和计算成本，可以更好地确定待检测模型的模型隐私是否泄漏，提高待检测模型的检测结果的准确性，以保证待检测模型的安全。