公开(公告)号：CN117950876A

公开(公告)日：2024-04-30

申请号：CN202410195378.5

申请日：2024-02-21

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 李佳霓 ,  潘登 ,  宝鹏庆 ,  武永亮

IPC: G06F9/50

Abstract: 本说明书实施例提供了一种数据处理方法、装置及设备，其中，方法包括：获取待解释的第一模型、所述第一模型的输入数据，以及与所述第一模型对应的目标数据；通过预设评估维度和每个所述评估维度对应的评估策略，基于所述待解释的第一模型、所述第一模型的输入数据，以及所述目标数据，对所述目标数据的解释效果进行评估处理，得到每个所述评估维度的评估结果；在所述预设评估维度中，基于所述每个评估维度的评估结果，确定所述目标数据的解释效果不满足预设效果需求的目标评估维度；基于所述目标评估维度的评估结果，生成针对所述目标数据的解释优化方案，所述解释优化方案用于对所述目标数据的生成方式进行优化处理。

公开(公告)号：CN117252270A

公开(公告)日：2023-12-19

申请号：CN202310838333.0

申请日：2023-07-07

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 武永亮

IPC: G06N20/00 ,  G06F21/57 ,  G06F18/24 ,  G06F21/62 ,  G06F18/214

Abstract: 本说明书实施例提供了模型检测处理方法及装置，其中，一种模型检测处理方法包括：在待检测模型的检测过程中，根据待检测模型的模型类型，在语料库中提取目标语料；并将提取的目标语料输入适配的对抗模型进行对抗样本生成，基于生成的对抗样本确定检测样本，进一步将检测样本输入待检测模型进行处理，获得样本处理结果，以此根据样本处理结果在模型类型对应的检测维度下进行检测指标计算。