公开(公告)号：CN116910252A

公开(公告)日：2023-10-20

申请号：CN202310835478.5

申请日：2023-07-07

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 鲜东 ,  曹汉杰 ,  张家齐 ,  杨舟

IPC: G06F16/35 ,  G06F16/38 ,  G06F16/332

Abstract: 本说明书一个或多个实施例公开了一种大模型风险管理框架构建的方法、装置及设备。所述方法包括：基于原始语料集中各个语料类型对应的原始文本语料，确定各个所述语料类型的语料标签和对所述语料标签进行解释的标签定义，基于所述语料标签构建所述大模型风险管理框架的语料标签层；从所述语料类型对应的所述标签定义中，提取标记所述语料类型对应的风险的标签关键词，基于所述标签关键词构建所述大模型风险管理框架的关键词层；根据所述语料标签对应的所述标签定义，生成包含与所述语料标签对应的所述标签关键词的文本语料，基于所述文本语料构建所述大模型风险管理框架的文本语料层。

公开(公告)号：CN114817933A

公开(公告)日：2022-07-29

申请号：CN202210468467.3

申请日：2022-04-29

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 崔世文 ,  李志峰 ,  孟昌华 ,  王维强 ,  张家齐

IPC: G06F21/57

Abstract: 本说明书实施例提供了评估业务预测模型鲁棒性的方法、装置及计算设备。方法包括：对于多个业务对象的任意第一业务对象，获取业务预测模型对第一业务对象进行针对业务标签的预测结果，包括基于对应第一业务样本和第二样本分别预测得到的第一预测值和第二预测值；基于各业务对象的第一预测值和各第一预测值形成的第一集合，计算多个业务对象各自对应的第一分位数；基于各业务对象的第二预测值和第一集合，计算多个业务对象各自对应的第二分位数；基于多个业务对象各自对应的第一分位数和第二分位数确定多个业务对象各自的预测误差；基于多个业务对象各自的预测误差确定业务预测模型对抗攻击的鲁棒性得分，不依赖样本标签预测业务预测模型的鲁棒性。