公开(公告)号：CN115600090A

公开(公告)日：2023-01-13

申请号：CN202211146420.1

申请日：2022-09-20

Applicant: 支付宝(杭州)信息技术有限公司(CN)

Inventor： 李一鸣 ,  刘焱 ,  朱玲慧 ,  翁海琴 ,  江勇 ,  夏树涛

IPC: G06F18/20 ,  G06F18/22 ,  G06F18/214 ,  G06F18/24 ,  G06N20/00 ,  G10L17/04

Abstract: 本说明书公开了一种模型的所有权验证方法、装置、存储介质及电子设备，所述方法包括：向原始样本中添加指定特征且不调整原始样本的标注，使调整后样本的标注与调整后样本对应的原始样本的标注相同，根据调整后样本输入待验证模型得到的梯度和输入以原始样本训练的良性模型得到的梯度，判断训练所述待验证模型的样本是否来源于边缘节点。本方法中因调整后样本和其对应的原始样本的标注相同，所以在无法通过标注判断待验证模型的所有权的情况下，通过调整后样本在待验证模型和良性模型中的梯度表现不同来判断训练待验证模型的样本是否来源于边缘节点，可以更加准确地判断待验证模型的所有权。

公开(公告)号：CN114140670A

公开(公告)日：2022-03-04

申请号：CN202111417245.0

申请日：2021-11-25

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 李一鸣 ,  朱玲慧 ,  邱伟峰 ,  江勇 ,  夏树涛

IPC: G06V10/776 ,  G06V10/774 ,  G06V10/764 ,  G06K9/62

Abstract: 本说明书实施例提供了一种基于外源特征进行模型所有权验证的方法和装置。该方法的一具体实施方式包括：从初始样本集选取样本构成选中样本集；对选中样本集中各选中样本的样本数据进行处理，得到具有外源特征的转化样本构成的转化样本集，外源特征为初始样本的样本数据不具备的特征；基于目标模型、辅助模型和转化样本集，训练元分类器，辅助模型为使用初始样本集训练得到的模型，目标模型为使用转化样本集和初始样本集中除选中样本集之外的剩余样本集训练得到的模型，元分类器用于识别外源特征的特征知识；将可疑模型的相关数据输入元分类器，基于元分类器的输出结果，确定可疑模型是否为从部署模型窃取的模型，部署模型具有外源特征的特征知识。

公开(公告)号：CN114140670B

公开(公告)日：2024-07-02

申请号：CN202111417245.0

申请日：2021-11-25

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 李一鸣 ,  朱玲慧 ,  邱伟峰 ,  江勇 ,  夏树涛

IPC: G06V10/776 ,  G06V10/774 ,  G06V10/764

Abstract: 本说明书实施例提供了一种基于外源特征进行模型所有权验证的方法和装置。该方法的一具体实施方式包括：从初始样本集选取样本构成选中样本集；对选中样本集中各选中样本的样本数据进行处理，得到具有外源特征的转化样本构成的转化样本集，外源特征为初始样本的样本数据不具备的特征；基于目标模型、辅助模型和转化样本集，训练元分类器，辅助模型为使用初始样本集训练得到的模型，目标模型为使用转化样本集和初始样本集中除选中样本集之外的剩余样本集训练得到的模型，元分类器用于识别外源特征的特征知识；将可疑模型的相关数据输入元分类器，基于元分类器的输出结果，确定可疑模型是否为从部署模型窃取的模型，部署模型具有外源特征的特征知识。