公开(公告)号：CN116127323A

公开(公告)日：2023-05-16

申请号：CN202310134532.3

申请日：2023-02-17

Applicant: 南开大学

Inventor： 蒲凌君 ,  杨宗稳 ,  孙哲 ,  张玉 ,  张建忠

IPC: G06F18/214 ,  G06F18/2415 ,  G06N5/04 ,  G06T1/00

Abstract: 本发明公开了一种基于近边界数据的模型所有权推断方法，以解决可疑模型的所有权问题。基于数据集推断的思想，无论盗窃模型直接攻击源模型还是其副产品，盗窃模型的知识是源模型中包含的知识，本发明利用近边界数据在源模型和盗窃模型中的近边界性，进行模型所有权的推断。具体来说，由受害者和可疑对手分别提供自己的近边界数据，输入可疑模型，根据输出结果分别计算到分类边界的距离，距离近的被判定拥有模型的所有权。由于数据通常是一组，应该根据统计结果进行分析，因此设计了一种基于假设检验的方法来表现推断置信度。本发明可以在几乎不降低模型精度的情况下，应对大部分的模型窃取攻击，甚至是面对歧义攻击时，解决模型的所有权问题。