公开(公告)号：CN117351309A

公开(公告)日：2024-01-05

申请号：CN202311364467.X

申请日：2023-10-20

Applicant: 南京理工大学

Inventor： 付安民 ,  周纯毅 ,  况博裕 ,  苏铓 ,  俞研

IPC: G06V10/776 ,  G06V10/778 ,  G06V10/764 ,  G06V10/774 ,  G06V10/82

Abstract: 本发明公开了一种针对图像分类模型的遗忘学习验证方法，包括：向服务器提出图像遗忘请求，所述图像遗忘请求用于要求服务器遗忘图像分类模型中的隐私图像数据；服务器响应于图像遗忘请求作出相应的遗忘学习操作；用户针对遗忘学习操作分别进行遗忘图像类别验证、遗忘图像数量验证以及遗忘图像存在性验证，本发明分别从类别级、数量级、样本级三级粒度下实现了遗忘图像类别验证、遗忘图像数量验证、遗忘图像存在性验证。

公开(公告)号：CN115098855A

公开(公告)日：2022-09-23

申请号：CN202210736403.7

申请日：2022-06-27

Applicant: 南京理工大学

Inventor： 付安民 ,  王尚 ,  周纯毅 ,  苏铓 ,  俞研

IPC: G06F21/55 ,  G06N3/08 ,  G06N3/04

Abstract: 本发明公开了一种基于自定义后门行为的在线输入样本检测方法，包括自定义触发器构造；自定义后门注入；输入样本拟合程度测算；干净数据拟合程度收集；触发器样本检测阈值确认等步骤。本发明基于自定义触发器向模型注入自定义后门，通过嵌入自定义触发器干扰输入样本的预测过程且不影响输入样本的主要组件，保证本发明的鲁棒性；其次，基于干扰机制测算输入样本的拟合程度，由于触发器样本具有过拟合特性，以干净数据的拟合程度执行异常检测能够识别触发器样本，显著提高了触发器样本的检测成功率，同时不影响干净样本的分类精度；本发明操作简洁且容易部署，仅需少量预测行为即可识别触发器样本并拒绝提供服务，大大降低了防御者的资源开销。