-
公开(公告)号:CN117171791A
公开(公告)日:2023-12-05
申请号:CN202311130470.5
申请日:2023-09-04
Applicant: 华中科技大学
IPC: G06F21/62 , G06V10/764 , G06V10/774 , G06V10/82 , G06N3/096
Abstract: 本发明公开了一种图像分类模型的隐私泄露风险评估方法及系统,属于隐私安全技术领域,通过构建影子模型Mshadow来学习模拟待评估的图像分类模型Mtarget的行为,并分别对影子模型Mshadow和模型Mtarget进行迁移学习,保存模型在迁移学习过程中成员与非成员之间差别的动态特征,并通过成员归属判别模型对这些特征进行归纳,实现了较为有效的成员推理攻击,进而通过计算成员推理攻击的准确率,以对图像分类模型的隐私泄露风险进行评估;本发明在利用了模型输出这一静态特征的同时,还充分利用了迁移学习过程中的动态特征,通过静态与动态特征结合的方式,提高了图像分类模型隐私泄露风险评估的准确率。