一种图像分类模型的隐私泄露风险评估方法及系统

    公开(公告)号:CN117171791A

    公开(公告)日:2023-12-05

    申请号:CN202311130470.5

    申请日:2023-09-04

    Inventor: 张乾坤 袁迪

    Abstract: 本发明公开了一种图像分类模型的隐私泄露风险评估方法及系统,属于隐私安全技术领域,通过构建影子模型Mshadow来学习模拟待评估的图像分类模型Mtarget的行为,并分别对影子模型Mshadow和模型Mtarget进行迁移学习,保存模型在迁移学习过程中成员与非成员之间差别的动态特征,并通过成员归属判别模型对这些特征进行归纳,实现了较为有效的成员推理攻击,进而通过计算成员推理攻击的准确率,以对图像分类模型的隐私泄露风险进行评估;本发明在利用了模型输出这一静态特征的同时,还充分利用了迁移学习过程中的动态特征,通过静态与动态特征结合的方式,提高了图像分类模型隐私泄露风险评估的准确率。

Patent Agency Ranking