一种基于图像分类模型的黑盒对抗鲁棒性评估方法

    公开(公告)号:CN119360161A

    公开(公告)日:2025-01-24

    申请号:CN202411490660.2

    申请日:2024-10-24

    Inventor: 王练 汪俊杰

    Abstract: 本发明属于智能安全领域,具体涉及一种基于图像分类模型的黑盒对抗鲁棒性评估方法;包括:采用图像分类模型对不同类别的图像进行分类处理,得到多个不同类别的图像样本集;对多个不同类别的图像样本集进行处理,得到决策边界图像样本集合;将决策边界图像样本集合转换为决策边界图像样本矩阵;对决策边界图像样本矩阵进行奇异值分解,得到决策边界图像样本矩阵的奇异值;根据奇异值计算得到决策边界复杂度;对决策边界复杂度进行归一化处理,得到鲁棒性评估指标;根据鲁棒性评估指标对图像分类模型进行鲁棒性评估,得到图像分类模型的鲁棒性评估结果;本发明无需目标模型的结构和参数信息,大大提高了图像分类模型对抗鲁棒性评估过程的安全性。

Patent Agency Ranking