公开(公告)号：CN118194961A

公开(公告)日：2024-06-14

申请号：CN202410412170.4

申请日：2024-04-08

Applicant: 成都信息工程大学

Inventor： 李孝杰 ,  袁月璨 ,  黄占鳌 ,  杨善敏 ,  吴锡

IPC: G06N3/088 ,  G06N3/084 ,  G06V10/774 ,  G06V10/82

Abstract: 本发明提出基于自适应语义特征的无监督解释方法，构建的可解释模型主要包括三个核心模块：特征级可解释性模块、自适应特征表达模块和特征重要性计算模块。首先将深度神经网络的深层特征映射视为其学习到的高级概念语义的抽象表达，然后使用非负矩阵分解技术从中无监督地提取出关键的语义信息，并进行特征级解释或结构化归因；通过维度缩放方案去实现自适应数量的特征提取；在特征重要性计算上，采用Shapley值算法进行计算。此外，生成显著性视觉解释来突出显示模型决策的关键区域。实验表明，本发明方法在解释准确度上更高，在不同的数据集和被解释模型的环境中，其解释准确度比现有方法有更好的表现，具有解释准确、鲁棒性和通用性的特点。