公开(公告)号：CN116049229B

公开(公告)日：2024-08-02

申请号：CN202211395062.8

申请日：2022-11-08

Applicant: 哈尔滨工业大学

Inventor： 石胜飞 ,  吕司涛 ,  王宏志

IPC: G06F16/2455 ,  G06F16/28 ,  G06F16/215

Abstract: 本发明属于人工智能领域，公开了一种基于核密度估计的局部可解释方法。步骤1、选择要解释的数据实例和训练好的黑盒模型；步骤2、使用核密度估计生成要解释数据周围新的数据；步骤3、使用数据选择方法从步骤2中得到数据集中选择具有代表性的数据，舍弃冗余无用的数据；步骤4、使用数据再平衡方法处理步骤3中得到的数据集，使得其类别平衡；步骤5、使用步骤4得到的数据集训练可解释的决策树模型，并从决策树模型中输出if‑then形式的规则作为解释。用以解决现有技术中在生成要解释实例周围的扰动数据过程中，使用随机生成的数据为基础，没有考虑局部数据一致性的问题。

公开(公告)号：CN116049229A

公开(公告)日：2023-05-02

申请号：CN202211395062.8

申请日：2022-11-08

Applicant: 哈尔滨工业大学

Inventor： 石胜飞 ,  吕司涛 ,  王宏志

IPC: G06F16/2455 ,  G06F16/28 ,  G06F16/215

Abstract: 本发明属于人工智能领域，公开了一种基于核密度估计的局部可解释方法。步骤1、选择要解释的数据实例和训练好的黑盒模型；步骤2、使用核密度估计生成要解释数据周围新的数据；步骤3、使用数据选择方法从步骤2中得到数据集中选择具有代表性的数据，舍弃冗余无用的数据；步骤4、使用数据再平衡方法处理步骤3中得到的数据集，使得其类别平衡；步骤5、使用步骤4得到的数据集训练可解释的决策树模型，并从决策树模型中输出if‑then形式的规则作为解释。用以解决现有技术中在生成要解释实例周围的扰动数据过程中，使用随机生成的数据为基础，没有考虑局部数据一致性的问题。