公开(公告)号：CN117350367A

公开(公告)日：2024-01-05

申请号：CN202311470614.1

申请日：2023-11-07

Applicant: 北京信息科技大学

Inventor： 崔展齐 ,  谢瑞麟 ,  郑丽伟 ,  李莉

IPC: G06N3/096 ,  G06N3/0464

Abstract: 本发明公开了一种基于解释分析的深度神经网络模型迁移测试方法，涉及模型迁移测试技术领域，包括以下步骤：S1：模型行为解释分析；S2：通用测试数据生成；S3：迭代扰动。本发明有效分析测试数据中不同元素的贡献程度，并根据贡献程度选择不同元素进行变异，使生成的测试数据能有效测试与被分析模型功能类似结构未知的其他DNN模型；首次使用解释方法对DNN模型行为进行解释，并以此制导DNN模型的测试数据生成；使用迭代优化的方式迭代分析测试数据中的重要元素并对其添加扰动以生成更有效的测试数据；将通过分析白盒源模型的内部信息来生成可迁移测试目标黑盒模型的测试数据。

公开(公告)号：CN109977030A

公开(公告)日：2019-07-05

申请号：CN201910343573.7

申请日：2019-04-26

Applicant: 北京信息科技大学

Inventor： 谢瑞麟 ,  崔展齐

IPC: G06F11/36

Abstract: 本发明实施例提供一种深度随机森林程序的测试方法及设备，该方法包括根据一代测试用例集获取一代三级覆盖率信息，一代三级覆盖率信息包括第一多粒度扫描完全覆盖率信息、第一级联森林任一类型覆盖率信息和第一级联森林全类型测试覆盖率信息；若一代三级覆盖率信息不符合预设测试要求，则对一代测试用例集的测试用例三级覆盖率进行排序处理，得到排序结果，根据排序结果得到父代交叉算子信息；对父代交叉算子信息进行交叉变异操作，以更新一代测试用例集，直至符合预设测试要求。通过测试覆盖率计算标准，得到三级覆盖率信息，且整个测试流程可以在达到预设测试要求时自动停止，降低了测试的成本。

公开(公告)号：CN115879499A

公开(公告)日：2023-03-31

申请号：CN202211648195.1

申请日：2022-12-21

Applicant: 北京信息科技大学

Inventor： 谢瑞麟 ,  崔展齐 ,  李莉

IPC: G06N3/04

Abstract: 本发明公开了一种基于可解释性分析的DNN模型差分测试方法及系统，涉及缺陷模型检测技术领域，具体步骤为：步骤1、将待测模型集中每个DNN模型对测试用例集的预测行为，使用可解释性方法分析每个DNN模型行为，输出模型行为解释集；步骤2、基于模型行为解释集利用差异分析方法检测存在缺陷的DNN模型。本发明可提高检测缺陷模型的能力和时间效率，且可在单个模型之间比较行为差异，无需多次训练待测模型。

公开(公告)号：CN109977030B

公开(公告)日：2022-04-19

申请号：CN201910343573.7

申请日：2019-04-26

Applicant: 北京信息科技大学

Inventor： 谢瑞麟 ,  崔展齐

IPC: G06F11/36

Abstract: 本发明实施例提供一种深度随机森林程序的测试方法及设备，该方法包括根据一代测试用例集获取一代三级覆盖率信息，一代三级覆盖率信息包括第一多粒度扫描完全覆盖率信息、第一级联森林任一类型覆盖率信息和第一级联森林全类型测试覆盖率信息；若一代三级覆盖率信息不符合预设测试要求，则对一代测试用例集的测试用例三级覆盖率进行排序处理，得到排序结果，根据排序结果得到父代交叉算子信息；对父代交叉算子信息进行交叉变异操作，以更新一代测试用例集，直至符合预设测试要求。通过测试覆盖率计算标准，得到三级覆盖率信息，且整个测试流程可以在达到预设测试要求时自动停止，降低了测试的成本。