公开(公告)号：CN119622729B

公开(公告)日：2025-04-29

申请号：CN202510163284.4

申请日：2025-02-14

Applicant: 南京信息工程大学

Inventor： 陈宇 ,  闫雷鸣 ,  于洁敏 ,  尤剑飞 ,  吉丽菁

IPC: G06F21/56 ,  G06N5/04 ,  G06N3/0464

Abstract: 本发明公开了一种基于分支激活统计机制的冗余性结构后门检测方法、电子设备及存储介质，通过对可疑模型进行分支通道函数包装，利用动态计数器统计分支的调用次数和激活比例，从而有效识别模型中存在的潜在冗余后门分支。在复杂多分支网络的应用场景中，无论模型是否受到结构中毒影响，本发明都能够精准捕捉模型各分支的激活行为特征，全面评估模型的冗余情况。当多分支神经网络的某一分支在特定输入下呈现出极高的激活频率，而在正常输入时激活贡献度显著偏低，则将其判定为特定任务的后门攻击冗余分支。本发明能够有效降低结构后门攻击对深度模型的潜在威胁，显著提升模型的稳健性和实际应用价值，为智能模型安全领域提供了一种全新的技术手段。

公开(公告)号：CN119622729A

公开(公告)日：2025-03-14

申请号：CN202510163284.4

申请日：2025-02-14

Applicant: 南京信息工程大学

Inventor： 陈宇 ,  闫雷鸣 ,  于洁敏 ,  尤剑飞 ,  吉丽菁

IPC: G06F21/56 ,  G06N5/04 ,  G06N3/0464

Abstract: 本发明公开了一种基于分支激活统计机制的冗余性结构后门检测方法、电子设备及存储介质，通过对可疑模型进行分支通道函数包装，利用动态计数器统计分支的调用次数和激活比例，从而有效识别模型中存在的潜在冗余后门分支。在复杂多分支网络的应用场景中，无论模型是否受到结构中毒影响，本发明都能够精准捕捉模型各分支的激活行为特征，全面评估模型的冗余情况。当多分支神经网络的某一分支在特定输入下呈现出极高的激活频率，而在正常输入时激活贡献度显著偏低，则将其判定为特定任务的后门攻击冗余分支。本发明能够有效降低结构后门攻击对深度模型的潜在威胁，显著提升模型的稳健性和实际应用价值，为智能模型安全领域提供了一种全新的技术手段。