公开(公告)号：CN116226663A

公开(公告)日：2023-06-06

申请号：CN202310104067.9

申请日：2023-02-13

Applicant: 重庆邮电大学

Inventor： 祝清意 ,  王润泽 ,  甘臣权 ,  吴涛 ,  杨能洋

IPC: G06F18/214 ,  G06F18/241 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明涉及一种基于神经网络容量的深度学习后门防御方法，属于人工智能安全领域。该方法包括：根据逆向生成触发器后生成中毒数据集，根据中毒数据集训练选出合适的低容量神经网络，利用选出的低容量神经网络，对训练集进行数据标注，将数据集中可疑样本放入集合汇总；再对标注的样本进行后门筛选，分类准确率大于设定阈值的样本可标注为后门样本，放入到后门样本集中，然后再通过重要性权重在高容量神经网络上对数据集重新训练，利用重新分配权重的方式让高容量网络有选择性地提取特征，从而在有毒的数据集上也可以保护模型不受到后门攻击。本发明能使得图像识别大大降低后门攻击的威胁性，在使用他人提供的数据集的时候防止后门的侵入。