一种基于分支激活统计机制的冗余性结构后门检测方法、电子设备及存储介质

    公开(公告)号:CN119622729B

    公开(公告)日:2025-04-29

    申请号:CN202510163284.4

    申请日:2025-02-14

    Abstract: 本发明公开了一种基于分支激活统计机制的冗余性结构后门检测方法、电子设备及存储介质,通过对可疑模型进行分支通道函数包装,利用动态计数器统计分支的调用次数和激活比例,从而有效识别模型中存在的潜在冗余后门分支。在复杂多分支网络的应用场景中,无论模型是否受到结构中毒影响,本发明都能够精准捕捉模型各分支的激活行为特征,全面评估模型的冗余情况。当多分支神经网络的某一分支在特定输入下呈现出极高的激活频率,而在正常输入时激活贡献度显著偏低,则将其判定为特定任务的后门攻击冗余分支。本发明能够有效降低结构后门攻击对深度模型的潜在威胁,显著提升模型的稳健性和实际应用价值,为智能模型安全领域提供了一种全新的技术手段。

    基于BERT和GAT的裁判文书争议焦点识别方法

    公开(公告)号:CN115422920A

    公开(公告)日:2022-12-02

    申请号:CN202211365207.X

    申请日:2022-11-03

    Abstract: 本发明公开基于BERT和GAT的裁判文书争议焦点识别方法,预处理待识别的裁判文书,获得具有文本语义联系的待识别标签特征P,包括:拆分文本获取文本一及文本一对应的标签组成的数据对Data1和文本二及文本二对应的标签组成的数据对Data2;将Data1和Data2输入到文本表征神经网络,获得文本表征;将预先获取的标签邻接矩阵和标签向量矩阵输入图注意力神经网络,得到标签特征;对文本表征与标签特征关联的相似特征进行提取,获得基于文本语义联系的待识别标签特征P。本发明有效地处理长文本,引入图注意力神经网络对多标签进行关联性建模,识别与标签相关的信息,在每个法律文本中提取与对应标签相关的区别性信息。

    一种基于反向遗忘的后门防御方法及系统

    公开(公告)号:CN120030542A

    公开(公告)日:2025-05-23

    申请号:CN202510520160.7

    申请日:2025-04-24

    Inventor: 尤剑飞 闫雷鸣

    Abstract: 本发明公开一种基于反向遗忘的后门防御方法及系统,属于人工智能安全领域;方法包括:利用原始干净样本集合训练预训练模型,并使用预训练模型从污染数据集中筛选出潜在干净样本集合,来合成新的干净样本集合,并使用新的干净样本集合对预训练模型进一步训练;将污染数据集和所述新的干净样本集合输入样本检测模型中,并分别采用交叉熵损失和熵约束进行训练;将污染数据集输入训练后的样本检测模型进行预测,来检测毒化样本。该方法对干净样本的模型特征表现进行反向遗忘,突出后门毒化样本的本体特征,而非直接寻找毒化样本的特征进行判别,从而对更新的样本中毒方法有着更加稳定的防御效果,脱离了传统后门检测方法的局限性。

    一种未知类别恶意流量检测方法及系统

    公开(公告)号:CN119232502B

    公开(公告)日:2025-05-06

    申请号:CN202411755303.4

    申请日:2024-12-03

    Inventor: 周韬 闫雷鸣

    Abstract: 本发明公开了一种未知类别恶意流量检测方法及系统,涉及网络安全技术领域,包括:获取流量数据,对流量数据进行预处理,将预处理后的流量数据进行特征提取,得到特征序列,将特征序列输入至预先建立的对比学习编码器内进行训练,得到训练后的对比学习编码器;接收样本流量数据,将样本流量数据输入至训练好的对比学习编码器内,输出得到编码后的特征向量,将编码后的特征向量输入至预先建立的少样本学习模型内,得出样本类别原型,获取待检测流量样本的特征向量,将待检测流量样本的特征向量与样本类别原型进行相似度计算来判定流量数据是否为恶意流量;通过监控和分析网络流量、系统活动来识别、预防和响应潜在的安全威胁或未授权的访问。

    一种雷达-飞行器体系对抗仿真置信度评估方法

    公开(公告)号:CN112285664B

    公开(公告)日:2021-04-06

    申请号:CN202011509950.9

    申请日:2020-12-18

    Abstract: 本发明公开了一种雷达‑飞行器体系对抗仿真置信度评估方法,本发明利用自编码模型,将复杂多样的对抗双方各个子系统指标向量,自动编码为固定维度的低维特征向量,简化飞行目标的指标输入,以稳定的形式输入置信度预测模型;基于深层网络的注意力机制,指导置信度评估模型的训练,以少量雷达‑飞行器体系对抗实测数据为校验基准,根据仿真系统与实测系统的相似程度,预测仿真对抗系统的置信度,从而间接学习各输入子系统指标在对抗过程中产生的关联和影响系数,而无需人为设定赋权矩阵,提高了仿真置信度评估的客观性。

    一种未知类别恶意流量检测方法及系统

    公开(公告)号:CN119232502A

    公开(公告)日:2024-12-31

    申请号:CN202411755303.4

    申请日:2024-12-03

    Inventor: 周韬 闫雷鸣

    Abstract: 本发明公开了一种未知类别恶意流量检测方法及系统,涉及网络安全技术领域,包括:获取流量数据,对流量数据进行预处理,将预处理后的流量数据进行特征提取,得到特征序列,将特征序列输入至预先建立的对比学习编码器内进行训练,得到训练后的对比学习编码器;接收样本流量数据,将样本流量数据输入至训练好的对比学习编码器内,输出得到编码后的特征向量,将编码后的特征向量输入至预先建立的少样本学习模型内,得出样本类别原型,获取待检测流量样本的特征向量,将待检测流量样本的特征向量与样本类别原型进行相似度计算来判定流量数据是否为恶意流量;通过监控和分析网络流量、系统活动来识别、预防和响应潜在的安全威胁或未授权的访问。

Patent Agency Ranking