公开(公告)号：CN118070282A

公开(公告)日：2024-05-24

申请号：CN202410190878.X

申请日：2024-02-20

Applicant: 北京邮电大学

Inventor： 李灵慧 ,  孔维玉 ,  李小勇 ,  李曦明 ,  袁开国

IPC: G06F21/56 ,  G06N3/042 ,  G06N3/0442 ,  G06N3/0495 ,  G06N3/084 ,  G06F17/16

Abstract: 本发明公开了一种基于异构知识蒸馏的内部威胁异常检测方法，包括如下步骤：(1)构建以加权图神经网络为基础的结构化信息教师模型和以双向长短时记忆网络为基础的时序信息学生模型；(2)构建知识蒸馏机制，温度放缩改造教师模型输出soft logits，增加权重改造交叉熵损失函数，网格搜索完成超参数优化；(3)异构知识蒸馏输入数据异构同步为图数据格式和三维张量数据格式，保证知识蒸馏过程中数据一致性；(4)部署学生模型用于实时检测，教师模型非实时蒸馏更新学生模型。本发明在传统的基于深度学习的内部威胁检测基础上加入异构知识蒸馏，且同时考虑到了结构信息和序列信息，在保证轻量型模型体积不变化的前提下提升模型的准确率和泛化能力。