公开(公告)号：CN117952157A

公开(公告)日：2024-04-30

申请号：CN202410109235.8

申请日：2024-01-25

Applicant: 北京邮电大学

Inventor： 左兴权 ,  丁忆宁 ,  黄海 ,  李金峰

IPC: G06N3/0475 ,  G06N3/045 ,  G06N3/094

Abstract: 本发明公开了一种基于区间传播的神经网络鲁棒性下边界确定方法，属于人工智能安全领域，尤其适用于较大规模以上的神经网络的输入样本生成。本发明方法对应实现为由计算机可执行指令形成的计算模块，针对被测神经网络模型获取每一层的系数矩阵和系数矩阵，推导以神经网络层的激活函数为自变量表达的输出层上下界函数；根据已确定的中间层的预激活输入的上下界计算输出层的上下界，然后使用二分法计算输入样本的鲁棒性下边界，预设概率优化减小输入样本扰动大小的操作为增大样本操作，并计算鲁棒性下边界的置信度。本发明通过减少反向线性推导的层数，提高了计算效率，能应用于更大的神经网络模型上，所获得的鲁棒性下边界更具有实际应用价值。

公开(公告)号：CN118400122A

公开(公告)日：2024-07-26

申请号：CN202410260673.4

申请日：2024-03-07

Applicant: 北京邮电大学

Inventor： 黄海 ,  李金峰 ,  左兴权 ,  石川

IPC: H04L9/40 ,  G06N3/0464 ,  G06N3/042

Abstract: 本申请提供一种基于图神经网络的通信网络鲁棒性检验方法及相关设备；该方法包括：通信网络的图数据输入至图卷积神经网络，对图卷积神经网络进行切片，确定切片属性矩阵；确定扰动后的切片属性矩阵的空间范围，利用切片后的图卷积神经网络对扰动后的节点进行分类，得到扰动后的分类结果，利用扰动后的分类结果和扰动后的节点属性矩构建约束条件；构建每层激活函数的线性边界，以确定输出边界，基于该层的输出边界进行反向传播，得到切片后的图卷积神经网络的输出边界，根据该节点在当前的扰动预算下的输出是否满足约束条件，来确定出扰动预算的极大值，根据扰动预算的极大值判断对该节点的分类结果是否可信。