公开(公告)号：CN113592070A

公开(公告)日：2021-11-02

申请号：CN202110820574.3

申请日：2021-07-20

Applicant: 上海交通大学

Inventor： 马汝辉 ,  张家儒 ,  薛珍贵 ,  宋涛 ,  郑承宇 ,  管海兵

IPC: G06N3/04 ,  G06N3/08 ,  G06N7/00

Abstract: 本发明提供一种提升贝叶斯神经网络对抗防御能力的方法及系统，涉及深度学习方向的贝叶斯神经网络和对抗防御技术领域，该方法包括：网络训练步骤：输入初始数据，通过优化交叉熵损失函数和参数分布与先验分布之间的KL散度，对初始数据进行训练；鲁棒性增强步骤：贝叶斯神经网络的参数作为输入，通过计算并优化网络参数矩阵的谱范数的数学期望，根据优化后的数学期望降低网络对各种噪声的敏感性，从而提升贝叶斯神经网络模型对对抗噪声的防御能力。本发明能够有效地提升贝叶斯网络模型的对抗鲁棒性，有效增强网络模型在现实问题中的应用前景；有效降低网络模型输出的不确定性，使得网络对对抗样本的预测更有一致性，提升网络模型的噪声抗性。