-
公开(公告)号：CN116401548A
公开(公告)日：2023-07-07
申请号：CN202310357028.X
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/214
Abstract: 本发明涉及一种基于经验模态分解的智能模型鲁棒性测试方法，属于人工智能模型鲁棒性判定技术领域。主要技术方案包括基于待测试智能模型，构建原始测试数据集；基于经验模态分解扩充原始测试数据集；计算不同分解程度下测试数据集的识别准确率、损失；计算智能模型识别准确率变化指标、识别损失变化指标。本发明的方法使用经验模态分解扩充采集得到原始测试数据集，并通过计算模型识别准确率与损失在不同分解程度下的变化趋势，能够对智能模型鲁棒性进行客观评价。
-
公开(公告)号：CN116484274A
公开(公告)日：2023-07-25
申请号：CN202310363794.7
申请日：2023-04-07
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/241 , G06F18/2415 , G06N3/048 , G06N3/045 , G06N3/0442 , G06N3/084
Abstract: 本发明涉及一种针对神经网络算法投毒攻击的鲁棒训练方法，属于人工智能安全技术领域。该方法包括步骤：构建神经网络；构建鲁棒训练损失函数；使用包含投毒样本的训练集对神经网络进行预训练，得到神经网络预训练模型；根据神经网络预训练模型，获得包含投毒样本的训练集被预测为真实标签的概率，过滤预测概率低于过滤阈值的样本，从而剔除投毒样本，得到干净的训练集；使用干净的训练集对神经网络预训练模型进行再训练，得到神经网络模型；对神经网络模型进行性能测试。本发明利用模型预测结果与单调递增函数实现样本权重的自适应更新，增大投毒样本与干净样本的权重差异，降低了神经网络模型拟合投毒样本的风险，提高神经网络模型分类的准确率。
-
公开(公告)号：CN116386607A
公开(公告)日：2023-07-04
申请号：CN202310355410.7
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
Abstract: 本发明涉及一种针对语音识别后门攻击的触发器逆向还原方法，涉及人工智能安全技术领域。主要技术方案包括：1构建投毒训练集；2计算投毒训练集样本相似度矩阵；3根据相似度矩阵检测潜在投毒样本；4利用潜在投毒样本进行触发器逆向还原；5投毒训练集去污化，得到去污化训练集；6利用投毒训练集、去污化训练集分别训练模型；7测试并对比去污化前后的模型识别结果。本发明通过语音端点检测与语音相似度得到潜在投毒样本，并对投毒样本使用的触发器进行逆向还原，实现训练集去污化，削弱投毒样本的后门攻击效果，降低后门攻击对模型的影响。
-
公开(公告)号：CN118116056A
公开(公告)日：2024-05-31
申请号：CN202410304549.3
申请日：2024-03-18
Applicant: 北京计算机技术及应用研究所
IPC: G06V40/16 , G06V10/774 , G06V10/82 , G06V10/764 , G06N3/084
Abstract: 本发明公开了一种高鲁棒性人脸识别对抗样本生成方法，属于人工智能安全领域。主要技术方案包括：1.初始化算法参数与图像预处理得到当前对抗样本；2.计算输出多样性初始化梯度；3.输出多样性初始化对抗样本；4.针对真实物理世界数据增强；5.计算物理世界下数据增强累积梯度平均；6.当前对抗样本更新，并判断是否满足迭代终止条件；7.对最终对抗样本进行测试，观察不同类别对抗样本实际效果。本发明生成的对抗样本通过同时使用输出多样性初始化及模拟真实物理环境对图像增加对抗扰动，应用梯度高斯平滑、动量梯度及噪声抑制对生成的对抗样本图像进行更新，能够保证生成的对抗扰动隐藏在真实物理环境噪声之中，对抗样本在物理世界下较高鲁棒性。
-
公开(公告)号：CN115733676A
公开(公告)日：2023-03-03
申请号：CN202211402844.X
申请日：2022-11-09
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40 , H04L41/142
Abstract: 本发明涉及一种面向高速网络流量的多维特征实时提取方法，属于网络安全技术领域。本发明针对智能网络威胁检测在高速网络环境下多维流量特征实时提取的技术难点，结合阻尼增量统计、草图两种思想，提出了特征增量统计草图ISS架构，并基于该架构提出一种高速网络下流量特征实时提取方法，用于在高负载网络下实时提取多维流量特征。该提取方法具有高速流量处理能力和流量特征实时计算能力，可在高速网络环境下实时提取多维流量特征。
-
Patent Agency Ranking
公开(公告)号：CN115032980A
公开(公告)日：2022-09-09
申请号：CN202210447172.8
申请日：2022-04-19
Applicant: 北京计算机技术及应用研究所
IPC: G05D1/02
Abstract: 本发明涉及一种基于对抗地图的深度强化学习导航应用鲁棒性增强方法，属于人工智能安全技术领域。本发明针对深度强化学习导航应用，为提高真实环境下DRL导航系统的鲁棒性，保证DRL导航模型在多种地图上均可安全导航，基于对抗样本的基本原理，提出了对抗地图的定义以及生成方法，并在此基础上通过“以攻促防”的方式，从对抗样本攻防角度出发，设计了一种基于对抗地图的鲁棒性增强方法，能够解决在真实环境下如何将对抗扰动添加到智能模型输入的问题，为真实环境下DRL导航模型的鲁棒性增强提供了一套可用的方案。
-
公开(公告)号：CN118740450A
公开(公告)日：2024-10-01
申请号：CN202410836635.9
申请日：2024-06-26
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40 , H04L41/06 , G06N3/045 , G06N3/0442 , G06N3/0464 , G06N3/042 , G06N3/088
Abstract: 本发明涉及一种基于多域多层级网络行为特征图的网络异常状态检测方法，属于网络安全领域。本发明提出了多域多层级行为特征图的构建方法，并基于该特征图提出了一种网络异常状态的检测方法，实现了在大规模的实际网络环境中对网络整体异常状态的检测，并在一定程度上还原出了攻击链路。其中，本发明通过分布式检测的方式实现对大规模网络拓扑条件下的网络异常状态检测。由于传统基于图的网络异常检测技术往往只在小规模网络下展开测试验证，在实际应用时难以在大规模网络下进行实时的检测。本技术方案采用分布式的思想，通过对目标网络进行合理划分，使得每个网络域只需要构建一个规模较小的图结构进行计算，实现对网络整体异常状态的实时检测。
-
公开(公告)号：CN117793020A
公开(公告)日：2024-03-29
申请号：CN202311563523.2
申请日：2023-11-22
Applicant: 北京计算机技术及应用研究所
IPC: H04L47/2441 , G06N3/0464 , G06N3/006 , G06N3/08
Abstract: 本发明涉及一种自适应卷积神经网络结构的网络流量分类方法，属于网络流量分类技术领域。本发明针对不同的网络流量或者不同的分类任务目标以自适应的方式搜寻最合适的卷积神经网络结构进行流量分类，利用粒子群优化算法优化卷积神经网络的结构，实现自动生成合适的结构进行分类，从而提高在卷积神经网络学习过程的学习准确率和效率，增强卷积神经网络结构对流量特征进行的学习能力，提升卷积神经网络算法对网络流量分类的准确率，减少人工调整超参数的不确定性以及时间成本。
-
公开(公告)号：CN117763101A
公开(公告)日：2024-03-26
申请号：CN202311521524.0
申请日：2023-11-15
Applicant: 北京计算机技术及应用研究所
IPC: G06F16/332 , G06F16/36 , G06N3/0442
Abstract: 本发明涉及一种基于神经网络语言模型的模糊测试方法，属于模糊测试技术领域。本发明方法从构造训练集、训练模型、使用模型三个方面设计了基于神经网络语言模型的模糊测试SQL语句生成方法。第一，使用目标对象的测试文件集作为语料库，进行一定的预处理，构造出适当的训练集。第二，使用构造出的训练集训练神经网络语言模型，在模型的选择上一般使用LSTM模型。第三，设计一定的生成策略，使用训练好的模型生成测试用例。最后，生成的测试用例被输入给待测程序，执行模糊测试任务。该方法可以在黑盒场景下持续生成语法语义有效的测试用例，是一种适用于黑盒场景下的DBMS模糊测试方法。
-
公开(公告)号：CN111680292B
公开(公告)日：2023-05-16
申请号：CN202010524788.1
申请日：2020-06-10
Applicant: 北京计算机技术及应用研究所
IPC: G06F21/55
Abstract: 本发明涉及一种基于高隐蔽性通用扰动的对抗样本生成方法，涉及人工智能安全技术领域。本发明首先将攻击目标函数优化问题，由最大化单一图像的损失，调整为最大化某特定类别图像的期望损失，以实现扰动的通用性；其次，为提高对抗样本的不易察觉性，本发明设置多目标优化函数，使特定类别的图像被错误识别的同时，保证其他类别的图像不受干扰影响，仍能被正确决策；最后，在隐蔽性方面，经前期实验发现，传统的梯度方法能够较快地产生具有对抗效果的扰动，而低频噪声往往更隐蔽更稳定，因此，本发明在使用传统梯度方法生成初步的对抗扰动后，进一步采用低通滤波器来消除通用扰动中的高频尖锐噪音，在实现通用攻击的同时保证对抗样本的隐蔽性。
-
-
-
-
-
-
-
-
-
Search Results
29
records
(took 0.083 seconds)
