公开(公告)号：CN117786694A

公开(公告)日：2024-03-29

申请号：CN202311717652.2

申请日：2023-12-14

Applicant: 北京邮电大学

Inventor： 袁开国 ,  李灵慧 ,  李小勇 ,  徐山钧 ,  章鑫鹏

IPC: G06F21/57 ,  G06F21/60

Abstract: 一种人工智能模型运行安全可信执行环境架构及方法，属于人工智能模型安全保护领域。该架构包括TEE管道、密钥管理模块、密码模块、计算模块和控制器。通过TEE通道实现数据传输和安全检测，保证数据的安全性和有效性；计算模块用于模型的训练、部署和执行，独立的密码模块和密钥管理模块用于对训练好的模型进行加密以及对外部环境传入的加密模型进行解密，使得人工智能模型的安全性大大提高。且密钥的生成过程、密钥存储、密码模块都集成在可信执行环境架构中，密钥不会被泄露，模型的运行同样受到可信执行环境架构的保护，有效杜绝了模型被攻击者窃取和修改的可能。本发明运算效率高、安全性高、可信任性强、灵活性高、兼容性好且成本低。

公开(公告)号：CN118736395A

公开(公告)日：2024-10-01

申请号：CN202410769117.X

申请日：2024-06-14

Applicant: 北京邮电大学

Inventor： 李灵慧 ,  李小勇 ,  徐山钧 ,  袁开国 ,  章鑫鹏

IPC: G06V20/00 ,  G06V10/774 ,  G06V10/771 ,  G06V10/82 ,  G06V10/764 ,  G06N3/045 ,  G06N3/0475 ,  G06N3/094

Abstract: 一种基于通道特征选择的有目标对抗攻击增强方法，属于人工智能安全技术领域，包括：通过Grad‑CAM算法计算出热力图，得到显著区域，将显著区域补齐为显著图；从显著图中随机裁剪以得到局部图像，将局部图像缩放到与原始图像相同的尺寸，将原始图像和局部图像加上相同的对抗扰动输入CNN中，并应用通道特征选择方法，通过损失优化对抗扰动。本发明可在针对性攻击的情况下更大程度地提升对抗样本的可转移性；本发明开创性地将模型注意力应用于针对性的对抗攻击，使扰动学习到如何将原始图像的显著特征更好地转移到目标类别中去。本发明专注于提高对抗样本的可转移性，从而提高黑盒攻击的成功率。