-
Patent Agency Ranking
公开(公告)号：CN118035104A
公开(公告)日：2024-05-14
申请号：CN202410225058.X
申请日：2024-02-29
Applicant: 中国工程物理研究院计算机应用研究所
IPC: G06F11/36 , G06F40/205
Abstract: 本发明涉及大语言模型领域，提供了一种针对大语言模型的系统负载压力测试方法。主旨在于解决现有海绵测试样例生成方法存在的生成效率低和测试效果有限等缺点。主要方案包括步骤海绵测试样例生成步骤：针对本地大语言模型以白盒梯度优化的形式生成海绵测试样例并构建压力测试样例数据集；大语言模型压力测试步骤：根据压力测试样例数据集对待测试大语言模型进行系统负载压力测试并生成测试结果。通过引入Gumbel‑Softmax技术实现白盒海绵测试样例生成，提高生成效率，并将专家模型激活度纳入优化目标，从而实现对大语言模型系统的整体测试，确保大语言模型在极端情况下的可用性和服务连续性。
-
公开(公告)号：CN114757349B
公开(公告)日：2023-09-19
申请号：CN202210353815.2
申请日：2022-04-01
Applicant: 中国工程物理研究院计算机应用研究所
IPC: G06N3/094 , G06N3/084 , G06N3/045 , G06N3/047 , G06F18/214 , G06F18/2415 , G06V10/774 , G06V10/82 , G06V10/764 , G06V10/96
Abstract: 本发明公开了一种基于条件对抗样本的模型投毒方法及系统，属于人工智能安全技术领域，解决现有技术容易出现无效投毒的情况，从而造成数据被防御，无法使模型的性能降低。本发明获取训练数据集，其中，训练数据集包括多个不同类别的子集，各子集包括多个正常样本；在训练数据集中任选一个子集或多个子集，给子集中各正常样本初始化两个扰动；基于已预训练的检测模型对正常样本和两个扰动进行检测，若满足要求，得到正常样本与两个扰动之和，即条件对抗样本，若不满足要求，更新扰动后再次执行步骤3；将得到条件对抗样本的正常样本替换为条件对抗样本，替换完成后得到新的训练数据集，并基于新的训练数据集训练检测模型。本发明用于模型投毒。
-
公开(公告)号：CN116455645A
公开(公告)日：2023-07-18
申请号：CN202310444583.6
申请日：2023-04-24
Applicant: 中国工程物理研究院计算机应用研究所
Abstract: 本发明涉及安全技术领域，提供了一种用于网络靶场数据的细粒度隔离防护方法及系统，其主旨在能够实现靶场中对敏感数据的访问权限的精细化管控。主要方案包括凭证生成阶段。数据拥有者将数据的元数据、可授权访问次数值、访问时间限制发送存储在区块链中；数据用户在区块链中检索数据的元数据并向区块链发送访问请求，区块链生成访问凭证并返回给数据用户。用户访问阶段。当用户需要访问数据时，用户首先确认授权密钥，然后计算用于访问的请求密钥QK并发起访问请求。权限验证阶段。当区块链系统收到访问权限验证请求时，会调用ACC对接收到的QK进行权限验证，确认发起请求的数据用户是否具有访问权限，ACC输出通过请求或拒绝请求的结果。
-
公开(公告)号：CN113283545B
公开(公告)日：2021-11-02
申请号：CN202110797548.3
申请日：2021-07-14
Applicant: 中国工程物理研究院计算机应用研究所
Abstract: 本发明公开了一种针对视频识别场景的物理干扰方法及系统，属于信息安全测试技术领域，解决现有技术在网络层面对视频进行干扰，干扰效果差的问题。本发明基于获取的已授权的摄像设备的视频、白盒分类系统和对抗样本生成系统在网络层获取初始的视频对抗样本；基于初始化的视频对抗样本，利用白盒分类系统对干扰进行优化，生成网络层面最终的视频对抗样本，即视频的通用干扰值；获取视频前，基于最终的视频对抗样本调节摄像设备在RGB通道的可调节滤镜，形成物理干扰。本发明用于对视频识别场景的物理干扰。
-
公开(公告)号：CN113283545A
公开(公告)日：2021-08-20
申请号：CN202110797548.3
申请日：2021-07-14
Applicant: 中国工程物理研究院计算机应用研究所
Abstract: 本发明公开了一种针对视频识别场景的物理干扰方法及系统，属于信息安全测试技术领域，解决现有技术在网络层面对视频进行干扰，干扰效果差的问题。本发明基于获取的已授权的摄像设备的视频、白盒分类系统和对抗样本生成系统在网络层获取初始的视频对抗样本；基于初始化的视频对抗样本，利用白盒分类系统对干扰进行优化，生成网络层面最终的视频对抗样本，即视频的通用干扰值；获取视频前，基于最终的视频对抗样本调节摄像设备在RGB通道的可调节滤镜，形成物理干扰。本发明用于对视频识别场景的物理干扰。
-
-
-
-
Search Results
15
records
(took 0.036 seconds)
