-
公开(公告)号：CN118885402A
公开(公告)日：2024-11-01
申请号：CN202411369109.2
申请日：2024-09-29
Applicant: 中国工程物理研究院计算机应用研究所
IPC: G06F11/36 , G06V10/764 , G06V10/82 , G06N3/084
Abstract: 本发明涉及人工智能安全领域提供了一种深度学习目标检测系统压力测试方法及装置。本发明主旨在于解决评估目标检测系统在极限状态下的时效性问题。主要方案包括对原始图像进行多目标测试样例生成处理，并对图像中的候选框大小进行约束，得到增加目标数量的图像；对得到的优化目标数量的图像进行测试方法实际应用处理，得到测试用例和极限性能测试结果。此方法适用于评估无人机、工控、场景监控等目标检测系统的极限性能，有助于确定硬件配置是否满足使用需求，或降低成本。
-
Patent Agency Ranking
公开(公告)号：CN118035104B
公开(公告)日：2024-06-14
申请号：CN202410225058.X
申请日：2024-02-29
Applicant: 中国工程物理研究院计算机应用研究所
IPC: G06F11/36 , G06F40/205
Abstract: 本发明涉及大语言模型领域，提供了一种针对大语言模型的系统负载压力测试方法。主旨在于解决现有海绵测试样例生成方法存在的生成效率低和测试效果有限等缺点。主要方案包括步骤海绵测试样例生成步骤：针对本地大语言模型以白盒梯度优化的形式生成海绵测试样例并构建压力测试样例数据集；大语言模型压力测试步骤：根据压力测试样例数据集对待测试大语言模型进行系统负载压力测试并生成测试结果。通过引入Gumbel‑Softmax技术实现白盒海绵测试样例生成，提高生成效率，并将专家模型激活度纳入优化目标，从而实现对大语言模型系统的整体测试，确保大语言模型在极端情况下的可用性和服务连续性。
-
公开(公告)号：CN118035104A
公开(公告)日：2024-05-14
申请号：CN202410225058.X
申请日：2024-02-29
Applicant: 中国工程物理研究院计算机应用研究所
IPC: G06F11/36 , G06F40/205
Abstract: 本发明涉及大语言模型领域，提供了一种针对大语言模型的系统负载压力测试方法。主旨在于解决现有海绵测试样例生成方法存在的生成效率低和测试效果有限等缺点。主要方案包括步骤海绵测试样例生成步骤：针对本地大语言模型以白盒梯度优化的形式生成海绵测试样例并构建压力测试样例数据集；大语言模型压力测试步骤：根据压力测试样例数据集对待测试大语言模型进行系统负载压力测试并生成测试结果。通过引入Gumbel‑Softmax技术实现白盒海绵测试样例生成，提高生成效率，并将专家模型激活度纳入优化目标，从而实现对大语言模型系统的整体测试，确保大语言模型在极端情况下的可用性和服务连续性。
-
公开(公告)号：CN117972375A
公开(公告)日：2024-05-03
申请号：CN202410149721.2
申请日：2024-02-01
Applicant: 中国工程物理研究院计算机应用研究所
IPC: G06F18/21 , G06F18/214 , G06F18/241
Abstract: 本发明属于人工智能安全领域，提供了一种访问受限条件下的深度学习分类模型的知识产权验证方法。主旨在于解决基于水印的有损方法会降低模型分类正确率，基于指纹的无损方法生成的测试用例泛化能力差等问题。主要方案包括对本地模型进行训练，包括替代模型和参考模型，这些模型将在测试用例生成阶段和阈值确定阶段使用；设计测试用例生成方案，利用对抗样本实现迁移攻击，以生成鲁棒的测试用例；设计测试用例置信度计算方式，评估测试用例的质量；在访问受限条件下，通过嫌疑模型输出的类别进行阈值计算和知识产权验证。本发明提升了测试用例验证的可靠性，提升了验证效率。
-
公开(公告)号：CN118885402B
公开(公告)日：2024-12-03
申请号：CN202411369109.2
申请日：2024-09-29
Applicant: 中国工程物理研究院计算机应用研究所
IPC: G06F11/36 , G06V10/764 , G06V10/82 , G06N3/084
Abstract: 本发明涉及人工智能安全领域提供了一种深度学习目标检测系统压力测试方法及装置。本发明主旨在于解决评估目标检测系统在极限状态下的时效性问题。主要方案包括对原始图像进行多目标测试样例生成处理，并对图像中的候选框大小进行约束，得到增加目标数量的图像；对得到的优化目标数量的图像进行测试方法实际应用处理，得到测试用例和极限性能测试结果。此方法适用于评估无人机、工控、场景监控等目标检测系统的极限性能，有助于确定硬件配置是否满足使用需求，或降低成本。
-
公开(公告)号：CN117972375B
公开(公告)日：2024-08-02
申请号：CN202410149721.2
申请日：2024-02-01
Applicant: 中国工程物理研究院计算机应用研究所
IPC: G06F18/21 , G06F18/214 , G06F18/241
Abstract: 本发明属于人工智能安全领域，提供了一种访问受限条件下的深度学习分类模型的知识产权验证方法。主旨在于解决基于水印的有损方法会降低模型分类正确率，基于指纹的无损方法生成的测试用例泛化能力差等问题。主要方案包括对本地模型进行训练，包括替代模型和参考模型，这些模型将在测试用例生成阶段和阈值确定阶段使用；设计测试用例生成方案，利用对抗样本实现迁移攻击，以生成鲁棒的测试用例；设计测试用例置信度计算方式，评估测试用例的质量；在访问受限条件下，通过嫌疑模型输出的类别进行阈值计算和知识产权验证。本发明提升了测试用例验证的可靠性，提升了验证效率。
-
-
-
-
-
Search Results
6
records
(took 0.027 seconds)
