公开(公告)号：CN118245382A

公开(公告)日：2024-06-25

申请号：CN202410452033.3

申请日：2024-04-16

Applicant: 重庆大学

Inventor： 鄢萌 ,  蒋中豪 ,  张小洪 ,  孙松 ,  黄黎 ,  孙伟峰 ,  刘超

IPC: G06F11/36 ,  G06F18/2415 ,  G06F18/22 ,  G06N3/044

Abstract: 本发明涉及一种面向深度神经网络模型的测试用例选择方法，属于计算机软件测试技术领域，该发明的核心思想是，度量循环神经网络对每个测试用例的置信度与测试用例之间的相似程度，选择出具有代表性的低置信度测试用例。该发明主要由状态向量空间构建、不确定性与相似性度量和测试优先级排序三个步骤组成。1)对于给定的测试集输入，提取循环神经网络在每个时间步下输出的概率向量。2)在此向量空间内度量模型对每条测试用例的不确定性和模型状态改变的相似性。3)根据不确定性对测试用例集排序，根据相似性决定测试用例的去留。本发明适用于从大规模未标记的数据集中筛选出易引发循环神经网络错误行为的数据子集，以降低数据标注的成本。

公开(公告)号：CN119622744A

公开(公告)日：2025-03-14

申请号：CN202411766376.3

申请日：2024-12-04

Applicant: 重庆大学

Inventor： 鄢萌 ,  黄黎 ,  尹晨宇 ,  潘铷葳 ,  张小洪 ,  孙伟峰 ,  张子阳 ,  李彦晰

IPC: G06F21/57 ,  G06N3/094 ,  G06N3/0985

Abstract: 本发明公开了一种面向大模型的对抗样本迭代式生成方法，包括构建基于候选标识符索引向量的搜索空间；利用贝叶斯优化框架生成对抗示例，通过高斯过程代理目标函数动态选择最优候选点；结合行列式点过程对候选样本进行多样性采样，确保生成的对抗示例覆盖范围广泛且具有高攻击性；迭代优化生成过程，根据攻击反馈动态调整方向，逐步优化对抗示例生成效率和成功率。本发明通过结合反馈优化和多样性采样技术，有效解决了现有对抗示例生成方法中的局部最优问题和效率困境。实验表明，本发明生成的对抗示例在漏洞预测、克隆检测和代码摘要等任务中表现出显著的攻击效果，能够充分测试深度代码模型的鲁棒性，为模型改进和优化提供了技术支持。

公开(公告)号：CN117093496A

公开(公告)日：2023-11-21

申请号：CN202311149037.6

申请日：2023-09-07

Applicant: 重庆大学

Inventor： 鄢萌 ,  黄黎 ,  孙伟峰 ,  刘忠鑫 ,  刘超 ,  雷晏 ,  张小洪

IPC: G06F11/36 ,  G06F21/57 ,  G06V10/776 ,  G06V10/82 ,  G06N3/10 ,  G06N3/0464

Abstract: 本发明公开了一种面向深度神经网络模糊测试的测试用例自动生成方法，包括如下步骤：基于被测试的DNNg，确定g中每个神经元fi对应的topk个激活图xj，突出显示每个激活图xj对应的掩模mj；集成掩模mj到池化函数pooling中，得到poolingc(mj，gl(xj))；基于池化函数pooling合并神经元fi的注释向量a；基于注释向量a，分别解码两个概率p(d|a)和p(d)；基于改进积分梯度选定重要神经元；由所选神经元检索对应的自然语言描述d(fi)，结合g预测topk伪标签装配模板tori和tmut；使用语言‑图像预训练模型向量化模板得到eori和emut；设置阈值τ，基于相似度sim(eori，emut)与阈值τ的比较结果对生成的变异测试用例进行过滤或者保留。