公开(公告)号：CN118395442A

公开(公告)日：2024-07-26

申请号：CN202410274048.5

申请日：2024-03-11

Applicant: 武汉大学

Inventor： 张鉴殊 ,  姚栋宇 ,  程子洋 ,  王卓 ,  陆一杰 ,  唐嘉穗 ,  容旋坤 ,  牛淳 ,  陈金梧 ,  傅彦凯

IPC: G06F21/57 ,  G06F18/26

Abstract: 本发明公开了一种主动挖掘和评估越狱漏洞的自动模糊检测方法及系统，通过将越狱提示拆分成模糊模板、约束条件和非法问题三个基本组成部分，并为不同基类和组合类的越狱攻击分别设计模糊模板，并生成大量在意思上不同的越狱提示作为挖掘漏洞的测试用例，将其作为输入提供给特定的待测模型，并记录模型的响应作为攻击结果。本发明利用传统安全领域中的模糊测试的思想，设计了一种创新的提示生成策略，利用模糊模板、约束条件和非法问题集生成了丰富的越狱提示，进而组合成强大的组合攻击，扩大了可检测到的潜在越狱漏洞的范围，能有效地在大型语言模型中主动挖掘和评估出潜在的越狱漏洞，使得模型拥有者能提前并主动应对模型攻击者可能的越狱攻击。

公开(公告)号：CN118551803A

公开(公告)日：2024-08-27

申请号：CN202410255600.6

申请日：2024-03-06

Applicant: 武汉大学

Inventor： 张鉴殊 ,  傅彦凯 ,  彭子恒

IPC: G06N3/045 ,  G06N3/0442 ,  G06N3/08 ,  G06F18/211 ,  G06F18/213 ,  G06F18/214 ,  G06F18/2431 ,  G06F12/0875

Abstract: 本发明公开了一种深度神经网络中自适应数量分配及数据选择方法及系统，首先训练深度神经网络，并在每一轮任务训练结束后，对当前所有任务进行准确性评估，衡量每个任务的遗忘率Fp和当前任务对先前任务的干扰率Ip；然后使用自适应的数量分配算法，利用遗忘率和干扰率计算每个任务需要复习的注意力，按照注意力分配缓冲区空间，实现重播缓冲区空间动态管理。本发明利用基于特征提取的数据选择算法，将深度神经网络模型的一部分作为特征提取器，将数据映射到潜在特征空间，实现优质数据选择。本发明方法有效缓解了持续学习中的灾难性遗忘问题，提高了模型在多任务下的准确率。

公开(公告)号：CN116580055A

公开(公告)日：2023-08-11

申请号：CN202310422631.1

申请日：2023-04-19

Applicant: 武汉大学

Inventor： 程子洋 ,  周琦斌 ,  傅彦凯

IPC: G06T7/246 ,  G06T7/254 ,  G06T7/194 ,  G06T7/136 ,  G06V10/762 ,  G06T7/73

Abstract: 本发明涉及一种基于增量式背景建模与多目标跟踪的高空抛物检测方法，用于从高空视频中检测抛物物体。本方法基于增量式背景建模技术，对场景中的静态背景进行建模，动态更新背景模型，实现对光照变化、天气变化等外界因素的自适应适应。同时，本方法结合多目标跟踪技术，通过卡尔曼滤波算法对目标的状态信息进行估计和预测，进一步提高了检测精度和稳定性。本方法的创新点在于采用增量式背景建模技术和多目标跟踪技术相结合的方式，充分利用了两种技术的优点，提高了抛物物体的检测精度和稳定性，具有实际应用价值。