公开(公告)号：CN118885404A

公开(公告)日：2024-11-01

申请号：CN202411377204.7

申请日：2024-09-29

Applicant: 北京理工大学

Inventor： 曾捷 ,  杨铮 ,  杨一帆 ,  张雨婷 ,  王紫如 ,  安建平 ,  卜祥元

IPC: G06F11/36 ,  G06N5/022 ,  G06F17/10 ,  G06F18/214

Abstract: 本发明涉及电子数字数据处理技术领域，特别涉及一种增强大模型鲁棒性的低复杂度安全方法，其中，方法包括：选取多种类型的测试任务，分别利用每种类型的测试任务对目标大语言模型进行鲁棒性测试，得到目标大语言模型针对每个测试任务的鲁棒性测试结果；基于鲁棒性测试结果，生成相应的对抗样本；在利用对抗样本对目标大语言模型进行对抗训练的同时，利用预设模型优化表达式对目标大语言模型进行优化，以构建基于梯度生成攻击样本的安全机制，并利用安全机制进行大语言模型训练，得到满足预设鲁棒性条件的最终大语言模型。由此，解决了相关技术中，难以在保障大语言模型决策准确度的同时，保障大语言模型的鲁棒性的技术问题。

公开(公告)号：CN118885404B

公开(公告)日：2024-12-24

申请号：CN202411377204.7

申请日：2024-09-29

Applicant: 北京理工大学

Inventor： 曾捷 ,  杨铮 ,  杨一帆 ,  张雨婷 ,  王紫如 ,  安建平 ,  卜祥元

IPC: G06F11/36 ,  G06N5/022 ,  G06F17/10 ,  G06F18/214

Abstract: 本发明涉及电子数字数据处理技术领域，特别涉及一种增强大模型鲁棒性的低复杂度安全方法，其中，方法包括：选取多种类型的测试任务，分别利用每种类型的测试任务对目标大语言模型进行鲁棒性测试，得到目标大语言模型针对每个测试任务的鲁棒性测试结果；基于鲁棒性测试结果，生成相应的对抗样本；在利用对抗样本对目标大语言模型进行对抗训练的同时，利用预设模型优化表达式对目标大语言模型进行优化，以构建基于梯度生成攻击样本的安全机制，并利用安全机制进行大语言模型训练，得到满足预设鲁棒性条件的最终大语言模型。由此，解决了相关技术中，难以在保障大语言模型决策准确度的同时，保障大语言模型的鲁棒性的技术问题。