公开(公告)号：CN118195021A

公开(公告)日：2024-06-14

申请号：CN202311644640.1

申请日：2023-12-04

Applicant: 北京邮电大学

Inventor： 隋润起 ,  杨文川 ,  崔宝江

IPC: G06N20/00

Abstract: 自动化交互式越狱提示语生成方法，属于计算机技术领域，包括：获取越狱任务；交互式任务‑角色匹配及对应基于角色的越狱提示语的构造；交互式角色‑情感匹配及对应基于情感的越狱提示语的构造。本发明对于同一越狱任务可自动化批量生成多种涉及不同角色、情感的越狱提示语，越狱成功率高。本发明通过赋予大型语言模型与越狱任务相关性高的人物或群体的方式，从而实现绕过大型语言模型安全审核机制或抛弃客观中立的态度，从而生成无限制的问题回复。本发明在赋予大型语言模型角色的基础上，通过赋予与角色相匹配的情感、品质的方式，从而使得原本无法成功越狱的提示语实现越狱或在越狱成功的基础上进一步增强其越狱效果。

公开(公告)号：CN117993384A

公开(公告)日：2024-05-07

申请号：CN202311766413.6

申请日：2023-12-21

Applicant: 北京邮电大学

Inventor： 隋润起 ,  赵可欣 ,  杨文川 ,  崔宝江

IPC: G06F40/289 ,  G06F40/216 ,  G06F40/30 ,  G06F18/22

Abstract: 一种面向大型语言模型的黑盒对抗样本生成方法，属于大型语言模型领域，包括：获取原始提示语；原始提示语中词语的重要性排名；字符级、单词级混淆扰动方法；构造面向目标大型语言模型的对抗样本，判断是否越狱成功，若是，则结束，若否，则更换对抗样本生成策略，返回重新执行字符级、单词级混淆扰动方法。本发明能够自动化构造对抗样本，无需人工参与。本发明无需目标大型语言模型的参数信息便可运行，适用于真实的商用黑盒环境。本发明在字符级和单词级的对抗样本生成方法中，同时考虑了视觉和语义的相似性，生成的对抗具有良好的可读性以及语义相似性。本发明效率高，避免了语法结构被破坏。

公开(公告)号：CN117271741A

公开(公告)日：2023-12-22

申请号：CN202311313887.5

申请日：2023-10-11

Applicant: 北京邮电大学

Inventor： 何俊涛 ,  赵冉 ,  冯皓 ,  袁雪敬 ,  隋润起 ,  杨文川

IPC: G06F16/332 ,  G06F16/33 ,  G06F16/338 ,  G06F16/34 ,  G06F16/35 ,  G06F16/9535

Abstract: 本发明提供一种基于大模型驱动的高校专业信息推荐系统和方法，其特征在于，包括：高校专业知识库构建模块、定制专业问答大模型模块以及高校专业知识问答模块；采用爬虫方法从各高校信息门户以及高考政务官方网站收集相关数据；运用大模型提取相关数据的主要内容和关键部分，存储到图数据库中；采用AIGC方法定制大模型，所述大模型可根据答案文本风格，学生和家长在问答框中输入问题，大模型整合输入的数据，结合问题输出答案文本；运用数字人这一可视化技术展示给高考生，实现专业问答实时可视化，本发明将使用数字人作为载体，以多种方式输出结果；深度互动，本发明设置了问题答疑模块，能够根据用户的疑问，实时给出答案。