公开(公告)号：CN117235640A

公开(公告)日：2023-12-15

申请号：CN202311067335.0

申请日：2023-08-23

Applicant: 中国科学院计算技术研究所

Inventor： 王晓诗 ,  沈华伟 ,  冯浩源 ,  尹芷仪 ,  成艺 ,  刘晓娜 ,  杨新元

IPC: G06F18/2433 ,  G06F18/24 ,  G06F18/23 ,  G06F18/213 ,  G06F40/35

Abstract: 本发明提出一种异常话题检测方法、装置，方法包含：采集社交媒体平台的热搜榜单话题数据作为样本数据，对所述榜单话题数据进行特征表达，确定话题特征，构造特征判定规则模型；对所有话题特征进行聚类，划分自然话题群体、异常话题群体；识别不属于所述自然话题群体和所述异常话题群体的离群异常话题，动态调整话题归属，构造话题归属模型；将待检测话题依次输入至所述特征判定规则模型与话题归属模型，判定是否为异常话题。该方法有效提高了社交媒体平台榜单异常话题的识别精度，进而有效对抗社交媒体中的操纵和攻击。

公开(公告)号：CN116796283A

公开(公告)日：2023-09-22

申请号：CN202310602592.3

申请日：2023-05-25

Applicant: 中国科学院计算技术研究所

Inventor： 刘晓娜 ,  冯浩源 ,  尹芷仪 ,  张怀博 ,  杨新元 ,  沈华伟 ,  杨尚林 ,  杨永昊 ,  杨会杰 ,  王晓诗 ,  成艺 ,  张浩 ,  申双成

IPC: G06F18/25 ,  G06F18/2413 ,  G06F18/22 ,  G06F18/20 ,  G06N5/025

Abstract: 本发明提出一种基于网络社交平台的社交机器人群体检测方法和系统，包括：构建用于社交机器人个体识别的强特征，将网络社交平台中符合该强特征的账号识别为种子账号；基于该种子账号的社交网络关系进行扩线分析，并结合昵称检测进行相似昵称范式社群的发现和总结，得到基于种子账号的社交机器人社群；采用图卷积聚类社群发现方法，将该网络社交平台的图结构和文本信号融入到社群检测当中，并通过该社交机器人社群和种子账号，确定机器人覆盖率大于阈值的重点社群，作为社交机器人群体检测结果。

公开(公告)号：CN119004104A

公开(公告)日：2024-11-22

申请号：CN202411083246.X

申请日：2024-08-08

Applicant: 中国科学院计算技术研究所

Inventor： 景少玲 ,  石智超 ,  尹芷仪 ,  沈华伟 ,  王晓诗 ,  成艺

IPC: G06F18/214 ,  G06F18/2431 ,  G06F40/216

Abstract: 本发明提出一种面向大模型安全评测的评测样本自动生成方法和装置，包括：测评问题集包含多个用于测试大语言模型安全性的评测样本，以具有诱导内容的任务提示为输入，以该任务提示对应的该评测样本标签，微调训练大语言模型输出评测样本，得到评测样本生成模型；根据评测样本的安全风险类别，构建检索问句，检索互联网中属于该安全风险类别的数据资料；根据该安全风险类别以及该数据资料，合成提示文本；从该测评问题集中抽取属于该安全风险类别的评测样本填充至该提示文本后作为任务提示输入该评测样本生成模型，生成用于测试大语言模型的测试样本。