公开(公告)号：CN119625437A

公开(公告)日：2025-03-14

申请号：CN202510148813.3

申请日：2025-02-11

Applicant: 浙江大学

Inventor： 钱韵佳 ,  张心语 ,  王秋 ,  巴钟杰 ,  程鹏 ,  王庆龙 ,  任奎

IPC: G06V10/764 ,  G06V10/82 ,  G06N5/04

Abstract: 本发明提供了一种图像敏感元素的审查系统、方法、计算机设备及介质，属于图像敏感元素审查技术领域。该系统包括图像预处理模块、初步判断模块、提取三元组模块、多头扩充模块和筛查去噪模块。图像预处理模块对图像进行预处理操作，得到待测图像。初步判断模块利用多模态大语言模型对待测图像和敏感词的相关度进行初步判断。提取三元组模块提取待测图像中的三元组信息，多头扩充模块对三元组中的每个单一词进行多头扩充，结合敏感词表寻找相关敏感词。筛查去噪模块对敏感词进行筛查去噪，判断敏感词是否真正出现在待测图像中，据此判定待测图像的安全性。本发明提高了图像敏感元素审查的准确性。

公开(公告)号：CN117892340A

公开(公告)日：2024-04-16

申请号：CN202311835568.0

申请日：2023-12-27

Applicant: 浙江大学杭州国际科创中心

Inventor： 程鹏 ,  张心语 ,  巴钟杰 ,  王庆龙 ,  秦湛 ,  任奎

IPC: G06F21/62 ,  G06F21/71 ,  G06N3/098

Abstract: 本发明公开一种基于特征一致性的联邦学习攻击检测方法、系统及装置，方法包括：基于提取符号向量、排序向量、分类器向量及特征提取器向量；进行局部一致性检测，得到局部异常分数，判断与预设局部一致性分数阈值的关系，得到客户端局部检测结果；进行任务一致性检测，得到任务相似性分数，判断与预设任务一致性条件的关系，得到客户端任务检测结果；获取特征提取器向量的数据一致性，判断数据域距离与预设数据一致性条件的关系，得到客户端数据检测结果；剔除恶意客户端，通过良性客户端对客户端梯度更新进行分析处理。本发明方法对梯度更新特征进行分析，解决了现有联邦学习攻击检测方法中检测种类单一且联邦学习所得全局模型准确性降低的问题。

公开(公告)号：CN119625437B

公开(公告)日：2025-04-22

申请号：CN202510148813.3

申请日：2025-02-11

Applicant: 浙江大学

Inventor： 钱韵佳 ,  张心语 ,  王秋 ,  巴钟杰 ,  程鹏 ,  王庆龙 ,  任奎

IPC: G06V10/764 ,  G06V10/82 ,  G06N5/04

Abstract: 本发明提供了一种图像敏感元素的审查系统、方法、计算机设备及介质，属于图像敏感元素审查技术领域。该系统包括图像预处理模块、初步判断模块、提取三元组模块、多头扩充模块和筛查去噪模块。图像预处理模块对图像进行预处理操作，得到待测图像。初步判断模块利用多模态大语言模型对待测图像和敏感词的相关度进行初步判断。提取三元组模块提取待测图像中的三元组信息，多头扩充模块对三元组中的每个单一词进行多头扩充，结合敏感词表寻找相关敏感词。筛查去噪模块对敏感词进行筛查去噪，判断敏感词是否真正出现在待测图像中，据此判定待测图像的安全性。本发明提高了图像敏感元素审查的准确性。