公开(公告)号：CN119203978A

公开(公告)日：2024-12-27

申请号：CN202410876370.5

申请日：2024-07-02

Applicant: 人工智能与数字经济广东省实验室(广州) ,  华南理工大学

Inventor： 谭明奎 ,  张书海 ,  杨嘉豪 ,  康海龙

IPC: G06F40/194 ,  G06F16/35 ,  G06F18/213 ,  G06F18/22 ,  G06F18/243 ,  G06N3/0455 ,  G06N3/08

Abstract: 本发明公开一种基于最大均值差异的机器通用文本检测方法，通过增大机器文本特征和人类手写文本特征的类间距离，以及缩小人类手写文本特征的类内距离为优化目标训练度量模型的深度内核，解决了现有文本检测方法检测精度不足或者通用性不足的问题，能够有效检测文本是否由AI生成，为网络信息的可信度和安全性提供了重要保障。

公开(公告)号：CN117557876A

公开(公告)日：2024-02-13

申请号：CN202311346719.6

申请日：2023-10-17

Applicant: 华南理工大学

Inventor： 谭明奎 ,  张书海 ,  杨嘉豪 ,  杨逸凡

IPC: G06V10/774 ,  G06V10/764 ,  G06V10/82 ,  G06N3/047 ,  G06N3/094 ,  G06F17/18

Abstract: 本发明公开了一种基于多级扰动的对抗图像检测方法、系统、装置及介质，属于图像识别领域。其中方法包括：生成带有攻击扰动的对抗样本；向自然样本和对抗样本中注入多级高斯噪声，得到不同程度的扩散样本；估计各级噪声下扩散样本在自然样本分布中的对数概率密度梯度，即分数；计算在特定扩散过程区间内单个图像样本分数的期望，即期望扰动分数；构造自然样本参照集合与输入样本集合，并利用两集合中样本的期望扰动分数训练深度核；利用基于深度核的最大均值差异作为度量进行单样本检测，判断输入图像是否受到对抗攻击。本发明提出了期望扰动分数，综合提取样本中多种观测的特征，使得自然样本与对抗样本间的分布差异度量更加稳定。

公开(公告)号：CN119809905A

公开(公告)日：2025-04-11

申请号：CN202411830782.1

申请日：2024-12-12

Applicant: 华南理工大学

Inventor： 谭明奎 ,  杨嘉豪 ,  张书海 ,  罗辉 ,  杨逸凡 ,  杜卿

IPC: G06T1/00 ,  G06T5/00 ,  G06T5/70 ,  G06V10/764 ,  G06N3/084 ,  G06F17/13 ,  G06F17/18

Abstract: 本发明公开了一种基于隐空间分布约束的对抗图像净化方法、设备及介质，其中方法包括：生成对抗样本；从预训练的一致性生成模型的隐空间中采样若干初始点生成图像，作为生成样本；将对抗样本作为参照样本，使用梯度下降方法更新隐空间采样点，通过多轮生成来最小化生成样本与参照样本间的差异；在优化过程中约束隐空间采样点的分布，抑制生成样本对攻击扰动的模仿，以实现对输入样本净化；根据所得多个净化样本的预测进行投票，得到预测结果。本发明提出的对抗图像净化框架主要解决对抗净化中消除攻击扰动残留与恢复样本细节内容难兼顾的问题，结合对隐空间采样点的分布约束，可以实现对抗样本的有效净化，确保神经网络模型的安全性和鲁棒性。