公开(公告)号：CN116664958B

公开(公告)日：2023-11-14

申请号：CN202310927246.2

申请日：2023-07-27

Applicant: 鹏城实验室

Inventor： 王耀威 ,  李天翔 ,  王乾蔚 ,  黄钰均 ,  陈斌 ,  夏树涛

IPC: G06V10/764 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/084 ,  G06N3/096

Abstract: 本申请涉及人工智能技术领域，提供了一种基于二值神经网络模型的图像分类方法以及相关设备，基于二值神经网络模型的图像分类方法利用全精度神经网络模型对属于相同网络结构的第一神经网络模型进行逐层知识蒸馏得到的第二神经网络模型，能够使得第二神经网络模型充分学习到全精度神经网络模型的知识，之后再将第二神经网络模型的权重参数固定为1比特得到二值神经网络模型，能够极大程度地减少模型推理过程中占用的存储空间以及计算资源，利用该二值神经网络模型能够在诸如嵌入式设备或移动设备等存储空间和计算资源有限的微型设备上实现准确高效的图像分类。

公开(公告)号：CN113240080A

公开(公告)日：2021-08-10

申请号：CN202110490295.5

申请日：2021-05-06

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏智康 ,  陈斌 ,  夏树涛 ,  戴涛

IPC: G06N3/04 ,  G06N3/08 ,  G06K9/62

Abstract: 本发明公开了一种基于先验类别增强的对抗训练方法，包括步骤：获取训练数据和神经网络，并根据所述训练数据和所述神经网络，确定样本受到FGSM攻击后的预测标签；所述训练数据包括：训练样本和所述训练样本对应的真实标签；根据所述训练数据、所述神经网络以及所述预测标签，确定所述训练数据对应的对抗样本；根据所述对抗样本和所述真实标签，对所述神经网络的参数进行调整，得到训练后的神经网络。由于先确定样本受到FGSM攻击后的预测标签，并根据训练数据、神经网络以及预测标签，确定训练数据对应的对抗样本，再采用对抗样本进行训练，得到训练后的神经网络，可以提高神经网络对预设标签的鲁棒精度。

公开(公告)号：CN112434704A

公开(公告)日：2021-03-02

申请号：CN202011205903.5

申请日：2020-11-02

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 戴涛 ,  吕亚蕾 ,  夏树涛 ,  陈斌 ,  李伟超

IPC: G06K9/46 ,  G06N3/08

Abstract: 本发明公开了一种基于高阶统计量的特征图处理方法、终端及存储介质，方法包括：分别计算待处理特征图的各个通道对应的统计量数值，其中，统计量包括至少一个高阶统计量；将待处理特征图输入至预先训练完成的第一神经网络，通过第一神经网络获取第一参数集合，其中，第一参数集合中包括多个第一参数，每个第一参数为待处理特征图分别与各个统计量的相关性分数；根据各个第一参数和统计量数值分别获取待处理特征图的各个通道的注意力权重；根据各个注意力权重对待处理特征图的各个通道进行处理，获取目标特征图。本发明通过包括高阶统计量在内的多个统计量数值能够捕获更丰富的统计信息，能够提升通道注意力权重的准确性，提高神经网络的表示能力。

公开(公告)号：CN111382837A

公开(公告)日：2020-07-07

申请号：CN202010080718.1

申请日：2020-02-05

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏树涛 ,  陈斌 ,  冯岩 ,  戴涛 ,  李清 ,  李伟超

IPC: G06N3/04 ,  G06N3/08

Abstract: 本发明提供了一种基于深度乘积量化的对抗样本生成方法，所述方法包括：将原始图像输入至预设网络模型，以通过所述预设网络模型输出原始图像对应的量化分配中心向量；将所述原始图像对应的初始对抗样本输入至所述预设网络模型，以得到所述初始对抗样本对应的对抗特征向量；基于所述量化分配中心向量以及所述对抗特征向量，确定所述初始对抗样本对应的损失函数；基于所述损失函数对所述预设网络模型进行反向传播，以得到所述原始图像对应的对抗样本。本方法通过基于所述量化分配中心向量以及对抗特征向量确定可导损失函数，提高了对抗样本的迁移性和有效性，为进一步研究神经网络的鲁棒性提供依据。

公开(公告)号：CN113127672B

公开(公告)日：2024-06-25

申请号：CN202110432335.0

申请日：2021-04-21

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 陈斌 ,  王锦鹏 ,  夏树涛 ,  戴涛 ,  李清

IPC: G06F16/583 ,  G06N3/0464 ,  G06N3/045 ,  G06N3/0895

Abstract: 本申请公开了一种量化图像检索模型的生成方法、检索方法、介质及终端，所述生成方法包括：利用预设网络模型，确定预设样本集中的训练图像对应的预测量化向量；基于所述训练图像的文本标签确定所述训练图像对应的文本向量；基于所述文本向量以及所述预测量化向量对所述预设网络模型进行训练，以得到量化图像检索模型。本申请通过采用训练图像对应的文本标签作为弱监督标注，并且通过弱监督标注以及预测量化向量对预设网络模型进行训练，这样可以使得深度量化可以利用弱标注图片数据进行学习，解决了现有深度量化依赖高质量标注的数据的问题，这样可以降低量化图像检索模型所处的人工成本，从而降低量化图像检索模型的训练成本。

公开(公告)号：CN110888900B

公开(公告)日：2024-02-06

申请号：CN201911157740.5

申请日：2019-11-22

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏树涛 ,  阳佳城 ,  陈斌 ,  戴涛 ,  李清 ,  汪漪

IPC: G06F16/2453

Abstract: 本发明公开了一种基于去均值乘积量化的检索方法、存储介质及终端设备，所述方法包括计算目标检索样本的均值，并根据所述均值在预设数据库内查找所述目标检索样本对应的目标量化均值；根据所述目标量化均值计算所述目标检索样本对应的残差向量，并根据所述残差向量以及所述目标量化均值在预设数据库内检索预设数量的检索样本。本发明通过在预设数据库查找目标检索样本对应的目标量化均值，并根据所述量化均值确定目标检索样本的残差向量，通过残差向量以及目标量化均值来确定目标检索样本对应的检索样本，这样通过残差向量进行量化受到样本均值分布的影响将减小，提高了检索的准确性和鲁棒性。

公开(公告)号：CN113298249A

公开(公告)日：2021-08-24

申请号：CN202011282080.6

申请日：2020-11-16

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 戴涛 ,  汪云霄 ,  夏树涛 ,  陈斌 ,  汪漪

IPC: G06N3/08 ,  G06N3/04 ,  G06N5/02

Abstract: 本发明公开一种结构化知识蒸馏方法、装置、设备及计算机可读存储介质，其中，所述结构化知识蒸馏方法包括步骤：输入样本训练集至教师网络和学生网络，得到教师区域表征图谱和教师输出分数，以及学生区域表征图谱和学生输出分数；基于教师区域表征图谱和学生区域表征图谱，输出区域相关性蒸馏损失函数；基于教师输出分数和学生输出分数，输出类别相关性蒸馏损失函数；将区域相关性蒸馏损失函数、相关性蒸馏损失函数和交叉熵损失函数加权相加得到总损失函数；利用总损失函数指导学生网络的参数更新，让学生网络的性能逼近、甚至高于教师网络，克服了现有的学生网络的网络结构复杂、参数量大、运算量大和速度慢等的缺点。

公开(公告)号：CN112115317A

公开(公告)日：2020-12-22

申请号：CN202010841276.8

申请日：2020-08-20

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏树涛 ,  白家旺 ,  陈斌 ,  戴涛 ,  李清 ,  齐竹云

IPC: G06F16/903 ,  G06F21/62

Abstract: 本发明公开了一种针对深度哈希检索的有目标攻击方法及终端设备，所述方法包括步骤：提供具有标签t的样本集合，将所述样本集合中的所有样本输入深度哈希检索模型中，生成相应的哈希码；采用位投票算法获得代表哈希码ha；指定超参数α的大小为0到1，并设计损失函数；利用梯度下降的方法计算x′的梯度并利用所述梯度更新x′；将生成的对抗样本x′投影，使得x′满足无穷约束和图像空间；判断是否达到预设的更新次数，如果是，得到对抗样本x′；将所述对抗样本x′输入到所述深度哈希检索模型中，返回期望类别的样本。本发明在设计深度哈希检索模型时采用此种攻击方法，有利于提高模型的安全性和鲁棒性，并且产生的对抗样本能够使检索模型返回攻击者期望的类别样本。

公开(公告)号：CN113240080B

公开(公告)日：2024-12-13

申请号：CN202110490295.5

申请日：2021-05-06

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏智康 ,  陈斌 ,  夏树涛 ,  戴涛

IPC: G06N3/0475 ,  G06N3/045 ,  G06N3/084 ,  G06N3/094 ,  G06F18/2415

Abstract: 本发明公开了一种基于先验类别增强的对抗训练方法，包括步骤：获取训练数据和神经网络，并根据所述训练数据和所述神经网络，确定样本受到FGSM攻击后的预测标签；所述训练数据包括：训练样本和所述训练样本对应的真实标签；根据所述训练数据、所述神经网络以及所述预测标签，确定所述训练数据对应的对抗样本；根据所述对抗样本和所述真实标签，对所述神经网络的参数进行调整，得到训练后的神经网络。由于先确定样本受到FGSM攻击后的预测标签，并根据训练数据、神经网络以及预测标签，确定训练数据对应的对抗样本，再采用对抗样本进行训练，得到训练后的神经网络，可以提高神经网络对预设标签的鲁棒精度。

公开(公告)号：CN112435205B

公开(公告)日：2024-11-26

申请号：CN202011263181.9

申请日：2020-11-12

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 戴涛 ,  朱明彦 ,  夏树涛 ,  陈斌 ,  汪漪

IPC: G06T5/50 ,  G06T5/60 ,  G06T3/4053 ,  G06T3/60

Abstract: 本发明公开了一种无监督图像超分辨率模糊核估计方法及终端，所述方法包括：获取原始输入图像，将原始输入图像执行增广操作后输出多张图像；获取多张图像中的任一张图像，经过编码器进行下采样后得到下采样图像；根据下采样图像和所述原始输入图像，通过判别器拉近下采样图像和原始输入图像之间的块分布；将下采样图像经过译码器进行上采样到原始输入图像的尺寸，得到重建图像；通过编码器提取增广操作后多张图像的模糊核，经过平均处理后得到最终模糊核。本发明通过编码器学习图像的内部信息来估计模糊核，通过译码器的反馈对估计出的模糊核进行修正，提高了模糊核估计的准确性，从而提高无监督场景下图像超分辨率的性能。