公开(公告)号：CN113240080B

公开(公告)日：2024-12-13

申请号：CN202110490295.5

申请日：2021-05-06

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏智康 ,  陈斌 ,  夏树涛 ,  戴涛

IPC: G06N3/0475 ,  G06N3/045 ,  G06N3/084 ,  G06N3/094 ,  G06F18/2415

Abstract: 本发明公开了一种基于先验类别增强的对抗训练方法，包括步骤：获取训练数据和神经网络，并根据所述训练数据和所述神经网络，确定样本受到FGSM攻击后的预测标签；所述训练数据包括：训练样本和所述训练样本对应的真实标签；根据所述训练数据、所述神经网络以及所述预测标签，确定所述训练数据对应的对抗样本；根据所述对抗样本和所述真实标签，对所述神经网络的参数进行调整，得到训练后的神经网络。由于先确定样本受到FGSM攻击后的预测标签，并根据训练数据、神经网络以及预测标签，确定训练数据对应的对抗样本，再采用对抗样本进行训练，得到训练后的神经网络，可以提高神经网络对预设标签的鲁棒精度。

公开(公告)号：CN114785716A

公开(公告)日：2022-07-22

申请号：CN202210277722.6

申请日：2022-03-21

Applicant: 鹏城实验室

Inventor： 李清 ,  金涛 ,  李伟超 ,  江勇 ,  夏树涛

IPC: H04L43/0852 ,  H04L43/0882 ,  H04L43/12

Abstract: 本发明公开了一种基于自诱导拥塞和单向延迟的可用带宽测量方法，恢复时间预测值方法包括：获取自诱导拥塞负载队列的第一参数和恢复拥塞的检查队列的第二参数，并基于预设的算法，根据第一参数和第二参数，生成探测队列；通过发包器对探测队列进行一轮定时发送，并通过收包器测量一轮定时发送后的探测队列的接收时间，接着根据接收时间和定时发送时的发送时间获取单向延迟数组；基于预设的恢复定位算法和预设的去噪算法对单向延迟数组进行定位和去噪处理，得到恢复时间预测值和首个恢复的包的下标，并根据恢复时间预测值和首个恢复的包的下标，计算网络的可用带宽。本发明的方法在高带宽速率、快速变化的多跳现代网络中，能够高效、准确地测量网络的可用带宽。

公开(公告)号：CN112199702A

公开(公告)日：2021-01-08

申请号：CN202011109363.0

申请日：2020-10-16

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏树涛 ,  杨雪 ,  冯岩 ,  李文杰 ,  方伟军 ,  唐小虎

IPC: G06F21/60 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种基于联邦学习的隐私保护方法、存储介质及系统，方法包括步骤：采用参数加密算法对全局模型进行加密处理，得到密文模型；利用本地数据在所述密文模型上进行训练，并对得到的密文梯度信息和噪声项进行解密，得到参数梯度，采用所述参数梯度对全局模型进行更新，循环上述步骤直至模型收敛或达到指定迭代次数，获得模型参数；对模型参数进行加密，得到加密模型参数，采用加密模型参数对全局模型进行更新，得到全局加密模型；在加密全局模型上进行本地训练，实现隐私保护。本发明可以有效防止半可信的联邦学习参与者获取全局模型的真实参数和中间模型的输出结果，同时保证参与者都能够利用最终训练好的加密模型获取到真实的预测结果。

公开(公告)号：CN113127672B

公开(公告)日：2024-06-25

申请号：CN202110432335.0

申请日：2021-04-21

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 陈斌 ,  王锦鹏 ,  夏树涛 ,  戴涛 ,  李清

IPC: G06F16/583 ,  G06N3/0464 ,  G06N3/045 ,  G06N3/0895

Abstract: 本申请公开了一种量化图像检索模型的生成方法、检索方法、介质及终端，所述生成方法包括：利用预设网络模型，确定预设样本集中的训练图像对应的预测量化向量；基于所述训练图像的文本标签确定所述训练图像对应的文本向量；基于所述文本向量以及所述预测量化向量对所述预设网络模型进行训练，以得到量化图像检索模型。本申请通过采用训练图像对应的文本标签作为弱监督标注，并且通过弱监督标注以及预测量化向量对预设网络模型进行训练，这样可以使得深度量化可以利用弱标注图片数据进行学习，解决了现有深度量化依赖高质量标注的数据的问题，这样可以降低量化图像检索模型所处的人工成本，从而降低量化图像检索模型的训练成本。

公开(公告)号：CN110888900B

公开(公告)日：2024-02-06

申请号：CN201911157740.5

申请日：2019-11-22

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏树涛 ,  阳佳城 ,  陈斌 ,  戴涛 ,  李清 ,  汪漪

IPC: G06F16/2453

Abstract: 本发明公开了一种基于去均值乘积量化的检索方法、存储介质及终端设备，所述方法包括计算目标检索样本的均值，并根据所述均值在预设数据库内查找所述目标检索样本对应的目标量化均值；根据所述目标量化均值计算所述目标检索样本对应的残差向量，并根据所述残差向量以及所述目标量化均值在预设数据库内检索预设数量的检索样本。本发明通过在预设数据库查找目标检索样本对应的目标量化均值，并根据所述量化均值确定目标检索样本的残差向量，通过残差向量以及目标量化均值来确定目标检索样本对应的检索样本，这样通过残差向量进行量化受到样本均值分布的影响将减小，提高了检索的准确性和鲁棒性。

公开(公告)号：CN113298249A

公开(公告)日：2021-08-24

申请号：CN202011282080.6

申请日：2020-11-16

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 戴涛 ,  汪云霄 ,  夏树涛 ,  陈斌 ,  汪漪

IPC: G06N3/08 ,  G06N3/04 ,  G06N5/02

Abstract: 本发明公开一种结构化知识蒸馏方法、装置、设备及计算机可读存储介质，其中，所述结构化知识蒸馏方法包括步骤：输入样本训练集至教师网络和学生网络，得到教师区域表征图谱和教师输出分数，以及学生区域表征图谱和学生输出分数；基于教师区域表征图谱和学生区域表征图谱，输出区域相关性蒸馏损失函数；基于教师输出分数和学生输出分数，输出类别相关性蒸馏损失函数；将区域相关性蒸馏损失函数、相关性蒸馏损失函数和交叉熵损失函数加权相加得到总损失函数；利用总损失函数指导学生网络的参数更新，让学生网络的性能逼近、甚至高于教师网络，克服了现有的学生网络的网络结构复杂、参数量大、运算量大和速度慢等的缺点。

公开(公告)号：CN112200722A

公开(公告)日：2021-01-08

申请号：CN202011108692.3

申请日：2020-10-16

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 戴涛 ,  何子彬 ,  夏树涛 ,  江勇 ,  李伟超 ,  汪漪

IPC: G06T3/40 ,  G06K9/46 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08 ,  G06N20/20

Abstract: 本发明公开了一种图像超分辨重构模型的生成方法、重构方法及电子设备，生成方法将低分辨率图像分别输入预设学生网络模型和预先训练的教师网络模型，并根据学生网络模型输出的第一高分辨率图像和若干第一特征图以及教师网络模型输出的第二高分辨率图像和若干第二特征图对学生网络模型的模型参数进行更新，直至学生网络模型的训练情况满足预设条件，以得到图像超分辨重构模型。本发明利用知识蒸馏训练策略，在轻量化学生网络模型的训练过程中，融入预先训练的复杂教师网络模型的二维空间相似性信息进行约束，将复杂教师网络模型的知识迁移至学生网络模型中，降低图像超分辨重构模型的计算量的同时，提升了图像超分辨重构模型的超分性能。

公开(公告)号：CN112149681A

公开(公告)日：2020-12-29

申请号：CN202011040208.8

申请日：2020-09-28

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 戴涛 ,  孟广浩 ,  夏树涛 ,  江勇 ,  查华 ,  汪漪

IPC: G06K9/34 ,  G06K9/36 ,  G06K9/62 ,  G06N3/02

Abstract: 本发明公开了一种面向场景文本识别的数据增强方法、系统及终端，所述方法包括：将输入样本输入到数据增强器，所述数据增强器根据所述输入样本自适应地选择形变类型；所述数据增强器根据选择的形变类型对所述输入样本进行形变处理以生成增强样本；将所述输入样本和所述增强样本输入到场景文本识别器进行识别，所述场景文本识别器根据识别结果输出损失函数，并反馈给所述数据增强器；所述数据增强器根据所述损失函数生成增强样本。本发明通过数据增强器根据输入样本的性质和场景文本识别器的能力自适应地生成合适的增强样本，实现了数据增强器和场景文本识别器的联合优化，通过数据增强方法来平衡样本的多样性和亲和性。

公开(公告)号：CN112115317A

公开(公告)日：2020-12-22

申请号：CN202010841276.8

申请日：2020-08-20

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏树涛 ,  白家旺 ,  陈斌 ,  戴涛 ,  李清 ,  齐竹云

IPC: G06F16/903 ,  G06F21/62

Abstract: 本发明公开了一种针对深度哈希检索的有目标攻击方法及终端设备，所述方法包括步骤：提供具有标签t的样本集合，将所述样本集合中的所有样本输入深度哈希检索模型中，生成相应的哈希码；采用位投票算法获得代表哈希码ha；指定超参数α的大小为0到1，并设计损失函数；利用梯度下降的方法计算x′的梯度并利用所述梯度更新x′；将生成的对抗样本x′投影，使得x′满足无穷约束和图像空间；判断是否达到预设的更新次数，如果是，得到对抗样本x′；将所述对抗样本x′输入到所述深度哈希检索模型中，返回期望类别的样本。本发明在设计深度哈希检索模型时采用此种攻击方法，有利于提高模型的安全性和鲁棒性，并且产生的对抗样本能够使检索模型返回攻击者期望的类别样本。

公开(公告)号：CN110852948A

公开(公告)日：2020-02-28

申请号：CN201911060632.6

申请日：2019-11-01

Applicant: 鹏城实验室 ,  清华大学深圳国际研究生院

Inventor： 夏树涛 ,  戴涛 ,  刘凯 ,  李清 ,  汪漪

IPC: G06T3/40

Abstract: 本发明公开了一种基于特征相关性的图像超分辨方法、存储介质及终端设备，所述图像超分辨方法应用预设的超分辨网络，超分辨网络包括特征提取模块、残差块注意力模块及图像重构模块；所述方法通过将低分辨率图像输入至特征提取模块，通过特征提取模块输出浅层特征图；在将所述浅层特征图输入至残差块注意力模块，通过所述残差块注意力模块进行空间和通道特征相关性学习，以得到深度特征图；将所述深度特征图输入至图像重构模块，通过所述图像重构模块输出高分辨率图像。本发明通过残差块注意力模块对特征图像进行空间和通道特征相关性学习，增强了特征图像的表达能力，从而提高了图像超分辨的效果。