-
公开(公告)号:CN112434704A
公开(公告)日:2021-03-02
申请号:CN202011205903.5
申请日:2020-11-02
Applicant: 鹏城实验室 , 清华大学深圳国际研究生院
Abstract: 本发明公开了一种基于高阶统计量的特征图处理方法、终端及存储介质,方法包括:分别计算待处理特征图的各个通道对应的统计量数值,其中,统计量包括至少一个高阶统计量;将待处理特征图输入至预先训练完成的第一神经网络,通过第一神经网络获取第一参数集合,其中,第一参数集合中包括多个第一参数,每个第一参数为待处理特征图分别与各个统计量的相关性分数;根据各个第一参数和统计量数值分别获取待处理特征图的各个通道的注意力权重;根据各个注意力权重对待处理特征图的各个通道进行处理,获取目标特征图。本发明通过包括高阶统计量在内的多个统计量数值能够捕获更丰富的统计信息,能够提升通道注意力权重的准确性,提高神经网络的表示能力。
-
公开(公告)号:CN111382837A
公开(公告)日:2020-07-07
申请号:CN202010080718.1
申请日:2020-02-05
Applicant: 鹏城实验室 , 清华大学深圳国际研究生院
Abstract: 本发明提供了一种基于深度乘积量化的对抗样本生成方法,所述方法包括:将原始图像输入至预设网络模型,以通过所述预设网络模型输出原始图像对应的量化分配中心向量;将所述原始图像对应的初始对抗样本输入至所述预设网络模型,以得到所述初始对抗样本对应的对抗特征向量;基于所述量化分配中心向量以及所述对抗特征向量,确定所述初始对抗样本对应的损失函数;基于所述损失函数对所述预设网络模型进行反向传播,以得到所述原始图像对应的对抗样本。本方法通过基于所述量化分配中心向量以及对抗特征向量确定可导损失函数,提高了对抗样本的迁移性和有效性,为进一步研究神经网络的鲁棒性提供依据。
-
公开(公告)号:CN110191362A
公开(公告)日:2019-08-30
申请号:CN201910456765.9
申请日:2019-05-29
Applicant: 鹏城实验室 , 清华大学深圳研究生院
IPC: H04N21/24 , H04N21/238 , H04L29/06
Abstract: 本发明提供了一种数据传输方法,包括:接收到比特率分配指令时,确定比特率分配指令对应的目标客户端的状态信息;获取目标客户端所在的通信链路的通信状态信息,并确定处于通信链路中其余的各个客户端当前的状态信息;依据目标客户端的状态信息、各个客户端当前的状态信息及通信状态信息生成全局状态信息;依据目标客户端的状态信息及全局状态信息生成状态向量;将状态向量输入至预先构建的神经网络模型中,以确定与所述目标客户端对应的比特率指导信息;将所述比特率指导信息发送至目标客户端。通过统筹目标客户端及各个客户端之间的状态、通信链路的通信状态信息来确定目标客户端的比特率指导信息,能最优化的满足不同客户端的QoE需求。
-
公开(公告)号:CN114781651B
公开(公告)日:2024-12-24
申请号:CN202210565539.6
申请日:2022-05-23
Applicant: 清华大学深圳国际研究生院 , 鹏城实验室
IPC: G06N20/00 , G06F40/30 , G06F40/242 , G06F40/166
Abstract: 本发明公开了一种基于对比学习的小样本学习鲁棒性提升方法,包括以下步骤:S1、对原始数据集进行预处理,构造对抗数据集和对比数据集;S2、将原始数据集、对抗数据集和对比数据集分别输入预训练语言模型中,得到相应的嵌入表示,并使用对比学习损失函数计算三种嵌入表示之间的距离;S3、根据对比学习损失函数与原模型的损失函数计算模型更新的梯度,以总体损失更小为目标来训练模型。本发明通过构造对抗和对比数据集为模型鲁棒性学习提供数据支持,使用对比学习目标函数计算损失能够更好地获取原始样本与对抗样本的相似性,也能更好地区分原始样本与对比样本的差异,从而提升模型受到对抗或者对比扰动时的鲁棒性。
-
公开(公告)号:CN112435205B
公开(公告)日:2024-11-26
申请号:CN202011263181.9
申请日:2020-11-12
Applicant: 鹏城实验室 , 清华大学深圳国际研究生院
IPC: G06T5/50 , G06T5/60 , G06T3/4053 , G06T3/60
Abstract: 本发明公开了一种无监督图像超分辨率模糊核估计方法及终端,所述方法包括:获取原始输入图像,将原始输入图像执行增广操作后输出多张图像;获取多张图像中的任一张图像,经过编码器进行下采样后得到下采样图像;根据下采样图像和所述原始输入图像,通过判别器拉近下采样图像和原始输入图像之间的块分布;将下采样图像经过译码器进行上采样到原始输入图像的尺寸,得到重建图像;通过编码器提取增广操作后多张图像的模糊核,经过平均处理后得到最终模糊核。本发明通过编码器学习图像的内部信息来估计模糊核,通过译码器的反馈对估计出的模糊核进行修正,提高了模糊核估计的准确性,从而提高无监督场景下图像超分辨率的性能。
-
公开(公告)号:CN112199702B
公开(公告)日:2024-07-26
申请号:CN202011109363.0
申请日:2020-10-16
Applicant: 鹏城实验室 , 清华大学深圳国际研究生院
IPC: G06F21/60 , G06N3/0464 , G06N3/098
Abstract: 本发明公开了一种基于联邦学习的隐私保护方法、存储介质及系统,方法包括步骤:采用参数加密算法对全局模型进行加密处理,得到密文模型;利用本地数据在所述密文模型上进行训练,并对得到的密文梯度信息和噪声项进行解密,得到参数梯度,采用所述参数梯度对全局模型进行更新,循环上述步骤直至模型收敛或达到指定迭代次数,获得模型参数;对模型参数进行加密,得到加密模型参数,采用加密模型参数对全局模型进行更新,得到全局加密模型;在加密全局模型上进行本地训练,实现隐私保护。本发明可以有效防止半可信的联邦学习参与者获取全局模型的真实参数和中间模型的输出结果,同时保证参与者都能够利用最终训练好的加密模型获取到真实的预测结果。
-
公开(公告)号:CN111355671B
公开(公告)日:2023-07-28
申请号:CN201911412366.9
申请日:2019-12-31
Applicant: 鹏城实验室 , 清华大学深圳国际研究生院
IPC: H04L47/2441 , H04L47/2475 , H04L47/2483 , G06F18/214 , G06N3/084 , G06F18/2415 , G06N3/045 , G06N3/0464
Abstract: 本发明公开了一种基于自注意机制的网络流量分类方法、介质及终端设备,所述方法获取待分类网络流量包数据,并确定所述待分类网络流量包数据对应的输入序列;将所述输入序列输入至预先训练的网络流量分类模型,通过所述网络流量分类模型预测所述待分类网络流量包数据对应的流量类别。本发明使用的网络流量分类模型包括编码模块,所述编码模块包括自注意机制单元,这样通过自注意机制提取有效流量特征,提高了流量分类精度。
-
公开(公告)号:CN111382837B
公开(公告)日:2023-07-18
申请号:CN202010080718.1
申请日:2020-02-05
Applicant: 鹏城实验室 , 清华大学深圳国际研究生院
IPC: G06N3/0464 , G06N3/045 , G06N3/0475 , G06N3/094
Abstract: 本发明提供了一种基于深度乘积量化的对抗样本生成方法,所述方法包括:将原始图像输入至预设网络模型,以通过所述预设网络模型输出原始图像对应的量化分配中心向量;将所述原始图像对应的初始对抗样本输入至所述预设网络模型,以得到所述初始对抗样本对应的对抗特征向量;基于所述量化分配中心向量以及所述对抗特征向量,确定所述初始对抗样本对应的损失函数;基于所述损失函数对所述预设网络模型进行反向传播,以得到所述原始图像对应的对抗样本。本方法通过基于所述量化分配中心向量以及对抗特征向量确定可导损失函数,提高了对抗样本的迁移性和有效性,为进一步研究神经网络的鲁棒性提供依据。
-
公开(公告)号:CN110175953B
公开(公告)日:2023-04-18
申请号:CN201910439532.8
申请日:2019-05-24
Applicant: 鹏城实验室 , 清华大学深圳研究生院
IPC: G06T3/40 , G06V10/82 , G06V10/774
Abstract: 本发明提供一种图像超分辨方法和系统,该方案包括:将待处理图像作为卷积神经网络超分模型的输入,卷积神经网络超分模型由四个依次连接的执行模块构成;第一执行模块对待处理图像进行处理,得到第一处理图像;第二执行模块对第一处理图像进行处理,输出包含第二处理图像;第三执行模块对第二处理图像进行处理,输出第三处理图像;第四执行模块对第三处理图像进行处理,输出超分辨率图像。基于本发明,卷积神经网络超分模型为待处理图像设置加权特征,通过对加权特征的学习,确定待处理图像中的重要特征,并依据重要特征进行超分辨处理,从而提高卷积神经网络超分模型的特征表达能力,使得超分辨处理后所得到的超分辨率图像的细节质量大大提高。
-
公开(公告)号:CN111355671A
公开(公告)日:2020-06-30
申请号:CN201911412366.9
申请日:2019-12-31
Applicant: 鹏城实验室 , 清华大学深圳国际研究生院
IPC: H04L12/851 , H04L12/859 , G06K9/62
Abstract: 本发明公开了一种基于自注意机制的网络流量分类方法、介质及终端设备,所述方法获取待分类网络流量包数据,并确定所述待分类网络流量包数据对应的输入序列;将所述输入序列输入至预先训练的网络流量分类模型,通过所述网络流量分类模型预测所述待分类网络流量包数据对应的流量类别。本发明使用的网络流量分类模型包括编码模块,所述编码模块包括自注意机制单元,这样通过自注意机制提取有效流量特征,提高了流量分类精度。
-
-
-
-
-
-
-
-
-