神经网络表示标准框架结构

    公开(公告)号:CN108985448B

    公开(公告)日:2020-11-17

    申请号:CN201810575097.7

    申请日:2018-06-06

    Applicant: 北京大学

    Abstract: 本发明提供一种神经网络表示标准框架结构,包括:可互操作表示模块,通过对输入的神经网络进行转换得到可互操作的表示格式,其包含对神经网络的语法定义、支持的运算操作定义和权重格式定义;紧凑表示模块,将可互操作表示的神经网络通过神经网络压缩算法转换为序列化格式,其包含压缩后的神经网络的语法定义、支持的运算操作定义和权重格式定义;编解码表示模块,通过神经网络压缩算法将紧凑表示的神经网络转换为编解码表示,其包含压缩后的神经网络的语法定义、支持的运算操作定义和编解码后权重格式定义;封装表示模块,将安全信息和身份认证信息和神经网络一起封装,由此将神经网络转换为模型。

    神经网络表示标准框架结构

    公开(公告)号:CN108985448A

    公开(公告)日:2018-12-11

    申请号:CN201810575097.7

    申请日:2018-06-06

    Applicant: 北京大学

    CPC classification number: G06N3/0635 G06N3/0454

    Abstract: 本发明提供一种神经网络表示标准框架结构,包括:可互操作表示模块,通过对输入的神经网络进行转换得到可互操作的表示格式,其包含对神经网络的语法定义、支持的运算操作定义和权重格式定义;紧凑表示模块,将可互操作表示的神经网络通过神经网络压缩算法转换为序列化格式,其包含压缩后的神经网络的语法定义、支持的运算操作定义和权重格式定义;编解码表示模块,通过神经网络压缩算法将紧凑表示的神经网络转换为编解码表示,其包含压缩后的神经网络的语法定义、支持的运算操作定义和编解码后权重格式定义;封装表示模块,将安全信息和身份认证信息和神经网络一起封装,由此将神经网络转换为模型。

    基于层间特征相似性网络稀疏化方法、装置、介质及设备

    公开(公告)号:CN115424042A

    公开(公告)日:2022-12-02

    申请号:CN202210842886.9

    申请日:2022-07-18

    Applicant: 北京大学

    Abstract: 本公开涉及一种基于层间特征相似性的网络稀疏化方法、装置、介质及设备,所述方法包括:采集并存储图像数据集,提取所述图像数据集中的样本;将所述图像数据集中的样本输入神经网络进行前向传播,在前向传播的过程中通过神经网络每一层对所述图像数据集中的样本进行特征提取并存储;计算神经网络不同层的特征之间的相似度;通过基于中心核对齐的层间相似性降低方法降低所述神经网络的层间相似性。本公开是首个通过降低网络层间相似性间接提升网络稀疏性的方法。该方法在神经网络预训练、神经网络剪枝、神经网络稀疏训练等领域进行了应用,并皆取得了性能的提升。由于该方法提升了网络的稀疏性,其促进了网络的加速与压缩。

    一种基于对抗互惠点学习的开集类别发掘训练方法及系统

    公开(公告)号:CN113011469A

    公开(公告)日:2021-06-22

    申请号:CN202110217159.9

    申请日:2021-02-26

    Applicant: 北京大学

    Abstract: 本申请涉及深度神经网络技术领域,具体而言,本申请涉及一种基于对抗互惠点学习的开集类别发掘训练方法及系统。所述方法包括以下步骤:基于已定义类别的样本集,分别构建判别器、生成器和分类器,其中,所述分类器包含基于深度卷积神经网络的特征提取器、互惠点集和自学习半径;所述生成器生成样本并输入所述分类器,所述分类器提取所述样本的深度特征并比较所述深度特征与所述互惠点集,以将所述样本分类为已知类,所述判别器判断所述样本的类别为已知样本;分别计算判别器损失、生成器损失和分类器损失并依次更新所述判别器、生成器和分类器。本申请的方法及系统能够更有效地处理开集识别的问题,进而解决真实场景下未预定义类别识别问题。

    基于振幅与相位重组的数据增强方法、系统、设备及介质

    公开(公告)号:CN113610737B

    公开(公告)日:2023-10-24

    申请号:CN202110838150.X

    申请日:2021-07-23

    Applicant: 北京大学

    Abstract: 本申请涉及数据处理技术领域,更为具体来说,本申请涉及基于振幅与相位重组的数据增强方法、系统、设备及介质。所述方法包括:获取第一图像;对所述第一图像进行转换处理,得到转换处理图像;分别对所述第一图像和所述转换处理图像进行傅里叶变换得到所述第一图像和所述转换处理图像的相位信息与振幅信息;将所述第一图像的相位信息和所述转换处理图像的振幅信息基于反傅里叶变换得到第一增强图像;将所述转换处理图像的相位信息和所述第一图像的振幅信息基于反傅里叶变换得到第二增强图像。本方法能辅助针对图像的神经网络模型的训练,增强后的数据可以提高神经网络的泛化能力及鲁棒性,促进神经网络对雾、雨及各种噪音场景下的图像识别能力。

    基于振幅与相位重组的数据增强方法、系统、设备及介质

    公开(公告)号:CN113610737A

    公开(公告)日:2021-11-05

    申请号:CN202110838150.X

    申请日:2021-07-23

    Applicant: 北京大学

    Abstract: 本申请涉及数据处理技术领域,更为具体来说,本申请涉及基于振幅与相位重组的数据增强方法、系统、设备及介质。所述方法包括:获取第一图像;对所述第一图像进行转换处理,得到转换处理图像;分别对所述第一图像和所述转换处理图像进行傅里叶变换得到所述第一图像和所述转换处理图像的相位信息与振幅信息;将所述第一图像的相位信息和所述转换处理图像的振幅信息基于反傅里叶变换得到第一增强图像;将所述转换处理图像的相位信息和所述第一图像的振幅信息基于反傅里叶变换得到第二增强图像。本方法能辅助针对图像的神经网络模型的训练,增强后的数据可以提高神经网络的泛化能力及鲁棒性,促进神经网络对雾、雨及各种噪音场景下的图像识别能力。

    图神经网络表示架构
    7.
    发明公开

    公开(公告)号:CN112884120A

    公开(公告)日:2021-06-01

    申请号:CN202110130485.6

    申请日:2021-01-29

    Applicant: 北京大学

    Abstract: 本申请提供了一种图神经网络表示架构,包括图结构数据表示模块用于各种图神经网络框架数据的相互转换的表示格式;基础表示模块用于各种图神经网络开源算法框架的图神经网络模型进行互相转换的基础表示格式;紧凑表示模块用于通过神经网络压缩算法以及加速算法将基础表示模块的图神经网络模型转化成序列化格式的紧凑表示格式;编码表示模块用于通过编码算法将紧凑表示模块的图神经网络模型转换为编码表示格式。从图神经网络到最终模型的不同表示层次的定义,能够统一图神经网络各个层次的表示,降低图神经网路模型与图神经网络开源框架的耦合关系,打破了各种图神经网路开源算法框架之间的壁垒,实现了不同图神经网络开源算法框架的互操作。

    一种基于支持点学习的开集类别发掘方法与装置

    公开(公告)号:CN110807467A

    公开(公告)日:2020-02-18

    申请号:CN201910882778.2

    申请日:2019-09-18

    Applicant: 北京大学

    Abstract: 本发明涉及深度学习领域,特别涉及一种基于支持点学习的开集类别发掘方法与装置。包括:将样本输入训练好的深度神经网络获得样本特征,计算样本特征与每个类别的支持点集的距离,根据分类阈值和最大距离确定样本为未知样本或已定义样本,如果是已定义类别样本,对样本进行分类,如果是未知样本,对样本进行拒绝。本发明解决如今开集识别训练阶段不能引入未知信息的问题。

Patent Agency Ranking