公开(公告)号：CN115424042A

公开(公告)日：2022-12-02

申请号：CN202210842886.9

申请日：2022-07-18

Applicant: 北京大学

Inventor： 田永鸿 ,  倪铭坚 ,  陈光耀 ,  郑侠武 ,  彭佩玺 ,  袁粒

IPC: G06V10/74 ,  G06V10/82 ,  G06V10/40

Abstract: 本公开涉及一种基于层间特征相似性的网络稀疏化方法、装置、介质及设备，所述方法包括：采集并存储图像数据集，提取所述图像数据集中的样本；将所述图像数据集中的样本输入神经网络进行前向传播，在前向传播的过程中通过神经网络每一层对所述图像数据集中的样本进行特征提取并存储；计算神经网络不同层的特征之间的相似度；通过基于中心核对齐的层间相似性降低方法降低所述神经网络的层间相似性。本公开是首个通过降低网络层间相似性间接提升网络稀疏性的方法。该方法在神经网络预训练、神经网络剪枝、神经网络稀疏训练等领域进行了应用，并皆取得了性能的提升。由于该方法提升了网络的稀疏性，其促进了网络的加速与压缩。

公开(公告)号：CN113095506A

公开(公告)日：2021-07-09

申请号：CN202110322362.2

申请日：2021-03-25

Applicant: 北京大学

Inventor： 田永鸿 ,  倪铭坚 ,  彭佩玺 ,  邢培银 ,  翟云鹏 ,  薛岚天 ,  张翀 ,  高文

IPC: G06N20/00 ,  G06K9/46

Abstract: 本申请提供了一种基于端、边及云协同架构的机器学习方法及系统，提取输入图像的多个通用特征；传输多个通用特征；接收多个通用特征，并自适应选择机器学习任务对应的至少一个通用特征；根据至少一个通用特征训练对应的机器学习任务，得到训练后的机器学习模型；训练后的机器学习模型根据输入图像得到机器学习任务的预测结果。本申请通过在端架构处提取可用于各种视觉任务的通用特征，只在边架构上传输通用特征而不需要传输端处采集的原图，最后在云架构处利用通用特征进行机器学习任务的训练。

公开(公告)号：CN112884120A

公开(公告)日：2021-06-01

申请号：CN202110130485.6

申请日：2021-01-29

Applicant: 北京大学

Inventor： 田永鸿 ,  张翀 ,  陈光耀 ,  倪铭坚 ,  彭佩玺

IPC: G06N3/04 ,  G06N3/08

Abstract: 本申请提供了一种图神经网络表示架构，包括图结构数据表示模块用于各种图神经网络框架数据的相互转换的表示格式；基础表示模块用于各种图神经网络开源算法框架的图神经网络模型进行互相转换的基础表示格式；紧凑表示模块用于通过神经网络压缩算法以及加速算法将基础表示模块的图神经网络模型转化成序列化格式的紧凑表示格式；编码表示模块用于通过编码算法将紧凑表示模块的图神经网络模型转换为编码表示格式。从图神经网络到最终模型的不同表示层次的定义，能够统一图神经网络各个层次的表示，降低图神经网路模型与图神经网络开源框架的耦合关系，打破了各种图神经网路开源算法框架之间的壁垒，实现了不同图神经网络开源算法框架的互操作。