公开(公告)号：CN107423376A

公开(公告)日：2017-12-01

申请号：CN201710555687.9

申请日：2017-07-10

Applicant: 上海交通大学

Inventor： 王延峰 ,  周越夫 ,  黄衫衫 ,  张娅

IPC: G06F17/30 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提出一种有监督深度哈希快速图片检索方法及系统，方法包括：构建用于快速图像检索的深度卷积神经网络H″；将图库中的图片依次输入深度卷积神经网络H″后得到实值特征，经过量化操作后得到哈希码并储存在本地；将每一张查询图片q输入至深度卷积神经网络H″并量化得到哈希码h(q)，再计算哈希码h(q)与所有存储在本地的哈希码之间的汉明距离，将汉明距离为小的认作相似度为高，以此进行排序，最终根据检索数量要求返回相应数量的最为相似的图片。本发明基于现有的深度神经网络，利用三元组标签数据进行图片特征表达的学习采用三元组量化损失函数，用于构建有监督深度哈希模型，从而实现既快速又精准的图片检索。

公开(公告)号：CN110020718A

公开(公告)日：2019-07-16

申请号：CN201910195272.4

申请日：2019-03-14

Applicant: 上海交通大学

Inventor： 王延峰 ,  周越夫 ,  张娅

IPC: G06N3/04 ,  G06N3/08

Abstract: 本发明提供了一种基于变分推断的逐层神经网络剪枝方法和系统，该方法包括：通过采样方式在神经网络中注噪声，得到噪化的神经网络；根据预设的目标函数对噪化的神经网络的权重进行训练，得到训练后的神经网络权重和训练后的神经网络；根据变分推断得到的变分下界，训练注入的乘性高斯噪声对应的噪声参数，得到训练后的噪声参数；基于所述训练后的噪声参数、训练后的神经网络权重，通过阈值函数逐层删除所述训练后的神经网络中相应的神经元或者卷积核。本发明的方法中，所注入的噪声在训练过程中融入了神经网络的层级关系，使得在剪枝过程中充分考虑层间的依赖，继而保证了在高度剪枝下神经网络的输出结果依旧具备鲁棒性。