公开(公告)号：CN110245741A

公开(公告)日：2019-09-17

申请号：CN201811389762.X

申请日：2018-11-21

Applicant: 佳能株式会社

Inventor： 高红星 ,  陶玮 ,  陈则玮 ,  温东超

IPC: G06N3/04 ,  G06N3/08

Abstract: 本发明提供一种多层神经网络模型的优化和应用方法、装置及存储介质。所述优化方法包括：从待优化的多层神经网络模型中划分出至少一个子结构，其中，划分出的子结构的尾层为量化层；针对划分出的各个子结构，将除量化层以外的其它层的运算参数传递到量化层中，并基于传递的运算参数更新量化层中的量化阈值参数。在运行基于所述优化方法优化后的多层神经网络模型时，可减少所需的处理器资源。

公开(公告)号：CN111382833A

公开(公告)日：2020-07-07

申请号：CN201811633954.0

申请日：2018-12-29

Applicant: 佳能株式会社

Inventor： 陶玮 ,  高红星 ,  陈则玮 ,  温东超 ,  刘俊杰

IPC: G06N3/04 ,  G06N3/06 ,  G06N3/08

Abstract: 本公开提供一种多层神经网络模型的训练和应用方法、装置及存储介质。对多层神经网络模型中的至少一个卷积层中的滤波器通道进行扩展，利用通道数扩展后的滤波器执行卷积运算，从而在简化网络模型的同时使网络模型的性能不下降。

公开(公告)号：CN111382832A

公开(公告)日：2020-07-07

申请号：CN201811631475.5

申请日：2018-12-29

Applicant: 佳能株式会社

Inventor： 高红星 ,  陶玮 ,  陈则玮 ,  温东超 ,  刘俊杰

IPC: G06N3/04 ,  G06N3/08

Abstract: 本公开提供一种多层神经网络模型的训练和应用方法、装置及存储介质。在所述多层神经网络模型的前向传播中，对输入特征图的数量进行扩展，利用扩展后的输入特征图进行数据运算。通过本公开的方案，有利于提高网络模型的精度，特别是有利于提高低比特网络模型的性能。

公开(公告)号：CN111178491A

公开(公告)日：2020-05-19

申请号：CN201811331677.8

申请日：2018-11-09

Applicant: 佳能株式会社

Inventor： 刘俊杰 ,  陈则玮 ,  温东超 ,  高红星 ,  陶玮

IPC: G06N3/04

Abstract: 本发明提供一种神经网络模型的训练和应用方法、装置、系统及存储介质。所述训练方法包括：确定提供用于训练的信息的第一网络模型和待训练的第二网络模型；为第一网络模型中的至少一层设置降尺度层，其中，所述降尺度层的滤波器数量和滤波器核与第二网络模型中待训练的层的滤波器数量和滤波器核相同；将所述降尺度层的滤波器参数作为训练信息发送给所述第二网络模型。通过该训练方法，可在第一网络模型中用于训练的层的尺度与第二网络模型中的待训练的层的尺度不相同时也能进行训练，且丢失的数据量较少。