基于多比特神经网络非线性量化的深度神经网络压缩方法

    公开(公告)号:CN110633787A

    公开(公告)日:2019-12-31

    申请号:CN201910722230.1

    申请日:2019-08-06

    Applicant: 厦门大学

    Abstract: 基于多比特神经网络非线性量化的深度神经网络压缩方法,涉及深度神经网络的压缩。包括以下步骤:1)对预训练的模型权重进行非线性变换;2)设置量化比特位;3)计算每层的模型权重各自的尺度因子和偏置因子;4)通过上述计算出来的因子计算对应的量化权重。能够压缩经典的VGG-16和ResNet-50模型,在压缩模型达到5.4倍的情况下,模型的基本没有精度损失。量化后的模型可以直接嵌入到手机或移动设备端,大大加速负荷的原始模型的计算量和同时压缩高度冗余的原始模型的存储量,使得高性能深度学习模型植入移动嵌入式设备端,在移动智能识别、云计算及无人驾驶等领域存在大量的应用前景。

    基于全局误差重建的卷积神经网络的压缩方法

    公开(公告)号:CN108197707A

    公开(公告)日:2018-06-22

    申请号:CN201711494011.X

    申请日:2017-12-31

    Applicant: 厦门大学

    Inventor: 纪荣嵘 林绍辉

    Abstract: 基于全局误差重建的卷积神经网络的压缩方法,涉及深度神经网络的压缩。针对传统的基于低秩分解的层内压缩技术无法获得高精度分类效果的缺点,考虑层间的各种非线性关系,参数层间的联合优化,代替单层的优化,构建全局误差最小化优化方案,提供一种基于全局误差重建的卷积神经网络的压缩方法。包括以下步骤:1)不考虑非线性激活函数,利用层内线性响应的低秩分解方法,初始压缩模型大小;2)利用网络层内矩阵的低秩分解,并考虑非线性激活对单层的影响,建立非线性层内压缩优化,提升非线性层内矩阵压缩的精度;3)层内压缩的误差,随着逐层增加而增加,构建全局误差重建提高压缩模型的全局判别力。

    一种基于改进型LeNet的鲁棒蒙面人脸检测方法

    公开(公告)号:CN106778589A

    公开(公告)日:2017-05-31

    申请号:CN201611127956.3

    申请日:2016-12-09

    Applicant: 厦门大学

    Abstract: 一种基于改进型LeNet的鲁棒蒙面人脸检测方法,涉及蒙面人脸检测。包括以下步骤:1)通过水平翻转原始训练图片,扩充训练数据;2)通过修改传统的LeNet模型的结构,提出新的MLeNet模型,使之适应于蒙面人类的检测问题,具体方法可为:调整卷积核大小和特征图个数,另外,改变原来的输出层的节点数10为2,使之适合于人类检测的2分类问题;3)借用原始的LeNet模型中的参数预训练MLeNet结构,并微调MLeNet模型,得到适合于蒙面人脸的检测器;4)结合滑动窗口及非最大化抑制技术准确定位出蒙面人人脸的位置。能够准确的检测出蒙面人人脸,且在背景散乱,环境变化等干扰条件下,该模型依然有较强的鲁棒性。

Patent Agency Ranking