数据处理方法、神经网络的训练方法及相关装置、设备

    公开(公告)号:CN113326930A

    公开(公告)日:2021-08-31

    申请号:CN202010134455.8

    申请日:2020-02-29

    Abstract: 本申请提供了一种数据处理方法、神经网络的训练方法及相关装置、设备,方法应用于训练设备,方法包括:将神经网络的模型参数设置为浮点数进行训练,直到训练设备训练第一神经网络达到收敛状态;确定训练后的第一神经网络中第l个卷积层包含的各个卷积核之间的相关度;其中,卷积核对应的相关度越大,训练设备在进行计算时产生的冗余计算越多;将M个卷积核进行量化训练,直至训练设备训练第一神经网络达到收敛状态,得到量化后的第二神经网络;其中,其中,M为大于0的正整数;M个卷积核为相关度较高的前M个卷积核。实施本申请,可以在提高神经网络的运算效率的同时,尽可能地保持神经网络的运算精度。

    基于软阈值三值化参数的卷积神经网络优化方法、系统

    公开(公告)号:CN111612137A

    公开(公告)日:2020-09-01

    申请号:CN202010456560.3

    申请日:2020-05-26

    Inventor: 程健 许伟翔

    Abstract: 本发明属于数据处理领域,具体涉及一种基于软阈值三值化参数的卷积神经网络优化方法、系统,旨在为了解决卷积神经网络的优化加速问题。本发明方法包括:将卷积神经网络的卷积层拆分为两个并列的相同大小的卷积层;在具有相等尺度系数的约束条件下对两个卷积层分别进行二值化后,将其对应相加得到三值化参数。本发明可以实现深度卷积神经网络的优化加速与压缩。

    一种基于多模态特征分析的智能考勤系统

    公开(公告)号:CN111210192A

    公开(公告)日:2020-05-29

    申请号:CN201911367651.3

    申请日:2019-12-26

    Inventor: 张一帆 冷聪 程健

    Abstract: 本发明公开了一种基于多模态特征分析的智能考勤系统,属于智能电子考勤技术领域。一种基于多模态特征分析的智能考勤系统,包括站立装置和考勤机,所述考勤机外壁依次连接有采集区和显示屏,所述采集区包括指纹采集区和人脸图像采集区,所述考勤机内集成有指纹数据库、人脸图像数据库、指纹采集器、摄像装置、计时器、语音器、第二NFC芯片和单片机,所述指纹数据库、人脸图像数据库、指纹采集器、摄像装置、计时器、语音器、第二NFC芯片和显示屏均与单片机电性相连,所述人脸图像采集区内连接有定位系统;本发明通过对使用者进行定位,再控制摄像头对准使用者的脸部,提高考勤的准确性,避免影响使用者的考勤情况。

    闯红灯数据处理方法、装置、计算机设备和存储介质

    公开(公告)号:CN109766756A

    公开(公告)日:2019-05-17

    申请号:CN201811506552.4

    申请日:2018-12-10

    Abstract: 本申请涉及一种闯红灯数据处理方法、装置、计算机设备和存储介质,所述方法通过将包含行人的待检测图像输入行人检测模型进行行人检测,得到包含候选行人的图像,待检测图像为红灯期间内拍摄的图像,通过人体特征提取模型提取各个候选行人的候选特征,将各个候选特征与闯红灯记录库中的各个参考特征进行匹配,当匹配成功时,更新与候选特征匹配的参考特征对应的个人数据中的闯红灯记录,获取与个人数据中的闯红灯记录对应的管理规则,管理规则用于指导管理人员进行管理。通过对行人进行识别和管理,能够更好的规范交通,从而更好的保护人的安全。

    基于少量无标签数据的深度卷积神经网络的压缩方法

    公开(公告)号:CN109325530A

    公开(公告)日:2019-02-12

    申请号:CN201811046300.8

    申请日:2018-09-07

    Inventor: 程健 贺翔宇

    Abstract: 本发明属于深度神经网络技术领域,具体涉及一种基于少量无标签数据的深度卷积神经网络的压缩方法,旨在解决在已有全精度网络模型基础上,对深度卷积神经网络所有层进行压缩,且不进行基于原始有标注训练数据进行再训练时,性能损失较大的问题,包括:获取原始深度卷积神经网络;对原始深度卷积神经网络中各层的权值张量进行稀疏化操作,得到多个含有较多0元素的权值张量;在已压缩的权值张量基础之上,通过少量无标注数据对压缩后的深度卷积神经网络中的批数据归一化层中的统计量进行更新,获得新的深度卷积神经网络。通过本发明实施例,实现了在仅依赖于少量无标注数据的大型深度卷积神经网络的压缩,降低了性能损失。

    深度神经网络的加速与压缩方法及装置

    公开(公告)号:CN108334945A

    公开(公告)日:2018-07-27

    申请号:CN201810088723.X

    申请日:2018-01-30

    Inventor: 程健 胡庆浩

    CPC classification number: G06N3/063 G06N3/082

    Abstract: 本发明属于神经网络技术领域,具体涉及一种深度神经网络的加速与压缩方法及装置。旨在解决现有技术对深度神经网络进行压缩和加速占用大量内存并且精度下降的问题。本发明提供深度神经网络的加速与压缩方法,包括获取原始深度神经网络中各层的输入数据与参数矩阵;基于输入数据与参数矩阵,计算原始深度神经网络中各层的二值矩阵与浮点系数;将二值矩阵替换原始深度神经网络各层的参数矩阵,并在原始深度神经网络中构建尺度因子层,基于浮点系数初始化尺度因子层的参数,得到新的深度神经网络。本发明的方案能够将神经网络的网络参数二值化,占用更少的内存且提升精度。

    中文词语语义相似度的度量方法及装置

    公开(公告)号:CN107832288A

    公开(公告)日:2018-03-23

    申请号:CN201710890874.2

    申请日:2017-09-27

    Inventor: 李长亮 马腾 程健

    Abstract: 本发明涉及自然语言处理技术领域,具体涉及一种中文词语语义相似度的度量方法及装置,旨在解决中文词语语义相似度度量不准确的问题。为此目的,本发明中的度量方法包括下述步骤:采用K邻近算法计算中文词语所对应初始词向量的K个近邻词向量;采用K-mean算法计算初始词向量及其K个近邻词向量的中心向量;依据初始词向量和中心向量,以及预设的迁移向量模型g,计算中文词语的迁移向量;其中,迁移向量模型g=α×m+β×p,α和β均为预设参数,m为初始词向量,p为中心向量;依据不同中文词语对应的迁移向量,计算不同中文词语的语义相似度。通过本发明提高了中文词语语义相似性计算的准确率,能够使词向量包含更多词语语义信息,提升了系统容错性。

Patent Agency Ranking