一种基于自动搜索与知识蒸馏的神经网络剪枝的压缩算法

    公开(公告)号:CN110175628A

    公开(公告)日:2019-08-27

    申请号:CN201910338123.9

    申请日:2019-04-25

    Abstract: 本发明涉及神经网络领域,特别涉及一种基于自动搜索与知识蒸馏的神经网络剪枝的压缩算法。具体包括以下步骤:步骤一、对于卷积神经网络,对神经网络l层搜索最佳剪枝比例pl;步骤二、对卷积神经网络的l层按照最佳剪枝比例进行剪枝操作;步骤三、对学生网络与教师网络输入训练集样本,前向传播;步骤四、对学生网络使用知识蒸馏算法,进行优化训练;步骤五、对学生网络进行反向传播更新参数,并且优化更新参数,然后跳转至步骤四。本发明实现卷积神经网络的剪枝与精度恢复,克服卷积神经网络压缩依赖原始数据集的问题。

    一种视觉大模型分布式训练方法及系统

    公开(公告)号:CN113723443A

    公开(公告)日:2021-11-30

    申请号:CN202110784131.3

    申请日:2021-07-12

    Abstract: 本发明公开了一种视觉大模型分布式训练方法及系统,所述方法包括:构建分布式训练系统,包括主控服务器、多个GPU服务器、分布式存储服务器和存储网络交换机;根据视觉大模型训练所用数据集的大小,确定数据加载方式;根据所述视觉大模型的结构特点,对所述视觉大模型中不同类型的网络层组的参数量和计算量进行评估,结合GPU的算力和缓存能力对所述视觉大模型进行分解,确定所述视觉大模型的并行训练方案;采用混合并行模式进行模型训练,基于所述主控服务器进行模型聚合、全局模型更新和模型分发,在训练过程中每隔若干周期利用训练集和验证集对所述视觉大模型进行测评,当所述视觉大模型收敛后停止训练;本发明实现了视觉大模型的高效训练。

    一种在脉冲阵列信号之间进行距离度量的方法

    公开(公告)号:CN109063599B

    公开(公告)日:2020-11-03

    申请号:CN201810769796.5

    申请日:2018-07-13

    Applicant: 北京大学

    Abstract: 本发明公开了一种在脉冲阵列信号之间进行距离度量的方法,包括步骤:S110、将原始脉冲阵列信号和参考脉冲阵列信号分别从脉冲阵列信号域转换到脉冲阵列特征域,得到原始脉冲阵列特征和参考脉冲阵列特征;S120、在脉冲阵列特征域,计算所述原始脉冲阵列特征和所述参考脉冲阵列特征之间的差分脉冲阵列特征;S130、计算所述差分脉冲阵列特征的能量,并将其进行变换,将变换结果作为原始脉冲阵列信号和参考脉冲阵列信号之间的距离度量。由此将脉冲阵列信号的距离度量从脉冲阵列信号域扩展到脉冲阵列特征域,可以方便且高效的度量两个脉冲阵列信号的距离。

    基于卷积神经网络的车辆属性识别方法与装置

    公开(公告)号:CN106778583B

    公开(公告)日:2019-12-17

    申请号:CN201611117935.3

    申请日:2016-12-07

    Abstract: 本发明提供了一种基于卷积神经网络的车辆属性识别方法。该方法主要包括:利用样本图像训练卷积神经网络,获取待识别车辆的图像,利用训练好的卷积神经网络识别所述车辆的图像,获取车辆的车型、车身颜色及驾驶员异常行为属性。本发明提供的车辆属性识别方法可以在获取到待识别车辆图像后,无需用户自己设计特征,可以直接利用预先训练好的卷积神经网络直接提取深度特征,进行车型识别、车身颜色识别及驾驶员异常行为识别。

    一种基于动态路径树的跨摄像头目标跟踪方法及装置

    公开(公告)号:CN106295594B

    公开(公告)日:2019-10-15

    申请号:CN201610681599.9

    申请日:2016-08-17

    Applicant: 北京大学

    Abstract: 本发明提供了一种基于动态路径树的跨摄像头目标跟踪方法及装置,该方法包括:对预先构建的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,直至所述指定目标离开当前摄像头的视角范围;根据目标搜索区域切换算法获得当前需要搜索的摄像头列表;对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标;根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。本发明在尽可能小的计算资源开销下能够较为准确的进行跨摄像头目标跟踪,能够更加准确的预测路径。

    一种脉冲序列的距离度量方法及系统

    公开(公告)号:CN109884588A

    公开(公告)日:2019-06-14

    申请号:CN201910040980.0

    申请日:2019-01-16

    Applicant: 北京大学

    Abstract: 一种脉冲序列的距离度量方法及系统。其中,所述方法包括:计算脉冲序列中每相邻两个脉冲信号之间的时间差值;根据所述时间差值获得所述脉冲序列对应的光强信息;根据所述脉冲序列之间光强信息的差异度量所述脉冲序列之间的距离。所述系统包括:脉冲传感器阵列以及处理器;其中,所述处理器具体包括:光照强度计算模块和脉冲序列计算模块。本发明通过对基于脉冲序列传感器而获得的脉冲序列信号产生方式的分析,将两个脉冲序列转换为对应的光照强度的变化,从而对两个脉冲序列的距离进行准确估量,进而用于为检测、跟踪、压缩等算法的设计,以及后续脉冲阵列信号的分析、编码工作提供了基础。

    一种时空脉冲阵列的运动估计方法

    公开(公告)号:CN109831672A

    公开(公告)日:2019-05-31

    申请号:CN201910020716.0

    申请日:2019-01-09

    Applicant: 北京大学

    Abstract: 本发明提供了一种时空脉冲阵列的运动估计方法,该方法包括以下步骤:将所述时空脉冲阵列划分成编码立方体;依据当前编码立方体的特征信息,确定时域和空域的搜索范围及搜索起始点;将所述时空脉冲阵列内的所有脉冲信号在空间平面投影,再进行距离度量和匹配分析;通过当前编码立方体与参考立方体的匹配阈值判断是否提前终止搜索,若小于阈值则提前终止所述搜索,否则继续搜索直至超出搜索范围;筛选最佳参考立方体;输出时空脉冲阵列的运动估计编码信息。本发明可有效地获取高精度的运动矢量,同时加速了运动估计搜索过程,以解决时空脉冲阵列编码信号中运动估计的编码性能局限及时间耗时长的问题。

    多属性识别方法及装置
    8.
    发明授权

    公开(公告)号:CN105740903B

    公开(公告)日:2019-01-25

    申请号:CN201610066517.X

    申请日:2016-01-29

    Applicant: 北京大学

    Abstract: 本发明公开了一种多属性识别方法及装置,所述方法包括:对预设训练数据进行字典学习,得到包括字典矩阵和系数转化矩阵的属性识别模型;其中,预先训练数据为包含预设种类属性且标注好属性信息的训练数据;获取待识别样本的特征数据;利用所述字典矩阵对所述特征数据进行编码,得到编码系数;利用所述系数转化矩阵将所述编码系数转化为属性向量;利用所述属性向量对所述待识别样本进行多属性识别。本发明所述的多属性识别方法在训练过程中不需要对每个属性进行单独分类训练,且在识别过程中不需要对每个属性进行单独分类识别,而是通过一次识别得到所有的属性识别结果,因而本发明所述的方法在实际应用中会方便很多。

    一种在脉冲阵列信号之间进行距离度量的方法

    公开(公告)号:CN109063599A

    公开(公告)日:2018-12-21

    申请号:CN201810769796.5

    申请日:2018-07-13

    Applicant: 北京大学

    CPC classification number: G06K9/00503 G06K9/00523 G06K9/00536 G06K9/6215

    Abstract: 本发明公开了一种在脉冲阵列信号之间进行距离度量的方法,包括步骤:S110、将原始脉冲阵列信号和参考脉冲阵列信号分别从脉冲阵列信号域转换到脉冲阵列特征域,得到原始脉冲阵列特征和参考脉冲阵列特征;S120、在脉冲阵列特征域,计算所述原始脉冲阵列特征和所述参考脉冲阵列特征之间的差分脉冲阵列特征;S130、计算所述差分脉冲阵列特征的能量,并将其进行变换,将变换结果作为原始脉冲阵列信号和参考脉冲阵列信号之间的距离度量。由此将脉冲阵列信号的距离度量从脉冲阵列信号域扩展到脉冲阵列特征域,可以方便且高效的度量两个脉冲阵列信号的距离。

    基于图像的高铁线路线杆断裂与联接结构体异常检测方法

    公开(公告)号:CN104657706B

    公开(公告)日:2017-12-29

    申请号:CN201510041383.1

    申请日:2015-01-27

    Applicant: 北京大学

    Abstract: 本发明涉及一种基于图像的高铁线路线杆断裂异常与联接结构体异常检测方法,采用一种多尺度局部二值化算法对待检测的高速铁路沿线拍摄图像进行二值化处理,突出线路主体,并有效排除背景干扰,利用一种骨架提取算法对二值图像进行处理,得到线路的骨架结构,针对线路中存在的线杆断裂异常,通过分析线路骨架结构进行断裂点检测,发现并定位可能出现断裂的位置,针对联接结构体异常,利用线路骨架结构图对联接体局部图像进行提取,并利用卷积神经网络进行异常的检测与判定;本发明可以自动、高效地对铁路线路进行线杆断裂异常和联接结构体异常检测,从而有效提高输电线路安全监察工作的效率。

Patent Agency Ranking