神经网络的剪枝方法、数据处理方法及装置

    公开(公告)号:CN118839740A

    公开(公告)日:2024-10-25

    申请号:CN202310470198.9

    申请日:2023-04-25

    Abstract: 一种神经网络的剪枝方法、数据处理方法及装置,涉及深度学习领域,用以提供一种平衡推理性能和准确率的剪枝方式。本申请提供一种互补稀疏方式,权重张量中每K个M长的剪枝向量拼接为一个数据块(或者向量),经过稀疏后,一个剪枝向量中非零元素所在的位置,在该剪枝向量所属的数据块中的其它剪枝向量在该位置为零元素。相比采用单通道或者按块稀疏方式,本申请实施例采用更小的粒度来稀疏,可以提高网络模型的应用的准确度。相比采用任意稀疏方式来说,按照互补的方式来进行稀疏,在推理阶段无需采用稠密计算,减少了模型的计算量。本申请实施例提供的方案能够在准确度和加速上进行平衡。

    一种数据处理方法及其装置
    2.
    发明公开

    公开(公告)号:CN116883715A

    公开(公告)日:2023-10-13

    申请号:CN202310627422.0

    申请日:2023-05-30

    Abstract: 一种数据处理方法,应用于图像处理,方法包括:获取第一图像和第二图像;第一图像和第二图像包含文本;通过第一神经网络,得到第一图像和第二图像的图像特征;通过第二神经网络,得到第一图像和第二图像中包含的文本的文本特征,将第一特征表示和第三特征表示融合得到第一目标特征表示;将第二特征表示和第四特征表示融合得到第二目标特征表示;根据第一目标特征表示和第二目标特征表示之间的关系,确定损失,并根据损失更新第一神经网络。本申请通过提取包含文本的图像的图像特征以及文本特征,并将图像特征和文本特征进行融合,利用融合后的特征表示进行模型的更新,可以提高训练后的模型对包含文本的图像的识别精度。

    一种图像处理方法及其相关设备
    3.
    发明公开

    公开(公告)号:CN116309226A

    公开(公告)日:2023-06-23

    申请号:CN202310277464.6

    申请日:2023-03-15

    Abstract: 本申请公开了一种图像处理方法及其相关设备,可以令多个低动态范围LDR图像实现更加优质的融合,从而使得最终得到的HDR图像不存在伪影。本申请的方法包括:当需要获取目标对象的高动态范围HDR图像时,可先采集目标对象的第一LDR图像以及目标对象的第二LDR图像,并将第一LDR图像和第二LDR图像输入至目标模型中。那么,目标模型可对第一LDR图像和第二LDR图像进行图像块匹配,从而得到第一LDR图像的多个第一图像块与第二LDR图像的多个第二图像块之间的一一对应关系。然后,目标模型可利用该对应关系对第一LDR图像和第二LDR图像进行融合,从而得到并输出目标对象的HDR图像。

    图像处理方法和装置
    4.
    发明授权

    公开(公告)号:CN110473137B

    公开(公告)日:2021-09-14

    申请号:CN201910336216.8

    申请日:2019-04-24

    Abstract: 本申请提供了一种图像处理方法,该方法包括:获取输入特征图;根据存储的多个基础卷积核和组合参数,对所述输入特征图进行卷积得到输出特征图,其中,所述组合参数用于指示所述多个基础卷积核组合成标准卷积核的排列顺序,所述基础卷积核的尺寸小于所述标准卷积核的尺寸;基于所述输出特征图进行图像处理,得到处理结果。本申请实施例提供的图像处理方法,能够减少进行图像处理所需使用的卷积神经网络模型的存储空间。

    一种数据处理方法及相关装置

    公开(公告)号:CN112529149A

    公开(公告)日:2021-03-19

    申请号:CN202011381498.2

    申请日:2020-11-30

    Abstract: 本申请实施例公开了一种数据处理方法,应用于人工智能领域,包括:获取待压缩网络和多个数据,所述待压缩网络为分类网络;将所述多个数据输入所述待压缩网络,得到多个第一输出结果,所述多个第一输出结果与所述多个数据之间一一对应;确定所述多个第一输出结果中每个第一输出结果所对应的独热one‑hot标签;分别确定所述多个第一输出结果中每个第一输出结果与所述one‑hot标签之间的第一相似度;根据所述多个第一输出结果中每个第一输出结果对应的所述第一相似度,在所述多个数据中确定至少一个目标数据,所述至少一个目标数据用于压缩所述待压缩网络。通过该方法,能够获得大量与待压缩网络的原训练数据相近的数据,从而保证能够有效地实现网络的压缩。

    一种数据处理方法及相关装置

    公开(公告)号:CN112529149B

    公开(公告)日:2024-05-24

    申请号:CN202011381498.2

    申请日:2020-11-30

    Abstract: 本申请实施例公开了一种数据处理方法,应用于人工智能领域,包括:获取待压缩网络和多个数据,所述待压缩网络为分类网络;将所述多个数据输入所述待压缩网络,得到多个第一输出结果,所述多个第一输出结果与所述多个数据之间一一对应;确定所述多个第一输出结果中每个第一输出结果所对应的独热one‑hot标签;分别确定所述多个第一输出结果中每个第一输出结果与所述one‑hot标签之间的第一相似度;根据所述多个第一输出结果中每个第一输出结果对应的所述第一相似度,在所述多个数据中确定至少一个目标数据,所述至少一个目标数据用于压缩所述待压缩网络。通过该方法,能够获得大量与待压缩网络的原训练数据相近的数据,从而保证能够有效地实现网络的压缩。

    模型训练方法及装置
    7.
    发明公开

    公开(公告)号:CN117975191A

    公开(公告)日:2024-05-03

    申请号:CN202311868926.8

    申请日:2023-12-31

    Abstract: 本申请实施例提供一种模型训练方法及装置,以提高图像恢复网络性能,降低图像恢复网络的训练成本。该方法包括:获取第一数据集和第二数据集,第一数据集中的图像为干净图像,第二数据集中的图像为退化图像,第一数据集中的图像与第二数据集中的图像为非成对的图像;将第一数据集输入图像生成网络,得到第三数据集,第三数据集中的图像为退化图像;将第三数据集输入图像恢复网络,得到第四数据集,第四数据集中的图像为恢复图像;根据目标损失函数更新模型,模型包括图像生成网络和图像恢复网络,目标损失函数包括根据第一数据集和第四数据集得到的损失函数,以及第二数据集和第三数据集得到的损失函数。

    一种深度聚类的方法、装置及系统

    公开(公告)号:CN117763375A

    公开(公告)日:2024-03-26

    申请号:CN202211122497.5

    申请日:2022-09-15

    Abstract: 本申请公开了一种深度聚类的方法,属于人工智能领域,第一深度聚类模型的输出层包括一个或多个第一神经元,所述一个或多个第一神经元用于输出原始数据的一个或多个第一分类,方法包括:获得一个或多个第一神经元输出的一个或多个第一分类;在第一目标分类对应的至少两个数据之间的相似性满足拆分条件的情况下,将第一深度聚类模型输出层的目标神经元拆分,得到第二深度聚类模型;第一目标分类为所述一个或多个第一分类中的至少一个,所述第一目标分类对应的数据包括多个数据,所述目标神经元为所述一个或多个第一神经元中输出所述第一目标分类的第一神经元,所述第二深度聚类模型的输出层包括多个第二神经元,所述第二神经元用于输出第二分类。

Patent Agency Ranking