一种考虑量化和剪枝的影响的模型优化方法及系统

    公开(公告)号:CN118485893A

    公开(公告)日:2024-08-13

    申请号:CN202410692099.X

    申请日:2024-05-31

    Abstract: 本发明公开了一种考虑量化和剪枝的影响的模型优化方法及系统,涉及图像处理技术领域,方法包括获取预训练模型和基本数据;对预训练模型进行结构转换,得到转换后的模型;对转换后的模型进行参数评分,得到模型参数评分结果;根据模型参数评分结果,对转换后的模型进行量化剪枝,得到裁剪后的模型;利用图像训练样本集对裁剪后的模型进行迭代训练,并判断训练后的模型是否达到目标精度和目标计算量,若是,则将训练后的模型作为优化后的模型;否则返回步骤“对转换后的模型进行参数评分,得到模型参数评分结果”,直至训练后的模型达到目标精度和目标计算量为止。本发明可有效提升图像处理模型的图像处理速度和效率。

Patent Agency Ranking