一种面向网络结构的映射式蒸馏方法及其训练方法

    公开(公告)号:CN115577793A

    公开(公告)日:2023-01-06

    申请号:CN202210507030.6

    申请日:2022-05-10

    Applicant: 安徽大学

    Abstract: 本发明涉及计算机视觉中的模型压缩与加速技术领域,解决了基于关系的蒸馏无法改善关系表征、输入图片批次数量小,以及很好结合相互优势、弥补和增强特征表征和关系表征的表达能力的技术问题,尤其涉及一种面向网络结构的映射式蒸馏方法,该映射式蒸馏方法包括以下过程:根据预训练的目标检测模型构成教师模型和学生模型;分别提取教师模型和学生模型各层模块的特征图。本发明在分类和检测任务中都具有优异的性能,且很好结合关系信息和注意力信息相互的优势,弥补和增强了特征表征和关系表征的表达能力,还提供了两种可选的模块映射方法,可以接受更大的图像输入和更多的批次数量,提高该方法的适用性。

Patent Agency Ranking