公开(公告)号：CN118278501A

公开(公告)日：2024-07-02

申请号：CN202410693407.0

申请日：2024-05-31

Applicant: 安徽农业大学

Inventor： 张武 ,  左冠鹏 ,  王志强 ,  郑喆 ,  毛健 ,  张静 ,  池震祥 ,  刘俊

IPC: G06N3/096 ,  G06N3/0455 ,  G06N3/082 ,  G06N3/084 ,  G06V10/764 ,  G06V10/82

Abstract: 本发明公开了一种基于教师分类器共享与投影集成的特征蒸馏方法，包括以下步骤：S1：将样本输入到教师模型，获得教师模型的预训练参数；S2：初始化学生模型，设置用于进行特征转换的集成投影仪的数量，加载教师模型的最终分类器给学生模型；S3：将样本数据输入学生网络，基于教师特征编码器提取的教师特征与学生模型经集成投影仪提取的学生特征构建损失函数；S4：根据所述损失函数更新学生网络中特征编码器与集成投影中的参数，训练学生模型至收敛，保存学生模型。还公开了一种基于教师分类器共享与投影集成的特征蒸馏系统及投影仪性能评估方法。本发明能够使学生模型直接使用教师模型的分类器进行最终的推理，减少蒸馏中复杂的调参过程。

公开(公告)号：CN118864828A

公开(公告)日：2024-10-29

申请号：CN202411350790.6

申请日：2024-09-26

Applicant: 安徽农业大学

Inventor： 张武 ,  张静 ,  郑喆 ,  毛健 ,  左冠鹏 ,  王志强 ,  池震祥 ,  刘俊

IPC: G06V10/25 ,  G06N3/042 ,  G06N3/045 ,  G06N3/0464 ,  G06N3/096 ,  G06T5/10 ,  G06V10/82

Abstract: 本发明公开了一种基于重建特征和双重知识蒸馏的目标检测方法，包括以下步骤：S1：构建并训练教师模型至收敛，保存最佳模型的参数；S2：构建并初始化学生模型；S3：经过所述学生模型提取不同层次的学生特征图，将学生特征图从空间域转换到频域，设计选择性高通滤波器，重建学生模型特征图；S4：利用教师模型特征图和重建后的学生模型特征图，构建频域蒸馏和全局关系蒸馏，并构建相应的损失函数；S5：结合频域蒸馏和全局关系蒸馏构建双重知识蒸馏损失函数，最小化总的知识蒸馏损失函数，保留最佳训练参数；S6：将待检测图像数据输入到训练好的学生模型中，进行回归预测。还公开了一种基于重建特征和双重知识蒸馏的目标检测系统。