-
公开(公告)号:CN118691993A
公开(公告)日:2024-09-24
申请号:CN202410828881.X
申请日:2024-06-25
Applicant: 中国矿业大学
IPC: G06V20/17 , G06V10/25 , G06V10/82 , G06V10/764 , G06V10/766 , G06N3/096 , G06N3/045
Abstract: 本发明公开了一种基于跨层级特征蒸馏的航拍图像目标检测方法,包括:提取预训练教师网络掩码图和学生网络掩码图,基于预训练教师网络掩码图和学生网络掩码图构建查询模块,基于查询模块对不同尺度的目标进行跨层级特征蒸馏,利用预训练教师网络的多层特征信息来指导学生网络的单层特征信息,增强预训练教师网络和学生网络间的语义信息匹配度。本发明提出基于查询模块的跨层级特征蒸馏的策略,通过查询模块在对应尺度上做损失,可以让学生网络更好地学习到来自预训练教师网络的知识,同时在不增加网络参数量的前提下,能够提高学生网络的检测性能,在星载平台的部署上具有一定优势。
-
公开(公告)号:CN116452794B
公开(公告)日:2023-11-03
申请号:CN202310395613.9
申请日:2023-04-14
Applicant: 中国矿业大学
IPC: G06V10/25 , G06V10/774 , G06V10/764 , G06V10/82 , G06N3/0464 , G06N3/096
Abstract: 本发明公开了一种基于半监督学习的有向目标检测方法,首先通过本发明提出的一种新的五参数有向框表示方法对有标签数据集进行标注,其次设计了基于多阶段Faster RCNN的有向目标检测网络。为了保证网络在有高召回率的同时具有高精确度,本发明采用先预测水平包络框再将其回归为有向框的方式,并设计了角度增强训练算法。在此基础上,构建基于教师‑学生网络的有向目标检测半监督学习方法,利用少量有标签数据集和大量无标签数据集联合训练,计算有监督损失和无监督损失的加权和,得到总损失,用于网络模型参数更新。根据本发明,使用少量的有标签数据和海量的无标签数据,在极低的有向目标检测数据集标注成本下,提高了有向目标检测的精度。
-
公开(公告)号:CN116486285B
公开(公告)日:2024-03-19
申请号:CN202310249360.4
申请日:2023-03-15
Applicant: 中国矿业大学
IPC: G06V20/17 , G06V10/764 , G06V10/778
Abstract: 本发明公开了一种基于类别掩码蒸馏的航拍图像目标检测方法,包括预训练教师网络、学生网络和类别掩码蒸馏模块,类别掩码蒸馏模块负责提取预训练教师网络和学生网络各自的多尺度特征层及对应Softmax激活函数层的预测分数,利用多尺度特征层和预测分数分别产生预训练教师网络和学生网络各个类别的激活映射区域,设置阈值抑制对各个类别有负影响的区域,通过类别掩码蒸馏损失实现教师—学生网络对所有类别的有效区域的迁移,为加大对不易检测类别的学习,设置一个动态权重来加大对难样本学习的惩罚。本发明能够实现对指定类别有效区域的蒸馏,提高对难样本的学习,在教师网络的指导下提升学生网络的检测性能和泛化能力。
-
公开(公告)号:CN116452794A
公开(公告)日:2023-07-18
申请号:CN202310395613.9
申请日:2023-04-14
Applicant: 中国矿业大学
IPC: G06V10/25 , G06V10/774 , G06V10/764 , G06V10/82 , G06N3/0464 , G06N3/096
Abstract: 本发明公开了一种基于半监督学习的有向目标检测方法,首先通过本发明提出的一种新的五参数有向框表示方法对有标签数据集进行标注,其次设计了基于多阶段Faster RCNN的有向目标检测网络。为了保证网络在有高召回率的同时具有高精确度,本发明采用先预测水平包络框再将其回归为有向框的方式,并设计了角度增强训练算法。在此基础上,构建基于教师‑学生网络的有向目标检测半监督学习方法,利用少量有标签数据集和大量无标签数据集联合训练,计算有监督损失和无监督损失的加权和,得到总损失,用于网络模型参数更新。根据本发明,使用少量的有标签数据和海量的无标签数据,在极低的有向目标检测数据集标注成本下,提高了有向目标检测的精度。
-
公开(公告)号:CN117036698B
公开(公告)日:2024-06-18
申请号:CN202310927713.1
申请日:2023-07-27
Applicant: 中国矿业大学
Abstract: 本发明公开了一种基于双重特征知识蒸馏的语义分割方法,利用教师模型中间层特征知识和输出层语义知识实现知识的迁移。分别获取教师模型和学生网络的多个中间层特征知识送入特征关系集成模块,聚合不同特征层上下文信息;分别获取教师模型和学生网络输出层语义知识送入语义解耦模块,删除指定目标类,求出教师模型和学生网络输出层知识差距。本发明在学习中间层特征知识时能获取一个更好的结构化特征空间,保留学生网络自适应训练的空间,同时将输出层特征解耦,更好地模仿每个元素输出特征的语义信息。通过对特征空间和输出层两重知识的学习提高语义分割模型的性能,增强模型泛化性和鲁棒性。
-
公开(公告)号:CN117036698A
公开(公告)日:2023-11-10
申请号:CN202310927713.1
申请日:2023-07-27
Applicant: 中国矿业大学
Abstract: 本发明公开了一种基于双重特征知识蒸馏的语义分割方法,利用教师模型中间层特征知识和输出层语义知识实现知识的迁移。分别获取教师模型和学生网络的多个中间层特征知识送入特征关系集成模块,聚合不同特征层上下文信息;分别获取教师模型和学生网络输出层语义知识送入语义解耦模块,删除指定目标类,求出教师模型和学生网络输出层知识差距。本发明在学习中间层特征知识时能获取一个更好的结构化特征空间,保留学生网络自适应训练的空间,同时将输出层特征解耦,更好地模仿每个元素输出特征的语义信息。通过对特征空间和输出层两重知识的学习提高语义分割模型的性能,增强模型泛化性和鲁棒性。
-
公开(公告)号:CN116486285A
公开(公告)日:2023-07-25
申请号:CN202310249360.4
申请日:2023-03-15
Applicant: 中国矿业大学
IPC: G06V20/17 , G06V10/764 , G06V10/778
Abstract: 本发明公开了一种基于类别掩码蒸馏的航拍图像目标检测方法,包括预训练教师网络、学生网络和类别掩码蒸馏模块,类别掩码蒸馏模块负责提取预训练教师网络和学生网络各自的多尺度特征层及对应Softmax激活函数层的预测分数,利用多尺度特征层和预测分数分别产生预训练教师网络和学生网络各个类别的激活映射区域,设置阈值抑制对各个类别有负影响的区域,通过类别掩码蒸馏损失实现教师—学生网络对所有类别的有效区域的迁移,为加大对不易检测类别的学习,设置一个动态权重来加大对难样本学习的惩罚。本发明能够实现对指定类别有效区域的蒸馏,提高对难样本的学习,在教师网络的指导下提升学生网络的检测性能和泛化能力。
-
公开(公告)号:CN118691993B
公开(公告)日:2025-02-28
申请号:CN202410828881.X
申请日:2024-06-25
Applicant: 中国矿业大学
IPC: G06V20/17 , G06V10/25 , G06V10/82 , G06V10/764 , G06V10/766 , G06N3/096 , G06N3/045
Abstract: 本发明公开了一种基于跨层级特征蒸馏的航拍图像目标检测方法,包括:提取预训练教师网络掩码图和学生网络掩码图,基于预训练教师网络掩码图和学生网络掩码图构建查询模块,基于查询模块对不同尺度的目标进行跨层级特征蒸馏,利用预训练教师网络的多层特征信息来指导学生网络的单层特征信息,增强预训练教师网络和学生网络间的语义信息匹配度。本发明提出基于查询模块的跨层级特征蒸馏的策略,通过查询模块在对应尺度上做损失,可以让学生网络更好地学习到来自预训练教师网络的知识,同时在不增加网络参数量的前提下,能够提高学生网络的检测性能,在星载平台的部署上具有一定优势。
-
公开(公告)号:CN119131632A
公开(公告)日:2024-12-13
申请号:CN202411254438.2
申请日:2024-09-09
Applicant: 中国矿业大学
IPC: G06V20/17 , G06V10/25 , G06V10/774 , G06V10/52 , G06V10/764 , G06V10/766 , G06V10/82 , G06N3/045 , G06N3/096 , G06N3/0464
Abstract: 本发明公开了一种基于分类‑定位双分支交互蒸馏的航拍图像目标检测方法,包括预训练教师网络、学生网络、交互蒸馏区域选择模块、自适应生成蒸馏模块,通过构建交互蒸馏区域选择模块,使预训练教师网络和学生网络检测头的知识相互指导,动态选择出最优的蒸馏区域;在学生网络检测头分类分支集成自适应生成蒸馏模块,通过对其分类分支的输出特征层进行掩码,使其自适应地重建预训练教师网络的输出特征层,进一步增强了学生网络的学习能力;最后,引入KL散度损失来对蒸馏区域进行约束。本发明实现了预训练教师网络和学生网络蒸馏过程中分类和定位两个任务之间的交互,在低参数量的同时,有效提升了学生网络的检测精度和速度。
-
公开(公告)号:CN119131631A
公开(公告)日:2024-12-13
申请号:CN202411254436.3
申请日:2024-09-09
Applicant: 中国矿业大学
IPC: G06V20/17 , G06V10/25 , G06V10/82 , G06V10/774 , G06V10/52 , G06V10/28 , G06N3/045 , G06N3/096 , G06N3/042 , G06N3/0464
Abstract: 本发明公开了一种基于双重特征关系蒸馏的航拍图像目标检测方法,首先构建特征解耦关系蒸馏模块,将所有多尺度特征解耦为目标特征和非目标特征,进而分别蒸馏目标特征间的关系和非目标特征间的关系,促使学生网络理解不同特征间的关联性,再构建局部逐像素关系蒸馏模块,采用分块学习的策略,利用图卷积计算每个块特征图间的内部关系,使网络更专注于学习和捕捉局部逐像素的关系,从而显著提高网络对局部细节的感知和表达能力。本发明全面地考虑了中间特征的关系,通过解耦操作和分块学习,使得学生网络能够更好地理解和学习教师网络中丰富的特征关系表示,有效提高了学生网络的检测性能,实现了航拍图像目标检测模型的轻量化。
-
-
-
-
-
-
-
-
-