公开(公告)号：CN113936295B

公开(公告)日：2024-08-16

申请号：CN202111103913.2

申请日：2021-09-18

Applicant: 中国科学院计算技术研究所

Inventor： 张蕊 ,  杜治兴 ,  常明 ,  张曦珊 ,  刘少礼

IPC: G06V40/10 ,  G06V10/764 ,  G06V10/82 ,  G06N3/096 ,  G06N3/045

Abstract: 本发明提出一种基于迁移学习的人物检测方法和系统，包括：构建用于图像目标检测的教师网络和其对应的学生网络，获取已标注人物类别标签的图片数据集作为训练数据集；以该训练数据集对该教师网络和该学生网络进行训练时，提取老师网络每层目标检测FPN的分类分支输出，得到包括NCHW四个通道输出结果的四维矩阵；通过在该四维矩阵的C通道方向求和，得到NHW维度的特征矩阵作为特征掩码矩阵，基于该特征掩码矩阵、老师网络和学生网络的FPN特征图，得到特征图约束损失；对教师网络的损失、学生网络的损失和该特征图约束损失进行求和，得到蒸馏损失，该蒸馏损失收敛后使用该学生网络对图片中的人物进行检测。

公开(公告)号：CN113936295A

公开(公告)日：2022-01-14

申请号：CN202111103913.2

申请日：2021-09-18

Applicant: 中国科学院计算技术研究所

Inventor： 张蕊 ,  杜治兴 ,  常明 ,  张曦珊 ,  刘少礼

IPC: G06V40/10 ,  G06V10/764 ,  G06V10/774 ,  G06V10/70 ,  G06K9/62 ,  G06N20/20

Abstract: 本发明提出一种基于迁移学习的人物检测方法和系统，包括：构建用于图像目标检测的教师网络和其对应的学生网络，获取已标注人物类别标签的图片数据集作为训练数据集；以该训练数据集对该教师网络和该学生网络进行训练时，提取老师网络每层目标检测FPN的分类分支输出，得到包括NCHW四个通道输出结果的四维矩阵；通过在该四维矩阵的C通道方向求和，得到NHW维度的特征矩阵作为特征掩码矩阵，基于该特征掩码矩阵、老师网络和学生网络的FPN特征图，得到特征图约束损失；对教师网络的损失、学生网络的损失和该特征图约束损失进行求和，得到蒸馏损失，该蒸馏损失收敛后使用该学生网络对图片中的人物进行检测。

公开(公告)号：CN115019085B

公开(公告)日：2025-04-08

申请号：CN202210544252.5

申请日：2022-05-18

Applicant: 中国科学院计算技术研究所

Inventor： 张蕊 ,  曹炅宣 ,  杜治兴 ,  陈天石

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/042 ,  G06N3/045 ,  G06N3/084

Abstract: 本发明提出一种基于自动梯度混合的神经网络模型知识蒸馏方法和系统，包括通过损失函数，将教师网络的知识蒸馏至学生网络，得到任务损失和蒸馏损失；对该任务损失和该蒸馏损失进行反向传播，得到任务梯度向量和蒸馏梯度向量，以及任务梯度向量和蒸馏梯度向量间的夹角；以任务梯度向量约束总梯度向量，选择效果最优的候选偏转系数作为最终偏转系数以计算权重系数，将该权重系数加到损失函数，得到最终损失函数，并以该最终损失函数将该教师网络的知识蒸馏至该学生网络。由此本发明可自动调节权重系数超参。

公开(公告)号：CN114419667A

公开(公告)日：2022-04-29

申请号：CN202111616327.8

申请日：2021-09-18

Applicant: 中国科学院计算技术研究所

Inventor： 张蕊 ,  杜治兴 ,  张曦珊

IPC: G06V40/10 ,  G06V10/764 ,  G06V10/774 ,  G06V10/70 ,  G06K9/62 ,  G06N20/20

Abstract: 本发明提出一种基于迁移学习的人物检测方法和系统，构建用于图像目标检测的教师网络和其对应的学生网络，获取已标注人物类别标签的图片数据集作为训练数据集；分别根据老师网络和学生网络每层目标检测FPN中特征包含的目标对象信息量，得到老师网络每层目标检测FPN的老师特征丰富度得分和学生网络每层目标检测FPN的学生特征丰富度得分；基于该老师特征丰富度得分和该学生特征丰富度得分，得到分类头约束损失；对教师网络的损失、学生网络的损失和该分类头约束损失进行求和，得到蒸馏损失；该蒸馏损失收敛后使用该学生网络对图片中的人物进行检测。

公开(公告)号：CN115019085A

公开(公告)日：2022-09-06

申请号：CN202210544252.5

申请日：2022-05-18

Applicant: 中国科学院计算技术研究所

Inventor： 张蕊 ,  曹炅宣 ,  杜治兴 ,  陈天石

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提出一种基于自动梯度混合的神经网络模型知识蒸馏方法和系统，包括通过损失函数，将教师网络的知识蒸馏至学生网络，得到任务损失和蒸馏损失；对该任务损失和该蒸馏损失进行反向传播，得到任务梯度向量和蒸馏梯度向量，以及任务梯度向量和蒸馏梯度向量间的夹角；以任务梯度向量约束总梯度向量，选择效果最优的候选偏转系数作为最终偏转系数以计算权重系数，将该权重系数加到损失函数，得到最终损失函数，并以该最终损失函数将该教师网络的知识蒸馏至该学生网络。由此本发明可自动调节权重系数超参。