基于知识蒸馏的渐进式跟踪模型压缩方法、设备及介质

    公开(公告)号:CN116343006A

    公开(公告)日:2023-06-27

    申请号:CN202310269544.7

    申请日:2023-03-20

    Applicant: 南京大学

    Abstract: 基于知识蒸馏的渐进式跟踪模型压缩方法、设备及介质,通过知识蒸馏方式,以教师模型‑助教模型‑学生模型多级蒸馏,并在蒸馏中通过动态的衰退系数来逐渐削弱直至撤除需要撤去的层,实现渐进式压缩单流跟踪模型,得到轻量化的跟踪器FOST,所述单流跟踪模型基于Transformer,对于输入的模板和搜索图片同时进行特征提取和信息融合。本发明通过渐进式的撤去层数和助教网络,克服了Transformer模型深度压缩过程中的特征不匹配和不连续问题,有效地传递教师模型信息,本发明提出的跟踪器也因此能够同时须有高精度和高速度,并首次使单流跟踪器能够在CPU上部署。

Patent Agency Ranking