公开(公告)号：CN113673254A

公开(公告)日：2021-11-19

申请号：CN202110970107.9

申请日：2021-08-23

Applicant: 东北林业大学

Inventor： 李洋 ,  孙宇晴

IPC: G06F40/30 ,  G06F16/35 ,  G06N3/04 ,  G06N5/02

Abstract: 基于相似度保持的知识蒸馏的立场检测方法，属于文本情感检测技术领域。为了解决现有的立场检测方法存在计算资源和计算时间开销大的问题，以及现有的方法存在识别准确率有待于提高的问题。本发明利用Text‑CNN网络模型对待检测立场文本进行立场检测；基于知识蒸馏的方式确定Text‑CNN网络，即使用BERT模型作为教师模型，将从教师模型中学习到的隐性知识引入到学生模型文本中；并在传统的知识蒸馏方式的基础上提出了基于相似度保持的损失函数，进一步提高基于知识蒸馏方式得到学生模型的性能。主要用于文本的立场检测。

公开(公告)号：CN113673254B

公开(公告)日：2022-06-07

申请号：CN202110970107.9

申请日：2021-08-23

Applicant: 东北林业大学

Inventor： 李洋 ,  孙宇晴

IPC: G06F40/30 ,  G06F16/35 ,  G06N3/04 ,  G06N5/02

Abstract: 基于相似度保持的知识蒸馏的立场检测方法，属于文本情感检测技术领域。为了解决现有的立场检测方法存在计算资源和计算时间开销大的问题，以及现有的方法存在识别准确率有待于提高的问题。本发明利用Text‑CNN网络模型对待检测立场文本进行立场检测；基于知识蒸馏的方式确定Text‑CNN网络，即使用BERT模型作为教师模型，将从教师模型中学习到的隐性知识引入到学生模型文本中；并在传统的知识蒸馏方式的基础上提出了基于相似度保持的损失函数，进一步提高基于知识蒸馏方式得到学生模型的性能。主要用于文本的立场检测。