公开(公告)号：CN117574309B

公开(公告)日：2024-06-28

申请号：CN202311599668.8

申请日：2023-11-28

Applicant: 东华理工大学南昌校区

Inventor： 张军 ,  李钰彬

IPC: G06F18/2451 ,  G06F18/25 ,  G06F18/21 ,  G06N3/0455

Abstract: 本发明公开了融合多标签对比学习和KNN的层次文本分类方法，包括：通过Graphormer编码标签层次结构，获得标签表示，计算每个标签表示和每个文本词元嵌入之间的注意力权重，获得对应的文本表示；将原始输入样本和正样本的文本表示输入到多标签分类器，计算分类损失；对多标签对比损失、原始输入样本和正样本的分类损失进行求和，基于总损失训练BERT模型，获得测试样本的文本表示，将测试文本的文本表示输入至多标签分类器，获取训练好的模型的预测结果；将KNN预测结果与所述训练好的模型的预测结果进行线性融合，获得最终的预测结果。本发明根据基于标签相似度的动态系数来决定样本对的正向程度，更适用于层次文本分类。

公开(公告)号：CN117574309A

公开(公告)日：2024-02-20

申请号：CN202311599668.8

申请日：2023-11-28

Applicant: 东华理工大学南昌校区

Inventor： 张军 ,  李钰彬

IPC: G06F18/2451 ,  G06F18/25 ,  G06F18/21 ,  G06N3/0455

Abstract: 本发明公开了融合多标签对比学习和KNN的层次文本分类方法，包括：通过Graphormer编码标签层次结构，获得标签表示，计算每个标签表示和每个文本词元嵌入之间的注意力权重，获得对应的文本表示；将原始输入样本和正样本的文本表示输入到多标签分类器，计算分类损失；对多标签对比损失、原始输入样本和正样本的分类损失进行求和，基于总损失训练BERT模型，获得测试样本的文本表示，将测试文本的文本表示输入至多标签分类器，获取训练好的模型的预测结果；将KNN预测结果与所述训练好的模型的预测结果进行线性融合，获得最终的预测结果。本发明根据基于标签相似度的动态系数来决定样本对的正向程度，更适用于层次文本分类。