公开(公告)号：CN112651242A

公开(公告)日：2021-04-13

申请号：CN202110076848.2

申请日：2021-01-20

Applicant: 重庆大学

Inventor： 周尚波 ,  向优 ,  沙龙 ,  朱淑芳

IPC: G06F40/289 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种基于内外注意力机制和可变尺度卷积的文本分类方法，本发明中，通过卷积神经网络和循环神经网络结合的方式来获取局部特征和全局信息，克服了卷积神经网络卷积核窗口大小固定，导致无法建模更长的序列信息，不能获取序列数据间的间隔信息和长期依赖关系的问题；还克服了循环神经网络在提取局部关键信息方面存在不足，网络参数较为复杂，训练耗时较长，存在梯度小时和梯度爆炸的问题。此外，本发明还利用空洞卷积的思想，构造了三种不同空洞卷积核，提取文本局部间隔的相关特征信息，计算文本词向量和对应隐藏信息序列间的相关性，提高对于重要信息特征加权的比重，进而提高了文本分类的准确性。

公开(公告)号：CN112651242B

公开(公告)日：2024-04-26

申请号：CN202110076848.2

申请日：2021-01-20

Applicant: 重庆大学

Inventor： 周尚波 ,  向优 ,  沙龙 ,  朱淑芳

IPC: G06F40/289 ,  G06F18/2415 ,  G06F18/22 ,  G06N3/047 ,  G06N3/0464 ,  G06N3/084 ,  G06N3/0442 ,  G06N3/0455

Abstract: 本发明公开了一种基于内外注意力机制和可变尺度卷积的文本分类方法，本发明中，通过卷积神经网络和循环神经网络结合的方式来获取局部特征和全局信息，克服了卷积神经网络卷积核窗口大小固定，导致无法建模更长的序列信息，不能获取序列数据间的间隔信息和长期依赖关系的问题；还克服了循环神经网络在提取局部关键信息方面存在不足，网络参数较为复杂，训练耗时较长，存在梯度小时和梯度爆炸的问题。此外，本发明还利用空洞卷积的思想，构造了三种不同空洞卷积核，提取文本局部间隔的相关特征信息，计算文本词向量和对应隐藏信息序列间的相关性，提高对于重要信息特征加权的比重，进而提高了文本分类的准确性。