一种基于注意力机制的两步式轻量级文本分类方法

    公开(公告)号:CN115687627A

    公开(公告)日:2023-02-03

    申请号:CN202211577299.8

    申请日:2022-12-09

    Inventor: 尹春勇 徐朋

    Abstract: 本发明公开了一种基于注意力机制的两步式轻量级文本分类方法,涉及文本分类技术领域,适用于部署在边缘设置中,利用一种堆叠式的轻量级循环神经网络,该网络是一种特殊的循环神经网络,可以全面地学习到输入的文本数据之间的关系;在保证模型准确率的同时,也保证了模型的轻量性;一方面利用轻量级的循环神经网络来探索文本数据的关系,避免了梯度消失和梯度爆炸问题的发生;同时也利用自注意力机制和通道注意力机制,结合轻量级循环神经网络来进一步探索文本数据之间的关系,一定程度上克服了模型模糊边界的问题,因此本文本分类方法具有更高的分类效率和更高的分类准确率。

Patent Agency Ranking