一种基于特征融合的类别文本生成系统

    公开(公告)号:CN115830619A

    公开(公告)日:2023-03-21

    申请号:CN202211616460.8

    申请日:2022-12-15

    Applicant: 福州大学

    Abstract: 本发明涉及一种基于特征融合的类别文本生成系统。所述系统包括:一个类别文本预处理模块,用于对类别文本的向量化处理;一个多路注意力模块,在生成器中利用多种注意力机制学习文本的注意力表示;一个生成器融合输出模块,将多种注意力表示融合并输出生成文本;一个局部语义特征提取模块,用于判别器提取文本的局部依赖特征;一个全局语义特征提取模块,用于判别器提取文本的长距离依赖特征;一个判别器融合输出模块,将文本的局部和长距离依赖特征融合并反馈给生成器判别结果。

    基于多任务稀疏共享学习的论辩挖掘系统及方法

    公开(公告)号:CN113641819A

    公开(公告)日:2021-11-12

    申请号:CN202110912198.0

    申请日:2021-08-10

    Applicant: 福州大学

    Abstract: 本发明提出一种基于多任务稀疏共享学习的论辩挖掘系统及方法,包括:编码器模块,用于使用双向长短时记忆神经网络学习上下文信息;双路注意力编码模块,用于使用自注意力和外部注意力并行对词向量进行特征提取,获得不同角度的单词语义关注度,强化单词之间的关系建模;稀疏共享学习模块,用于对获得句子向量的编码模块进行多任务学习,为不同任务生成任务特定的稀疏参数矩阵,以解决多任务学习负迁移影响,并获得句子级编码表示;多任务标签输出模块,用于使用任务特定的分类器完成不同任务的分类结果预测。能够自动地学习多个任务的稀疏共享结构,并利用各自任务特定的子网络进行联合训练,有效避免多任务学习的负迁移现象。

    基于多任务稀疏共享学习的论辩挖掘系统及方法

    公开(公告)号:CN113641819B

    公开(公告)日:2023-08-22

    申请号:CN202110912198.0

    申请日:2021-08-10

    Applicant: 福州大学

    Abstract: 本发明提出一种基于多任务稀疏共享学习的论辩挖掘系统及方法,包括:编码器模块,用于使用双向长短时记忆神经网络学习上下文信息;双路注意力编码模块,用于使用自注意力和外部注意力并行对词向量进行特征提取,获得不同角度的单词语义关注度,强化单词之间的关系建模;稀疏共享学习模块,用于对获得句子向量的编码模块进行多任务学习,为不同任务生成任务特定的稀疏参数矩阵,以解决多任务学习负迁移影响,并获得句子级编码表示;多任务标签输出模块,用于使用任务特定的分类器完成不同任务的分类结果预测。能够自动地学习多个任务的稀疏共享结构,并利用各自任务特定的子网络进行联合训练,有效避免多任务学习的负迁移现象。

    基于定义、语法并融合协同注意力的论辩挖掘方法及系统

    公开(公告)号:CN116186638A

    公开(公告)日:2023-05-30

    申请号:CN202211628358.X

    申请日:2022-12-17

    Applicant: 福州大学

    Abstract: 本发明提出基于定义、语法并融合协同注意力的论辩挖掘系统,包括:编码器模块,用于使用双向LSTM学习上下文信息;特征提取模块,用于使用堆叠的BiLSTMs、序列自注意机制和辅助softmax层对词向量进行特征提取,作为针对消失梯度问题的隐式辅助;梯度反转调节模块,用于使用梯度反转层来捕获类不变的特征;平行协同注意力定义对齐模块,用于使用基于残差融合粗粒度并行协同注意力的机制来发现输入文本关于主张和非主张的定义准则的不同关联特征;注意力正交投影学习与输出模块,用于通过注意正交投影层合并类不变特征和输入文本关于主张定义准则及非主张定义准则的特征,并经过softmax激活函输出分类结果;本发明能够高效地利用语法和关于主张的定义来进行主张检测。

Patent Agency Ranking