公开(公告)号：CN117787260A

公开(公告)日：2024-03-29

申请号：CN202311840232.3

申请日：2023-12-28

Applicant: 北京信息科技大学

Inventor： 张仰森 ,  黄改娟 ,  蒋玉茹 ,  王雅伦

IPC: G06F40/258 ,  G06N5/02 ,  G06N5/04 ,  G06F40/30 ,  G06N3/045 ,  G06N3/0442 ,  G06N3/0475 ,  G06F16/34 ,  G06N3/0499

Abstract: 本发明公开了一种基于自适应位置编码和知识推理的文本标题生成方法，涉及文本修改技术领域，该方法提出了一种新的位置编码机制结合知识推理的面向生成式标题任务的方法，并验证了该方法的有效性。通过引入自适应位置编码机制，APEG能够根据输入序列的长度动态地学习适合任务的位置表示，从而更好地捕捉不同位置的语义信息，提升知识推理模块的性能和模型的泛化能力。与传统的标题生成方法相比，引入的知识推理模块可以在标题生成过程中聚焦于原文的关键信息，同时保持生成内容的创新性和生成过程的可解释性，改善了生成式标题的质量。

公开(公告)号：CN118332098A

公开(公告)日：2024-07-12

申请号：CN202410294986.1

申请日：2024-03-14

Applicant: 北京信息科技大学

Inventor： 张仰森 ,  黄改娟 ,  陈若愚 ,  尤建清 ,  王雅伦

IPC: G06F16/34 ,  G06F16/36 ,  G06N5/022 ,  G06F40/30 ,  G06N3/0455

Abstract: 本发明涉及文本生成技术领域，具体公开了一种基于知识增强的生成式摘要方法，用以解决缺乏语义一致性，造成了事实性错误的问题。该方法通过从原始文本中抽取开放域三元组作为事实知识，设计关注语义偏差的损失函数，引导模型在解码模块关注事实知识的语义表征，进而生成与原文语义一致的摘要。在LCSTS数据集上进行了充分的实验，实验结果表明论文提出的模型在ROUGE和BLEU评价指标上均有显著的提升。