公开(公告)号：CN113673241B

公开(公告)日：2024-04-09

申请号：CN202110885791.0

申请日：2021-08-03

Applicant: 之江实验室 ,  复旦大学

Inventor： 邱锡鹏 ,  安晨鑫 ,  钟鸣 ,  耿志超 ,  杨非 ,  俞再亮

IPC: G06F40/289 ,  G06F40/211 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种基于范例学习的文本摘要生成框架及方法，允许在摘要生成的过程中参考一些写作范例，框架包括检索和生成两个阶段，检索阶段，给定一个文本，使用对比学习去数据库中检索一些范例，假定越好的摘要在语义空间应该和原文离得更近，检索器的模型使用了孪生网络的结构；生成阶段，提出了一种结合范例进行摘要生成的方法，可以方便的加在目前所有主流的条件生成模型上，为了更好的学习范例，将待生成的摘要和范例摘要按照句子对齐；通过训练好的模型进行预测，即解码阶段，使用集束搜索算法并鼓励那些和范例更相似的束。

公开(公告)号：CN113673241A

公开(公告)日：2021-11-19

申请号：CN202110885791.0

申请日：2021-08-03

Applicant: 之江实验室 ,  复旦大学

Inventor： 邱锡鹏 ,  安晨鑫 ,  钟鸣 ,  耿志超 ,  杨非 ,  俞再亮

IPC: G06F40/289 ,  G06F40/211 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种基于范例学习的文本摘要生成框架及方法，允许在摘要生成的过程中参考一些写作范例，框架包括检索和生成两个阶段，检索阶段，给定一个文本，使用对比学习去数据库中检索一些范例，假定越好的摘要在语义空间应该和原文离得更近，检索器的模型使用了孪生网络的结构；生成阶段，提出了一种结合范例进行摘要生成的方法，可以方便的加在目前所有主流的条件生成模型上，为了更好的学习范例，将待生成的摘要和范例摘要按照句子对齐；通过训练好的模型进行预测，即解码阶段，使用集束搜索算法并鼓励那些和范例更相似的束。

公开(公告)号：CN116680395A

公开(公告)日：2023-09-01

申请号：CN202210163630.5

申请日：2022-02-22

Applicant: 复旦大学

Inventor： 邱锡鹏 ,  安晨鑫

IPC: G06F16/35 ,  G06F40/205 ,  G06N20/00

Abstract: 本发明提供一种基于对比学习的文本摘要框架构建方法，由于评价指标优化是一个不可直接优化的目标，因此，本发明的方法使用基于正负样本的对比学习来让文本摘要模型学习区分高质量与低质量的样本，从而使得生成的文本摘要与原文相符且通顺流畅，本发明的方法适用于抽取式以及生成式的自动文本摘要，该方法是端到端的，几乎不影响最终的解码速度，因此，构建出的是高效且统一的文本摘要框架。