一种基于解耦预训练的多意图对话语言理解方法及系统

    公开(公告)号:CN118504587B

    公开(公告)日:2024-12-03

    申请号:CN202410658392.4

    申请日:2024-05-27

    Applicant: 中南大学

    Abstract: 本发明涉及一种基于解耦预训练的多意图对话语言理解方法及系统,方法包括:使用命名体识别训练数据对预置对话语言模型进行任务无关能力预训练得到第一阶段模型;利用单意图对话语言理解训练数据对第一阶段模型进行任务特定能力预训练得到第二阶段模型;通过多意图对话语言理解微调数据对第二阶段模型进行调整,得到多意图对话语言理解模型;基于多意图对话语言理解模型对待分析多意图对话请求进行处理,得到多个意图和槽位。仅需利用相对丰富且容易获得的命名体识别训练数据、单意图对话语言理解数据和少量的多意图对话语言理解微调数据即可实现更好的多意图对话语言理解的效果,极大地缓解了多意图对话语言理解研究所面临的数据稀缺问题。

    一种基于解耦预训练的多意图对话语言理解方法及系统

    公开(公告)号:CN118504587A

    公开(公告)日:2024-08-16

    申请号:CN202410658392.4

    申请日:2024-05-27

    Applicant: 中南大学

    Abstract: 本发明涉及一种基于解耦预训练的多意图对话语言理解方法及系统,方法包括:使用命名体识别训练数据对预置对话语言模型进行任务无关能力预训练得到第一阶段模型;利用单意图对话语言理解训练数据对第一阶段模型进行任务特定能力预训练得到第二阶段模型;通过多意图对话语言理解微调数据对第二阶段模型进行调整,得到多意图对话语言理解模型;基于多意图对话语言理解模型对待分析多意图对话请求进行处理,得到多个意图和槽位。仅需利用相对丰富且容易获得的命名体识别训练数据、单意图对话语言理解数据和少量的多意图对话语言理解微调数据即可实现更好的多意图对话语言理解的效果,极大地缓解了多意图对话语言理解研究所面临的数据稀缺问题。

Patent Agency Ranking