-
公开(公告)号:CN114091478B
公开(公告)日:2025-04-01
申请号:CN202111444136.8
申请日:2021-11-30
Applicant: 复旦大学
Abstract: 本发明提供一种基于有监督对比学习与回复生成辅助的对话情感识别方法,首先,由于构建的预训练模型CoG‑BART,采用对话级Transformer模块对待测对话进行上下文建模,从而解决了话语之间的长距离依赖问题,同时由于整体模型架构均由Transformer组成,因此引入了更少的结构先验假设;其次,由于采用了有监督对比学习来训练模型,在充分利用标签信息的情况下,不仅能够增加模型训练时的稳定性并增强模型的泛化性,还使得相同情感的样本间内聚,不同情感的样本相互斥,因此改进了相似情感难以区分的问题;最后,由于辅助性回复生成任务能够根据给定的上文信息获取更准确的下文,从而使得模型在判断话语情感时能考虑更加丰富的上下文信息,提升模型识别对话的情感标签的精确性。
-
公开(公告)号:CN114091478A
公开(公告)日:2022-02-25
申请号:CN202111444136.8
申请日:2021-11-30
Applicant: 复旦大学
Abstract: 本发明提供一种基于有监督对比学习与回复生成辅助的对话情感识别方法,首先,由于构建的预训练模型CoG‑BART,采用对话级Transformer模块对待测对话进行上下文建模,从而解决了话语之间的长距离依赖问题,同时由于整体模型架构均由Transformer组成,因此引入了更少的结构先验假设;其次,由于采用了有监督对比学习来训练模型,在充分利用标签信息的情况下,不仅能够增加模型训练时的稳定性并增强模型的泛化性,还使得相同情感的样本间内聚,不同情感的样本相互斥,因此改进了相似情感难以区分的问题;最后,由于辅助性回复生成任务能够根据给定的上文信息获取更准确的下文,从而使得模型在判断话语情感时能考虑更加丰富的上下文信息,提升模型识别对话的情感标签的精确性。
-
公开(公告)号:CN118153584A
公开(公告)日:2024-06-07
申请号:CN202211563725.2
申请日:2022-12-07
Applicant: 复旦大学
IPC: G06F40/35 , G06F16/332 , G06N3/08 , G06N3/0455
Abstract: 本发明提供了一种基于对比隐变量和风格前缀的混合对话方法,具有这样的特征,以变分编解码器VED作为基础架构,以编码器‑解码器架构的预训练模型T5作为主干模型,构建得到混合对话模型Hy‑Dialog,包括:根据训练数据中的所有历史用户输入和历史系统回复基于整体训练损失#imgabs0#训练混合对话模型Hy‑Dialog;将多轮对话中用户的所有历史用户输入和混合对话模型Hy‑Dialog的的所有历史系统回复,输入训练完成的混合对话模型Hy‑Dialog中,获得系统回复。总之,本方法在有无显式文本风格标签的情况下都能够很好地进行不同风格的回复生成。
-
-