面向不确定模态缺失的多模态情感分析方法及系统

    公开(公告)号:CN115983280A

    公开(公告)日:2023-04-18

    申请号:CN202310081044.0

    申请日:2023-01-31

    Applicant: 烟台大学

    Abstract: 本发明提出了面向不确定模态缺失的多模态情感分析方法及系统,涉及数据处理技术领域,具体方案包括:获取带有不确定缺失的多模态数据,包括三种模态:文本、视觉和音频;通过训练后的多模态情感分析网络处理所述三种模态数据,以生成并输出最终的情感分类;本发明基于模态翻译模块,将视觉和音频模态翻译成文本模态,提高视觉和音频模态质量并且能够捕获不同模态之间的深层交互;通过对完整模态进行预训练,得到完整模态的联合特征来指导缺失模态的联合特征向完整模态的联合特征逼近,不需要考虑有哪种模态缺失,只需要向完整模态的联合特征向量逼近即可,具有更强的通用性。

    面向不确定模态缺失的多模态情感分析方法及系统

    公开(公告)号:CN115983280B

    公开(公告)日:2023-08-15

    申请号:CN202310081044.0

    申请日:2023-01-31

    Applicant: 烟台大学

    Abstract: 本发明提出了面向不确定模态缺失的多模态情感分析方法及系统,涉及数据处理技术领域,具体方案包括:获取带有不确定缺失的多模态数据,包括三种模态:文本、视觉和音频;通过训练后的多模态情感分析网络处理所述三种模态数据,以生成并输出最终的情感分类;本发明基于模态翻译模块,将视觉和音频模态翻译成文本模态,提高视觉和音频模态质量并且能够捕获不同模态之间的深层交互;通过对完整模态进行预训练,得到完整模态的联合特征来指导缺失模态的联合特征向完整模态的联合特征逼近,不需要考虑有哪种模态缺失,只需要向完整模态的联合特征向量逼近即可,具有更强的通用性。

Patent Agency Ranking