-
公开(公告)号:CN117746200A
公开(公告)日:2024-03-22
申请号:CN202311841979.0
申请日:2023-12-27
Applicant: 安徽大学
Abstract: 本发明提供基于二阶注意力的多模态自适应融合方法及方法,系统包括:本发明在注意力块上引入二阶的交叉注意力实现多模态注意力互增强,同时对注意力的不同区域采取不同的输入,将横向相邻的区域也纳入考量;在筛选背景token时,利用两个模态分支的注意力权重对所有token进行排序,按照固定比例消除背景token。本发明解决了特征融合算法计算量大导致框架模型的推理速度较低,以及候选消除的效果稳定性较差的技术问题。