公开(公告)号：CN118262400A

公开(公告)日：2024-06-28

申请号：CN202410447238.2

申请日：2024-04-15

Applicant: 辽宁大学

Inventor： 杨宏鑫 ,  范淼 ,  苏东悦 ,  刘婷婷 ,  徐雁翎 ,  张洁 ,  姚占鳌

IPC: G06V40/16 ,  G06V10/82 ,  G06V10/80 ,  G06N3/0464 ,  G06N3/0455

Abstract: 一种基于多模态互注意力的人脸微表情检测与识别方法，用于计算机视觉领域，过程为：一、通过视频序列获取光流图、人脸关键点，构建微表情数据集。二、将原始图像、光流图和人脸关键点输入微表情识别网络进行训练，得到训练后的微表情识别模型。该网络由图像编码器、关键点编码器、光流图编码器组成。三、将原始图像嵌入和光流图嵌入合并，然后和人脸关键点嵌入进行互注意力计算，并通过MLP以及softmax得到最终的微表情分类输出。本发明考虑了人脸图像、光流图以及人脸关键点等信息，可以充分利用各种信息的互补性，提高微表情检测与识别的鲁棒性和准确性。