公开(公告)号：CN115588224A

公开(公告)日：2023-01-10

申请号：CN202211259986.5

申请日：2022-10-14

Applicant: 中南民族大学

Inventor： 王德军 ,  潘飞 ,  孟博

IPC: G06V40/16 ,  G06V10/80 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种人脸关键点的预测方法、虚拟数字人生成方法及装置，其中的虚拟数字人生成方法包括挖掘语音中的情感，语音预测生成人脸表情关键点，通过关键点拟合3D人脸模型，调整姿势角度，虚拟数字人视频生成模型。通过将语音输入到人脸关键点模型中获取预测的人脸关键点，然后将关键点和3D人脸模型进行对齐，调整对齐之后的3D人脸模型姿势，然后将调整姿势之后的3D人脸模型输入至虚拟数字人生成模型中，得到与目标语音口型、情感一致，且具有不同姿势角度的虚拟数字人视频。虚拟数字人生成模型，用了注意力机制，使得生成的视频和目标图像和生成视频保持一致的背景。

公开(公告)号：CN115588224B

公开(公告)日：2023-07-21

申请号：CN202211259986.5

申请日：2022-10-14

Applicant: 中南民族大学

Inventor： 王德军 ,  潘飞 ,  孟博

IPC: G06V40/16 ,  G06V10/80 ,  G06V10/82 ,  G06N3/0475 ,  G06N3/048 ,  G06N3/09 ,  G06N3/094

Abstract: 本发明公开了一种人脸关键点的预测方法、虚拟数字人生成方法及装置，其中的虚拟数字人生成方法包括挖掘语音中的情感，语音预测生成人脸表情关键点，通过关键点拟合3D人脸模型，调整姿势角度，虚拟数字人视频生成模型。通过将语音输入到人脸关键点模型中获取预测的人脸关键点，然后将关键点和3D人脸模型进行对齐，调整对齐之后的3D人脸模型姿势，然后将调整姿势之后的3D人脸模型输入至虚拟数字人生成模型中，得到与目标语音口型、情感一致，且具有不同姿势角度的虚拟数字人视频。虚拟数字人生成模型，用了注意力机制，使得生成的视频和目标图像和生成视频保持一致的背景。