一种基于视频监督的单图像三维人脸重建方法

    公开(公告)号:CN111950477B

    公开(公告)日:2024-02-02

    申请号:CN202010824674.9

    申请日:2020-08-17

    Applicant: 南京大学

    Abstract: 本发明提供了一种基于视频监督的单图像三维人脸重建方法,包括以下步骤:1)构建单图像人脸重建模块:根据视频人脸片段数据集进行训练,训练得到能够从单张人脸图像中重加出基本形状,形状偏移以及反照率图的模型;2)构建姿态光照分解模块:根据视频人脸片段数据集进行训练,得到能够从单张人脸图像中分解出相机姿态和环境光照;3)整体训练框架:包括数据预处理,训练框架设计以及测试三个部分。本发明实现了端到端的基于视频监督的单图像三维人脸重建,本发明方法可以更有效地从一张人脸图像中重建出人脸的三维几何结构,反照率并恢复(56)对比文件何华赟.数据驱动的三维人体头部重建《.中国优秀硕士学位论文全文数据库 信息科技辑》.2018,(第12期),I138-1745.Elad Richardson等.Learning DetailedFace Reconstruction From a Single Image.《Proceedings of the IEEE Conference onComputer Vision and Pattern Recognition(CVPR)》.2017,1259-1268.Yudong Guo等.CNN-Based Real-TimeDense Face Reconstruction with Inverse-Rendered Photo-Realistic Face Images.《IEEE Transactions on Pattern Analysisand Machine Intelligence》.2018,第41卷(第6期),1294-1307.

    一种三维模型部件的自动检测方法

    公开(公告)号:CN107578477A

    公开(公告)日:2018-01-12

    申请号:CN201710810675.6

    申请日:2017-09-11

    Applicant: 南京大学

    Abstract: 本发明公开了一种三维模型部件的自动检测方法,包括离线训练和在线检测两个部分。离线训练时采用带有部件标注的三维模型集作为训练数据,对于数据集中的每个三维模型:在均匀采样的视角下进行光照渲染生成图像,依据部件标注计算每个部件在各个图像中的显著性并筛选出具有较高显著性的部件标注,利用图像和对应的部件标注训练FasterR-CNN检测模型。在线检测时,对于一个待检测的三维模型:在均匀采样的视角下进行光照渲染生成图像,利用上面训练好的FasterR-CNN模型检测每张图像中的部件,由检测结果(包围框和标签)为其框中的顶点投票,最后依据投票结果筛选出可能属于各个部件类别的顶点并生成包围盒。

    一种三维模型部件的自动检测方法

    公开(公告)号:CN107578477B

    公开(公告)日:2019-09-06

    申请号:CN201710810675.6

    申请日:2017-09-11

    Applicant: 南京大学

    Abstract: 本发明公开了一种三维模型部件的自动检测方法,包括离线训练和在线检测两个部分。离线训练时采用带有部件标注的三维模型集作为训练数据,对于数据集中的每个三维模型:在均匀采样的视角下进行光照渲染生成图像,依据部件标注计算每个部件在各个图像中的显著性并筛选出具有较高显著性的部件标注,利用图像和对应的部件标注训练FasterR‑CNN检测模型。在线检测时,对于一个待检测的三维模型:在均匀采样的视角下进行光照渲染生成图像,利用上面训练好的FasterR‑CNN模型检测每张图像中的部件,由检测结果(包围框和标签)为其框中的顶点投票,最后依据投票结果筛选出可能属于各个部件类别的顶点并生成包围盒。

    一种基于深度学习视频监督的单图像三维重建方法

    公开(公告)号:CN111950404A

    公开(公告)日:2020-11-17

    申请号:CN202010744081.1

    申请日:2020-07-29

    Applicant: 南京大学

    Abstract: 本发明提供了一种基于深度学习视频监督的单图像三维重建方法,包括以下步骤:1)构建了物体位姿预测模块:根据输入图像中的物体可以得到其相机拍摄相对于物体的位置;2)构建了物体三维形状估计模块:根据输入的单幅物体图像通过迭代优化损失预测得到它的三维点云;3)构建了多帧形状融合模块:将视频图线序列并行得输入以上两模块中,可以得到单帧的相机位姿及三维形状预测,通过多帧权重融合以及一致性约束、平滑性约束得到更准确地预测;4)整体训练框架:包括数据预处理、模型框架训练及测试三个阶段。本发明方法实现了端到端的三维重建,能够使用视频序列进行训练,在测试阶段仅使用单图像就能够预测其三维点云。

    一种基于无向图学习模型的单图像面片重建方法

    公开(公告)号:CN110163974A

    公开(公告)日:2019-08-23

    申请号:CN201910428208.6

    申请日:2019-05-22

    Applicant: 南京大学

    Abstract: 本发明公开了一种基于无向图学习模型的单图像面片重建方法,包括:对现有的三维模型集中的三维模型进行多视角渲染获得训练图像集;使用无向图学习模型表示面片,建立由图像编码和相机视角估计构成的无向图初始化网络,获得该图像对应的相机视角参数,并对初始面片按照估计所得的相机视角参数进行投影,获得无向图初始特征;建立无向图LSTM网络结构和无向图CNN网络结构,对无向图模型进行特征更新,并将无向图每个节点映射到三维空间内的坐标,获得三角面片每个顶点位置;建立无向图初始化网络和无向图更新网络损失,并对神经网络进行多阶段训练;对输入图像使用已训练的网络进行三维重建获得最终面片模型。

    一种基于深度学习视频监督的单图像三维重建方法

    公开(公告)号:CN111950404B

    公开(公告)日:2025-01-07

    申请号:CN202010744081.1

    申请日:2020-07-29

    Applicant: 南京大学

    Abstract: 本发明提供了一种基于深度学习视频监督的单图像三维重建方法,包括以下步骤:1)构建了物体位姿预测模块:根据输入图像中的物体可以得到其相机拍摄相对于物体的位置;2)构建了物体三维形状估计模块:根据输入的单幅物体图像通过迭代优化损失预测得到它的三维点云;3)构建了多帧形状融合模块:将视频图线序列并行得输入以上两模块中,可以得到单帧的相机位姿及三维形状预测,通过多帧权重融合以及一致性约束、平滑性约束得到更准确地预测;4)整体训练框架:包括数据预处理、模型框架训练及测试三个阶段。本发明方法实现了端到端的三维重建,能够使用视频序列进行训练,在测试阶段仅使用单图像就能够预测其三维点云。

    一种基于视频监督的单图像三维人脸重建方法

    公开(公告)号:CN111950477A

    公开(公告)日:2020-11-17

    申请号:CN202010824674.9

    申请日:2020-08-17

    Applicant: 南京大学

    Abstract: 本发明提供了一种基于视频监督的单图像三维人脸重建方法,包括以下步骤:1)构建单图像人脸重建模块:根据视频人脸片段数据集进行训练,训练得到能够从单张人脸图像中重加出基本形状,形状偏移以及反照率图的模型;2)构建姿态光照分解模块:根据视频人脸片段数据集进行训练,得到能够从单张人脸图像中分解出相机姿态和环境光照;3)整体训练框架:包括数据预处理,训练框架设计以及测试三个部分。本发明实现了端到端的基于视频监督的单图像三维人脸重建,本发明方法可以更有效地从一张人脸图像中重建出人脸的三维几何结构,反照率并恢复出相机的姿态和环境光照。

    一种基于无向图学习模型的单图像面片重建方法

    公开(公告)号:CN110163974B

    公开(公告)日:2020-09-04

    申请号:CN201910428208.6

    申请日:2019-05-22

    Applicant: 南京大学

    Abstract: 本发明公开了一种基于无向图学习模型的单图像面片重建方法,包括:对现有的三维模型集中的三维模型进行多视角渲染获得训练图像集;使用无向图学习模型表示面片,建立由图像编码和相机视角估计构成的无向图初始化网络,获得该图像对应的相机视角参数,并对初始面片按照估计所得的相机视角参数进行投影,获得无向图初始特征;建立无向图LSTM网络结构和无向图CNN网络结构,对无向图模型进行特征更新,并将无向图每个节点映射到三维空间内的坐标,获得三角面片每个顶点位置;建立无向图初始化网络和无向图更新网络损失,并对神经网络进行多阶段训练;对输入图像使用已训练的网络进行三维重建获得最终面片模型。

    一种三维模型部件类别自动标注方法

    公开(公告)号:CN106157375B

    公开(公告)日:2018-11-30

    申请号:CN201610530040.6

    申请日:2016-07-06

    Applicant: 南京大学

    Abstract: 本发明公开了一种三维模型部件类别自动标注方法,包括以下步骤:训练过程根据三维模型标注训练集进行快速训练,训练得到用于对未知三维模型的面片和网格边进行分类和标注的快速标注模型。标注过程则利用训练得到的面片和网格边的快速标注模型对目标模型的面片和网格边进行分类,获得面片和网格边分类概率分布,构建图模型,通过多标签图割优化进行分割边界的平滑和优化,从而实现对目标三维模型部件类别的快速自动标注。

    一种基于同构模型表示的三维模型生成方法

    公开(公告)号:CN107610221B

    公开(公告)日:2020-06-05

    申请号:CN201710810698.7

    申请日:2017-09-11

    Applicant: 南京大学

    Abstract: 本发明公开了一种基于同构模型表示的三维模型生成方法,包括:针对模型集合的部件对应关系,构建模型集的统一结构表示;采用子图编码的方式,建立每个模型的同构结构表示;采用包围盒和广义圆柱的方式,建立每个模型的部件表示;根据模型的结构表示和部件表示,构建模型的统一表示;训练基于神经网络的自编码器,建立同构表示空间与二维数值空间的映射关系;对二维数值进行采样,利用自编码器解码得到模型同构表示;根据解码得到的模型同构表示,重建出三维模型,并判断重建模型的有效性;根据采样数据的有效性,估计有效空间的分布,并进行可视化;根据用户选取的有效二维数据,解码得到模型表示,重建新的三维模型。

Patent Agency Ranking