二、开源3D人脸重建项目整理

本文主要总结了经典3D人脸重建开源算法,如有遗漏请大家提醒补充。

一、单图三维人脸重建开源算法

单图三维人脸重建代码,指根据一张二维人脸图像,恢复与之对应的三维人脸(包括形状和纹理),一些算法提供了训练代码及网络框架,一些算法仅提供了测试接口。

目前单图三维人脸重建主要的发展方向有两种,一种是基于多任务的三维人脸重建,在三维人脸重建过程的同时完成其他与人脸有关的任务,例如,人脸识别,人脸对齐,特征点定位等,以同时提高多任务的效果。另一种,期望重建出精细化的三维人脸,包括对表情和细节的恢复。

1.Deep3DFace:《Accurate 3D Face Reconstruction with Weakly-Supervised Learning: From Single Image to Image Set》arXiv 2019

2.Genova_2018_CVPR:《Unsupervised Training for 3D Morphable Model Regression》CVPR2018

3.CoMA: 《Generating 3D faces using Convolutional Mesh Autoencoders》ECCV2018

提出一种基于卷积面片自编码重建网络来获得三维人脸形状信息。

4.PRnet:《Joint 3D Face Reconstruction and Dense Alignment with Position Map Regression Network》ECCV2018

一篇针对三维人脸重建与对齐的论文,文章通过恢复稠密的3D人脸形状来定位2D人脸图片上的特征点,同时完成估计人脸姿态,人脸交换等应用。文中提到用uv-map来表示3D形状,实现了从端到端的网络结构。

5.extreme_3d_faces:《Extreme 3D Face Reconstruction: Seeing Through Occlusions》CVPR2018

文章方法先恢复一个基础形状,表情,六维视角自由度,然后估计一个凹凸贴图,用来捕捉人脸皱纹和非参的中级特征,再补全人脸被遮挡区域。

6.pix2vertex:《Unrestricted Facial Geometry Reconstruction Using Image-to-Image Translation》ICCV 2017(Sela17)

文章通过一个Image-to-Image转换网络,从一张二维图像中恢复一张普通深度图像与一张稠密对应图。根据文中提到的迭代弹性形变算法(实际是一种非刚性三维人脸对齐方法)将2.5D图像转化3D人脸网格。

7.CNN3DMM:《Regressing Robust and Discriminative 3D Morphable Models With a Very Deep Neural Network》CVPR2017

本文介绍的是上2文中恢复基础形状的方法,利用ResNet101深层神经网络框架,从in-the-wild二维图像恢复三维人脸形状,并用于识别,在文中针对训练数据量不足提出数据扩充方法,利用一篇多图三维人脸重建文章方法生成足量的带标签的三维人脸,训练过程仍采用回归3DMM参数的方法。

8.Richardson_CVPR2017:《Learning Detailed Face Reconstruction from a Single Image》CVPR2017


9.E2FAR:《End-To-End 3D Face Reconstruction With Deep Neural Networks》CVPR2017

文章采用端到端的方法估计最优3DMM参数,输入是二维图像及其感兴趣区域,采用Dlib进行特征点检测,将恢复人脸身份形状和表情形状作分为人脸重建的两个子任务,输出包含身份参数向量和表情参数向量。

10.VRN:《Large Pose 3D Face Reconstruction from a Single Image via Direct Volumetric CNN Regression》ICCV2017

采用体素方法进行三维人脸重建,对人脸而言重建精度不高,但是一种很好的三维人体重建方法。

11.3DMMasSTN:《3D Morphable Models as Spatial Transformer Networks》ICCVW2017

3DMM方法作为空间转化网络的应用,利用3DMM恢复三维人脸形状从而得到姿态归一化和补全自遮挡的人脸图片。

12.3DDFA:《Face Alignment in Full Pose Range: A 3D Total Solution》CVPR2016

通过恢复稠密的三维形状,以解决大姿态人脸2D特征点检测的问题。文中提到,这是第一篇利用CNN来解决3D人脸对齐问题的文章,网络通过输入PNCC图和原始二维图,输出234维参数(包括6维姿态参数[缩放参数,pitch,yaw,roll偏转角,沿xy轴的平移量],199维3DMM形状参数,29维3DMM表情参数),利用得到的系数更新原始的PNCC图,再与原图一起进行迭代。

13.EOSand4Dface:《A Multiresolution 3D Morphable Face Model and Fitting Framework》Visapp 2016 and 《Real-Time 3D Face Fitting and Texture Fusion on In-the-Wild Videos》 IEEE Signal Processing Letters24.4 (2017)

这篇文章的方法主要致力于将3DMM应用到实际开发中,作者提出一个基于C++的拟合框架,可支持Surrey Face Model (SFM), 4D Face Model (4DFM), and the Basel Face Model (BFM) 2009 and 2017数据库,目前这个拟合框架仍在更新。


二、多图三维人脸重建开源算法

大部分基于多图的三维人脸的工作,希望从同一个人不同时间和环境拍摄的图像集合中恢复一个标准的具有身份信息的人脸形状(不带姿态,表情,纹理等),

1.AFAR:《Adaptive 3D Face Reconstruction from Unconstrained Photo Collections》CVPR2016

这篇文章在首先在CVPR2015提出,在CVPR2016对算法细节进行了改进,先基于从粗到细的方法,利用二维图片的特征点拟合3DMM系数,再根据PS方法对精细的细节进行恢复,最后得到三维人脸。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,287评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,346评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,277评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,132评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,147评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,106评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,019评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,862评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,301评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,521评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,682评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,405评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,996评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,651评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,803评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,674评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,563评论 2 352

推荐阅读更多精彩内容

  • 针对3D人脸重建算法的研究从上个世纪就有学者开始研究,目前基础的方法有如下几类: 1.基于3DMM(3D morp...
    田田ww阅读 8,009评论 0 4
  • 一、引言 目前,2D人脸对齐技术已经相当成熟,而3D 人脸重构和3D 人脸对齐一直是一个研究的热点问题。目前普遍的...
    LuDon阅读 7,554评论 3 8
  • 研究僧上了一年,虽说研究的是CV方面的东西,但基本还是处于小白阶段,忙来忙去不知道忙了些啥就这么荒废了一年(...
    XmasReindeer阅读 33,479评论 8 33
  • 本篇文章十分的长,大概有2万7千字左右。 一、发展史 1、人脸识别的理解: 人脸识别(Face Recogniti...
    城市中迷途小书童阅读 2,682评论 0 20
  • 五月初开的花: 樱花、石榴 牡丹花 油菜花 五月槐花开 樱花,榴花照眼。萱北乡。夜合始交。薝匐有香。锦葵开。山丹赪...
    柒可凡南苍术阅读 1,387评论 14 47