CN103765479A - 基于图像的多视点3d脸部生成 - Google Patents
基于图像的多视点3d脸部生成 Download PDFInfo
- Publication number
- CN103765479A CN103765479A CN201180073144.4A CN201180073144A CN103765479A CN 103765479 A CN103765479 A CN 103765479A CN 201180073144 A CN201180073144 A CN 201180073144A CN 103765479 A CN103765479 A CN 103765479A
- Authority
- CN
- China
- Prior art keywords
- grid
- face
- dense
- incarnation
- generate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/28—Determining representative reference patterns, e.g. by averaging or distorting; Generating dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
- G06T7/596—Depth or shape recovery from multiple images from stereo images from three or more stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/772—Determining representative reference patterns, e.g. averaging or distorting patterns; Generating dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/08—Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Abstract
描述系统、设备和方法,其包括:恢复多个2D脸部图像的相机参数和稀疏关键点;以及运用多视点立体过程以便利用相机参数和稀疏关键点来生成稠密化身网格。然后,可以利用稠密化身网格来生成3D脸部模型,并可以运用多视点纹理合成来生成3D脸部模型的纹理图像。
Description
背景技术
人脸特征的3D建模普遍用于创建人的真实感3D表示。例如,诸如化身(avatar)的虚拟人表示常常利用这样的模型。生成的3D脸部的常规应用需要手动标记特征点。尽管这些技术可以采用形变模型拟合,但是如果它们允许自动脸部标志点检测并采用多视点立体(MVS)技术则会是合意的。
附图说明
附图中以实例的方式而不以限制的方式示出本文所描述的题材。为了简单、清楚地说明,图中示出的元件不一定按比例绘制。例如,为清楚起见,一些元件的尺寸可能相对于其它元件有所夸大。此外,在认为合适时,附图中重复使用附图标记来指示对应或类似的元件。图中:
图1是实例系统的说明性图;
图2示出实例3D脸部模型生成过程;
图3示出边界框和标识的脸部标志点的实例;
图4示出多个恢复的相机和对应的稠密化身网格的实例;
图5示出将重建的形变脸部网格融合到稠密化身网格的实例;
图6示出实例形变脸部网格三角形;
图7示出实例角度加权的纹理合成方法;
图8示出用于生成最终的3D脸部模型的纹理图像与对应的平滑3D脸部模型的实例组合;以及
图9是全都按照本公开的至少一些实现布置的实例系统的说明性图。
具体实施方式
现在参考附图描述一个或多个实施例或实现。尽管论述了特定的配置和布置,但是应了解,这样做只是为了说明的目的。本领域技术人员将意识到,在不偏离本描述的精神和范围的情况下,可以采用其它配置和布置。本领域技术人员将明白,也可以在不同于本文所描述的各种其它系统和应用中采用本文所描述的技术和/或布置。
尽管以下描述阐述了例如可在诸如芯片上系统(SoC)架构的架构中证明的各种实现,但是本文描述的技术和/或布置的实现不限于特定的架构和/或计算系统,并且出于类似的目的,可以由任何架构和/或计算系统来实现。例如,采用例如多个集成电路(IC)芯片和/或封装的各种架构、和/或诸如机顶盒、智能电话等各种计算设备和/或消费型电子(CE)设备可以实现本文所描述的技术和/或布置。此外,尽管以下描述可能会阐述诸如系统组件的逻辑实现、类型和相互关系、逻辑分区/集成选择等众多具体细节,但是在没有这些具体细节的情况下也可以实践要求权利的主题。例如,在其它情况下,可能没有详细示出诸如控制结构和全软件指令序列的一些题材,以免使本文所公开的题材晦涩难懂。
本文所公开的题材可以用硬件、固件、软件或其任意组合来实现。本文所公开的题材也可以作为存储在机器可读介质上的指令来实现,这些指令可以由一个或多个处理器读取并执行。机器可读介质可以包括用于存储或传送可由机器(例如,计算设备)读取的形式的信息的任何介质和/或机构。例如,机器可读介质可以包括:只读存储器(ROM);随机存取存储器(RAM);磁盘存储介质;光存储介质;闪速存储器设备;电、光、声或其它形式的传播信号(例如,载波、红外信号、数字信号等);以及其它。
说明书中提到“一个实现”、“实现”、“实例实现”等时表示,所描述的实现可以包括特定特征、结构或特性,但不是每个实现都一定要包含该特定特征、结构或特性。而且,这些短语不一定指相同的实现。此外,当结合一个实现描述特定特征、结构或特性时,认为,本领域技术人员知道结合其它实现来实施该特征、结构或特性,而不管本文是否进行了明确描述。
图1示出根据本公开的实例系统100。在各种实现中,系统100可以包括图像捕捉模块102和3D脸部模拟模块110,它们能够如本文将描述地那样生成包括脸部纹理的3D脸部模型。在各种实现中,可以在字符建模和创建、计算机图形、视频会议、在线游戏、虚拟现实应用等中采用系统100。此外,系统100可以适于诸如感知计算、数字家庭娱乐、消费型电子等应用。
图像捕捉模块102包括诸如照相机或摄像机的一个或多个图像捕捉设备104。在一些实现中,可以在对象脸部108周围沿弧线或轨迹106移动单个相机104以便生成脸部108的一系列图像,其中如下文将更详细地解释的,每个图像相对于脸部108的视角是不同的。在其它实现中,可以采用相对于脸部108成各种角度定位的多个成像设备104。一般来说,可以在捕捉模块102中采用任何数量的已知的图像捕捉系统和/或技术来生成图像序列(例如,参见Seitz等人的“A
Comparison and Evaluation of Multi-View Stereo Reconstruction Algorithms,” In
Proc. IEEE Conf. on Computer Vision and Pattern Recognition, 2006)(下文称为“Seitz等人”)。
图像捕捉模块102可以将图像序列提供给模拟模块110。模拟模块110至少包括脸部检测模块112、多视点立体(MVS)模块114、3D形变脸部模块116、对齐模块118和纹理模块120,下文将更加详细地解释这些模块的功能性。一般来说,如也将在下文更加详细地解释的,模拟模块110可用于从由捕捉模块102所提供的图像中选择图像,对选择的图像执行脸部检测以便获得脸部边界框和脸部标志点,恢复相机参数并获得稀疏关键点,执行多视点立体技术以便生成稠密化身网格,将网格拟合到形变3D脸部模型,通过对3D脸部模型进行对齐和平滑处理来精炼3D脸部模型,并合成脸部模型的纹理图像。
在各种实现中,图像捕捉模块102和模拟模块110可以彼此相邻或接近。例如,图像捕捉模块102可以采用摄像机作为成像设备104,并且模拟模块110可以通过计算系统来实现,该计算系统从设备104直接接收图像序列,然后对这些图像进行处理以便生成3D脸部模型和纹理图像。在其它实现中,图像捕捉模块102和模拟模块110可以彼此远离。例如,远离图像捕捉模块102的一个或多个服务器计算机可以实现模拟模块110,其中模块110可以经由例如互联网从模块102接收图像序列。此外,在各种实现中,模拟模块110可以由软件、固件和/或硬件的任意组合来提供,软件、固件和/或硬件可以或者可以不分布在各种计算系统间。
图2示出根据本公开的各种实现用于生成3D脸部模型的实例过程200的流程图。过程200可以包括如图2的方框202、204、206、208、210、212、214和216中的一个或多个方框所示的一个或多个操作、功能或动作。作为非限制性实例,本文将参考图1的实例系统来描述过程200。过程200可以在方框202开始。
在方框202,可以捕捉脸部的多个2D图像,并且可以选择这些图像中的各种图像用于进一步处理。在各种实现中,方框202可以涉及利用普通的商用相机来从不同的视角记录人脸的视频图像。例如,可以在脸部保持静止并维持中性表情的同时在人头部前方周围跨越大约180度的不同定向记录视频历时大约10秒的持续时间。这可导致捕捉大约三百个2D图像(假设每秒三十帧的标准视频帧速率)。接着,可以解码得到的视频,并手动地或者通过利用自动选择方法来选择大约30个左右的脸部图像的子集(例如,参见R.
Hartley and A. Zisserman, “Multiple View Geometry in
Computer Vision,” Chapter 12, Cambridge Press, Second Version (2003))。在一些实现中,选择的相邻图像之间的角度(如相对于被成像对象所测量的)可以是10度或更小。
接着,在方框204,可以对选择的图像执行脸部检测和脸部标志点标识,以便生成对应的脸部边界框以及边界框内的所标识的标志点。在各种实现中,方框204可以涉及运用已知的自动化多视点脸部检测技术(例如,参见Kim
et al., “Face Tracking and Recognition with Visual Constraints in Real-World
Videos”, In IEEE Conf. Computer Vision and Pattern Recognition (2008)),以便利用脸部边界框描画每个图像中的脸部轮廓和脸部标志点,从而限制标识标志点的区域并去除外界的背景图像内容。例如,图3示出对于人脸308的2D图像306的边界框302和所标识的脸部标志点304的非限制性实例。
在方框206,可以确定每个图像的相机参数。在各种实现中,方框206可以包括对于每个图像提取稳定的关键点并利用诸如“Seitz等人”中所描述的已知的自动相机参数恢复技术来获得特征点的稀疏集合以及包括相机投影矩阵的相机参数。在一些实例中,系统100的脸部检测模块112可以进行方框204和/或方框206。
在方框208,可以运用多视点立体(MVS)技术以便从稀疏特征点和相机参数生成稠密化身网格。在各种实现中,方框208可以涉及对于脸部图像对执行已知的立体单应(homography)与多视点对齐和整合技术。例如,如WO2010133007(“Techniques
for Rapid Stereo Reconstruction from Images”)中所描述的,对于一对图像,可以用已知的相机参数对通过单应拟合获得的优化的图像点对进行三角测量以便获得稠密化身网格中的三维点。例如,图4示出可在方框206获得的多个恢复的相机402(例如,如恢复的相机参数所指定的)以及可在方框208获得的对应的稠密化身网格404的非限制性实例。在一些实例中,系统100的MVS模块114可以进行方框208。
返回到图2的论述,在方框210,可以将在方框208获得的稠密化身网格拟合到3D形变模型,以便生成重建的3D形变脸部网格。接着,在方框212,可以将稠密化身网格对齐到重建的形变脸部网格并进行精炼,以便生成平滑的3D脸部模型。在一些实例中,系统100的3D形变模型模块116和对齐模块118可以分别进行方框210和212。
在各种实现中,方框210可以涉及从脸部数据集合获悉形变脸部模型。例如,脸部数据集合可以包括指定稠密化身网格中的每个点或顶点的形状数据(例如,笛卡尔坐标系统中的(x,
y, z)网格坐标)和纹理数据(红色、绿色和蓝色强度值)。可以分别通过相应的列向量(x1,
y1, z1, x2, y2, z2, …, xn, yn, zn)t和(R1,
G1, B1, R2, G2, B2, …, Rn, Gn, Zn)t(其中,n是脸部中的特征点或顶点的数量)来表示形状和纹理。
可以利用下式来将通用脸部表示为3D形变脸部模型:
其中,X 0是平均列向量,λi是第i个本征值,U i是第i个本征向量,并且α i是第i个本征值的重建的度量系数。然后,可以通过调整系数集合{α} n 来将由式(1)表示的模型变形为各种形状。
将稠密化身网格拟合到式(1)的3D形变脸部模型可以涉及在分析上将形变模型顶点S mod定义为:
在拟合过程中,可以运用模型先验,从而导致以下的成本函数:
其中,式(3)假设,表示合格形状的概率直接取决于基准。较大的α值对应于重建脸部和平均脸部之间的较大差别。参数η折衷先验概率和式(3)中的拟合质量,并且它可以通过使以下成本函数最小化来迭代地确定:
当以下条件适用时,可以使式(4)最小化:
利用式(5),可以将α迭代地更新为α=α+δα。另外,在一些实现中,可以迭代地调整η,其中可以在初始时将η设置为w 0 2(例如,最大奇异值),并且η可以减小为较小奇异值的平方。
在各种实现中,给定在方框210处提供重建形变脸部网格形式的重建3D点,方框212处的对齐可以涉及搜索使得从重建3D点到形变脸部网格的距离最小所需的脸部姿势和度量系数。脸部姿势可以通过将从中性脸部模型的坐标框架变换为稠密化身网格的坐标框架来提供,其中R是3×3旋转矩阵,t是平移,并且s是全局标度。对于任何3D向量p,可以采用符号T(p) = sRp + t。
相机框中的脸部网格的顶点坐标是度量系数和脸部姿势的函数。给定度量系数{α 1, α 2, …, αn }和姿势T,可以通过下式来提供相机框中的脸部几何形状:
在脸部网格是三角形网格的实例中,三角形上的任何点可以表示为在重心坐标中测量的这三个三角形顶点的线性组合。因此,三角形上的任何点可以表示为T和度量系数的函数。此外,当T固定时,它可以表示为本文所描述的度量系数的线性函数。
接着,可以通过使下式最小化来获得姿势T和度量系数{α 1, α 2, …, αn }:
其中,(p1 , p2 ,
…, pn )表示重建脸部网格的点,并且d(pi , S)表示从点pi 到脸部网格S的距离。式(7)可以利用迭代闭合点(ICP)方法来求解。例如,在每次迭代时,T可以固定,并且对于每个点pi ,可以标识当前脸部网格S上的最近点gi 。接着,可以使误差E最小化(式(7)),并利用式(1)-(5)来获得重建度量系数。然后,可以通过固定度量系数{α 1, α 2, …, αn }来找到脸部姿势T。在各种实现中,这可以涉及:构建稠密化身网格点的kd树,搜索形变脸部模型的稠密点中的闭合点,并利用最小二乘技术来获得姿势变换T。ICP可以继续进一步迭代,直到误差E收敛,并且重建度量系数和姿势T稳定。
在对齐稠密化身网格(从方框208处的MVS处理获得)和重建的形变脸部网格(在方框210获得)之后,可以通过将稠密化身网格融合到重建的形变脸部网格来对结果进行精炼或平滑处理。例如,图5示出用于将重建的形变脸部网格502融合到稠密化身网格504以便获得平滑的3D脸部模型506的非限制性实例。
在各种实现中,对3D脸部模型进行平滑处理可以包括:在脸部网格的周围创建圆柱形平面,并将形变脸部模型和稠密化身网格展开到该平面。对于稠密化身网格的每个顶点,可以标识包括该顶点的形变脸部网格的三角形,并且可以找到该顶点在三角形内的重心坐标。然后,可以按照稠密点和形变脸部网格中的对应点的加权组合来生成精炼点。可以通过下式来提供稠密化身网格中的点pi 的精炼:
其中,α和β是权重,(q1 , q2 , q3 )是包含点pi 的形变脸部网格三角形的三个顶点,并且(c1 , c2 , c3 )是如图6所示的三个子三角形的归一化面积。在各种实现中,方框212的至少部分可以通过系统100的对齐模块118来进行。
在方框212生成平滑的3D脸部网格之后,在方框214,可以利用相机投影矩阵以便通过运用多视点纹理合成来合成对应的脸部纹理。在各种实现中,方框214可以涉及利用角度加权的纹理合成方法来确定最终的脸部纹理(例如,纹理图像),其中对于稠密化身网格中的每个点或三角形,可以利用对应的投影矩阵来获得各个2D脸部图像中的投影点或三角形。
图7示出根据本公开可以在方框214运用的实例角度加权纹理合成方法700。在各种实现中,方框214可以涉及:对于稠密化身网格的每个三角形,对从脸部图像序列获得的所有投影三角形的纹理数据进行加权组合。如图7的实例所示,可以朝向两个实例相机C1和C2(具有相应的相机中心O1和O2)投影3D点P,该3D点P与稠密化身网格702中的三角形相关联并且相对于在点P处与网格702正切的平面704的表面定义了法线N,从而在由相机C1和C2捕捉的相应脸部图像706和708中得到2D投影点P1和P2。
接着,可以通过法线N与相应相机的主轴之间的角度的余弦来对点P1和P2的纹理值加权。例如,可以通过在法线N与相机C1的主轴Z1之间形成的角度710的余弦来对点P1的纹理值加权。类似地,尽管为了清楚起见没有在图7中示出,但是可以通过在法线N与相机C2的主轴Z2之间形成的角度的余弦来对点P2的纹理值加权。可以对图像序列中的所有相机做出类似确定,并且可以利用组合的加权纹理值来生成点P及其相关联的三角形的纹理值。方框214可以涉及对于稠密化身网格中的所有点进行类似过程,以便生成对应于在方框212生成的平滑的3D脸部模型的纹理图像。在各种实现中,方框214可以由系统100的纹理模块120来进行。
过程200可以在方框216结束,在方框216,可以利用已知技术来组合平滑的3D脸部模型和对应的纹理图像,从而生成最终的3D脸部模型。例如,图8示出用于生成最终的3D脸部模型806的纹理图像802和对应的平滑3D脸部模型804的组合的实例。在各种实现中,可以用任何标准的3D数据格式(例如,.ply、.obj等)来提供最终的脸部模型。
尽管如图2所示的实例过程200的实现可以包括按照所示的顺序进行所示出的所有方框,但是本公开在这方面不受限制,并且在各种实例中,过程200的实现可以包括只进行所示出的所有方框的子集,和/或按照与所示的顺序不同的顺序进行所示出的方框。另外,可以响应由一个或多个计算机程序产品所提供的指令来进行图2的方框中的任何一个或多个方框。这些程序产品可以包括提供指令的信号承载介质,这些指令在由例如一个或多个处理器核执行时可以提供本文所描述的功能性。计算机程序产品可以在任何形式的计算机可读介质中提供。因此,例如,包括一个或多个处理器核的处理器可以响应通过计算机可读介质传达给处理器的指令进行或者配置为进行图2中所示出的一个或多个方框。
图9示出根据本公开的实例系统900。系统900可用于执行本文论述的各种功能中的一些或所有功能,并且可以包括能够进行根据本公开的各种实现的基于图像的多视点3D脸部生成的任何设备或设备合集。例如,系统900可以包括诸如桌面型计算机、移动或平板计算机、智能电话、机顶盒等计算平台或设备的选定组件,但是本公开在这方面不受限制。在一些实现中,系统900可以是CE设备的基于Intel®架构(IA)的计算平台或SoC。本领域技术人员将容易地明白,在不偏离本公开的范围的情况下,本文描述的实现可以与备选处理系统一起使用。
系统900包括具有一个或多个处理器核904的处理器902。处理器核904可以是至少能够部分地执行软件和/或处理数据信号的任何类型的处理器逻辑。在各种实例中,处理器核904可以包括CISC处理器核、RISC微处理器核、VLIW微处理器核和/或实现指令集的任意组合的任意数量的处理器核、或诸如数字信号处理器或微控制器的任何其它处理器设备。
处理器902还包括解码器906,它可用于将由例如显示处理器908和/或图形处理器910接收的指令解码为控制信号和/或微代码输入点。尽管在系统900中示为不同于核904的组件,但是本领域技术人员可意识到,核904中的一个或多个核可以实现解码器906、显示处理器908和/或图形处理器910。在一些实现中,处理器902可以配置成进行本文所描述的任何过程,包括关于图2描述的实例过程。此外,响应控制信号和/或微代码输入点,解码器906、显示处理器908和/或图形处理器910可以执行对应操作。
处理核904、解码器906、显示处理器908和/或图形处理器910可以通过系统互连916在通信上和/或在操作上与彼此和/或与各种其它系统设备耦合,各种其它系统设备可以包括但不限于例如存储器控制器914、音频控制器918和/或外围设备920。外围设备920可以包括例如统一串行总线(USB)主机端口、外围组件互连(PCI)快速端口、串行外围接口(SPI)接口、扩展总线和/或其它外围设备。尽管图9将存储器控制器914示为通过互连916耦合到解码器906与处理器908和910,但是在各种实现中,存储器控制器914可以直接耦合到解码器906、显示处理器908和/或图形处理器910。
在一些实现中,系统900可以经由I/O总线(图9中未示出)与同样在图9中没有示出的各种I/O设备通信。这些I/O设备可以包括但不限于例如通用异步接收器/传送器(UART)设备、USB设备、I/O扩展接口或其它I/O设备。在各种实现中,系统900可以代表用于进行移动、网络和/或无线通信的系统的至少部分。
系统900还可包括存储器912。存储器912可以是一个或多个离散存储器组件,例如动态随机存取存储器(DRAM)设备、静态随机存取存储器(SRAM)设备、闪速存储器设备或其它存储器设备。尽管图9将存储器912示为位于处理器902的外部,但是在各种实现中,存储器912可以位于处理器902的内部。存储器912可以存储由数据信号表示的指令和/或数据,它们可以在进行包括关于图2描述的实例过程的本文描述的任何过程中由处理器902执行。例如,存储器912可以存储表示如本文所描述的相机参数、2D脸部图像、稠密化身网格、3D脸部模型等的数据。在一些实现中,存储器912可以包括系统存储器部分和显示存储器部分。
诸如实例系统100的本文描述的设备和/或系统表示根据本公开的许多可能的设备配置、架构或系统中的若干个。符合本公开的系统的众多变化(例如实例系统100的变化)是可能的。
上文描述的系统以及如本文所描述的由它们执行的处理可以用硬件、固件、或软件或其任意组合来实现。另外,本文公开的任意一个或多个特征可以用包括离散和集成电路逻辑、专用集成电路(ASIC)逻辑和微控制器的硬件、软件、固件及其组合来实现,并且可以作为域特定集成电路封装的部分或集成电路封装的组合来实现。如本文所用的,术语“软件”是指包括计算机可读介质的计算机程序产品,在计算机可读介质中存储有计算机程序逻辑,以便使计算机系统执行本文所公开的一个或多个特征和/或特征的组合。
尽管参考各种实现描述了本文所阐述的某些特征,但是不希望以限制的含义来解释本描述。因此,本文描述的实现的各种修改以及对于本公开所属领域的技术人员来说显而易见的其它实现视为落在本公开的精神和范围内。
Claims (20)
1. 一种计算机实现的方法,包括:
接收多个2D脸部图像;
从所述多个脸部图像恢复相机参数和稀疏关键点;
运用多视点立体过程以便响应所述相机参数和稀疏关键点生成稠密化身网格;
拟合所述稠密化身网格以便生成3D脸部模型;以及
运用多视点纹理合成以便生成与所述3D脸部模型相关联的纹理图像。
2. 如权利要求1所述的方法,还包括对每个脸部图像执行脸部检测。
3. 如权利要求2所述的方法,其中对每个脸部图像执行脸部检测包括对于每个图像自动生成脸部边界框以及自动标识脸部标志点。
4. 如权利要求1所述的方法,其中拟合所述稠密化身网格以便生成所述3D脸部模型包括:
拟合所述稠密化身网格以便生成重建的形变脸部网格;以及
将所述稠密化身网格对齐到所述重建的形变脸部网格以便生成所述3D脸部模型。
5. 如权利要求4所述的方法,其中拟合所述稠密化身网格以便生成所述重建的形变脸部网格包括运用迭代闭合点技术。
6. 如权利要求4所述的方法,还包括精炼所述3D脸部模型以便生成平滑的3D脸部模型。
7. 如权利要求6所述的方法,还包括组合所述平滑的3D模型与所述纹理图像以便生成最终的3D脸部模型。
8. 如权利要求1所述的方法,其中恢复相机参数包括恢复与每个脸部图像相关联的相机位置,每个相机位置具有主轴,并且其中运用多视点纹理合成包括:
对于所述稠密化身网格中的点生成每个脸部图像中的投影点;
确定所述稠密化身网格中的所述点的法线与每个相机位置的主轴之间的角度的余弦值;以及
按照由所述对应余弦值加权的所述投影点的纹理值的函数生成所述稠密化身网格中的所述点的纹理值。
9. 一种系统,包括:
处理器以及耦合到所述处理器的存储器,其中所述存储器中的指令将所述处理器配置成:
接收多个2D脸部图像;
从所述多个脸部图像恢复相机参数和稀疏关键点;
运用多视点立体过程以便响应所述相机参数和稀疏关键点生成稠密化身网格;
拟合所述稠密化身网格以便生成3D脸部模型;以及
运用多视点纹理合成以便生成与所述3D脸部模型相关联的纹理图像。
10. 如权利要求9所述的系统,其中所述存储器中的指令还将所述处理器配置成对每个脸部图像执行脸部检测。
11. 如权利要求10所述的系统,其中对每个脸部图像执行脸部检测包括对于每个图像自动生成脸部边界框以及自动标识脸部标志点。
12. 如权利要求9所述的系统,其中拟合所述稠密化身网格以便生成所述3D脸部模型包括:
拟合所述稠密化身网格以便生成重建的形变脸部网格;以及
将所述稠密化身网格对齐到所述重建的形变脸部网格以便生成所述3D脸部模型。
13. 如权利要求12所述的系统,其中拟合所述稠密化身网格以便生成所述重建的形变脸部网格包括运用迭代闭合点技术。
14. 如权利要求9所述的系统,其中恢复相机参数包括恢复与每个脸部图像相关联的相机位置,每个相机位置具有主轴,并且其中运用多视点纹理合成包括:
对于所述稠密化身网格中的点生成每个脸部图像中的投影点;
确定所述稠密化身网格中的所述点的法线与每个相机位置的主轴之间的角度的余弦值;以及
按照由所述对应余弦值加权的所述投影点的纹理值的函数生成所述稠密化身网格中的所述点的纹理值。
15. 一种物品,包括计算机程序产品,在所述计算机程序产品中存储有指令,所述指令在执行时导致:
接收多个2D脸部图像;
从所述多个脸部图像恢复相机参数和稀疏关键点;
运用多视点立体过程以便响应所述相机参数和稀疏关键点生成稠密化身网格;
拟合所述稠密化身网格以便生成3D脸部模型;以及
运用多视点纹理合成以便生成与所述3D脸部模型相关联的纹理图像。
16. 如权利要求15所述的物品,所述计算机程序产品中还存储有指令,所述指令在执行时导致对每个脸部图像执行脸部检测。
17. 如权利要求16所述的物品,其中对每个脸部图像执行脸部检测包括对于每个图像自动生成脸部边界框以及自动标识脸部标志点。
18. 如权利要求15所述的物品,其中拟合所述稠密化身网格以便生成所述3D脸部模型包括:
拟合所述稠密化身网格以便生成重建的形变脸部网格;以及
将所述稠密化身网格对齐到所述重建的形变脸部网格以便生成所述3D脸部模型。
19. 如权利要求18所述的物品,其中拟合所述稠密化身网格以便生成所述重建的形变脸部网格包括运用迭代闭合点技术。
20. 如权利要求15所述的物品,其中恢复相机参数包括恢复与每个脸部图像相关联的相机位置,每个相机位置具有主轴,并且其中运用多视点纹理合成包括:
对于所述稠密化身网格中的点生成每个脸部图像中的投影点;
确定所述稠密化身网格中的所述点的法线与每个相机位置的主轴之间的角度的余弦值;以及
按照由所述对应余弦值加权的所述投影点的纹理值的函数生成所述稠密化身网格中的所述点的纹理值。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2011/001306 WO2013020248A1 (en) | 2011-08-09 | 2011-08-09 | Image-based multi-view 3d face generation |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103765479A true CN103765479A (zh) | 2014-04-30 |
Family
ID=47667838
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180073144.4A Pending CN103765479A (zh) | 2011-08-09 | 2011-08-09 | 基于图像的多视点3d脸部生成 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20130201187A1 (zh) |
EP (1) | EP2754130A4 (zh) |
JP (1) | JP5773323B2 (zh) |
KR (1) | KR101608253B1 (zh) |
CN (1) | CN103765479A (zh) |
WO (1) | WO2013020248A1 (zh) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018053703A1 (en) * | 2016-09-21 | 2018-03-29 | Intel Corporation | Estimating accurate face shape and texture from an image |
CN108446597A (zh) * | 2018-02-14 | 2018-08-24 | 天目爱视(北京)科技有限公司 | 一种基于可见光相机的生物特征3d数据采集方法及装置 |
CN108470150A (zh) * | 2018-02-14 | 2018-08-31 | 天目爱视(北京)科技有限公司 | 一种基于可见光相机的生物特征四维数据采集方法及装置 |
CN108470151A (zh) * | 2018-02-14 | 2018-08-31 | 天目爱视(北京)科技有限公司 | 一种生物特征模型合成方法及装置 |
CN108492330A (zh) * | 2018-02-14 | 2018-09-04 | 天目爱视(北京)科技有限公司 | 一种多目视觉深度计算方法及装置 |
CN108520230A (zh) * | 2018-04-04 | 2018-09-11 | 北京天目智联科技有限公司 | 一种3d四维手部图像数据识别方法及设备 |
CN109241810A (zh) * | 2017-07-10 | 2019-01-18 | 腾讯科技(深圳)有限公司 | 虚拟角色图像的构建方法及装置、存储介质 |
CN109360166A (zh) * | 2018-09-30 | 2019-02-19 | 北京旷视科技有限公司 | 一种图像处理方法、装置、电子设备和计算机可读介质 |
CN110728746A (zh) * | 2019-09-23 | 2020-01-24 | 清华大学 | 动态纹理的建模方法及系统 |
CN110807836A (zh) * | 2020-01-08 | 2020-02-18 | 腾讯科技(深圳)有限公司 | 三维人脸模型的生成方法、装置、设备及介质 |
CN110826501A (zh) * | 2019-11-08 | 2020-02-21 | 杭州趣维科技有限公司 | 一种基于稀疏关键点校准的人脸关键点检测方法与系统 |
CN111288970A (zh) * | 2020-02-26 | 2020-06-16 | 国网上海市电力公司 | 一种便携式带电距离测量装置 |
CN111652974A (zh) * | 2020-06-15 | 2020-09-11 | 腾讯科技(深圳)有限公司 | 三维人脸模型的构建方法、装置、设备及存储介质 |
Families Citing this family (184)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9105014B2 (en) | 2009-02-03 | 2015-08-11 | International Business Machines Corporation | Interactive avatar in messaging environment |
US9123144B2 (en) * | 2011-11-11 | 2015-09-01 | Microsoft Technology Licensing, Llc | Computing 3D shape parameters for face animation |
US9236024B2 (en) | 2011-12-06 | 2016-01-12 | Glasses.Com Inc. | Systems and methods for obtaining a pupillary distance measurement using a mobile computing device |
WO2013166588A1 (en) | 2012-05-08 | 2013-11-14 | Bitstrips Inc. | System and method for adaptable avatars |
US9378584B2 (en) * | 2012-05-23 | 2016-06-28 | Glasses.Com Inc. | Systems and methods for rendering virtual try-on products |
US9483853B2 (en) | 2012-05-23 | 2016-11-01 | Glasses.Com Inc. | Systems and methods to display rendered images |
US9286715B2 (en) | 2012-05-23 | 2016-03-15 | Glasses.Com Inc. | Systems and methods for adjusting a virtual try-on |
FR2998402B1 (fr) * | 2012-11-20 | 2014-11-14 | Morpho | Procede de generation d'un modele de visage en trois dimensions |
WO2014139118A1 (en) | 2013-03-14 | 2014-09-18 | Intel Corporation | Adaptive facial expression calibration |
US10044849B2 (en) | 2013-03-15 | 2018-08-07 | Intel Corporation | Scalable avatar messaging |
US9704296B2 (en) | 2013-07-22 | 2017-07-11 | Trupik, Inc. | Image morphing processing using confidence levels based on captured images |
US9524582B2 (en) | 2014-01-28 | 2016-12-20 | Siemens Healthcare Gmbh | Method and system for constructing personalized avatars using a parameterized deformable mesh |
US10586570B2 (en) | 2014-02-05 | 2020-03-10 | Snap Inc. | Real time video processing for changing proportions of an object in the video |
US10852838B2 (en) * | 2014-06-14 | 2020-12-01 | Magic Leap, Inc. | Methods and systems for creating virtual and augmented reality |
US9679412B2 (en) | 2014-06-20 | 2017-06-13 | Intel Corporation | 3D face model reconstruction apparatus and method |
WO2016040377A1 (en) * | 2014-09-08 | 2016-03-17 | Trupik, Inc. | Systems and methods for image generation and modeling of complex three-dimensional objects |
KR101997500B1 (ko) | 2014-11-25 | 2019-07-08 | 삼성전자주식회사 | 개인화된 3d 얼굴 모델 생성 방법 및 장치 |
US10360469B2 (en) | 2015-01-15 | 2019-07-23 | Samsung Electronics Co., Ltd. | Registration method and apparatus for 3D image data |
US9111164B1 (en) | 2015-01-19 | 2015-08-18 | Snapchat, Inc. | Custom functional patterns for optical barcodes |
TW201629907A (zh) * | 2015-02-13 | 2016-08-16 | 啟雲科技股份有限公司 | 三維頭像產生系統及其裝置、產生方法 |
US10116901B2 (en) | 2015-03-18 | 2018-10-30 | Avatar Merger Sub II, LLC | Background modification in video conferencing |
US9646411B2 (en) * | 2015-04-02 | 2017-05-09 | Hedronx Inc. | Virtual three-dimensional model generation based on virtual hexahedron models |
CN104966316B (zh) * | 2015-05-22 | 2019-03-15 | 腾讯科技(深圳)有限公司 | 一种3d人脸重建方法、装置及服务器 |
KR20170019779A (ko) * | 2015-08-12 | 2017-02-22 | 트라이큐빅스 인크. | 휴대용 카메라를 이용한 3차원 얼굴 모델 획득 방법 및 장치 |
KR102285376B1 (ko) * | 2015-12-01 | 2021-08-03 | 삼성전자주식회사 | 3d 얼굴 모델링 방법 및 3d 얼굴 모델링 장치 |
US9911073B1 (en) * | 2016-03-18 | 2018-03-06 | Snap Inc. | Facial patterns for optical barcodes |
US10339365B2 (en) | 2016-03-31 | 2019-07-02 | Snap Inc. | Automated avatar generation |
US10474353B2 (en) | 2016-05-31 | 2019-11-12 | Snap Inc. | Application control using a gesture based trigger |
US10360708B2 (en) | 2016-06-30 | 2019-07-23 | Snap Inc. | Avatar based ideogram generation |
US10855632B2 (en) | 2016-07-19 | 2020-12-01 | Snap Inc. | Displaying customized electronic messaging graphics |
KR20180036156A (ko) * | 2016-09-30 | 2018-04-09 | 주식회사 레드로버 | 증강현실을 이용한 게임 제공장치 및 그 방법 |
US10609036B1 (en) | 2016-10-10 | 2020-03-31 | Snap Inc. | Social media post subscribe requests for buffer user accounts |
US10198626B2 (en) | 2016-10-19 | 2019-02-05 | Snap Inc. | Neural networks for facial modeling |
US10593116B2 (en) | 2016-10-24 | 2020-03-17 | Snap Inc. | Augmented reality object manipulation |
US10432559B2 (en) | 2016-10-24 | 2019-10-01 | Snap Inc. | Generating and displaying customized avatars in electronic messages |
EP3545497B1 (en) | 2016-11-22 | 2021-04-21 | Lego A/S | System for acquiring a 3d digital representation of a physical object |
US11616745B2 (en) | 2017-01-09 | 2023-03-28 | Snap Inc. | Contextual generation and selection of customized media content |
US10242503B2 (en) | 2017-01-09 | 2019-03-26 | Snap Inc. | Surface aware lens |
US10242477B1 (en) | 2017-01-16 | 2019-03-26 | Snap Inc. | Coded vision system |
US10951562B2 (en) | 2017-01-18 | 2021-03-16 | Snap. Inc. | Customized contextual media content item generation |
US10454857B1 (en) | 2017-01-23 | 2019-10-22 | Snap Inc. | Customized digital avatar accessories |
US10198858B2 (en) | 2017-03-27 | 2019-02-05 | 3Dflow Srl | Method for 3D modelling based on structure from motion processing of sparse 2D images |
US11069103B1 (en) | 2017-04-20 | 2021-07-20 | Snap Inc. | Customized user interface for electronic communications |
WO2018195485A1 (en) * | 2017-04-21 | 2018-10-25 | Mug Life, LLC | Systems and methods for automatically creating and animating a photorealistic three-dimensional character from a two-dimensional image |
KR20230048445A (ko) | 2017-04-27 | 2023-04-11 | 스냅 인코포레이티드 | 소셜 미디어 플랫폼상의 사용자 위치의 지역적 레벨 표현 |
US11893647B2 (en) | 2017-04-27 | 2024-02-06 | Snap Inc. | Location-based virtual avatars |
US10212541B1 (en) | 2017-04-27 | 2019-02-19 | Snap Inc. | Selective location-based identity communication |
CN108876879B (zh) * | 2017-05-12 | 2022-06-14 | 腾讯科技(深圳)有限公司 | 人脸动画实现的方法、装置、计算机设备及存储介质 |
US10679428B1 (en) | 2017-05-26 | 2020-06-09 | Snap Inc. | Neural network-based image stream modification |
US11122094B2 (en) | 2017-07-28 | 2021-09-14 | Snap Inc. | Software application manager for messaging applications |
US10586368B2 (en) | 2017-10-26 | 2020-03-10 | Snap Inc. | Joint audio-video facial animation system |
US10657695B2 (en) | 2017-10-30 | 2020-05-19 | Snap Inc. | Animated chat presence |
US11460974B1 (en) | 2017-11-28 | 2022-10-04 | Snap Inc. | Content discovery refresh |
KR102517427B1 (ko) | 2017-11-29 | 2023-04-03 | 스냅 인코포레이티드 | 전자 메시징 애플리케이션들을 위한 그래픽 렌더링 |
KR102433817B1 (ko) | 2017-11-29 | 2022-08-18 | 스냅 인코포레이티드 | 전자 메시징 애플리케이션에서의 그룹 스토리들 |
US10949648B1 (en) | 2018-01-23 | 2021-03-16 | Snap Inc. | Region-based stabilized face tracking |
US10726603B1 (en) | 2018-02-28 | 2020-07-28 | Snap Inc. | Animated expressive icon |
US10979752B1 (en) | 2018-02-28 | 2021-04-13 | Snap Inc. | Generating media content items based on location information |
US11310176B2 (en) | 2018-04-13 | 2022-04-19 | Snap Inc. | Content suggestion system |
KR20200143464A (ko) | 2018-04-18 | 2020-12-23 | 스냅 인코포레이티드 | 증강 표현 시스템 |
US11769309B2 (en) * | 2018-04-30 | 2023-09-26 | Mathew Powers | Method and system of rendering a 3D image for automated facial morphing with a learned generic head model |
US11854156B2 (en) * | 2018-04-30 | 2023-12-26 | Mathew Powers | Method and system of multi-pass iterative closest point (ICP) registration in automated facial reconstruction |
CN112042182B (zh) * | 2018-05-07 | 2022-12-13 | 谷歌有限责任公司 | 通过面部表情操纵远程化身 |
JP7271099B2 (ja) * | 2018-07-19 | 2023-05-11 | キヤノン株式会社 | ファイルの生成装置およびファイルに基づく映像の生成装置 |
US10753736B2 (en) * | 2018-07-26 | 2020-08-25 | Cisco Technology, Inc. | Three-dimensional computer vision based on projected pattern of laser dots and geometric pattern matching |
US11074675B2 (en) | 2018-07-31 | 2021-07-27 | Snap Inc. | Eye texture inpainting |
US11030813B2 (en) | 2018-08-30 | 2021-06-08 | Snap Inc. | Video clip object tracking |
US10896534B1 (en) | 2018-09-19 | 2021-01-19 | Snap Inc. | Avatar style transformation using neural networks |
US10895964B1 (en) | 2018-09-25 | 2021-01-19 | Snap Inc. | Interface to display shared user groups |
US10904181B2 (en) | 2018-09-28 | 2021-01-26 | Snap Inc. | Generating customized graphics having reactions to electronic message content |
US10698583B2 (en) | 2018-09-28 | 2020-06-30 | Snap Inc. | Collaborative achievement interface |
US11245658B2 (en) | 2018-09-28 | 2022-02-08 | Snap Inc. | System and method of generating private notifications between users in a communication session |
US11189070B2 (en) | 2018-09-28 | 2021-11-30 | Snap Inc. | System and method of generating targeted user lists using customizable avatar characteristics |
SG11202102961YA (en) | 2018-10-26 | 2021-04-29 | Soul Machines Ltd | Digital character blending and generation system and method |
US11103795B1 (en) | 2018-10-31 | 2021-08-31 | Snap Inc. | Game drawer |
US10872451B2 (en) | 2018-10-31 | 2020-12-22 | Snap Inc. | 3D avatar rendering |
US11176737B2 (en) | 2018-11-27 | 2021-11-16 | Snap Inc. | Textured mesh building |
US10902661B1 (en) | 2018-11-28 | 2021-01-26 | Snap Inc. | Dynamic composite user identifier |
US10861170B1 (en) | 2018-11-30 | 2020-12-08 | Snap Inc. | Efficient human pose tracking in videos |
US11199957B1 (en) | 2018-11-30 | 2021-12-14 | Snap Inc. | Generating customized avatars based on location information |
US11055514B1 (en) | 2018-12-14 | 2021-07-06 | Snap Inc. | Image face manipulation |
US11516173B1 (en) | 2018-12-26 | 2022-11-29 | Snap Inc. | Message composition interface |
US11032670B1 (en) | 2019-01-14 | 2021-06-08 | Snap Inc. | Destination sharing in location sharing system |
US10939246B1 (en) | 2019-01-16 | 2021-03-02 | Snap Inc. | Location-based context information sharing in a messaging system |
US11294936B1 (en) | 2019-01-30 | 2022-04-05 | Snap Inc. | Adaptive spatial density based clustering |
US10984575B2 (en) | 2019-02-06 | 2021-04-20 | Snap Inc. | Body pose estimation |
US10656797B1 (en) | 2019-02-06 | 2020-05-19 | Snap Inc. | Global event-based avatar |
US10936066B1 (en) | 2019-02-13 | 2021-03-02 | Snap Inc. | Sleep detection in a location sharing system |
US10964082B2 (en) | 2019-02-26 | 2021-03-30 | Snap Inc. | Avatar based on weather |
US10852918B1 (en) | 2019-03-08 | 2020-12-01 | Snap Inc. | Contextual information in chat |
US11868414B1 (en) | 2019-03-14 | 2024-01-09 | Snap Inc. | Graph-based prediction for contact suggestion in a location sharing system |
US11852554B1 (en) | 2019-03-21 | 2023-12-26 | Snap Inc. | Barometer calibration in a location sharing system |
US11166123B1 (en) | 2019-03-28 | 2021-11-02 | Snap Inc. | Grouped transmission of location data in a location sharing system |
US10674311B1 (en) | 2019-03-28 | 2020-06-02 | Snap Inc. | Points of interest in a location sharing system |
US10992619B2 (en) | 2019-04-30 | 2021-04-27 | Snap Inc. | Messaging system with avatar generation |
GB2583774B (en) * | 2019-05-10 | 2022-05-11 | Robok Ltd | Stereo image processing |
USD916872S1 (en) | 2019-05-28 | 2021-04-20 | Snap Inc. | Display screen or portion thereof with a graphical user interface |
USD916809S1 (en) | 2019-05-28 | 2021-04-20 | Snap Inc. | Display screen or portion thereof with a transitional graphical user interface |
USD916810S1 (en) | 2019-05-28 | 2021-04-20 | Snap Inc. | Display screen or portion thereof with a graphical user interface |
USD916871S1 (en) | 2019-05-28 | 2021-04-20 | Snap Inc. | Display screen or portion thereof with a transitional graphical user interface |
USD916811S1 (en) | 2019-05-28 | 2021-04-20 | Snap Inc. | Display screen or portion thereof with a transitional graphical user interface |
US10891789B2 (en) * | 2019-05-30 | 2021-01-12 | Itseez3D, Inc. | Method to produce 3D model from one or several images |
US10893385B1 (en) | 2019-06-07 | 2021-01-12 | Snap Inc. | Detection of a physical collision between two client devices in a location sharing system |
US11676199B2 (en) | 2019-06-28 | 2023-06-13 | Snap Inc. | Generating customizable avatar outfits |
US11188190B2 (en) | 2019-06-28 | 2021-11-30 | Snap Inc. | Generating animation overlays in a communication session |
US11189098B2 (en) | 2019-06-28 | 2021-11-30 | Snap Inc. | 3D object camera customization system |
KR102241153B1 (ko) * | 2019-07-01 | 2021-04-19 | 주식회사 시어스랩 | 2차원 이미지로부터 3차원 아바타를 생성하는 방법, 장치 및 시스템 |
US11307747B2 (en) | 2019-07-11 | 2022-04-19 | Snap Inc. | Edge gesture interface with smart interactions |
US11455081B2 (en) | 2019-08-05 | 2022-09-27 | Snap Inc. | Message thread prioritization interface |
US10911387B1 (en) | 2019-08-12 | 2021-02-02 | Snap Inc. | Message reminder interface |
US11320969B2 (en) | 2019-09-16 | 2022-05-03 | Snap Inc. | Messaging system with battery level sharing |
US11425062B2 (en) | 2019-09-27 | 2022-08-23 | Snap Inc. | Recommended content viewed by friends |
KR102104889B1 (ko) * | 2019-09-30 | 2020-04-27 | 이명학 | 가상 입체면 모델에 기초한 3차원 모델 데이터 생성 구현 방법 및 시스템 |
US11080917B2 (en) | 2019-09-30 | 2021-08-03 | Snap Inc. | Dynamic parameterized user avatar stories |
US11218838B2 (en) | 2019-10-31 | 2022-01-04 | Snap Inc. | Focused map-based context information surfacing |
US11063891B2 (en) | 2019-12-03 | 2021-07-13 | Snap Inc. | Personalized avatar notification |
US11128586B2 (en) | 2019-12-09 | 2021-09-21 | Snap Inc. | Context sensitive avatar captions |
US11036989B1 (en) | 2019-12-11 | 2021-06-15 | Snap Inc. | Skeletal tracking using previous frames |
US11263817B1 (en) | 2019-12-19 | 2022-03-01 | Snap Inc. | 3D captions with face tracking |
US11227442B1 (en) | 2019-12-19 | 2022-01-18 | Snap Inc. | 3D captions with semantic graphical elements |
US11128715B1 (en) | 2019-12-30 | 2021-09-21 | Snap Inc. | Physical friend proximity in chat |
US11140515B1 (en) | 2019-12-30 | 2021-10-05 | Snap Inc. | Interfaces for relative device positioning |
US11169658B2 (en) | 2019-12-31 | 2021-11-09 | Snap Inc. | Combined map icon with action indicator |
US11284144B2 (en) | 2020-01-30 | 2022-03-22 | Snap Inc. | Video generation system to render frames on demand using a fleet of GPUs |
KR20220133249A (ko) | 2020-01-30 | 2022-10-04 | 스냅 인코포레이티드 | 온 디맨드로 미디어 콘텐츠 아이템들을 생성하기 위한 시스템 |
US11036781B1 (en) | 2020-01-30 | 2021-06-15 | Snap Inc. | Video generation system to render frames on demand using a fleet of servers |
US11356720B2 (en) | 2020-01-30 | 2022-06-07 | Snap Inc. | Video generation system to render frames on demand |
US11619501B2 (en) | 2020-03-11 | 2023-04-04 | Snap Inc. | Avatar based on trip |
US11217020B2 (en) | 2020-03-16 | 2022-01-04 | Snap Inc. | 3D cutout image modification |
US11818286B2 (en) | 2020-03-30 | 2023-11-14 | Snap Inc. | Avatar recommendation and reply |
US11625873B2 (en) | 2020-03-30 | 2023-04-11 | Snap Inc. | Personalized media overlay recommendation |
US11956190B2 (en) | 2020-05-08 | 2024-04-09 | Snap Inc. | Messaging system with a carousel of related entities |
US11922010B2 (en) | 2020-06-08 | 2024-03-05 | Snap Inc. | Providing contextual information with keyboard interface for messaging system |
US11543939B2 (en) | 2020-06-08 | 2023-01-03 | Snap Inc. | Encoded image based messaging system |
US11356392B2 (en) | 2020-06-10 | 2022-06-07 | Snap Inc. | Messaging system including an external-resource dock and drawer |
US11580682B1 (en) | 2020-06-30 | 2023-02-14 | Snap Inc. | Messaging system with augmented reality makeup |
US11810397B2 (en) | 2020-08-18 | 2023-11-07 | Samsung Electronics Co., Ltd. | Method and apparatus with facial image generating |
CN114170640B (zh) * | 2020-08-19 | 2024-02-02 | 腾讯科技(深圳)有限公司 | 人脸图像的处理方法、装置、计算机可读介质及设备 |
US11863513B2 (en) | 2020-08-31 | 2024-01-02 | Snap Inc. | Media content playback and comments management |
US11360733B2 (en) | 2020-09-10 | 2022-06-14 | Snap Inc. | Colocated shared augmented reality without shared backend |
US11470025B2 (en) | 2020-09-21 | 2022-10-11 | Snap Inc. | Chats with micro sound clips |
US11452939B2 (en) | 2020-09-21 | 2022-09-27 | Snap Inc. | Graphical marker generation system for synchronizing users |
US11910269B2 (en) | 2020-09-25 | 2024-02-20 | Snap Inc. | Augmented reality content items including user avatar to share location |
US11615592B2 (en) | 2020-10-27 | 2023-03-28 | Snap Inc. | Side-by-side character animation from realtime 3D body motion capture |
US11660022B2 (en) | 2020-10-27 | 2023-05-30 | Snap Inc. | Adaptive skeletal joint smoothing |
US11748931B2 (en) | 2020-11-18 | 2023-09-05 | Snap Inc. | Body animation sharing and remixing |
US11734894B2 (en) | 2020-11-18 | 2023-08-22 | Snap Inc. | Real-time motion transfer for prosthetic limbs |
US11450051B2 (en) | 2020-11-18 | 2022-09-20 | Snap Inc. | Personalized avatar real-time motion capture |
KR102479120B1 (ko) | 2020-12-18 | 2022-12-16 | 한국공학대학교산학협력단 | 가변 초점 방식의 3d 텐서 기반 3차원 영상 획득 방법 및 장치 |
US11790531B2 (en) | 2021-02-24 | 2023-10-17 | Snap Inc. | Whole body segmentation |
KR102501719B1 (ko) * | 2021-03-03 | 2023-02-21 | (주)자이언트스텝 | 비정면 이미지 기반의 학습 모델을 이용한 페이셜 애니메이션 생성 방법 및 장치 |
US11908243B2 (en) | 2021-03-16 | 2024-02-20 | Snap Inc. | Menu hierarchy navigation on electronic mirroring devices |
US11734959B2 (en) | 2021-03-16 | 2023-08-22 | Snap Inc. | Activating hands-free mode on mirroring device |
US11798201B2 (en) | 2021-03-16 | 2023-10-24 | Snap Inc. | Mirroring device with whole-body outfits |
US11809633B2 (en) | 2021-03-16 | 2023-11-07 | Snap Inc. | Mirroring device with pointing based navigation |
US11544885B2 (en) | 2021-03-19 | 2023-01-03 | Snap Inc. | Augmented reality experience based on physical items |
US11562548B2 (en) | 2021-03-22 | 2023-01-24 | Snap Inc. | True size eyewear in real time |
US11636654B2 (en) | 2021-05-19 | 2023-04-25 | Snap Inc. | AR-based connected portal shopping |
US11941227B2 (en) | 2021-06-30 | 2024-03-26 | Snap Inc. | Hybrid search system for customizable media |
CN113643412B (zh) * | 2021-07-14 | 2022-07-22 | 北京百度网讯科技有限公司 | 虚拟形象的生成方法、装置、电子设备及存储介质 |
US11854069B2 (en) | 2021-07-16 | 2023-12-26 | Snap Inc. | Personalized try-on ads |
US11908083B2 (en) | 2021-08-31 | 2024-02-20 | Snap Inc. | Deforming custom mesh based on body mesh |
US11670059B2 (en) | 2021-09-01 | 2023-06-06 | Snap Inc. | Controlling interactive fashion based on body gestures |
US11673054B2 (en) | 2021-09-07 | 2023-06-13 | Snap Inc. | Controlling AR games on fashion items |
US11663792B2 (en) | 2021-09-08 | 2023-05-30 | Snap Inc. | Body fitted accessory with physics simulation |
US11900506B2 (en) | 2021-09-09 | 2024-02-13 | Snap Inc. | Controlling interactive fashion based on facial expressions |
US11734866B2 (en) | 2021-09-13 | 2023-08-22 | Snap Inc. | Controlling interactive fashion based on voice |
US11798238B2 (en) | 2021-09-14 | 2023-10-24 | Snap Inc. | Blending body mesh into external mesh |
US11836866B2 (en) | 2021-09-20 | 2023-12-05 | Snap Inc. | Deforming real-world object using an external mesh |
US11636662B2 (en) | 2021-09-30 | 2023-04-25 | Snap Inc. | Body normal network light and rendering control |
US11836862B2 (en) | 2021-10-11 | 2023-12-05 | Snap Inc. | External mesh with vertex attributes |
US11790614B2 (en) | 2021-10-11 | 2023-10-17 | Snap Inc. | Inferring intent from pose and speech input |
US11651572B2 (en) | 2021-10-11 | 2023-05-16 | Snap Inc. | Light and rendering of garments |
US11763481B2 (en) | 2021-10-20 | 2023-09-19 | Snap Inc. | Mirror-based augmented reality experience |
KR102537149B1 (ko) * | 2021-11-12 | 2023-05-26 | 주식회사 네비웍스 | 그래픽 처리장치 및 그 동작 방법 |
US11748958B2 (en) | 2021-12-07 | 2023-09-05 | Snap Inc. | Augmented reality unboxing experience |
US11960784B2 (en) | 2021-12-07 | 2024-04-16 | Snap Inc. | Shared augmented reality unboxing experience |
US11880947B2 (en) | 2021-12-21 | 2024-01-23 | Snap Inc. | Real-time upper-body garment exchange |
US11928783B2 (en) | 2021-12-30 | 2024-03-12 | Snap Inc. | AR position and orientation along a plane |
US11887260B2 (en) | 2021-12-30 | 2024-01-30 | Snap Inc. | AR position indicator |
US11823346B2 (en) | 2022-01-17 | 2023-11-21 | Snap Inc. | AR body part tracking system |
US11954762B2 (en) | 2022-01-19 | 2024-04-09 | Snap Inc. | Object replacement system |
US11870745B1 (en) | 2022-06-28 | 2024-01-09 | Snap Inc. | Media gallery sharing and management |
US11893166B1 (en) | 2022-11-08 | 2024-02-06 | Snap Inc. | User avatar movement control using an augmented reality eyewear device |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1404016A (zh) * | 2002-10-18 | 2003-03-19 | 清华大学 | 融合多视角、多线索二维信息的人脸三维模型的建立方法 |
CN1776712A (zh) * | 2005-12-15 | 2006-05-24 | 复旦大学 | 一种基于人脸统计知识的人脸识别方法 |
US20060126924A1 (en) * | 2000-03-09 | 2006-06-15 | Microsoft Corporation | Rapid Computer Modeling of Faces for Animation |
US20070183653A1 (en) * | 2006-01-31 | 2007-08-09 | Gerard Medioni | 3D Face Reconstruction from 2D Images |
Family Cites Families (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69934478T2 (de) * | 1999-03-19 | 2007-09-27 | MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. | Verfahren und Gerät zur Bildverarbeitung auf Basis von Metamorphosemodellen |
US7221809B2 (en) * | 2001-12-17 | 2007-05-22 | Genex Technologies, Inc. | Face recognition system and method |
EP1599828A1 (en) * | 2003-03-06 | 2005-11-30 | Animetrics, Inc. | Viewpoint-invariant image matching and generation of three-dimensional models from two-dimensional imagery |
US7783082B2 (en) * | 2003-06-30 | 2010-08-24 | Honda Motor Co., Ltd. | System and method for face recognition |
US7239321B2 (en) * | 2003-08-26 | 2007-07-03 | Speech Graphics, Inc. | Static and dynamic 3-D human face reconstruction |
KR100682889B1 (ko) * | 2003-08-29 | 2007-02-15 | 삼성전자주식회사 | 영상에 기반한 사실감 있는 3차원 얼굴 모델링 방법 및 장치 |
US7860301B2 (en) * | 2005-02-11 | 2010-12-28 | Macdonald Dettwiler And Associates Inc. | 3D imaging system |
US7415152B2 (en) * | 2005-04-29 | 2008-08-19 | Microsoft Corporation | Method and system for constructing a 3D representation of a face from a 2D representation |
US8320660B2 (en) * | 2005-06-03 | 2012-11-27 | Nec Corporation | Image processing system, 3-dimensional shape estimation system, object position/posture estimation system and image generation system |
US7756325B2 (en) * | 2005-06-20 | 2010-07-13 | University Of Basel | Estimating 3D shape and texture of a 3D object based on a 2D image of the 3D object |
US7755619B2 (en) * | 2005-10-13 | 2010-07-13 | Microsoft Corporation | Automatic 3D face-modeling from video |
US7567251B2 (en) * | 2006-01-10 | 2009-07-28 | Sony Corporation | Techniques for creating facial animation using a face mesh |
US7814441B2 (en) * | 2006-05-09 | 2010-10-12 | Inus Technology, Inc. | System and method for identifying original design intents using 3D scan data |
US8591225B2 (en) * | 2008-12-12 | 2013-11-26 | Align Technology, Inc. | Tooth movement measurement by automatic impression matching |
US8155399B2 (en) * | 2007-06-12 | 2012-04-10 | Utc Fire & Security Corporation | Generic face alignment via boosting |
US20090091085A1 (en) * | 2007-10-08 | 2009-04-09 | Seiff Stanley P | Card game |
US20110227923A1 (en) * | 2008-04-14 | 2011-09-22 | Xid Technologies Pte Ltd | Image synthesis method |
TWI382354B (zh) * | 2008-12-02 | 2013-01-11 | Nat Univ Tsing Hua | 臉部辨識方法 |
TW201023092A (en) * | 2008-12-02 | 2010-06-16 | Nat Univ Tsing Hua | 3D face model construction method |
US8204301B2 (en) * | 2009-02-25 | 2012-06-19 | Seiko Epson Corporation | Iterative data reweighting for balanced model learning |
US8260039B2 (en) * | 2009-02-25 | 2012-09-04 | Seiko Epson Corporation | Object model fitting using manifold constraints |
US8208717B2 (en) * | 2009-02-25 | 2012-06-26 | Seiko Epson Corporation | Combining subcomponent models for object image modeling |
JP5442111B2 (ja) * | 2009-05-21 | 2014-03-12 | インテル・コーポレーション | 画像から高速に立体構築を行なう方法 |
US20100315424A1 (en) * | 2009-06-15 | 2010-12-16 | Tao Cai | Computer graphic generation and display method and system |
US8553973B2 (en) * | 2009-07-07 | 2013-10-08 | University Of Basel | Modeling methods and systems |
JP2011039869A (ja) * | 2009-08-13 | 2011-02-24 | Nippon Hoso Kyokai <Nhk> | 顔画像処理装置およびコンピュータプログラム |
CN101739719B (zh) * | 2009-12-24 | 2012-05-30 | 四川大学 | 二维正面人脸图像的三维网格化方法 |
-
2011
- 2011-08-09 EP EP11870513.6A patent/EP2754130A4/en not_active Withdrawn
- 2011-08-09 US US13/522,783 patent/US20130201187A1/en not_active Abandoned
- 2011-08-09 KR KR1020147005503A patent/KR101608253B1/ko active IP Right Grant
- 2011-08-09 CN CN201180073144.4A patent/CN103765479A/zh active Pending
- 2011-08-09 JP JP2014524234A patent/JP5773323B2/ja not_active Expired - Fee Related
- 2011-08-09 WO PCT/CN2011/001306 patent/WO2013020248A1/en active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060126924A1 (en) * | 2000-03-09 | 2006-06-15 | Microsoft Corporation | Rapid Computer Modeling of Faces for Animation |
CN1404016A (zh) * | 2002-10-18 | 2003-03-19 | 清华大学 | 融合多视角、多线索二维信息的人脸三维模型的建立方法 |
CN1776712A (zh) * | 2005-12-15 | 2006-05-24 | 复旦大学 | 一种基于人脸统计知识的人脸识别方法 |
US20070183653A1 (en) * | 2006-01-31 | 2007-08-09 | Gerard Medioni | 3D Face Reconstruction from 2D Images |
Non-Patent Citations (4)
Title |
---|
J.STORM ET AL.: "Real Time Tracking and Modeling of Faces:An EKF-based Analysis by Synthesis Approach", 《MODELLING PEOPLE,1999.PROCEEDINGS.IEEE INTERNATIONAL WORKSHOP ON》 * |
MINYOUNG KIM ET AL.: "Face Tracking and Recognition with Visual Constraints in Real-World videos", 《COMPUTER VISION AND PATTERN RECOGNITION,2008.CVPR 2008.IEEE CONFERENCE ON》 * |
胡永利 等: "基于形变模型的三维人脸重建方法及其改进", 《计算机学报》 * |
龚勋 等: "基于特征点的三维人脸形变模型", 《软件学报》 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10818064B2 (en) | 2016-09-21 | 2020-10-27 | Intel Corporation | Estimating accurate face shape and texture from an image |
WO2018053703A1 (en) * | 2016-09-21 | 2018-03-29 | Intel Corporation | Estimating accurate face shape and texture from an image |
CN109241810A (zh) * | 2017-07-10 | 2019-01-18 | 腾讯科技(深圳)有限公司 | 虚拟角色图像的构建方法及装置、存储介质 |
CN108446597B (zh) * | 2018-02-14 | 2019-06-25 | 天目爱视(北京)科技有限公司 | 一种基于可见光相机的生物特征3d数据采集方法及装置 |
CN108470151A (zh) * | 2018-02-14 | 2018-08-31 | 天目爱视(北京)科技有限公司 | 一种生物特征模型合成方法及装置 |
CN108470150A (zh) * | 2018-02-14 | 2018-08-31 | 天目爱视(北京)科技有限公司 | 一种基于可见光相机的生物特征四维数据采集方法及装置 |
CN108492330A (zh) * | 2018-02-14 | 2018-09-04 | 天目爱视(北京)科技有限公司 | 一种多目视觉深度计算方法及装置 |
CN108446597A (zh) * | 2018-02-14 | 2018-08-24 | 天目爱视(北京)科技有限公司 | 一种基于可见光相机的生物特征3d数据采集方法及装置 |
CN108520230A (zh) * | 2018-04-04 | 2018-09-11 | 北京天目智联科技有限公司 | 一种3d四维手部图像数据识别方法及设备 |
CN109360166B (zh) * | 2018-09-30 | 2021-06-22 | 北京旷视科技有限公司 | 一种图像处理方法、装置、电子设备和计算机可读介质 |
CN109360166A (zh) * | 2018-09-30 | 2019-02-19 | 北京旷视科技有限公司 | 一种图像处理方法、装置、电子设备和计算机可读介质 |
CN110728746A (zh) * | 2019-09-23 | 2020-01-24 | 清华大学 | 动态纹理的建模方法及系统 |
CN110728746B (zh) * | 2019-09-23 | 2021-09-21 | 清华大学 | 动态纹理的建模方法及系统 |
CN110826501A (zh) * | 2019-11-08 | 2020-02-21 | 杭州趣维科技有限公司 | 一种基于稀疏关键点校准的人脸关键点检测方法与系统 |
CN110826501B (zh) * | 2019-11-08 | 2022-04-05 | 杭州小影创新科技股份有限公司 | 一种基于稀疏关键点校准的人脸关键点检测方法与系统 |
CN110807836A (zh) * | 2020-01-08 | 2020-02-18 | 腾讯科技(深圳)有限公司 | 三维人脸模型的生成方法、装置、设备及介质 |
CN111288970A (zh) * | 2020-02-26 | 2020-06-16 | 国网上海市电力公司 | 一种便携式带电距离测量装置 |
CN111652974A (zh) * | 2020-06-15 | 2020-09-11 | 腾讯科技(深圳)有限公司 | 三维人脸模型的构建方法、装置、设备及存储介质 |
CN111652974B (zh) * | 2020-06-15 | 2023-08-25 | 腾讯科技(深圳)有限公司 | 三维人脸模型的构建方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
JP5773323B2 (ja) | 2015-09-02 |
JP2014525108A (ja) | 2014-09-25 |
KR20140043945A (ko) | 2014-04-11 |
EP2754130A1 (en) | 2014-07-16 |
EP2754130A4 (en) | 2016-01-06 |
US20130201187A1 (en) | 2013-08-08 |
WO2013020248A1 (en) | 2013-02-14 |
KR101608253B1 (ko) | 2016-04-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103765479A (zh) | 基于图像的多视点3d脸部生成 | |
US10360718B2 (en) | Method and apparatus for constructing three dimensional model of object | |
US11631213B2 (en) | Method and system for real-time 3D capture and live feedback with monocular cameras | |
Alexiadis et al. | Real-time, full 3-D reconstruction of moving foreground objects from multiple consumer depth cameras | |
US11127189B2 (en) | 3D skeleton reconstruction from images using volumic probability data | |
Yang et al. | Efficient 3d room shape recovery from a single panorama | |
Park et al. | Robust multiview photometric stereo using planar mesh parameterization | |
Yang et al. | Automatic 3d indoor scene modeling from single panorama | |
Sinha et al. | Camera network calibration and synchronization from silhouettes in archived video | |
GB2573170A (en) | 3D Skeleton reconstruction from images using matching 2D skeletons | |
da Silveira et al. | 3d scene geometry estimation from 360 imagery: A survey | |
Pagani et al. | Dense 3D Point Cloud Generation from Multiple High-resolution Spherical Images. | |
Lin et al. | BEV-MAE: Bird's Eye View Masked Autoencoders for Outdoor Point Cloud Pre-training | |
Jeon et al. | Struct-MDC: Mesh-refined unsupervised depth completion leveraging structural regularities from visual SLAM | |
Leroy et al. | Volume sweeping: Learning photoconsistency for multi-view shape reconstruction | |
Aizawa et al. | Image processing technologies: algorithms, sensors, and applications | |
Hu et al. | Multiple-view 3-D reconstruction using a mirror | |
LUCAS1a et al. | Recover3d: A hybrid multi-view system for 4d reconstruction of moving actors | |
Man et al. | Groundnet: Segmentation-aware monocular ground plane estimation with geometric consistency | |
Hasegawa et al. | Distortion-Aware Self-Supervised 360 {\deg} Depth Estimation from A Single Equirectangular Projection Image | |
Babahajiani | Geometric computer vision: Omnidirectional visual and remotely sensed data analysis | |
da Silveira et al. | 3D Scene Geometry Estimation from 360$^\circ $ Imagery: A Survey | |
Zaharescu et al. | Camera-clustering for multi-resolution 3-d surface reconstruction | |
Szeliski et al. | Depth Estimation | |
Ikehata et al. | Confidence-based refinement of corrupted depth maps |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20140430 |