CN103765479A - 基于图像的多视点3d脸部生成 - Google Patents

基于图像的多视点3d脸部生成 Download PDF

Info

Publication number
CN103765479A
CN103765479A CN201180073144.4A CN201180073144A CN103765479A CN 103765479 A CN103765479 A CN 103765479A CN 201180073144 A CN201180073144 A CN 201180073144A CN 103765479 A CN103765479 A CN 103765479A
Authority
CN
China
Prior art keywords
grid
face
dense
incarnation
generate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201180073144.4A
Other languages
English (en)
Inventor
X.童
J.李
W.胡
Y.杜
Y.张
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN103765479A publication Critical patent/CN103765479A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/28Determining representative reference patterns, e.g. by averaging or distorting; Generating dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • G06T7/596Depth or shape recovery from multiple images from stereo images from three or more stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/772Determining representative reference patterns, e.g. averaging or distorting patterns; Generating dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Abstract

描述系统、设备和方法,其包括:恢复多个2D脸部图像的相机参数和稀疏关键点;以及运用多视点立体过程以便利用相机参数和稀疏关键点来生成稠密化身网格。然后,可以利用稠密化身网格来生成3D脸部模型,并可以运用多视点纹理合成来生成3D脸部模型的纹理图像。

Description

基于图像的多视点 3D 脸部生成
背景技术
人脸特征的3D建模普遍用于创建人的真实感3D表示。例如,诸如化身(avatar)的虚拟人表示常常利用这样的模型。生成的3D脸部的常规应用需要手动标记特征点。尽管这些技术可以采用形变模型拟合,但是如果它们允许自动脸部标志点检测并采用多视点立体(MVS)技术则会是合意的。
附图说明
附图中以实例的方式而不以限制的方式示出本文所描述的题材。为了简单、清楚地说明,图中示出的元件不一定按比例绘制。例如,为清楚起见,一些元件的尺寸可能相对于其它元件有所夸大。此外,在认为合适时,附图中重复使用附图标记来指示对应或类似的元件。图中:
图1是实例系统的说明性图;
图2示出实例3D脸部模型生成过程;
图3示出边界框和标识的脸部标志点的实例;
图4示出多个恢复的相机和对应的稠密化身网格的实例;
图5示出将重建的形变脸部网格融合到稠密化身网格的实例;
图6示出实例形变脸部网格三角形;
图7示出实例角度加权的纹理合成方法;
图8示出用于生成最终的3D脸部模型的纹理图像与对应的平滑3D脸部模型的实例组合;以及
图9是全都按照本公开的至少一些实现布置的实例系统的说明性图。
具体实施方式
现在参考附图描述一个或多个实施例或实现。尽管论述了特定的配置和布置,但是应了解,这样做只是为了说明的目的。本领域技术人员将意识到,在不偏离本描述的精神和范围的情况下,可以采用其它配置和布置。本领域技术人员将明白,也可以在不同于本文所描述的各种其它系统和应用中采用本文所描述的技术和/或布置。
尽管以下描述阐述了例如可在诸如芯片上系统(SoC)架构的架构中证明的各种实现,但是本文描述的技术和/或布置的实现不限于特定的架构和/或计算系统,并且出于类似的目的,可以由任何架构和/或计算系统来实现。例如,采用例如多个集成电路(IC)芯片和/或封装的各种架构、和/或诸如机顶盒、智能电话等各种计算设备和/或消费型电子(CE)设备可以实现本文所描述的技术和/或布置。此外,尽管以下描述可能会阐述诸如系统组件的逻辑实现、类型和相互关系、逻辑分区/集成选择等众多具体细节,但是在没有这些具体细节的情况下也可以实践要求权利的主题。例如,在其它情况下,可能没有详细示出诸如控制结构和全软件指令序列的一些题材,以免使本文所公开的题材晦涩难懂。
本文所公开的题材可以用硬件、固件、软件或其任意组合来实现。本文所公开的题材也可以作为存储在机器可读介质上的指令来实现,这些指令可以由一个或多个处理器读取并执行。机器可读介质可以包括用于存储或传送可由机器(例如,计算设备)读取的形式的信息的任何介质和/或机构。例如,机器可读介质可以包括:只读存储器(ROM);随机存取存储器(RAM);磁盘存储介质;光存储介质;闪速存储器设备;电、光、声或其它形式的传播信号(例如,载波、红外信号、数字信号等);以及其它。
说明书中提到“一个实现”、“实现”、“实例实现”等时表示,所描述的实现可以包括特定特征、结构或特性,但不是每个实现都一定要包含该特定特征、结构或特性。而且,这些短语不一定指相同的实现。此外,当结合一个实现描述特定特征、结构或特性时,认为,本领域技术人员知道结合其它实现来实施该特征、结构或特性,而不管本文是否进行了明确描述。
图1示出根据本公开的实例系统100。在各种实现中,系统100可以包括图像捕捉模块102和3D脸部模拟模块110,它们能够如本文将描述地那样生成包括脸部纹理的3D脸部模型。在各种实现中,可以在字符建模和创建、计算机图形、视频会议、在线游戏、虚拟现实应用等中采用系统100。此外,系统100可以适于诸如感知计算、数字家庭娱乐、消费型电子等应用。
图像捕捉模块102包括诸如照相机或摄像机的一个或多个图像捕捉设备104。在一些实现中,可以在对象脸部108周围沿弧线或轨迹106移动单个相机104以便生成脸部108的一系列图像,其中如下文将更详细地解释的,每个图像相对于脸部108的视角是不同的。在其它实现中,可以采用相对于脸部108成各种角度定位的多个成像设备104。一般来说,可以在捕捉模块102中采用任何数量的已知的图像捕捉系统和/或技术来生成图像序列(例如,参见Seitz等人的“A Comparison and Evaluation of Multi-View Stereo Reconstruction Algorithms,” In Proc. IEEE Conf. on Computer Vision and Pattern Recognition, 2006)(下文称为“Seitz等人”)。
图像捕捉模块102可以将图像序列提供给模拟模块110。模拟模块110至少包括脸部检测模块112、多视点立体(MVS)模块114、3D形变脸部模块116、对齐模块118和纹理模块120,下文将更加详细地解释这些模块的功能性。一般来说,如也将在下文更加详细地解释的,模拟模块110可用于从由捕捉模块102所提供的图像中选择图像,对选择的图像执行脸部检测以便获得脸部边界框和脸部标志点,恢复相机参数并获得稀疏关键点,执行多视点立体技术以便生成稠密化身网格,将网格拟合到形变3D脸部模型,通过对3D脸部模型进行对齐和平滑处理来精炼3D脸部模型,并合成脸部模型的纹理图像。
在各种实现中,图像捕捉模块102和模拟模块110可以彼此相邻或接近。例如,图像捕捉模块102可以采用摄像机作为成像设备104,并且模拟模块110可以通过计算系统来实现,该计算系统从设备104直接接收图像序列,然后对这些图像进行处理以便生成3D脸部模型和纹理图像。在其它实现中,图像捕捉模块102和模拟模块110可以彼此远离。例如,远离图像捕捉模块102的一个或多个服务器计算机可以实现模拟模块110,其中模块110可以经由例如互联网从模块102接收图像序列。此外,在各种实现中,模拟模块110可以由软件、固件和/或硬件的任意组合来提供,软件、固件和/或硬件可以或者可以不分布在各种计算系统间。
图2示出根据本公开的各种实现用于生成3D脸部模型的实例过程200的流程图。过程200可以包括如图2的方框202、204、206、208、210、212、214和216中的一个或多个方框所示的一个或多个操作、功能或动作。作为非限制性实例,本文将参考图1的实例系统来描述过程200。过程200可以在方框202开始。
在方框202,可以捕捉脸部的多个2D图像,并且可以选择这些图像中的各种图像用于进一步处理。在各种实现中,方框202可以涉及利用普通的商用相机来从不同的视角记录人脸的视频图像。例如,可以在脸部保持静止并维持中性表情的同时在人头部前方周围跨越大约180度的不同定向记录视频历时大约10秒的持续时间。这可导致捕捉大约三百个2D图像(假设每秒三十帧的标准视频帧速率)。接着,可以解码得到的视频,并手动地或者通过利用自动选择方法来选择大约30个左右的脸部图像的子集(例如,参见R. Hartley and A. Zisserman, “Multiple View Geometry in Computer Vision,” Chapter 12, Cambridge Press, Second Version (2003))。在一些实现中,选择的相邻图像之间的角度(如相对于被成像对象所测量的)可以是10度或更小。
接着,在方框204,可以对选择的图像执行脸部检测和脸部标志点标识,以便生成对应的脸部边界框以及边界框内的所标识的标志点。在各种实现中,方框204可以涉及运用已知的自动化多视点脸部检测技术(例如,参见Kim et al., “Face Tracking and Recognition with Visual Constraints in Real-World Videos”, In IEEE Conf. Computer Vision and Pattern Recognition (2008)),以便利用脸部边界框描画每个图像中的脸部轮廓和脸部标志点,从而限制标识标志点的区域并去除外界的背景图像内容。例如,图3示出对于人脸308的2D图像306的边界框302和所标识的脸部标志点304的非限制性实例。
在方框206,可以确定每个图像的相机参数。在各种实现中,方框206可以包括对于每个图像提取稳定的关键点并利用诸如“Seitz等人”中所描述的已知的自动相机参数恢复技术来获得特征点的稀疏集合以及包括相机投影矩阵的相机参数。在一些实例中,系统100的脸部检测模块112可以进行方框204和/或方框206。
在方框208,可以运用多视点立体(MVS)技术以便从稀疏特征点和相机参数生成稠密化身网格。在各种实现中,方框208可以涉及对于脸部图像对执行已知的立体单应(homography)与多视点对齐和整合技术。例如,如WO2010133007(“Techniques for Rapid Stereo Reconstruction from Images”)中所描述的,对于一对图像,可以用已知的相机参数对通过单应拟合获得的优化的图像点对进行三角测量以便获得稠密化身网格中的三维点。例如,图4示出可在方框206获得的多个恢复的相机402(例如,如恢复的相机参数所指定的)以及可在方框208获得的对应的稠密化身网格404的非限制性实例。在一些实例中,系统100的MVS模块114可以进行方框208。
返回到图2的论述,在方框210,可以将在方框208获得的稠密化身网格拟合到3D形变模型,以便生成重建的3D形变脸部网格。接着,在方框212,可以将稠密化身网格对齐到重建的形变脸部网格并进行精炼,以便生成平滑的3D脸部模型。在一些实例中,系统100的3D形变模型模块116和对齐模块118可以分别进行方框210和212。
在各种实现中,方框210可以涉及从脸部数据集合获悉形变脸部模型。例如,脸部数据集合可以包括指定稠密化身网格中的每个点或顶点的形状数据(例如,笛卡尔坐标系统中的(x, y, z)网格坐标)和纹理数据(红色、绿色和蓝色强度值)。可以分别通过相应的列向量(x1, y1, z1, x2, y2, z2, …, xn, yn, zn)t和(R1, G1, B1, R2, G2, B2, …, Rn, Gn, Zn)t(其中,n是脸部中的特征点或顶点的数量)来表示形状和纹理。
可以利用下式来将通用脸部表示为3D形变脸部模型:
Figure DEST_PATH_IMAGE002
其中,X 0是平均列向量,λi是第i个本征值,U i是第i个本征向量,并且α i是第i个本征值的重建的度量系数。然后,可以通过调整系数集合{α} n 来将由式(1)表示的模型变形为各种形状。
将稠密化身网格拟合到式(1)的3D形变脸部模型可以涉及在分析上将形变模型顶点S mod定义为:
Figure DEST_PATH_IMAGE004
其中,
Figure DEST_PATH_IMAGE006
是从形变模型顶点的完整集合K选择对应于特征点的n个顶点的投影。在式(2)中,这n个特征点用于测量重建误差。
在拟合过程中,可以运用模型先验,从而导致以下的成本函数:
Figure DEST_PATH_IMAGE008
其中,式(3)假设,表示合格形状的概率直接取决于基准。较大的α值对应于重建脸部和平均脸部之间的较大差别。参数η折衷先验概率和式(3)中的拟合质量,并且它可以通过使以下成本函数最小化来迭代地确定:
Figure DEST_PATH_IMAGE010
其中,
Figure DEST_PATH_IMAGE012
,并且
Figure DEST_PATH_IMAGE014
。对A运用奇异分解得到
Figure DEST_PATH_IMAGE016
,其中wi A的奇异值。
当以下条件适用时,可以使式(4)最小化:
Figure DEST_PATH_IMAGE018
利用式(5),可以将α迭代地更新为α=α+δα。另外,在一些实现中,可以迭代地调整η,其中可以在初始时将η设置为w 0 2(例如,最大奇异值),并且η可以减小为较小奇异值的平方。
在各种实现中,给定在方框210处提供重建形变脸部网格形式的重建3D点,方框212处的对齐可以涉及搜索使得从重建3D点到形变脸部网格的距离最小所需的脸部姿势和度量系数。脸部姿势可以通过将
Figure DEST_PATH_IMAGE020
从中性脸部模型的坐标框架变换为稠密化身网格的坐标框架来提供,其中R是3×3旋转矩阵,t是平移,并且s是全局标度。对于任何3D向量p,可以采用符号T(p) = sRp + t
相机框中的脸部网格的顶点坐标是度量系数和脸部姿势的函数。给定度量系数{α 1, α 2, …, αn }和姿势T,可以通过下式来提供相机框中的脸部几何形状:
Figure DEST_PATH_IMAGE022
在脸部网格是三角形网格的实例中,三角形上的任何点可以表示为在重心坐标中测量的这三个三角形顶点的线性组合。因此,三角形上的任何点可以表示为T和度量系数的函数。此外,当T固定时,它可以表示为本文所描述的度量系数的线性函数。
接着,可以通过使下式最小化来获得姿势T和度量系数{α 1, α 2, …, αn }:
Figure DEST_PATH_IMAGE024
其中,(p1 , p2 , …, pn )表示重建脸部网格的点,并且d(pi , S)表示从点pi 到脸部网格S的距离。式(7)可以利用迭代闭合点(ICP)方法来求解。例如,在每次迭代时,T可以固定,并且对于每个点pi ,可以标识当前脸部网格S上的最近点gi 。接着,可以使误差E最小化(式(7)),并利用式(1)-(5)来获得重建度量系数。然后,可以通过固定度量系数{α 1, α 2, …, αn }来找到脸部姿势T。在各种实现中,这可以涉及:构建稠密化身网格点的kd树,搜索形变脸部模型的稠密点中的闭合点,并利用最小二乘技术来获得姿势变换T。ICP可以继续进一步迭代,直到误差E收敛,并且重建度量系数和姿势T稳定。
在对齐稠密化身网格(从方框208处的MVS处理获得)和重建的形变脸部网格(在方框210获得)之后,可以通过将稠密化身网格融合到重建的形变脸部网格来对结果进行精炼或平滑处理。例如,图5示出用于将重建的形变脸部网格502融合到稠密化身网格504以便获得平滑的3D脸部模型506的非限制性实例。
在各种实现中,对3D脸部模型进行平滑处理可以包括:在脸部网格的周围创建圆柱形平面,并将形变脸部模型和稠密化身网格展开到该平面。对于稠密化身网格的每个顶点,可以标识包括该顶点的形变脸部网格的三角形,并且可以找到该顶点在三角形内的重心坐标。然后,可以按照稠密点和形变脸部网格中的对应点的加权组合来生成精炼点。可以通过下式来提供稠密化身网格中的点pi 的精炼:
Figure DEST_PATH_IMAGE026
其中,αβ是权重,(q1 , q2 , q3 )是包含点pi 的形变脸部网格三角形的三个顶点,并且(c1 , c2 , c3 )是如图6所示的三个子三角形的归一化面积。在各种实现中,方框212的至少部分可以通过系统100的对齐模块118来进行。
在方框212生成平滑的3D脸部网格之后,在方框214,可以利用相机投影矩阵以便通过运用多视点纹理合成来合成对应的脸部纹理。在各种实现中,方框214可以涉及利用角度加权的纹理合成方法来确定最终的脸部纹理(例如,纹理图像),其中对于稠密化身网格中的每个点或三角形,可以利用对应的投影矩阵来获得各个2D脸部图像中的投影点或三角形。
图7示出根据本公开可以在方框214运用的实例角度加权纹理合成方法700。在各种实现中,方框214可以涉及:对于稠密化身网格的每个三角形,对从脸部图像序列获得的所有投影三角形的纹理数据进行加权组合。如图7的实例所示,可以朝向两个实例相机C1和C2(具有相应的相机中心O1和O2)投影3D点P,该3D点P与稠密化身网格702中的三角形相关联并且相对于在点P处与网格702正切的平面704的表面定义了法线N,从而在由相机C1和C2捕捉的相应脸部图像706和708中得到2D投影点P1和P2
接着,可以通过法线N与相应相机的主轴之间的角度的余弦来对点P1和P2的纹理值加权。例如,可以通过在法线N与相机C1的主轴Z1之间形成的角度710的余弦来对点P1的纹理值加权。类似地,尽管为了清楚起见没有在图7中示出,但是可以通过在法线N与相机C2的主轴Z2之间形成的角度的余弦来对点P2的纹理值加权。可以对图像序列中的所有相机做出类似确定,并且可以利用组合的加权纹理值来生成点P及其相关联的三角形的纹理值。方框214可以涉及对于稠密化身网格中的所有点进行类似过程,以便生成对应于在方框212生成的平滑的3D脸部模型的纹理图像。在各种实现中,方框214可以由系统100的纹理模块120来进行。
过程200可以在方框216结束,在方框216,可以利用已知技术来组合平滑的3D脸部模型和对应的纹理图像,从而生成最终的3D脸部模型。例如,图8示出用于生成最终的3D脸部模型806的纹理图像802和对应的平滑3D脸部模型804的组合的实例。在各种实现中,可以用任何标准的3D数据格式(例如,.ply、.obj等)来提供最终的脸部模型。
尽管如图2所示的实例过程200的实现可以包括按照所示的顺序进行所示出的所有方框,但是本公开在这方面不受限制,并且在各种实例中,过程200的实现可以包括只进行所示出的所有方框的子集,和/或按照与所示的顺序不同的顺序进行所示出的方框。另外,可以响应由一个或多个计算机程序产品所提供的指令来进行图2的方框中的任何一个或多个方框。这些程序产品可以包括提供指令的信号承载介质,这些指令在由例如一个或多个处理器核执行时可以提供本文所描述的功能性。计算机程序产品可以在任何形式的计算机可读介质中提供。因此,例如,包括一个或多个处理器核的处理器可以响应通过计算机可读介质传达给处理器的指令进行或者配置为进行图2中所示出的一个或多个方框。
图9示出根据本公开的实例系统900。系统900可用于执行本文论述的各种功能中的一些或所有功能,并且可以包括能够进行根据本公开的各种实现的基于图像的多视点3D脸部生成的任何设备或设备合集。例如,系统900可以包括诸如桌面型计算机、移动或平板计算机、智能电话、机顶盒等计算平台或设备的选定组件,但是本公开在这方面不受限制。在一些实现中,系统900可以是CE设备的基于Intel®架构(IA)的计算平台或SoC。本领域技术人员将容易地明白,在不偏离本公开的范围的情况下,本文描述的实现可以与备选处理系统一起使用。
系统900包括具有一个或多个处理器核904的处理器902。处理器核904可以是至少能够部分地执行软件和/或处理数据信号的任何类型的处理器逻辑。在各种实例中,处理器核904可以包括CISC处理器核、RISC微处理器核、VLIW微处理器核和/或实现指令集的任意组合的任意数量的处理器核、或诸如数字信号处理器或微控制器的任何其它处理器设备。
处理器902还包括解码器906,它可用于将由例如显示处理器908和/或图形处理器910接收的指令解码为控制信号和/或微代码输入点。尽管在系统900中示为不同于核904的组件,但是本领域技术人员可意识到,核904中的一个或多个核可以实现解码器906、显示处理器908和/或图形处理器910。在一些实现中,处理器902可以配置成进行本文所描述的任何过程,包括关于图2描述的实例过程。此外,响应控制信号和/或微代码输入点,解码器906、显示处理器908和/或图形处理器910可以执行对应操作。
处理核904、解码器906、显示处理器908和/或图形处理器910可以通过系统互连916在通信上和/或在操作上与彼此和/或与各种其它系统设备耦合,各种其它系统设备可以包括但不限于例如存储器控制器914、音频控制器918和/或外围设备920。外围设备920可以包括例如统一串行总线(USB)主机端口、外围组件互连(PCI)快速端口、串行外围接口(SPI)接口、扩展总线和/或其它外围设备。尽管图9将存储器控制器914示为通过互连916耦合到解码器906与处理器908和910,但是在各种实现中,存储器控制器914可以直接耦合到解码器906、显示处理器908和/或图形处理器910。
在一些实现中,系统900可以经由I/O总线(图9中未示出)与同样在图9中没有示出的各种I/O设备通信。这些I/O设备可以包括但不限于例如通用异步接收器/传送器(UART)设备、USB设备、I/O扩展接口或其它I/O设备。在各种实现中,系统900可以代表用于进行移动、网络和/或无线通信的系统的至少部分。
系统900还可包括存储器912。存储器912可以是一个或多个离散存储器组件,例如动态随机存取存储器(DRAM)设备、静态随机存取存储器(SRAM)设备、闪速存储器设备或其它存储器设备。尽管图9将存储器912示为位于处理器902的外部,但是在各种实现中,存储器912可以位于处理器902的内部。存储器912可以存储由数据信号表示的指令和/或数据,它们可以在进行包括关于图2描述的实例过程的本文描述的任何过程中由处理器902执行。例如,存储器912可以存储表示如本文所描述的相机参数、2D脸部图像、稠密化身网格、3D脸部模型等的数据。在一些实现中,存储器912可以包括系统存储器部分和显示存储器部分。
诸如实例系统100的本文描述的设备和/或系统表示根据本公开的许多可能的设备配置、架构或系统中的若干个。符合本公开的系统的众多变化(例如实例系统100的变化)是可能的。
上文描述的系统以及如本文所描述的由它们执行的处理可以用硬件、固件、或软件或其任意组合来实现。另外,本文公开的任意一个或多个特征可以用包括离散和集成电路逻辑、专用集成电路(ASIC)逻辑和微控制器的硬件、软件、固件及其组合来实现,并且可以作为域特定集成电路封装的部分或集成电路封装的组合来实现。如本文所用的,术语“软件”是指包括计算机可读介质的计算机程序产品,在计算机可读介质中存储有计算机程序逻辑,以便使计算机系统执行本文所公开的一个或多个特征和/或特征的组合。
尽管参考各种实现描述了本文所阐述的某些特征,但是不希望以限制的含义来解释本描述。因此,本文描述的实现的各种修改以及对于本公开所属领域的技术人员来说显而易见的其它实现视为落在本公开的精神和范围内。

Claims (20)

1. 一种计算机实现的方法,包括:
接收多个2D脸部图像;
从所述多个脸部图像恢复相机参数和稀疏关键点;
运用多视点立体过程以便响应所述相机参数和稀疏关键点生成稠密化身网格;
拟合所述稠密化身网格以便生成3D脸部模型;以及
运用多视点纹理合成以便生成与所述3D脸部模型相关联的纹理图像。
2. 如权利要求1所述的方法,还包括对每个脸部图像执行脸部检测。
3. 如权利要求2所述的方法,其中对每个脸部图像执行脸部检测包括对于每个图像自动生成脸部边界框以及自动标识脸部标志点。
4. 如权利要求1所述的方法,其中拟合所述稠密化身网格以便生成所述3D脸部模型包括:
拟合所述稠密化身网格以便生成重建的形变脸部网格;以及
将所述稠密化身网格对齐到所述重建的形变脸部网格以便生成所述3D脸部模型。
5. 如权利要求4所述的方法,其中拟合所述稠密化身网格以便生成所述重建的形变脸部网格包括运用迭代闭合点技术。
6. 如权利要求4所述的方法,还包括精炼所述3D脸部模型以便生成平滑的3D脸部模型。
7. 如权利要求6所述的方法,还包括组合所述平滑的3D模型与所述纹理图像以便生成最终的3D脸部模型。
8. 如权利要求1所述的方法,其中恢复相机参数包括恢复与每个脸部图像相关联的相机位置,每个相机位置具有主轴,并且其中运用多视点纹理合成包括:
对于所述稠密化身网格中的点生成每个脸部图像中的投影点;
确定所述稠密化身网格中的所述点的法线与每个相机位置的主轴之间的角度的余弦值;以及
按照由所述对应余弦值加权的所述投影点的纹理值的函数生成所述稠密化身网格中的所述点的纹理值。
9. 一种系统,包括:
处理器以及耦合到所述处理器的存储器,其中所述存储器中的指令将所述处理器配置成:
接收多个2D脸部图像;
从所述多个脸部图像恢复相机参数和稀疏关键点;
运用多视点立体过程以便响应所述相机参数和稀疏关键点生成稠密化身网格;
拟合所述稠密化身网格以便生成3D脸部模型;以及
运用多视点纹理合成以便生成与所述3D脸部模型相关联的纹理图像。
10. 如权利要求9所述的系统,其中所述存储器中的指令还将所述处理器配置成对每个脸部图像执行脸部检测。
11. 如权利要求10所述的系统,其中对每个脸部图像执行脸部检测包括对于每个图像自动生成脸部边界框以及自动标识脸部标志点。
12. 如权利要求9所述的系统,其中拟合所述稠密化身网格以便生成所述3D脸部模型包括:
拟合所述稠密化身网格以便生成重建的形变脸部网格;以及
将所述稠密化身网格对齐到所述重建的形变脸部网格以便生成所述3D脸部模型。
13. 如权利要求12所述的系统,其中拟合所述稠密化身网格以便生成所述重建的形变脸部网格包括运用迭代闭合点技术。
14. 如权利要求9所述的系统,其中恢复相机参数包括恢复与每个脸部图像相关联的相机位置,每个相机位置具有主轴,并且其中运用多视点纹理合成包括:
对于所述稠密化身网格中的点生成每个脸部图像中的投影点;
确定所述稠密化身网格中的所述点的法线与每个相机位置的主轴之间的角度的余弦值;以及
按照由所述对应余弦值加权的所述投影点的纹理值的函数生成所述稠密化身网格中的所述点的纹理值。
15. 一种物品,包括计算机程序产品,在所述计算机程序产品中存储有指令,所述指令在执行时导致:
接收多个2D脸部图像;
从所述多个脸部图像恢复相机参数和稀疏关键点;
运用多视点立体过程以便响应所述相机参数和稀疏关键点生成稠密化身网格;
拟合所述稠密化身网格以便生成3D脸部模型;以及
运用多视点纹理合成以便生成与所述3D脸部模型相关联的纹理图像。
16. 如权利要求15所述的物品,所述计算机程序产品中还存储有指令,所述指令在执行时导致对每个脸部图像执行脸部检测。
17. 如权利要求16所述的物品,其中对每个脸部图像执行脸部检测包括对于每个图像自动生成脸部边界框以及自动标识脸部标志点。
18. 如权利要求15所述的物品,其中拟合所述稠密化身网格以便生成所述3D脸部模型包括:
拟合所述稠密化身网格以便生成重建的形变脸部网格;以及
将所述稠密化身网格对齐到所述重建的形变脸部网格以便生成所述3D脸部模型。
19. 如权利要求18所述的物品,其中拟合所述稠密化身网格以便生成所述重建的形变脸部网格包括运用迭代闭合点技术。
20. 如权利要求15所述的物品,其中恢复相机参数包括恢复与每个脸部图像相关联的相机位置,每个相机位置具有主轴,并且其中运用多视点纹理合成包括:
对于所述稠密化身网格中的点生成每个脸部图像中的投影点;
确定所述稠密化身网格中的所述点的法线与每个相机位置的主轴之间的角度的余弦值;以及
按照由所述对应余弦值加权的所述投影点的纹理值的函数生成所述稠密化身网格中的所述点的纹理值。
CN201180073144.4A 2011-08-09 2011-08-09 基于图像的多视点3d脸部生成 Pending CN103765479A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2011/001306 WO2013020248A1 (en) 2011-08-09 2011-08-09 Image-based multi-view 3d face generation

Publications (1)

Publication Number Publication Date
CN103765479A true CN103765479A (zh) 2014-04-30

Family

ID=47667838

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201180073144.4A Pending CN103765479A (zh) 2011-08-09 2011-08-09 基于图像的多视点3d脸部生成

Country Status (6)

Country Link
US (1) US20130201187A1 (zh)
EP (1) EP2754130A4 (zh)
JP (1) JP5773323B2 (zh)
KR (1) KR101608253B1 (zh)
CN (1) CN103765479A (zh)
WO (1) WO2013020248A1 (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018053703A1 (en) * 2016-09-21 2018-03-29 Intel Corporation Estimating accurate face shape and texture from an image
CN108446597A (zh) * 2018-02-14 2018-08-24 天目爱视(北京)科技有限公司 一种基于可见光相机的生物特征3d数据采集方法及装置
CN108470150A (zh) * 2018-02-14 2018-08-31 天目爱视(北京)科技有限公司 一种基于可见光相机的生物特征四维数据采集方法及装置
CN108470151A (zh) * 2018-02-14 2018-08-31 天目爱视(北京)科技有限公司 一种生物特征模型合成方法及装置
CN108492330A (zh) * 2018-02-14 2018-09-04 天目爱视(北京)科技有限公司 一种多目视觉深度计算方法及装置
CN108520230A (zh) * 2018-04-04 2018-09-11 北京天目智联科技有限公司 一种3d四维手部图像数据识别方法及设备
CN109241810A (zh) * 2017-07-10 2019-01-18 腾讯科技(深圳)有限公司 虚拟角色图像的构建方法及装置、存储介质
CN109360166A (zh) * 2018-09-30 2019-02-19 北京旷视科技有限公司 一种图像处理方法、装置、电子设备和计算机可读介质
CN110728746A (zh) * 2019-09-23 2020-01-24 清华大学 动态纹理的建模方法及系统
CN110807836A (zh) * 2020-01-08 2020-02-18 腾讯科技(深圳)有限公司 三维人脸模型的生成方法、装置、设备及介质
CN110826501A (zh) * 2019-11-08 2020-02-21 杭州趣维科技有限公司 一种基于稀疏关键点校准的人脸关键点检测方法与系统
CN111288970A (zh) * 2020-02-26 2020-06-16 国网上海市电力公司 一种便携式带电距离测量装置
CN111652974A (zh) * 2020-06-15 2020-09-11 腾讯科技(深圳)有限公司 三维人脸模型的构建方法、装置、设备及存储介质

Families Citing this family (184)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9105014B2 (en) 2009-02-03 2015-08-11 International Business Machines Corporation Interactive avatar in messaging environment
US9123144B2 (en) * 2011-11-11 2015-09-01 Microsoft Technology Licensing, Llc Computing 3D shape parameters for face animation
US9236024B2 (en) 2011-12-06 2016-01-12 Glasses.Com Inc. Systems and methods for obtaining a pupillary distance measurement using a mobile computing device
WO2013166588A1 (en) 2012-05-08 2013-11-14 Bitstrips Inc. System and method for adaptable avatars
US9378584B2 (en) * 2012-05-23 2016-06-28 Glasses.Com Inc. Systems and methods for rendering virtual try-on products
US9483853B2 (en) 2012-05-23 2016-11-01 Glasses.Com Inc. Systems and methods to display rendered images
US9286715B2 (en) 2012-05-23 2016-03-15 Glasses.Com Inc. Systems and methods for adjusting a virtual try-on
FR2998402B1 (fr) * 2012-11-20 2014-11-14 Morpho Procede de generation d'un modele de visage en trois dimensions
WO2014139118A1 (en) 2013-03-14 2014-09-18 Intel Corporation Adaptive facial expression calibration
US10044849B2 (en) 2013-03-15 2018-08-07 Intel Corporation Scalable avatar messaging
US9704296B2 (en) 2013-07-22 2017-07-11 Trupik, Inc. Image morphing processing using confidence levels based on captured images
US9524582B2 (en) 2014-01-28 2016-12-20 Siemens Healthcare Gmbh Method and system for constructing personalized avatars using a parameterized deformable mesh
US10586570B2 (en) 2014-02-05 2020-03-10 Snap Inc. Real time video processing for changing proportions of an object in the video
US10852838B2 (en) * 2014-06-14 2020-12-01 Magic Leap, Inc. Methods and systems for creating virtual and augmented reality
US9679412B2 (en) 2014-06-20 2017-06-13 Intel Corporation 3D face model reconstruction apparatus and method
WO2016040377A1 (en) * 2014-09-08 2016-03-17 Trupik, Inc. Systems and methods for image generation and modeling of complex three-dimensional objects
KR101997500B1 (ko) 2014-11-25 2019-07-08 삼성전자주식회사 개인화된 3d 얼굴 모델 생성 방법 및 장치
US10360469B2 (en) 2015-01-15 2019-07-23 Samsung Electronics Co., Ltd. Registration method and apparatus for 3D image data
US9111164B1 (en) 2015-01-19 2015-08-18 Snapchat, Inc. Custom functional patterns for optical barcodes
TW201629907A (zh) * 2015-02-13 2016-08-16 啟雲科技股份有限公司 三維頭像產生系統及其裝置、產生方法
US10116901B2 (en) 2015-03-18 2018-10-30 Avatar Merger Sub II, LLC Background modification in video conferencing
US9646411B2 (en) * 2015-04-02 2017-05-09 Hedronx Inc. Virtual three-dimensional model generation based on virtual hexahedron models
CN104966316B (zh) * 2015-05-22 2019-03-15 腾讯科技(深圳)有限公司 一种3d人脸重建方法、装置及服务器
KR20170019779A (ko) * 2015-08-12 2017-02-22 트라이큐빅스 인크. 휴대용 카메라를 이용한 3차원 얼굴 모델 획득 방법 및 장치
KR102285376B1 (ko) * 2015-12-01 2021-08-03 삼성전자주식회사 3d 얼굴 모델링 방법 및 3d 얼굴 모델링 장치
US9911073B1 (en) * 2016-03-18 2018-03-06 Snap Inc. Facial patterns for optical barcodes
US10339365B2 (en) 2016-03-31 2019-07-02 Snap Inc. Automated avatar generation
US10474353B2 (en) 2016-05-31 2019-11-12 Snap Inc. Application control using a gesture based trigger
US10360708B2 (en) 2016-06-30 2019-07-23 Snap Inc. Avatar based ideogram generation
US10855632B2 (en) 2016-07-19 2020-12-01 Snap Inc. Displaying customized electronic messaging graphics
KR20180036156A (ko) * 2016-09-30 2018-04-09 주식회사 레드로버 증강현실을 이용한 게임 제공장치 및 그 방법
US10609036B1 (en) 2016-10-10 2020-03-31 Snap Inc. Social media post subscribe requests for buffer user accounts
US10198626B2 (en) 2016-10-19 2019-02-05 Snap Inc. Neural networks for facial modeling
US10593116B2 (en) 2016-10-24 2020-03-17 Snap Inc. Augmented reality object manipulation
US10432559B2 (en) 2016-10-24 2019-10-01 Snap Inc. Generating and displaying customized avatars in electronic messages
EP3545497B1 (en) 2016-11-22 2021-04-21 Lego A/S System for acquiring a 3d digital representation of a physical object
US11616745B2 (en) 2017-01-09 2023-03-28 Snap Inc. Contextual generation and selection of customized media content
US10242503B2 (en) 2017-01-09 2019-03-26 Snap Inc. Surface aware lens
US10242477B1 (en) 2017-01-16 2019-03-26 Snap Inc. Coded vision system
US10951562B2 (en) 2017-01-18 2021-03-16 Snap. Inc. Customized contextual media content item generation
US10454857B1 (en) 2017-01-23 2019-10-22 Snap Inc. Customized digital avatar accessories
US10198858B2 (en) 2017-03-27 2019-02-05 3Dflow Srl Method for 3D modelling based on structure from motion processing of sparse 2D images
US11069103B1 (en) 2017-04-20 2021-07-20 Snap Inc. Customized user interface for electronic communications
WO2018195485A1 (en) * 2017-04-21 2018-10-25 Mug Life, LLC Systems and methods for automatically creating and animating a photorealistic three-dimensional character from a two-dimensional image
KR20230048445A (ko) 2017-04-27 2023-04-11 스냅 인코포레이티드 소셜 미디어 플랫폼상의 사용자 위치의 지역적 레벨 표현
US11893647B2 (en) 2017-04-27 2024-02-06 Snap Inc. Location-based virtual avatars
US10212541B1 (en) 2017-04-27 2019-02-19 Snap Inc. Selective location-based identity communication
CN108876879B (zh) * 2017-05-12 2022-06-14 腾讯科技(深圳)有限公司 人脸动画实现的方法、装置、计算机设备及存储介质
US10679428B1 (en) 2017-05-26 2020-06-09 Snap Inc. Neural network-based image stream modification
US11122094B2 (en) 2017-07-28 2021-09-14 Snap Inc. Software application manager for messaging applications
US10586368B2 (en) 2017-10-26 2020-03-10 Snap Inc. Joint audio-video facial animation system
US10657695B2 (en) 2017-10-30 2020-05-19 Snap Inc. Animated chat presence
US11460974B1 (en) 2017-11-28 2022-10-04 Snap Inc. Content discovery refresh
KR102517427B1 (ko) 2017-11-29 2023-04-03 스냅 인코포레이티드 전자 메시징 애플리케이션들을 위한 그래픽 렌더링
KR102433817B1 (ko) 2017-11-29 2022-08-18 스냅 인코포레이티드 전자 메시징 애플리케이션에서의 그룹 스토리들
US10949648B1 (en) 2018-01-23 2021-03-16 Snap Inc. Region-based stabilized face tracking
US10726603B1 (en) 2018-02-28 2020-07-28 Snap Inc. Animated expressive icon
US10979752B1 (en) 2018-02-28 2021-04-13 Snap Inc. Generating media content items based on location information
US11310176B2 (en) 2018-04-13 2022-04-19 Snap Inc. Content suggestion system
KR20200143464A (ko) 2018-04-18 2020-12-23 스냅 인코포레이티드 증강 표현 시스템
US11769309B2 (en) * 2018-04-30 2023-09-26 Mathew Powers Method and system of rendering a 3D image for automated facial morphing with a learned generic head model
US11854156B2 (en) * 2018-04-30 2023-12-26 Mathew Powers Method and system of multi-pass iterative closest point (ICP) registration in automated facial reconstruction
CN112042182B (zh) * 2018-05-07 2022-12-13 谷歌有限责任公司 通过面部表情操纵远程化身
JP7271099B2 (ja) * 2018-07-19 2023-05-11 キヤノン株式会社 ファイルの生成装置およびファイルに基づく映像の生成装置
US10753736B2 (en) * 2018-07-26 2020-08-25 Cisco Technology, Inc. Three-dimensional computer vision based on projected pattern of laser dots and geometric pattern matching
US11074675B2 (en) 2018-07-31 2021-07-27 Snap Inc. Eye texture inpainting
US11030813B2 (en) 2018-08-30 2021-06-08 Snap Inc. Video clip object tracking
US10896534B1 (en) 2018-09-19 2021-01-19 Snap Inc. Avatar style transformation using neural networks
US10895964B1 (en) 2018-09-25 2021-01-19 Snap Inc. Interface to display shared user groups
US10904181B2 (en) 2018-09-28 2021-01-26 Snap Inc. Generating customized graphics having reactions to electronic message content
US10698583B2 (en) 2018-09-28 2020-06-30 Snap Inc. Collaborative achievement interface
US11245658B2 (en) 2018-09-28 2022-02-08 Snap Inc. System and method of generating private notifications between users in a communication session
US11189070B2 (en) 2018-09-28 2021-11-30 Snap Inc. System and method of generating targeted user lists using customizable avatar characteristics
SG11202102961YA (en) 2018-10-26 2021-04-29 Soul Machines Ltd Digital character blending and generation system and method
US11103795B1 (en) 2018-10-31 2021-08-31 Snap Inc. Game drawer
US10872451B2 (en) 2018-10-31 2020-12-22 Snap Inc. 3D avatar rendering
US11176737B2 (en) 2018-11-27 2021-11-16 Snap Inc. Textured mesh building
US10902661B1 (en) 2018-11-28 2021-01-26 Snap Inc. Dynamic composite user identifier
US10861170B1 (en) 2018-11-30 2020-12-08 Snap Inc. Efficient human pose tracking in videos
US11199957B1 (en) 2018-11-30 2021-12-14 Snap Inc. Generating customized avatars based on location information
US11055514B1 (en) 2018-12-14 2021-07-06 Snap Inc. Image face manipulation
US11516173B1 (en) 2018-12-26 2022-11-29 Snap Inc. Message composition interface
US11032670B1 (en) 2019-01-14 2021-06-08 Snap Inc. Destination sharing in location sharing system
US10939246B1 (en) 2019-01-16 2021-03-02 Snap Inc. Location-based context information sharing in a messaging system
US11294936B1 (en) 2019-01-30 2022-04-05 Snap Inc. Adaptive spatial density based clustering
US10984575B2 (en) 2019-02-06 2021-04-20 Snap Inc. Body pose estimation
US10656797B1 (en) 2019-02-06 2020-05-19 Snap Inc. Global event-based avatar
US10936066B1 (en) 2019-02-13 2021-03-02 Snap Inc. Sleep detection in a location sharing system
US10964082B2 (en) 2019-02-26 2021-03-30 Snap Inc. Avatar based on weather
US10852918B1 (en) 2019-03-08 2020-12-01 Snap Inc. Contextual information in chat
US11868414B1 (en) 2019-03-14 2024-01-09 Snap Inc. Graph-based prediction for contact suggestion in a location sharing system
US11852554B1 (en) 2019-03-21 2023-12-26 Snap Inc. Barometer calibration in a location sharing system
US11166123B1 (en) 2019-03-28 2021-11-02 Snap Inc. Grouped transmission of location data in a location sharing system
US10674311B1 (en) 2019-03-28 2020-06-02 Snap Inc. Points of interest in a location sharing system
US10992619B2 (en) 2019-04-30 2021-04-27 Snap Inc. Messaging system with avatar generation
GB2583774B (en) * 2019-05-10 2022-05-11 Robok Ltd Stereo image processing
USD916872S1 (en) 2019-05-28 2021-04-20 Snap Inc. Display screen or portion thereof with a graphical user interface
USD916809S1 (en) 2019-05-28 2021-04-20 Snap Inc. Display screen or portion thereof with a transitional graphical user interface
USD916810S1 (en) 2019-05-28 2021-04-20 Snap Inc. Display screen or portion thereof with a graphical user interface
USD916871S1 (en) 2019-05-28 2021-04-20 Snap Inc. Display screen or portion thereof with a transitional graphical user interface
USD916811S1 (en) 2019-05-28 2021-04-20 Snap Inc. Display screen or portion thereof with a transitional graphical user interface
US10891789B2 (en) * 2019-05-30 2021-01-12 Itseez3D, Inc. Method to produce 3D model from one or several images
US10893385B1 (en) 2019-06-07 2021-01-12 Snap Inc. Detection of a physical collision between two client devices in a location sharing system
US11676199B2 (en) 2019-06-28 2023-06-13 Snap Inc. Generating customizable avatar outfits
US11188190B2 (en) 2019-06-28 2021-11-30 Snap Inc. Generating animation overlays in a communication session
US11189098B2 (en) 2019-06-28 2021-11-30 Snap Inc. 3D object camera customization system
KR102241153B1 (ko) * 2019-07-01 2021-04-19 주식회사 시어스랩 2차원 이미지로부터 3차원 아바타를 생성하는 방법, 장치 및 시스템
US11307747B2 (en) 2019-07-11 2022-04-19 Snap Inc. Edge gesture interface with smart interactions
US11455081B2 (en) 2019-08-05 2022-09-27 Snap Inc. Message thread prioritization interface
US10911387B1 (en) 2019-08-12 2021-02-02 Snap Inc. Message reminder interface
US11320969B2 (en) 2019-09-16 2022-05-03 Snap Inc. Messaging system with battery level sharing
US11425062B2 (en) 2019-09-27 2022-08-23 Snap Inc. Recommended content viewed by friends
KR102104889B1 (ko) * 2019-09-30 2020-04-27 이명학 가상 입체면 모델에 기초한 3차원 모델 데이터 생성 구현 방법 및 시스템
US11080917B2 (en) 2019-09-30 2021-08-03 Snap Inc. Dynamic parameterized user avatar stories
US11218838B2 (en) 2019-10-31 2022-01-04 Snap Inc. Focused map-based context information surfacing
US11063891B2 (en) 2019-12-03 2021-07-13 Snap Inc. Personalized avatar notification
US11128586B2 (en) 2019-12-09 2021-09-21 Snap Inc. Context sensitive avatar captions
US11036989B1 (en) 2019-12-11 2021-06-15 Snap Inc. Skeletal tracking using previous frames
US11263817B1 (en) 2019-12-19 2022-03-01 Snap Inc. 3D captions with face tracking
US11227442B1 (en) 2019-12-19 2022-01-18 Snap Inc. 3D captions with semantic graphical elements
US11128715B1 (en) 2019-12-30 2021-09-21 Snap Inc. Physical friend proximity in chat
US11140515B1 (en) 2019-12-30 2021-10-05 Snap Inc. Interfaces for relative device positioning
US11169658B2 (en) 2019-12-31 2021-11-09 Snap Inc. Combined map icon with action indicator
US11284144B2 (en) 2020-01-30 2022-03-22 Snap Inc. Video generation system to render frames on demand using a fleet of GPUs
KR20220133249A (ko) 2020-01-30 2022-10-04 스냅 인코포레이티드 온 디맨드로 미디어 콘텐츠 아이템들을 생성하기 위한 시스템
US11036781B1 (en) 2020-01-30 2021-06-15 Snap Inc. Video generation system to render frames on demand using a fleet of servers
US11356720B2 (en) 2020-01-30 2022-06-07 Snap Inc. Video generation system to render frames on demand
US11619501B2 (en) 2020-03-11 2023-04-04 Snap Inc. Avatar based on trip
US11217020B2 (en) 2020-03-16 2022-01-04 Snap Inc. 3D cutout image modification
US11818286B2 (en) 2020-03-30 2023-11-14 Snap Inc. Avatar recommendation and reply
US11625873B2 (en) 2020-03-30 2023-04-11 Snap Inc. Personalized media overlay recommendation
US11956190B2 (en) 2020-05-08 2024-04-09 Snap Inc. Messaging system with a carousel of related entities
US11922010B2 (en) 2020-06-08 2024-03-05 Snap Inc. Providing contextual information with keyboard interface for messaging system
US11543939B2 (en) 2020-06-08 2023-01-03 Snap Inc. Encoded image based messaging system
US11356392B2 (en) 2020-06-10 2022-06-07 Snap Inc. Messaging system including an external-resource dock and drawer
US11580682B1 (en) 2020-06-30 2023-02-14 Snap Inc. Messaging system with augmented reality makeup
US11810397B2 (en) 2020-08-18 2023-11-07 Samsung Electronics Co., Ltd. Method and apparatus with facial image generating
CN114170640B (zh) * 2020-08-19 2024-02-02 腾讯科技(深圳)有限公司 人脸图像的处理方法、装置、计算机可读介质及设备
US11863513B2 (en) 2020-08-31 2024-01-02 Snap Inc. Media content playback and comments management
US11360733B2 (en) 2020-09-10 2022-06-14 Snap Inc. Colocated shared augmented reality without shared backend
US11470025B2 (en) 2020-09-21 2022-10-11 Snap Inc. Chats with micro sound clips
US11452939B2 (en) 2020-09-21 2022-09-27 Snap Inc. Graphical marker generation system for synchronizing users
US11910269B2 (en) 2020-09-25 2024-02-20 Snap Inc. Augmented reality content items including user avatar to share location
US11615592B2 (en) 2020-10-27 2023-03-28 Snap Inc. Side-by-side character animation from realtime 3D body motion capture
US11660022B2 (en) 2020-10-27 2023-05-30 Snap Inc. Adaptive skeletal joint smoothing
US11748931B2 (en) 2020-11-18 2023-09-05 Snap Inc. Body animation sharing and remixing
US11734894B2 (en) 2020-11-18 2023-08-22 Snap Inc. Real-time motion transfer for prosthetic limbs
US11450051B2 (en) 2020-11-18 2022-09-20 Snap Inc. Personalized avatar real-time motion capture
KR102479120B1 (ko) 2020-12-18 2022-12-16 한국공학대학교산학협력단 가변 초점 방식의 3d 텐서 기반 3차원 영상 획득 방법 및 장치
US11790531B2 (en) 2021-02-24 2023-10-17 Snap Inc. Whole body segmentation
KR102501719B1 (ko) * 2021-03-03 2023-02-21 (주)자이언트스텝 비정면 이미지 기반의 학습 모델을 이용한 페이셜 애니메이션 생성 방법 및 장치
US11908243B2 (en) 2021-03-16 2024-02-20 Snap Inc. Menu hierarchy navigation on electronic mirroring devices
US11734959B2 (en) 2021-03-16 2023-08-22 Snap Inc. Activating hands-free mode on mirroring device
US11798201B2 (en) 2021-03-16 2023-10-24 Snap Inc. Mirroring device with whole-body outfits
US11809633B2 (en) 2021-03-16 2023-11-07 Snap Inc. Mirroring device with pointing based navigation
US11544885B2 (en) 2021-03-19 2023-01-03 Snap Inc. Augmented reality experience based on physical items
US11562548B2 (en) 2021-03-22 2023-01-24 Snap Inc. True size eyewear in real time
US11636654B2 (en) 2021-05-19 2023-04-25 Snap Inc. AR-based connected portal shopping
US11941227B2 (en) 2021-06-30 2024-03-26 Snap Inc. Hybrid search system for customizable media
CN113643412B (zh) * 2021-07-14 2022-07-22 北京百度网讯科技有限公司 虚拟形象的生成方法、装置、电子设备及存储介质
US11854069B2 (en) 2021-07-16 2023-12-26 Snap Inc. Personalized try-on ads
US11908083B2 (en) 2021-08-31 2024-02-20 Snap Inc. Deforming custom mesh based on body mesh
US11670059B2 (en) 2021-09-01 2023-06-06 Snap Inc. Controlling interactive fashion based on body gestures
US11673054B2 (en) 2021-09-07 2023-06-13 Snap Inc. Controlling AR games on fashion items
US11663792B2 (en) 2021-09-08 2023-05-30 Snap Inc. Body fitted accessory with physics simulation
US11900506B2 (en) 2021-09-09 2024-02-13 Snap Inc. Controlling interactive fashion based on facial expressions
US11734866B2 (en) 2021-09-13 2023-08-22 Snap Inc. Controlling interactive fashion based on voice
US11798238B2 (en) 2021-09-14 2023-10-24 Snap Inc. Blending body mesh into external mesh
US11836866B2 (en) 2021-09-20 2023-12-05 Snap Inc. Deforming real-world object using an external mesh
US11636662B2 (en) 2021-09-30 2023-04-25 Snap Inc. Body normal network light and rendering control
US11836862B2 (en) 2021-10-11 2023-12-05 Snap Inc. External mesh with vertex attributes
US11790614B2 (en) 2021-10-11 2023-10-17 Snap Inc. Inferring intent from pose and speech input
US11651572B2 (en) 2021-10-11 2023-05-16 Snap Inc. Light and rendering of garments
US11763481B2 (en) 2021-10-20 2023-09-19 Snap Inc. Mirror-based augmented reality experience
KR102537149B1 (ko) * 2021-11-12 2023-05-26 주식회사 네비웍스 그래픽 처리장치 및 그 동작 방법
US11748958B2 (en) 2021-12-07 2023-09-05 Snap Inc. Augmented reality unboxing experience
US11960784B2 (en) 2021-12-07 2024-04-16 Snap Inc. Shared augmented reality unboxing experience
US11880947B2 (en) 2021-12-21 2024-01-23 Snap Inc. Real-time upper-body garment exchange
US11928783B2 (en) 2021-12-30 2024-03-12 Snap Inc. AR position and orientation along a plane
US11887260B2 (en) 2021-12-30 2024-01-30 Snap Inc. AR position indicator
US11823346B2 (en) 2022-01-17 2023-11-21 Snap Inc. AR body part tracking system
US11954762B2 (en) 2022-01-19 2024-04-09 Snap Inc. Object replacement system
US11870745B1 (en) 2022-06-28 2024-01-09 Snap Inc. Media gallery sharing and management
US11893166B1 (en) 2022-11-08 2024-02-06 Snap Inc. User avatar movement control using an augmented reality eyewear device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1404016A (zh) * 2002-10-18 2003-03-19 清华大学 融合多视角、多线索二维信息的人脸三维模型的建立方法
CN1776712A (zh) * 2005-12-15 2006-05-24 复旦大学 一种基于人脸统计知识的人脸识别方法
US20060126924A1 (en) * 2000-03-09 2006-06-15 Microsoft Corporation Rapid Computer Modeling of Faces for Animation
US20070183653A1 (en) * 2006-01-31 2007-08-09 Gerard Medioni 3D Face Reconstruction from 2D Images

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69934478T2 (de) * 1999-03-19 2007-09-27 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. Verfahren und Gerät zur Bildverarbeitung auf Basis von Metamorphosemodellen
US7221809B2 (en) * 2001-12-17 2007-05-22 Genex Technologies, Inc. Face recognition system and method
EP1599828A1 (en) * 2003-03-06 2005-11-30 Animetrics, Inc. Viewpoint-invariant image matching and generation of three-dimensional models from two-dimensional imagery
US7783082B2 (en) * 2003-06-30 2010-08-24 Honda Motor Co., Ltd. System and method for face recognition
US7239321B2 (en) * 2003-08-26 2007-07-03 Speech Graphics, Inc. Static and dynamic 3-D human face reconstruction
KR100682889B1 (ko) * 2003-08-29 2007-02-15 삼성전자주식회사 영상에 기반한 사실감 있는 3차원 얼굴 모델링 방법 및 장치
US7860301B2 (en) * 2005-02-11 2010-12-28 Macdonald Dettwiler And Associates Inc. 3D imaging system
US7415152B2 (en) * 2005-04-29 2008-08-19 Microsoft Corporation Method and system for constructing a 3D representation of a face from a 2D representation
US8320660B2 (en) * 2005-06-03 2012-11-27 Nec Corporation Image processing system, 3-dimensional shape estimation system, object position/posture estimation system and image generation system
US7756325B2 (en) * 2005-06-20 2010-07-13 University Of Basel Estimating 3D shape and texture of a 3D object based on a 2D image of the 3D object
US7755619B2 (en) * 2005-10-13 2010-07-13 Microsoft Corporation Automatic 3D face-modeling from video
US7567251B2 (en) * 2006-01-10 2009-07-28 Sony Corporation Techniques for creating facial animation using a face mesh
US7814441B2 (en) * 2006-05-09 2010-10-12 Inus Technology, Inc. System and method for identifying original design intents using 3D scan data
US8591225B2 (en) * 2008-12-12 2013-11-26 Align Technology, Inc. Tooth movement measurement by automatic impression matching
US8155399B2 (en) * 2007-06-12 2012-04-10 Utc Fire & Security Corporation Generic face alignment via boosting
US20090091085A1 (en) * 2007-10-08 2009-04-09 Seiff Stanley P Card game
US20110227923A1 (en) * 2008-04-14 2011-09-22 Xid Technologies Pte Ltd Image synthesis method
TWI382354B (zh) * 2008-12-02 2013-01-11 Nat Univ Tsing Hua 臉部辨識方法
TW201023092A (en) * 2008-12-02 2010-06-16 Nat Univ Tsing Hua 3D face model construction method
US8204301B2 (en) * 2009-02-25 2012-06-19 Seiko Epson Corporation Iterative data reweighting for balanced model learning
US8260039B2 (en) * 2009-02-25 2012-09-04 Seiko Epson Corporation Object model fitting using manifold constraints
US8208717B2 (en) * 2009-02-25 2012-06-26 Seiko Epson Corporation Combining subcomponent models for object image modeling
JP5442111B2 (ja) * 2009-05-21 2014-03-12 インテル・コーポレーション 画像から高速に立体構築を行なう方法
US20100315424A1 (en) * 2009-06-15 2010-12-16 Tao Cai Computer graphic generation and display method and system
US8553973B2 (en) * 2009-07-07 2013-10-08 University Of Basel Modeling methods and systems
JP2011039869A (ja) * 2009-08-13 2011-02-24 Nippon Hoso Kyokai <Nhk> 顔画像処理装置およびコンピュータプログラム
CN101739719B (zh) * 2009-12-24 2012-05-30 四川大学 二维正面人脸图像的三维网格化方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060126924A1 (en) * 2000-03-09 2006-06-15 Microsoft Corporation Rapid Computer Modeling of Faces for Animation
CN1404016A (zh) * 2002-10-18 2003-03-19 清华大学 融合多视角、多线索二维信息的人脸三维模型的建立方法
CN1776712A (zh) * 2005-12-15 2006-05-24 复旦大学 一种基于人脸统计知识的人脸识别方法
US20070183653A1 (en) * 2006-01-31 2007-08-09 Gerard Medioni 3D Face Reconstruction from 2D Images

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
J.STORM ET AL.: "Real Time Tracking and Modeling of Faces:An EKF-based Analysis by Synthesis Approach", 《MODELLING PEOPLE,1999.PROCEEDINGS.IEEE INTERNATIONAL WORKSHOP ON》 *
MINYOUNG KIM ET AL.: "Face Tracking and Recognition with Visual Constraints in Real-World videos", 《COMPUTER VISION AND PATTERN RECOGNITION,2008.CVPR 2008.IEEE CONFERENCE ON》 *
胡永利 等: "基于形变模型的三维人脸重建方法及其改进", 《计算机学报》 *
龚勋 等: "基于特征点的三维人脸形变模型", 《软件学报》 *

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10818064B2 (en) 2016-09-21 2020-10-27 Intel Corporation Estimating accurate face shape and texture from an image
WO2018053703A1 (en) * 2016-09-21 2018-03-29 Intel Corporation Estimating accurate face shape and texture from an image
CN109241810A (zh) * 2017-07-10 2019-01-18 腾讯科技(深圳)有限公司 虚拟角色图像的构建方法及装置、存储介质
CN108446597B (zh) * 2018-02-14 2019-06-25 天目爱视(北京)科技有限公司 一种基于可见光相机的生物特征3d数据采集方法及装置
CN108470151A (zh) * 2018-02-14 2018-08-31 天目爱视(北京)科技有限公司 一种生物特征模型合成方法及装置
CN108470150A (zh) * 2018-02-14 2018-08-31 天目爱视(北京)科技有限公司 一种基于可见光相机的生物特征四维数据采集方法及装置
CN108492330A (zh) * 2018-02-14 2018-09-04 天目爱视(北京)科技有限公司 一种多目视觉深度计算方法及装置
CN108446597A (zh) * 2018-02-14 2018-08-24 天目爱视(北京)科技有限公司 一种基于可见光相机的生物特征3d数据采集方法及装置
CN108520230A (zh) * 2018-04-04 2018-09-11 北京天目智联科技有限公司 一种3d四维手部图像数据识别方法及设备
CN109360166B (zh) * 2018-09-30 2021-06-22 北京旷视科技有限公司 一种图像处理方法、装置、电子设备和计算机可读介质
CN109360166A (zh) * 2018-09-30 2019-02-19 北京旷视科技有限公司 一种图像处理方法、装置、电子设备和计算机可读介质
CN110728746A (zh) * 2019-09-23 2020-01-24 清华大学 动态纹理的建模方法及系统
CN110728746B (zh) * 2019-09-23 2021-09-21 清华大学 动态纹理的建模方法及系统
CN110826501A (zh) * 2019-11-08 2020-02-21 杭州趣维科技有限公司 一种基于稀疏关键点校准的人脸关键点检测方法与系统
CN110826501B (zh) * 2019-11-08 2022-04-05 杭州小影创新科技股份有限公司 一种基于稀疏关键点校准的人脸关键点检测方法与系统
CN110807836A (zh) * 2020-01-08 2020-02-18 腾讯科技(深圳)有限公司 三维人脸模型的生成方法、装置、设备及介质
CN111288970A (zh) * 2020-02-26 2020-06-16 国网上海市电力公司 一种便携式带电距离测量装置
CN111652974A (zh) * 2020-06-15 2020-09-11 腾讯科技(深圳)有限公司 三维人脸模型的构建方法、装置、设备及存储介质
CN111652974B (zh) * 2020-06-15 2023-08-25 腾讯科技(深圳)有限公司 三维人脸模型的构建方法、装置、设备及存储介质

Also Published As

Publication number Publication date
JP5773323B2 (ja) 2015-09-02
JP2014525108A (ja) 2014-09-25
KR20140043945A (ko) 2014-04-11
EP2754130A1 (en) 2014-07-16
EP2754130A4 (en) 2016-01-06
US20130201187A1 (en) 2013-08-08
WO2013020248A1 (en) 2013-02-14
KR101608253B1 (ko) 2016-04-01

Similar Documents

Publication Publication Date Title
CN103765479A (zh) 基于图像的多视点3d脸部生成
US10360718B2 (en) Method and apparatus for constructing three dimensional model of object
US11631213B2 (en) Method and system for real-time 3D capture and live feedback with monocular cameras
Alexiadis et al. Real-time, full 3-D reconstruction of moving foreground objects from multiple consumer depth cameras
US11127189B2 (en) 3D skeleton reconstruction from images using volumic probability data
Yang et al. Efficient 3d room shape recovery from a single panorama
Park et al. Robust multiview photometric stereo using planar mesh parameterization
Yang et al. Automatic 3d indoor scene modeling from single panorama
Sinha et al. Camera network calibration and synchronization from silhouettes in archived video
GB2573170A (en) 3D Skeleton reconstruction from images using matching 2D skeletons
da Silveira et al. 3d scene geometry estimation from 360 imagery: A survey
Pagani et al. Dense 3D Point Cloud Generation from Multiple High-resolution Spherical Images.
Lin et al. BEV-MAE: Bird's Eye View Masked Autoencoders for Outdoor Point Cloud Pre-training
Jeon et al. Struct-MDC: Mesh-refined unsupervised depth completion leveraging structural regularities from visual SLAM
Leroy et al. Volume sweeping: Learning photoconsistency for multi-view shape reconstruction
Aizawa et al. Image processing technologies: algorithms, sensors, and applications
Hu et al. Multiple-view 3-D reconstruction using a mirror
LUCAS1a et al. Recover3d: A hybrid multi-view system for 4d reconstruction of moving actors
Man et al. Groundnet: Segmentation-aware monocular ground plane estimation with geometric consistency
Hasegawa et al. Distortion-Aware Self-Supervised 360 {\deg} Depth Estimation from A Single Equirectangular Projection Image
Babahajiani Geometric computer vision: Omnidirectional visual and remotely sensed data analysis
da Silveira et al. 3D Scene Geometry Estimation from 360$^\circ $ Imagery: A Survey
Zaharescu et al. Camera-clustering for multi-resolution 3-d surface reconstruction
Szeliski et al. Depth Estimation
Ikehata et al. Confidence-based refinement of corrupted depth maps

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20140430