CN102812697A - 用于构建色彩和深度图像的成像器 - Google Patents

用于构建色彩和深度图像的成像器 Download PDF

Info

Publication number
CN102812697A
CN102812697A CN2010800437795A CN201080043779A CN102812697A CN 102812697 A CN102812697 A CN 102812697A CN 2010800437795 A CN2010800437795 A CN 2010800437795A CN 201080043779 A CN201080043779 A CN 201080043779A CN 102812697 A CN102812697 A CN 102812697A
Authority
CN
China
Prior art keywords
detector
visible light
filter
double
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2010800437795A
Other languages
English (en)
Other versions
CN102812697B (zh
Inventor
S·麦克尔道尼
E·吉埃默
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of CN102812697A publication Critical patent/CN102812697A/zh
Application granted granted Critical
Publication of CN102812697B publication Critical patent/CN102812697B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0224Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using polarising or depolarising elements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0229Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using masks, aperture plates, spatial light modulators or spatial filters, e.g. reflective filters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0235Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using means for replacing an element by another, for replacing a filter or a grating
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths

Abstract

双模包括被配置成投影可从中过滤出可见光的结构化照明的光源。双模成像器还包括被配置成捕捉来自场景的结构化照明和可见光两者的检测器。时间或空间过滤器用于选择性地阻塞可见光使其不到达检测器的一个或多个部分,而使结构化照明通过使其到达检测器的该一个或多个部分。

Description

用于构建色彩和深度图像的成像器
背景
相机可用于捕捉场景的静止图像。快速连续拍摄的若干静止图像可用于生成包括多个帧的电影,每一帧对应于不同的静止图像。尽管这样的图像在各种不同的应用中是非常有用的,但这样的图像并非很好地适于某些目的。具体而言,常规的静止图像和电影不提供足以准确地评估在场景中所捕捉的各种表面的相对深度的信息。
概述
公开了用于对可见光所照明的场景进行成像的双模成像器。该双模成像器包括被配置成投影可从中过滤可见光的结构化照明的光源。该双模成像器还包括被配置成捕捉来自场景的结构化照明和可见光两者的检测器。时间或空间过滤器用于选择性地阻塞可见光使其不到达检测器的一个或多个部分,而使结构化照明通过使其到达检测器的该一个或多个部分。
提供本概述以便以简化形式介绍将在以下详细描述中进一步描述的一些概念。本概述并不旨在标识出所要求保护的主题的关键或必要特征,也不旨在用于限定所要求保护的主题的范围。此外,所要求保护的主题不限于解决在本公开的任一部分中提及的任何或所有缺点的实现。
附图简述
图1示出了可被处理用于构建色彩图像和深度图像的示例场景。
图2示意性地示出了根据本公开的一实施例的示例双模成像器。
图3示意性地示出了根据本公开的一实施例的示例转轮过滤器。
图4示意性地示出了其中图3的转轮过滤器正与检测器协作以构建色彩图像和深度图像的时间序列。
图5示意性地示出了与检测器协作以构建色彩图像和深度图像的示例空间过滤器。
图6示出了使用共享图像传感器来构建色彩图像和深度图像的示例方法。
图7示意性地示出了能够使用共享图像传感器来构建色彩图像和深度图像的示例计算系统。
详细描述
公开了能够使用共享图像传感器来处理深度信息和色彩信息的双模成像器。数字双模成像器在时间和/或空间上过滤递送给图像传感器(即,检测器)的光,使得像素的子集在时间的子集被暴露于第一参数(例如,波长带)所表征的光,且使得像素的相同或不同子集在时间的相同或不同子集被暴露于与第一参数不同的第二参数(例如,不同的波长带)所表征的光。以此方式,第一参数所表征的光可用于构建色彩图像,而第二参数所表征的光可用于构建深度图像。这两种图像都可使用相同的图像传感器来构建——例如,通过使用所有的像素来在读取色彩信息与深度信息之间进行时间上的交替,或通过使用所选择的像素来读取色彩信息而使用其他像素来读取深度信息。
使用共享图像传感器对色彩图像和深度图像的创建在下文作为示例并参考某些所示实施例来描述。将注意到包括在本说明书中的附图是示意性的。所示实施例的视图一般不按比例绘制。纵横比、特征大小以及特征数量可以有目的地失真,以使所选择的特征或关系更容易理解。
图1示出了可被处理用于构建色彩图像和深度图像的示例场景10的简化透视图。场景包括以不同深度(即,自位于场景前面的观察者的观点的距离)来安排的各个对象和表面。表面12在场景中是最深的(距观察者的观点最远)。表面14被安排在表面12的前面(距观察者的观点较近),且表面16、18和20被安排在表面14的前面。由此,当前考虑的表面是宏表面,具有与场景维度相同数量级的维度。然而,将注意到,此处公开的系统和方法不限于这样的表面,而是也将允许检查结构化宏表面的小得多的区域,例如,询问粗糙或不规则的拓扑结构等。此外,尽管图1示出了静止场景,但此处描述的概念可用于对动态场景(诸如包括一个或多个移动的人或对象的场景)成像。
除了被安排在场景内的不同深度以外,图1中示出的各个表面相对于彼此和观察者被不同地定向。表面12和14被定向为与观察者视线呈法向,而表面16对于观察者视线是倾斜的。此外,弯曲表面18和20呈现相对于观察者视线的连续定向范围。
图1中示出的表面也可呈现不同的纹理。例如,表面20相比于底层表面18可以是相对平滑的。光学上,场景的不同纹理可展示不同的光反射性质。例如,表面20可以是很大程度上镜面反射的,而表面18可以是很大程度上散射的。
最终,场景中的各个对象可以是不同色彩。尽管黑线和白线绘图被用于示意性地描绘场景10,但本领域中的技术人员将理解,各个表面的光吸收和光反射性质可以彼此不同,且由此各个表面的色彩可以彼此不同。
在某些应用中,仅处理来自场景的色彩信息以形成该场景的色彩图像(例如,数码照片或数字电影)。在其他应用中,仅处理来自场景的深度信息以形成深度图像。如此处描述的,处理色彩信息和深度信息两者,使得可形成色彩图像和深度图像。代替使用两个分开的相机——一个相机用于生成色彩图像而另一个相机用于生成深度图像——本发明涉及生成两种图像的单个双模成像器。
图2示出了场景10的横截平面视图。在一个示例实施例中,该图还示出了双模成像器22。该双模成像器是用于对场景成像的光学系统;它包括控制器23、光源24、检测器26和过滤器28。
控制器23可以是被配置成控制光源24、检测器26、和/或过滤器28的任何控制设备——例如,用于触发、协调、和/或同步这些组件的运作。控制器可包括如下文描述的逻辑子系统和/或数据保持子系统。在某些实施例中,控制器可包括深度分析器。在其他实施例中,深度分析器可在操作上与控制器通信,但本身可以是一分开的系统。
控制器可协调过滤器和检测器的定时,使得由检测器捕捉的图像在过滤器正阻塞来自检测器的可见光时被排序以构建深度图像。控制器还可协调过滤器和检测器的定时,使得由检测器捕捉的图像在过滤器正使可见光通过使其到达检测器时被排序以构建色彩图像。深度分析器随后可基于由检测器捕捉的结构化照明的一个或多个图像(即,在过滤器正阻塞可见光不使其到达检测器时,由检测器捕捉的一个或多个图像),来构建深度图像。这在下面将更详细地描述。
光源24可以是被配置成将可过滤照明投影到场景10的各个表面上的任何合适的光源。具体而言,光源24被配置成投影具有与可见光的对应特征不同的一个或多个特征的光,由此允许相对于投影光来过滤可见光(例如,可经由波长和/或偏振状态来过滤)。
在图2中示出的实施例中,光源包括激光器30和分散器32。激光器可提供具有已知偏振状态并且密集、经校准的、相干的且基本上单色的光束。
如此处使用的术语‘偏振状态’包含在光传播时光振荡的方向或指向或这一方向的旋转的任何非寻常指示;指示可以是准确的或近似的、完全的或不完全的。完全偏振状态的一个示例是包括S0、S1、S2和S3分量的完全Stokes矢量表示,这些分量被定义为:
S0=|Ex|2+|Ey|2
S1=|Ex|2-|Ey|2
S2=|Ea|2-|Eb|2
S1=|El|2-|Er|2
其中,E1和E2是基
Figure BDA0000148715060000041
中电场的复杂振幅分量,
Figure BDA0000148715060000042
是标准笛卡尔基,
Figure BDA0000148715060000043
是旋转45°的笛卡尔基,而是被定义成使得
Figure BDA0000148715060000045
的圆周基。不完全偏振状态的示例是由下式定义的偏振度p:
p = S 1 2 + S 2 2 + S 3 2 S 0 ,
而线性偏振方向ψ由下式定义:
2ψ=arctan(S2/S1).
继续图2,在某些实施例中,激光器30可以是连续波(CW)激光器;在其他实施例中,该激光器可以是脉冲的、模式锁定的、Q-开关的激光器等等。包括在光源24中的激光器的功率可基于要成像的场景来选择,功率较大的激光器用于较远且广阔的场景,而功率较小的激光器用于较近且更紧凑的场景。除了功率以外,激光器的发射激光波长可基于要成像的场景来选择。具体而言,可选择发射激光波长以便最低限度地与可见光重叠。在一个实施例中,发射激光波长可以是近红外波长。
分散器32可以是被配置成将来自激光器30的经校准光束分散在投影角范围中、且由此用彼此隔开的多个光特征来照明该场景的任何设备。在图2中示出的实施例中,光特征形成激光器30的图案化或以其他方式结构化的照明33。图2示出分散在限于水平面的偏转角范围的激光束。在所示实施例中,偏转角采用由常增量分开的离散值,例如,-20°、-15°、......、+20°。在其他实施例中,离散值由随机增量分开。在其他实施例中,激光束水平地分散在偏转角的连续范围中。将理解,此处所述的数字范围仅为示例,并且其他范围完全落入本发明的范围内。
分散器32可进一步将激光束分散在限于竖直面的偏转角范围中。与上述水平分散类似,竖直分散可以是离散的或连续的。如果水平和竖直分散两者都是离散的,则场景将由星座点来照明。如果竖直分散是离散的,而水平分散是连续的,则场景将由一系列水平条来照明。并且,如果竖直分散是离散的,而水平分散是连续的,则场景将由一系列竖直条来照明,如下文进一步引用的。可使用这些或其他结构化光图案而不背离本发明的范围。
为了分散激光束,分散器32可包括各种光学组件——透镜、衍射光学器件、漫射器、镜、波导、掩模等。在某些实施例中,分散器可进一步包括各种有源组件——例如,机电致动器、斩波器、压电设备、以及液晶光阀。
继续图2,检测器26可以是被配置成通过检测来自场景的光来捕捉该场景的图像的任何设备。此外,如图2中所示,检测器可被定向,使得捕捉到的图像包括由光源24和/或可见光所照明的场景的至少一部分。以此方式,从场景各个表面所反射的照明的一部分可被检测器检测到。检测器26被配置成捕捉来自场景的结构化照明和可见光。
检测器26可包括用于收集和/或将光聚焦于图像传感器40的各光学组件的几乎任何组合。
图像传感器40可以是被配置成检测可见光的相对强度和结构化照明33的相对强度的任何传感器。在其中光源24包括近红外发射激光器的实施例中,例如,图像传感器可包括被配置成检测具有近似三百八十纳米至一千纳米波长的光的互补金属氧化物半导体(CMOS)。此外,图像传感器可被配置成将捕捉到的图像表示成像素阵列。由此,捕捉到的图像的每一像素可以为一个或多个色彩通道对从场景的不同区域所反射的光强度进行编码。本领域技术人员将理解,可使用能够检测可见光、照明光照33的光、和/或经调制的照明的各种不同图像传感器,而不背离本发明的范围。此外,可以理解,可将图像传感器并入具有不同光学配置的各种设备。
过滤器28可以是时间过滤器或空间过滤器。时间过滤器的一个非限制性示例包括转轮过滤器。在图3中示意性地示出一个示例转轮过滤器50。转轮过滤器50包括被配置成阻塞可见光而使近红外光通过的第一部分52。第一部分用竖直线来示意性地标识。旋转过滤器还包括被配置成使可见光通过而可任选地阻塞近红外光的第二部分54。第二部分用水平线来示意性地标识。
图4示意性地示出四个不同时间:t0、t1、t2和t3的转轮过滤器50,这四个时间对应于检测器26a的四个连续曝光(即,检测器捕捉图像的四个连续时间)。尽管该图本质上是示意性的,但该图示出了光从左到右的行进。来自场景的光行进通过过滤器的底部至检测器。如这一示例中所示,转轮过滤器50的第一部分在检测器每隔一次捕捉图像时(例如,时间t0和t2)在光学上介于场景与检测器26a中间。同样,转轮过滤器50的第二部分在检测器每隔一次捕捉图像时(例如,时间t1和t3)在光学上介于场景与检测器26a中间。如以上讨论的,控制器可将时间过滤器的时间段设置为检测器的时间段的两倍。换言之,检测器26a在转轮过滤器每次旋转期间捕捉两个图像——可见光图像和近红外图像。即,每次旋转,转轮过滤器50被配置成对于近似一半的旋转阻塞可见光,而对于近似一半的旋转使可见光通过。
如图4中示意性地示出的,通过到达检测器的红外光可用于生成深度图像(即,在时间t0和t2)。如此处使用的,深度图像包括在其中对每一像素记录位置深度值(例如,z坐标)的任何图像。同样,通过到达检测器的可见光可用于生成色彩图像(即,在时间t1和t3)。如此处使用的,色彩图像包括在其中对每一像素记录一个或多个强度值(例如,黑白或灰度级图像的单个强度值、或与多色图像的不同色彩或亮度通道对应的两个或更多强度值)的任何图像。
上述配置是时间过滤器的一个非限制性示例。可以使用具有不同数目的可见光阻塞部分和可见光通过部分的其他转轮过滤器。例如,转轮过滤器可包括被配置成阻塞可见光的两个四等分,以被配置成通过可见光的两个四等分来交替。可见光阻塞和可见光通过部分可以按任何合适的方式来定大小和形状。此外,可以理解,可使用除了转轮过滤器以外的时间过滤器。一般而言,可使用被配置成在阻塞可见光使其不到达检测器与使可见光通过使其到达检测器之间进行时间上交替的任何过滤器。
尽管提供上述转轮作为非限制性示例来示出从深度图像的光中过滤色彩图像的光的概念,但可以理解其他安排也在本发明的范围内。例如,可结合波长敏感的偏振旋转器来使用调制偏振(例如,光弹性调制器)的其他活动设备来在时间上改变到图像传感器的信号。
图5示意性地示出空间过滤器60(部分地示出)的示例。空间过滤器60被配置成阻塞可见光使其不到达检测器62(部分地示出)的某些部分,而允许可见光通过使其到达该检测器的其他部分。例如,空间过滤器可被配置成阻塞可见光使其不到达检测器的多个空间上交替的像素组(例如,空间上交替的像素行、空间上交替的像素列、像素的棋盘图案等)中每隔一个像素组。在所示实施例中,空间过滤器60和检测器62被协同配置且对齐,使得偶数像素行被暴露于近红外光,而奇数像素行被暴露于可见光。
如图5中示意性地示出的,通过到达检测器的红外光可用于生成深度图像(即,使用偶数像素行)。同样,通过到达检测器的可见光可用于生成色彩图像(即,使用奇数像素行)。
另一种将可见光和红外光分开的方法是使用色彩旋转器。在这一情况下,来自场景的光通过线性偏振器且随后通过过滤器,该过滤器对于某些波长旋转偏振状态,但对其他波长保持相同的偏振状态。光的形成具有处于一种偏振状态的红外光以及处于一不同状态的可见光。这样的光可通过使用图案化偏振器来在空间上分开,其中偏振方向是空间变化的。
图6示出了使用共享图像传感器来构建色彩图像和深度图像的示例方法70。在72,方法70包括将结构化照明投影到场景上。结构化照明可由近红外波长或准许可见光被过滤同时保持结构化照明基本不被过滤的任何其他特征来表征。结构化照明可从任何合适的光源被投影,诸如包括近红外激光器的光源。
在74,方法70包括在阻塞来自场景的可见光使其不到达检测器与使来自场景的可见光通过使其到达检测器之间进行时间上的交替。在某些实施例中,这可使用诸如转轮过滤器等时间过滤器来完成。
在76,方法70包括逻辑分支。如果可见光被阻塞,则方法移至78。如果可见光未被阻止,则方法移至80。在78,方法70包括用检测器来捕捉结构化照明。检测器可以是能够捕捉结构化照明和可见光的任何合适的检测器。
在82,方法70包括基于用检测器捕捉到的结构化照明来生成深度图像。深度图像可至少部分地由深度分析器来构建,该深度分析器被配置成基于构成结构化照明的在空间上分开的光特征的相对位置,来评估像素的位置深度值。为便于这种类型的图像处理,图像传感器可包括像素阵列结构,使得单色光和RGB光都可被检测出。
在80,方法70包括逻辑分支。如果可见光被通过,则方法移至84。如果可见光未被通过(例如,来自场景的光既未通过过滤器的可见光过滤部分也未通过过滤器的近红外过滤部分),则方法循环回76。
在84,方法70包括用检测器来捕捉可见光。在78被用于捕捉结构化照明的同一检测器被用于在84捕捉可见光。
在86,方法70包括基于用检测器捕捉到的可见光来生成色彩图像。色彩图像可以是多色图像、黑白图像、或灰度级图像。
尽管以上在用于形成深度图像的红外结构化照明与用于形成色彩图像的可见光之间进行过滤的上下文中描述了过滤机制,可以理解,本文描述的过滤机制可用于过滤来自具有一个或多个不同特征(例如,波长、偏振等)的光的其他类型的深度成像照明,或反之亦然。一般而言,如文本描述的,具有第一特征的一个或多个类型的光可以从具有不同特征的不同类型的光中过滤出。相对于彼此而言是可过滤的光类型的非限制性示例包括可见光、红外光、近红外光、紫外光、结构化光、和/或已调制光。
如下面参考图7所述,可以使用各种不同的计算系统,而不偏离本公开的精神。参考图2描述的操作环境是作为示例来提供的,但并不意味着以任何方式来进行限制。相反,所示出的操作环境旨在展示可以在不背离本公开的范围的情况下应用于各种各样不同的操作环境的一般概念。
在此所述的方法和过程可以绑定到各种不同类型的计算系统。图7示意性地示出可执行本文描述的色彩图像构建和深度图像构建方法中的一个或多个的计算系统90。计算系统90可以采取各种不同的形式,尤其包括但不限于:游戏控制台、个人计算系统、军用跟踪和/或定标系统、以及提供绿屏或者运动捕捉功能的特征采集系统。
计算系统90可包括逻辑子系统92、在操作上连接到逻辑子系统的数据保存子系统94、显示子系统96、和/或双模成像器98。计算系统可任选地包括未示出在图7中的组件,并且/或者示出在图7中的某些组件可以是未被整合到计算系统中的外围组件。
逻辑子系统92可包括被配置为执行一个或多个指令的一个或多个物理设备。例如,逻辑子系统可被配置为执行一个或多个指令,该一个或多个指令是一个或多个程序、例程、对象、组件、数据结构或其他逻辑构造的一部分。可实现这样的指令以执行任务、实现数据类型、变换一个或多个设备的状态、或以其他方式得到所希望的结果。逻辑子系统可包括被配置为执行软件指令的一个或多个处理器。附加地或可替代地,逻辑子系统可包括被配置为执行硬件或固件指令的一个或多个硬件或固件逻辑机器。逻辑子系统可任选地包括分布在两个或多个设备上的独立组件,这些独立组件在一些实施例中可被远程放置。
数据保存子系统94可包括一个或多个物理设备,该一个或多个设备被配置成保存可由逻辑子系统执行以实现此处所述的方法和过程的数据和/或指令。在实现这样的方法和过程时,可以变换数据保持子系统94的状态(例如,以保持不同的数据)。数据保持子系统94可包括可移动介质和/或内置设备。数据保持子系统94可以包括光学存储器设备、半导体存储器设备(如RAM、EEPROM、闪存等)、和/或磁存储器设备等。数据保持子系统94可包括具有以下特性中的一个或多个特性的设备:易失性、非易失性、动态、静态、读/写、只读、随机存取、顺序存取、位置可寻址、文件可寻址、以及内容可寻址。在某些实施例中,可以将逻辑子系统92和数据保持子系统94集成到一个或更多个常见设备中,如专用集成电路或片上系统。
图7还示出使用计算机可读可移动介质100形式的数据保持子系统的一方面,该方面可用于存储和/或传送可执行来实现此处所述的方法和过程的数据和/或指令。
显示子系统96可用于呈现由数据保持子系统94所保持的数据的可视表示。因为此处所述的方法和过程改变了由数据保存子系统保存的数据,并进而变换了数据保存子系统的状态,所以可能同样变换了显示子系统96的状态以可视地表示底层数据中的改变(例如,显示子系统可显示所构建的色彩图像、所构建的深度图像的可视表示、和/或基于所构建的深度图像的虚拟模型)。显示子系统96可以包括使用实际上任何类型的技术的一个或多个显示设备。可将此类显示设备与逻辑子系统92和/或数据保存子系统94一起组合在共享封装中,或此类显示设备可以是外围显示设备。
计算系统90还包括被配置成获得一个或多个目标和/或场景的深度图像和色彩图像两者的双模成像器98。深度图像可使用结构化光分析来构建。在这样的分析中,图案化光(即,被显示成诸如网格图案或条纹图案等已知图案的光)可以被投影到场景上。在场景的表面上,图案可成为变形的,而图案的这一变形可被研究以确定从双模成像器到场景中的特定位置的物理距离。双模成像器可包括用于选择性地阻塞可见光的时间或空间过滤器,由此便于用同一双模成像器来捕捉深度图像和色彩图像两者。
可以理解,可由一个或多个双模成像器的逻辑机器来执行至少某些深度分析操作。双模成像器可包括被配置为执行一个或多个深度分析功能的一个或多个板上处理单元。双模成像器可以包括固件以促进更新这样的板载处理逻辑。
应该理解,此处所述的配置和/或方法在本质上是示例性的,并且这些具体实施例或示例不应被认为是局限性的,因为多个变体是可能的。此处所述的具体例程或方法可表示任何数量的处理策略中的一个或多个。由此,所示出的各个动作可以按所示顺序执行、按其他顺序执行、并行地执行、或者在某些情况下省略。同样,可以改变上述过程的次序。
本公开的主题包括各种过程、系统和配置的所有新颖和非显而易见的组合和子组合、和此处所公开的其他特征、功能、动作、和/或特性、以及其任何和全部等效物。

Claims (15)

1.一种用于对由可见光照明的场景进行成像的双模成像器,所述双模成像器包括:
光源,被配置成将从其中可过滤可见光的结构化照明投影到所述场景上;
检测器,被配置成捕捉来自所述场景的结构化照明和可见光两者;以及
过滤器,用于选择性地阻塞可见光使其不到达所述检测器的一个或多个部分而使所述结构化照明通过使其到达所述检测器的该一个或多个部分。
2.如权利要求1所述的双模成像器,其特征在于,所述过滤器包括时间过滤器,所述时间过滤器被配置成在阻塞可见光使其不到达所述检测器与使可见光通过使其到达所述检测器之间进行时间上的交替。
3.如权利要求2所述的双模成像器,其特征在于,所述过滤器包括转轮过滤器,所述转轮过滤器包括被配置成阻塞可见光的一个或多个部分以及被配置成使可见光通过的一个或多个部分。
4.如权利要求3所述的双模成像器,其特征在于,所述转轮过滤器被配置成对于近似一半的旋转阻塞可见光,而对于近似一半的该旋转使可见光通过。
5.如权利要求2所述的双模成像器,其特征在于,还包括控制器,所述控制器用于协调所述时间过滤器和所述检测器,使得在所述时间过滤器正阻塞可见光使其不到达所述检测器时由所述检测器捕捉到的图像被排序以构建深度图像;并且使得在所述时间过滤器正使可见光通过使其到达所述检测器时由所述检测器捕捉到的图像被排序以构建色彩图像。
6.如权利要求5所述的双模成像器,其特征在于,所述时间过滤器包括偏振器和光弹性调制器,用于在阻塞可见光使其不到达所述检测器与使可见光通过使其到达所述检测器之间进行时间上的交替,而无需移动各部分。
7.如权利要求1所述的双模成像器,其特征在于,所述过滤器包括空间过滤器,所述空间过滤器被配置成阻塞可见光使其不到达所述检测器的某些部分而允许可见光通过使其到达所述检测器的其他部分。
8.如权利要求7所述的双模成像器,其特征在于,所述检测器包括多个空间上交替的像素组,且所述空间过滤器被配置成阻塞可见光使其不到达所述多个空间上交替的像素组中每隔一个的像素组。
9.如权利要求8所述的双模成像器,其特征在于,所述多个空间上交替的像素组是空间上交替的像素行。
10.如权利要求7所述的双模成像器,其特征在于,所述空间过滤器包括偏振器、波长敏感的色彩旋转器、以及具有空间变化的偏振方向的图案化偏振器。
11.如权利要求1所述的双模成像器,其特征在于,所述检测器包括互补金属氧化物半导体。
12.如权利要求1所述的双模成像器,其特征在于,所述光源包括具有近红外发射激光波长的激光器。
13.如权利要求12所述的双模成像器,其特征在于,所述光源包括分散器,所述分散器被配置成将来自所述激光器的经校准的束分散在投影角范围中,以便用具有近红外波长的多个空间上分开的光特征来照明所述场景。
14.如权利要求1所述的双模成像器,其特征在于,还包括深度分析器,所述深度分析器被配置成基于由所述检测器捕捉到的结构化照明的一个或多个图像来构建深度图像。
15.一种构建色彩图像和深度图像的方法,所述方法包括:
将具有近红外波长的结构化照明投影在场景上;
在阻塞来自所述场景的可见光使其不到达检测器与使来自所述场景的可见光通过使其到达所述检测器之间进行时间上的交替;
在阻塞来自所述场景的可见光时,用所述检测器来捕捉所述结构化照明;
在使来自所述场景的可见光通过时,用所述检测器来捕捉可见光;
基于用所述检测器捕捉到的结构化照明来生成所述深度图像;以及
基于用所述检测器捕捉到的可见光来生成所述色彩图像。
CN201080043779.5A 2009-10-01 2010-09-01 用于构建色彩和深度图像的成像器 Active CN102812697B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/572,082 2009-10-01
US12/572,082 US8723118B2 (en) 2009-10-01 2009-10-01 Imager for constructing color and depth images
PCT/US2010/047564 WO2011041066A2 (en) 2009-10-01 2010-09-01 Imager for constructing color and depth images

Publications (2)

Publication Number Publication Date
CN102812697A true CN102812697A (zh) 2012-12-05
CN102812697B CN102812697B (zh) 2014-10-15

Family

ID=43822470

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080043779.5A Active CN102812697B (zh) 2009-10-01 2010-09-01 用于构建色彩和深度图像的成像器

Country Status (6)

Country Link
US (2) US8723118B2 (zh)
EP (1) EP2484107A4 (zh)
JP (1) JP2013506868A (zh)
KR (1) KR101719388B1 (zh)
CN (1) CN102812697B (zh)
WO (1) WO2011041066A2 (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104519338A (zh) * 2013-09-30 2015-04-15 三星电子株式会社 产生彩色图像和深度图像的方法和设备
CN106382920A (zh) * 2016-11-25 2017-02-08 深圳悉罗机器人有限公司 多功能视觉传感器、移动机器人及移动机器人的控制方法
CN111855621A (zh) * 2015-02-24 2020-10-30 国立大学法人东京大学 动态高速高灵敏度成像装置及成像方法
CN112399028A (zh) * 2016-03-01 2021-02-23 奇跃公司 深度感测系统和方法
CN112954153A (zh) * 2021-01-26 2021-06-11 维沃移动通信有限公司 相机装置、电子设备、景深检测方法及装置

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6168383B2 (ja) * 2012-12-27 2017-07-26 三星電子株式会社Samsung Electronics Co.,Ltd. 欠陥検査装置及び欠陥検査方法
US9398287B2 (en) 2013-02-28 2016-07-19 Google Technology Holdings LLC Context-based depth sensor control
US9407837B2 (en) * 2013-02-28 2016-08-02 Google Inc. Depth sensor using modulated light projector and image sensor with color and IR sensing
WO2016029283A1 (pt) * 2014-08-27 2016-03-03 Muniz Samuel Sistema de criação de imagens, videos e sons em ambiente virtual onidimensional a partir de cenas reais com conjunto de cameras e sensores de profundidade, reprodução de imagens, vídeos e sons em ambientes virtuais tridimencionais com head mounted display e sensor de movimento
US9553423B2 (en) 2015-02-27 2017-01-24 Princeton Optronics Inc. Miniature structured light illuminator
US9953428B2 (en) 2015-03-03 2018-04-24 Microsoft Technology Licensing, Llc Digital camera unit with simultaneous structured and unstructured illumination
US9936151B2 (en) 2015-10-16 2018-04-03 Capsovision Inc Single image sensor for capturing mixed structured-light images and regular images
US10547830B2 (en) * 2015-11-16 2020-01-28 Samsung Electronics Co., Ltd Apparatus for and method of illumination control for acquiring image information and depth information simultaneously
US20170366773A1 (en) * 2016-06-21 2017-12-21 Siemens Aktiengesellschaft Projection in endoscopic medical imaging
US10466036B2 (en) 2016-10-07 2019-11-05 Arizona Board Of Regents On Behalf Of The University Of Arizona Attachable depth and orientation tracker device and method of depth and orientation tracking using focal plane polarization and color camera
EP3606412A4 (en) * 2017-04-07 2020-12-23 Toi Labs, Inc. BIO CONTROL DEVICES, PROCEDURES AND SYSTEMS FOR USE IN A BATHROOM ENVIRONMENT
CA3106823A1 (en) 2018-07-19 2020-01-23 Activ Surgical, Inc. Systems and methods for multi-modal sensing of depth in vision systems for automated surgical robots
CA3132350A1 (en) 2019-04-08 2020-10-15 Stephen Tully Systems and methods for medical imaging
US11617541B2 (en) * 2019-06-20 2023-04-04 Cilag Gmbh International Optical fiber waveguide in an endoscopic system for fluorescence imaging
US11516388B2 (en) * 2019-06-20 2022-11-29 Cilag Gmbh International Pulsed illumination in a fluorescence imaging system
DE102020201119A1 (de) 2020-01-30 2021-08-05 Robert Bosch Gesellschaft mit beschränkter Haftung Detektorelement für einen Time-of-Flight-Sensor
CN112070065A (zh) * 2020-10-01 2020-12-11 深圳奥比中光科技有限公司 一种检测红外图像与深度图像的方法、装置及人脸识别系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050285966A1 (en) * 2004-01-28 2005-12-29 Canesta, Inc. Single chip red, green, blue, distance (RGB-Z) sensor
US7274393B2 (en) * 2003-02-28 2007-09-25 Intel Corporation Four-color mosaic pattern for depth and image capture
CN101179742A (zh) * 2006-11-10 2008-05-14 三洋电机株式会社 摄像装置和图像信号处理装置
US20090114799A1 (en) * 2007-11-07 2009-05-07 Fujifilm Corporation Image capturing system, image capturing method, and recording medium

Family Cites Families (189)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3848129A (en) * 1973-08-24 1974-11-12 Sanders Associates Inc Spectral discriminating radiation detection apparatus
US4288078A (en) * 1979-11-20 1981-09-08 Lugo Julio I Game apparatus
US4349277A (en) * 1980-06-11 1982-09-14 General Electric Company Non-contact measurement of surface profile
US4695953A (en) 1983-08-25 1987-09-22 Blair Preston E TV animation interactively controlled by the viewer
US4630910A (en) 1984-02-16 1986-12-23 Robotic Vision Systems, Inc. Method of measuring in three-dimensions at high speed
JPH0646977B2 (ja) * 1984-06-09 1994-06-22 オリンパス光学工業株式会社 計測用内視鏡
US4627620A (en) 1984-12-26 1986-12-09 Yang John P Electronic athlete trainer for improving skills in reflex, speed and accuracy
US4645458A (en) 1985-04-15 1987-02-24 Harald Phillip Athletic evaluation and training apparatus
US4679068A (en) * 1985-07-25 1987-07-07 General Electric Company Composite visible/thermal-infrared imaging system
US4702475A (en) 1985-08-16 1987-10-27 Innovating Training Products, Inc. Sports technique and reaction training system
US4843568A (en) 1986-04-11 1989-06-27 Krueger Myron W Real time perception of and response to the actions of an unencumbered participant/user
US4711543A (en) 1986-04-14 1987-12-08 Blair Preston E TV animation interactively controlled by the viewer
US4796997A (en) 1986-05-27 1989-01-10 Synthetic Vision Systems, Inc. Method and system for high-speed, 3-D imaging of an object at a vision station
US5184295A (en) 1986-05-30 1993-02-02 Mann Ralph V System and method for teaching physical skills
US4751642A (en) 1986-08-29 1988-06-14 Silva John M Interactive sports simulation system with physiological sensing and psychological conditioning
US4809065A (en) 1986-12-01 1989-02-28 Kabushiki Kaisha Toshiba Interactive system and related method for displaying data to produce a three-dimensional image of an object
US4817950A (en) 1987-05-08 1989-04-04 Goo Paul E Video game control unit and attitude sensor
US5239463A (en) 1988-08-04 1993-08-24 Blair Preston E Method and apparatus for player interaction with animated characters and objects
US5239464A (en) 1988-08-04 1993-08-24 Blair Preston E Interactive video system providing repeated switching of multiple tracks of actions sequences
US4901362A (en) 1988-08-08 1990-02-13 Raytheon Company Method of recognizing patterns
US4893183A (en) 1988-08-11 1990-01-09 Carnegie-Mellon University Robotic vision system
JPH02199526A (ja) 1988-10-14 1990-08-07 David G Capper 制御インターフェース装置
US4925189A (en) 1989-01-13 1990-05-15 Braeunig Thomas F Body-mounted video game exercise device
US5229756A (en) 1989-02-07 1993-07-20 Yamaha Corporation Image control apparatus
US5469740A (en) 1989-07-14 1995-11-28 Impulse Technology, Inc. Interactive video testing and training system
JPH03103822U (zh) 1990-02-13 1991-10-29
US5101444A (en) 1990-05-18 1992-03-31 Panacea, Inc. Method and apparatus for high speed object location
US5148154A (en) 1990-12-04 1992-09-15 Sony Corporation Of America Multi-dimensional user interface
US5534917A (en) 1991-05-09 1996-07-09 Very Vivid, Inc. Video image based control system
US5417210A (en) 1992-05-27 1995-05-23 International Business Machines Corporation System and method for augmentation of endoscopic surgery
US5295491A (en) 1991-09-26 1994-03-22 Sam Technology, Inc. Non-invasive human neurocognitive performance capability testing method and system
US6054991A (en) 1991-12-02 2000-04-25 Texas Instruments Incorporated Method of modeling player position and movement in a virtual reality system
WO1993010708A1 (en) 1991-12-03 1993-06-10 French Sportech Corporation Interactive video testing and training system
US5875108A (en) 1991-12-23 1999-02-23 Hoffberg; Steven M. Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
JPH07325934A (ja) 1992-07-10 1995-12-12 Walt Disney Co:The 仮想世界に向上したグラフィックスを提供する方法および装置
US5999908A (en) 1992-08-06 1999-12-07 Abelow; Daniel H. Customer-based product design module
US5320538A (en) 1992-09-23 1994-06-14 Hughes Training, Inc. Interactive aircraft training system and method
IT1257294B (it) 1992-11-20 1996-01-12 Dispositivo atto a rilevare la configurazione di un'unita' fisiologicadistale,da utilizzarsi in particolare come interfaccia avanzata per macchine e calcolatori.
US5495576A (en) 1993-01-11 1996-02-27 Ritchey; Kurtis J. Panoramic image based virtual reality/telepresence audio-visual system and method
US5690582A (en) 1993-02-02 1997-11-25 Tectrix Fitness Equipment, Inc. Interactive exercise apparatus
JP2799126B2 (ja) 1993-03-26 1998-09-17 株式会社ナムコ ビデオゲーム装置及びゲーム用入力装置
US5405152A (en) 1993-06-08 1995-04-11 The Walt Disney Company Method and apparatus for an interactive video game with physical feedback
US5454043A (en) 1993-07-30 1995-09-26 Mitsubishi Electric Research Laboratories, Inc. Dynamic and static hand gesture recognition through low-level image analysis
US5423554A (en) 1993-09-24 1995-06-13 Metamedia Ventures, Inc. Virtual reality game method and apparatus
US5980256A (en) 1993-10-29 1999-11-09 Carmein; David E. E. Virtual reality system with enhanced sensory apparatus
JP3419050B2 (ja) 1993-11-19 2003-06-23 株式会社日立製作所 入力装置
US5347306A (en) 1993-12-17 1994-09-13 Mitsubishi Electric Research Laboratories, Inc. Animated electronic meeting place
JP2552427B2 (ja) 1993-12-28 1996-11-13 コナミ株式会社 テレビ遊戯システム
US5577981A (en) 1994-01-19 1996-11-26 Jarvik; Robert Virtual reality exercise machine and computer controlled video system
US5580249A (en) 1994-02-14 1996-12-03 Sarcos Group Apparatus for simulating mobility of a human
US5597309A (en) 1994-03-28 1997-01-28 Riess; Thomas Method and apparatus for treatment of gait problems associated with parkinson's disease
US5385519A (en) 1994-04-19 1995-01-31 Hsu; Chi-Hsueh Running machine
US5524637A (en) 1994-06-29 1996-06-11 Erickson; Jon W. Interactive system for measuring physiological exertion
US5563988A (en) 1994-08-01 1996-10-08 Massachusetts Institute Of Technology Method and system for facilitating wireless, full-body, real-time user interaction with a digitally represented visual environment
US6714665B1 (en) 1994-09-02 2004-03-30 Sarnoff Corporation Fully automated iris recognition system utilizing wide and narrow fields of view
US5516105A (en) 1994-10-06 1996-05-14 Exergame, Inc. Acceleration activated joystick
US5638300A (en) 1994-12-05 1997-06-10 Johnson; Lee E. Golf swing analysis system
JPH08161292A (ja) 1994-12-09 1996-06-21 Matsushita Electric Ind Co Ltd 混雑度検知方法およびそのシステム
US5594469A (en) 1995-02-21 1997-01-14 Mitsubishi Electric Information Technology Center America Inc. Hand gesture machine control system
US5682229A (en) 1995-04-14 1997-10-28 Schwartz Electro-Optics, Inc. Laser range camera
US5913727A (en) 1995-06-02 1999-06-22 Ahdoot; Ned Interactive movement and contact simulation game
WO1996041304A1 (en) 1995-06-07 1996-12-19 The Trustees Of Columbia University In The City Of New York Apparatus and methods for determining the three-dimensional shape of an object using active illumination and relative blurring in two images due to defocus
US5682196A (en) 1995-06-22 1997-10-28 Actv, Inc. Three-dimensional (3D) video presentation system providing interactive 3D presentation with personalized audio responses for multiple viewers
US5702323A (en) 1995-07-26 1997-12-30 Poulton; Craig K. Electronic exercise enhancer
US6098458A (en) 1995-11-06 2000-08-08 Impulse Technology, Ltd. Testing and training system for assessing movement and agility skills without a confining field
US6073489A (en) 1995-11-06 2000-06-13 French; Barry J. Testing and training system for assessing the ability of a player to complete a task
US6308565B1 (en) 1995-11-06 2001-10-30 Impulse Technology Ltd. System and method for tracking and assessing movement skills in multidimensional space
US6430997B1 (en) 1995-11-06 2002-08-13 Trazer Technologies, Inc. System and method for tracking and assessing movement skills in multidimensional space
US6176782B1 (en) 1997-12-22 2001-01-23 Philips Electronics North America Corp. Motion-based command generation technology
US5933125A (en) 1995-11-27 1999-08-03 Cae Electronics, Ltd. Method and apparatus for reducing instability in the display of a virtual environment
US5641288A (en) 1996-01-11 1997-06-24 Zaenglein, Jr.; William G. Shooting simulating process and training device using a virtual reality display screen
EP0958002A4 (en) 1996-05-08 2001-03-28 Real Vision Corp REAL-TIME SIMULATION USING POSITION DETECTION
US6173066B1 (en) 1996-05-21 2001-01-09 Cybernet Systems Corporation Pose determination and tracking by matching 3D objects to a 2D sensor
JPH1051668A (ja) * 1996-08-06 1998-02-20 Iseki & Co Ltd 農業用ロボットの撮像装置
US5989157A (en) 1996-08-06 1999-11-23 Walton; Charles A. Exercising system with electronic inertial game playing
EP0959444A4 (en) 1996-08-14 2005-12-07 Nurakhmed Nurislamovic Latypov METHOD FOR TRACKING AND REPRESENTING THE POSITION AND ORIENTATION OF A SUBJECT IN THE SPACE, METHOD FOR PRESENTING A VIRTUAL SPACE THEREON, AND SYSTEMS FOR CARRYING OUT SAID METHODS
JP3064928B2 (ja) 1996-09-20 2000-07-12 日本電気株式会社 被写体抽出方式
EP0849697B1 (en) 1996-12-20 2003-02-12 Hitachi Europe Limited A hand gesture recognition system and method
US6081612A (en) * 1997-02-28 2000-06-27 Electro Optical Sciences Inc. Systems and methods for the multispectral imaging and characterization of skin tissue
US6009210A (en) 1997-03-05 1999-12-28 Digital Equipment Corporation Hands-free interface to a virtual reality environment using head tracking
US6100896A (en) 1997-03-24 2000-08-08 Mitsubishi Electric Information Technology Center America, Inc. System for designing graphical multi-participant environments
US5877803A (en) 1997-04-07 1999-03-02 Tritech Mircoelectronics International, Ltd. 3-D image detector
US6215898B1 (en) 1997-04-15 2001-04-10 Interval Research Corporation Data processing system and method
JP3077745B2 (ja) 1997-07-31 2000-08-14 日本電気株式会社 データ処理方法および装置、情報記憶媒体
US6188777B1 (en) 1997-08-01 2001-02-13 Interval Research Corporation Method and apparatus for personnel detection and tracking
US6720949B1 (en) 1997-08-22 2004-04-13 Timothy R. Pryor Man machine interfaces and applications
US6289112B1 (en) 1997-08-22 2001-09-11 International Business Machines Corporation System and method for determining block direction in fingerprint images
JPH1173491A (ja) * 1997-08-29 1999-03-16 Namco Ltd フォアグランド画像生成装置
AUPO894497A0 (en) 1997-09-02 1997-09-25 Xenotech Research Pty Ltd Image processing method and apparatus
EP0905644A3 (en) 1997-09-26 2004-02-25 Matsushita Electric Industrial Co., Ltd. Hand gesture recognizing device
US6141463A (en) 1997-10-10 2000-10-31 Electric Planet Interactive Method and system for estimating jointed-figure configurations
US6411744B1 (en) 1997-10-15 2002-06-25 Electric Planet, Inc. Method and apparatus for performing a clean background subtraction
US6072494A (en) 1997-10-15 2000-06-06 Electric Planet, Inc. Method and apparatus for real-time gesture recognition
US6101289A (en) 1997-10-15 2000-08-08 Electric Planet, Inc. Method and apparatus for unencumbered capture of an object
US6384819B1 (en) 1997-10-15 2002-05-07 Electric Planet, Inc. System and method for generating an animatable character
US6130677A (en) 1997-10-15 2000-10-10 Electric Planet, Inc. Interactive computer vision system
US7155363B1 (en) * 1997-12-01 2006-12-26 Mks Instruments, Inc. Thermal imaging for semiconductor process monitoring
US6181343B1 (en) 1997-12-23 2001-01-30 Philips Electronics North America Corp. System and method for permitting three-dimensional navigation through a virtual reality environment using camera-based gesture inputs
US6159100A (en) 1998-04-23 2000-12-12 Smith; Michael D. Virtual reality game
US6077201A (en) 1998-06-12 2000-06-20 Cheng; Chau-Yang Exercise bicycle
US6950534B2 (en) 1998-08-10 2005-09-27 Cybernet Systems Corporation Gesture-controlled interfaces for self-service machines and other applications
US7036094B1 (en) 1998-08-10 2006-04-25 Cybernet Systems Corporation Behavior recognition system
US20010008561A1 (en) 1999-08-10 2001-07-19 Paul George V. Real-time object tracking system
US6681031B2 (en) 1998-08-10 2004-01-20 Cybernet Systems Corporation Gesture-controlled interfaces for self-service machines and other applications
US7121946B2 (en) 1998-08-10 2006-10-17 Cybernet Systems Corporation Real-time head tracking system for computer games and other applications
US6801637B2 (en) 1999-08-10 2004-10-05 Cybernet Systems Corporation Optical body tracker
IL126284A (en) 1998-09-17 2002-12-01 Netmor Ltd System and method for three dimensional positioning and tracking
DE69936620T2 (de) 1998-09-28 2008-05-21 Matsushita Electric Industrial Co., Ltd., Kadoma Verfahren und Vorrichtung zum Segmentieren von Handgebärden
US7323634B2 (en) * 1998-10-14 2008-01-29 Patterning Technologies Limited Method of forming an electronic device
AU1930700A (en) 1998-12-04 2000-06-26 Interval Research Corporation Background estimation and segmentation based on range and color
US6147678A (en) 1998-12-09 2000-11-14 Lucent Technologies Inc. Video hand image-three-dimensional computer interface with multiple degrees of freedom
EP1147370B1 (en) 1998-12-16 2009-02-25 3DV Systems Ltd. Self gating photosurface
US6570555B1 (en) 1998-12-30 2003-05-27 Fuji Xerox Co., Ltd. Method and apparatus for embodied conversational characters with multimodal input/output in an interface device
US6363160B1 (en) 1999-01-22 2002-03-26 Intel Corporation Interface using pattern recognition and tracking
US7003134B1 (en) 1999-03-08 2006-02-21 Vulcan Patents Llc Three dimensional object pose estimation which employs dense depth information
US6299308B1 (en) 1999-04-02 2001-10-09 Cybernet Systems Corporation Low-cost non-imaging eye tracker system for computer control
US6503195B1 (en) 1999-05-24 2003-01-07 University Of North Carolina At Chapel Hill Methods and systems for real-time structured light depth extraction and endoscope using real-time structured light depth extraction
US6476834B1 (en) 1999-05-28 2002-11-05 International Business Machines Corporation Dynamic creation of selectable items on surfaces
US6959869B2 (en) * 1999-06-07 2005-11-01 Metrologic Instruments, Inc. Automatic vehicle identification (AVI) system employing planar laser illumination and imaging (PLIIM) based subsystems
US6873723B1 (en) 1999-06-30 2005-03-29 Intel Corporation Segmenting three-dimensional video images using stereo
US6738066B1 (en) 1999-07-30 2004-05-18 Electric Plant, Inc. System, method and article of manufacture for detecting collisions between video images generated by a camera and an object depicted on a display
US7113918B1 (en) 1999-08-01 2006-09-26 Electric Planet, Inc. Method for video enabled electronic commerce
US7050606B2 (en) 1999-08-10 2006-05-23 Cybernet Systems Corporation Tracking and gesture recognition system particularly suited to vehicular control applications
US6663491B2 (en) 2000-02-18 2003-12-16 Namco Ltd. Game apparatus, storage medium and computer program that adjust tempo of sound
US6633294B1 (en) 2000-03-09 2003-10-14 Seth Rosenthal Method and apparatus for using captured high density motion for animation
EP1152261A1 (en) 2000-04-28 2001-11-07 CSEM Centre Suisse d'Electronique et de Microtechnique SA Device and method for spatially resolved photodetection and demodulation of modulated electromagnetic waves
US6889075B2 (en) * 2000-05-03 2005-05-03 Rocky Mountain Biosystems, Inc. Optical imaging of subsurface anatomical structures and biomolecules
US6640202B1 (en) 2000-05-25 2003-10-28 International Business Machines Corporation Elastic sensor mesh system for 3-dimensional measurement, mapping and kinematics applications
US6731799B1 (en) 2000-06-01 2004-05-04 University Of Washington Object segmentation with background extraction and moving boundary techniques
US6788809B1 (en) 2000-06-30 2004-09-07 Intel Corporation System and method for gesture recognition in three dimensions using stereo imaging and color vision
WO2002009424A2 (en) 2000-07-21 2002-01-31 The Trustees Of Columbia University In The City Of New York Method and apparatus for image mosaicing
US7227526B2 (en) 2000-07-24 2007-06-05 Gesturetek, Inc. Video-based image control system
JP2002084451A (ja) * 2000-09-11 2002-03-22 Minolta Co Ltd デジタル撮像装置、画像処理システム、記録媒体、およびデジタル撮像方法
US7058204B2 (en) 2000-10-03 2006-06-06 Gesturetek, Inc. Multiple camera control system
US7039676B1 (en) 2000-10-31 2006-05-02 International Business Machines Corporation Using video image analysis to automatically transmit gestures over a network in a chat or instant messaging session
US6539931B2 (en) 2001-04-16 2003-04-01 Koninklijke Philips Electronics N.V. Ball throwing assistant
US8035612B2 (en) 2002-05-28 2011-10-11 Intellectual Ventures Holding 67 Llc Self-contained interactive video display system
US7259747B2 (en) 2001-06-05 2007-08-21 Reactrix Systems, Inc. Interactive video display system
JP3420221B2 (ja) 2001-06-29 2003-06-23 株式会社コナミコンピュータエンタテインメント東京 ゲーム装置及びプログラム
US6937742B2 (en) 2001-09-28 2005-08-30 Bellsouth Intellectual Property Corporation Gesture activated home appliance
US6825928B2 (en) * 2001-12-19 2004-11-30 Wisconsin Alumni Research Foundation Depth-resolved fluorescence instrument
JP3972654B2 (ja) * 2001-12-28 2007-09-05 松下電工株式会社 固体撮像素子カメラおよびカメラ付きドアホン
AU2003212211A1 (en) 2002-04-19 2003-11-03 Iee International Electronics And Engineering S.A. Safety device for a vehicle
US7348963B2 (en) 2002-05-28 2008-03-25 Reactrix Systems, Inc. Interactive video display system
US7710391B2 (en) 2002-05-28 2010-05-04 Matthew Bell Processing an image utilizing a spatially varying pattern
US7170492B2 (en) 2002-05-28 2007-01-30 Reactrix Systems, Inc. Interactive video display system
WO2003105289A2 (en) 2002-06-07 2003-12-18 University Of North Carolina At Chapel Hill Methods and systems for laser based real-time structured light depth extraction
US7489812B2 (en) 2002-06-07 2009-02-10 Dynamic Digital Depth Research Pty Ltd. Conversion and encoding techniques
US7257437B2 (en) * 2002-07-05 2007-08-14 The Regents Of The University Of California Autofluorescence detection and imaging of bladder cancer realized through a cystoscope
US7576727B2 (en) 2002-12-13 2009-08-18 Matthew Bell Interactive directed light/sound system
US7154157B2 (en) 2002-12-30 2006-12-26 Intel Corporation Stacked semiconductor radiation sensors having color component and infrared sensing capability
JP4235729B2 (ja) 2003-02-03 2009-03-11 国立大学法人静岡大学 距離画像センサ
DE602004006190T8 (de) 2003-03-31 2008-04-10 Honda Motor Co., Ltd. Vorrichtung, Verfahren und Programm zur Gestenerkennung
US8072470B2 (en) 2003-05-29 2011-12-06 Sony Computer Entertainment Inc. System and method for providing a real-time three-dimensional interactive environment
US7372977B2 (en) 2003-05-29 2008-05-13 Honda Motor Co., Ltd. Visual tracking using depth data
EP1631937B1 (en) 2003-06-12 2018-03-28 Honda Motor Co., Ltd. Target orientation estimation using depth sensing
WO2005034747A1 (en) * 2003-09-15 2005-04-21 Beth Israel Deaconess Medical Center Medical imaging systems
DE602004026791D1 (de) * 2003-10-21 2010-06-02 Barco Nv Verfahren und Vorrichtung zur Durchführung einer stereoskopischen Bildanzeige auf der Basis von farbselektiven Filtern
WO2005041579A2 (en) 2003-10-24 2005-05-06 Reactrix Systems, Inc. Method and system for processing captured image information in an interactive video display system
US8134637B2 (en) 2004-01-28 2012-03-13 Microsoft Corporation Method and system to increase X-Y resolution in a depth (Z) camera using red, blue, green (RGB) sensing
US7289211B1 (en) * 2004-04-09 2007-10-30 Walsh Jr Joseph T System and method for imaging sub-surface polarization-sensitive material structures
JP4708422B2 (ja) 2004-04-15 2011-06-22 ジェスチャー テック,インコーポレイテッド 両手動作の追跡
US7308112B2 (en) 2004-05-14 2007-12-11 Honda Motor Co., Ltd. Sign based human-machine interaction
US7704135B2 (en) 2004-08-23 2010-04-27 Harrison Jr Shelton E Integrated game system, method, and device
US20080039715A1 (en) * 2004-11-04 2008-02-14 Wilson David F Three-dimensional optical guidance for catheter placement
US8548570B2 (en) * 2004-11-29 2013-10-01 Hypermed Imaging, Inc. Hyperspectral imaging of angiogenesis
KR20060070280A (ko) 2004-12-20 2006-06-23 한국전자통신연구원 손 제스처 인식을 이용한 사용자 인터페이스 장치 및 그방법
US7853041B2 (en) 2005-01-07 2010-12-14 Gesturetek, Inc. Detecting and tracking objects in images
JP2008537190A (ja) 2005-01-07 2008-09-11 ジェスチャー テック,インコーポレイテッド 赤外線パターンを照射することによる対象物の三次元像の生成
JP5080273B2 (ja) 2005-01-07 2012-11-21 クアルコム,インコーポレイテッド オプティカルフローに基づく傾きセンサー
US7598942B2 (en) 2005-02-08 2009-10-06 Oblong Industries, Inc. System and method for gesture based control system
WO2006099597A2 (en) 2005-03-17 2006-09-21 Honda Motor Co., Ltd. Pose estimation based on critical point analysis
US7560679B1 (en) * 2005-05-10 2009-07-14 Siimpel, Inc. 3D camera
KR101403172B1 (ko) 2005-05-17 2014-06-03 퀄컴 인코포레이티드 방위-감응 신호 출력
US7541588B2 (en) * 2005-07-12 2009-06-02 Northrop Grumman Corporation Infrared laser illuminated imaging systems and methods
ATE412882T1 (de) 2005-08-12 2008-11-15 Mesa Imaging Ag Hochempfindliches, schnelles pixel für anwendung in einem bildsensor
US20080026838A1 (en) 2005-08-22 2008-01-31 Dunstan James E Multi-player non-role-playing virtual world games: method for two-way interaction between participants and multi-player virtual world games
US7450736B2 (en) 2005-10-28 2008-11-11 Honda Motor Co., Ltd. Monocular tracking of 3D human motion with a coordinated mixture of factor analyzers
US7701439B2 (en) 2006-07-13 2010-04-20 Northrop Grumman Corporation Gesture recognition simulation system and method
JP5395323B2 (ja) 2006-09-29 2014-01-22 ブレインビジョン株式会社 固体撮像素子
US7412077B2 (en) 2006-12-29 2008-08-12 Motorola, Inc. Apparatus and methods for head pose estimation and head gesture detection
US7729530B2 (en) 2007-03-03 2010-06-01 Sergey Antonov Method and apparatus for 3-D data input to a personal computer with a multimedia oriented operating system
US20080255403A1 (en) * 2007-04-13 2008-10-16 Ethicon Endo-Surgery, Inc. Magnetic nanoparticle therapies
US20080309913A1 (en) * 2007-06-14 2008-12-18 James John Fallon Systems and methods for laser radar imaging for the blind and visually impaired
EP2017591A1 (en) * 2007-07-18 2009-01-21 Fujifilm Corporation Imaging apparatus
US7852262B2 (en) 2007-08-16 2010-12-14 Cybernet Systems Corporation Wireless mobile indoor/outdoor tracking system
US8421015B1 (en) * 2007-09-13 2013-04-16 Oceanit Laboratories, Inc. Position sensing detector focal plane array (PSD-FPA) event detection and classification system
CN201254344Y (zh) 2008-08-20 2009-06-10 中国农业科学院草原研究所 植物标本及种子存贮器
US9107567B2 (en) * 2012-12-27 2015-08-18 Christie Digital Systems Usa, Inc. Spectral imaging with a color wheel

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7274393B2 (en) * 2003-02-28 2007-09-25 Intel Corporation Four-color mosaic pattern for depth and image capture
US20050285966A1 (en) * 2004-01-28 2005-12-29 Canesta, Inc. Single chip red, green, blue, distance (RGB-Z) sensor
CN101179742A (zh) * 2006-11-10 2008-05-14 三洋电机株式会社 摄像装置和图像信号处理装置
US20090114799A1 (en) * 2007-11-07 2009-05-07 Fujifilm Corporation Image capturing system, image capturing method, and recording medium

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104519338A (zh) * 2013-09-30 2015-04-15 三星电子株式会社 产生彩色图像和深度图像的方法和设备
CN104519338B (zh) * 2013-09-30 2018-03-27 三星电子株式会社 产生彩色图像和深度图像的方法和设备
CN111855621A (zh) * 2015-02-24 2020-10-30 国立大学法人东京大学 动态高速高灵敏度成像装置及成像方法
CN111855621B (zh) * 2015-02-24 2023-11-10 国立大学法人东京大学 动态高速高灵敏度成像装置及成像方法
CN112399028A (zh) * 2016-03-01 2021-02-23 奇跃公司 深度感测系统和方法
CN106382920A (zh) * 2016-11-25 2017-02-08 深圳悉罗机器人有限公司 多功能视觉传感器、移动机器人及移动机器人的控制方法
CN112954153A (zh) * 2021-01-26 2021-06-11 维沃移动通信有限公司 相机装置、电子设备、景深检测方法及装置

Also Published As

Publication number Publication date
WO2011041066A2 (en) 2011-04-07
KR101719388B1 (ko) 2017-03-23
EP2484107A2 (en) 2012-08-08
US8723118B2 (en) 2014-05-13
CN102812697B (zh) 2014-10-15
US20110079714A1 (en) 2011-04-07
KR20120080591A (ko) 2012-07-17
JP2013506868A (ja) 2013-02-28
EP2484107A4 (en) 2014-10-29
WO2011041066A3 (en) 2011-06-23
US20140291520A1 (en) 2014-10-02

Similar Documents

Publication Publication Date Title
CN102812697B (zh) 用于构建色彩和深度图像的成像器
JP6260006B2 (ja) 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置
Cao et al. A prism-mask system for multispectral video acquisition
US10425598B2 (en) Methods and systems for time-encoded multiplexed imaging
US8532427B2 (en) System and method for image enhancement
EP2518996B1 (en) Image capture device and method
RU2535640C2 (ru) Формирование многоспектральных изображений
JP4538766B2 (ja) 撮像装置、表示装置および画像処理装置
US8264536B2 (en) Depth-sensitive imaging via polarization-state mapping
US8098275B2 (en) Three-dimensional imaging system using optical pulses, non-linear optical mixers and holographic calibration
US20200288110A1 (en) Stereo-polarimetric compressed ultrafast photography (sp-cup) systems and methods
US20160223724A1 (en) Structured light pattern generation
JP2013506868A5 (zh)
KR20120039440A (ko) 3 차원 이미지 정보를 발생시키는 방법 및 장치
CN104541193A (zh) 光学显微镜和及其控制方法
US10679370B2 (en) Energy optimized imaging system with 360 degree field-of-view
WO2017172030A1 (en) Laser projector and camera
CN103052914A (zh) 三维摄像装置
KR20170044524A (ko) 이미지 획득 장치 및 방법
CN103004218A (zh) 三维摄像装置、摄像元件、透光部、及图像处理装置
CN102289329B (zh) 分辨率增强方法和图像检测系统
US8279269B2 (en) Mobile information kiosk with a three-dimensional imaging effect
CN102474649B (zh) 三维摄像装置及透光板
Jeon et al. Multisampling compressive video spectroscopy
Ward et al. An acousto-optic based hyperspectral imaging camera for security and defence applications

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: MICROSOFT TECHNOLOGY LICENSING LLC

Free format text: FORMER OWNER: MICROSOFT CORP.

Effective date: 20150505

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20150505

Address after: Washington State

Patentee after: Micro soft technique license Co., Ltd

Address before: Washington State

Patentee before: Microsoft Corp.