CN102812697A - 用于构建色彩和深度图像的成像器 - Google Patents
用于构建色彩和深度图像的成像器 Download PDFInfo
- Publication number
- CN102812697A CN102812697A CN2010800437795A CN201080043779A CN102812697A CN 102812697 A CN102812697 A CN 102812697A CN 2010800437795 A CN2010800437795 A CN 2010800437795A CN 201080043779 A CN201080043779 A CN 201080043779A CN 102812697 A CN102812697 A CN 102812697A
- Authority
- CN
- China
- Prior art keywords
- detector
- visible light
- filter
- double
- imaging device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005286 illumination Methods 0.000 claims abstract description 14
- 230000002123 temporal effect Effects 0.000 claims abstract description 6
- 238000003384 imaging method Methods 0.000 claims description 34
- 238000000034 method Methods 0.000 claims description 32
- 230000010287 polarization Effects 0.000 claims description 16
- 238000004458 analytical method Methods 0.000 claims description 11
- 230000003287 optical effect Effects 0.000 claims description 10
- 230000000903 blocking effect Effects 0.000 claims description 9
- 241000931526 Acer campestre Species 0.000 claims description 4
- 239000004065 semiconductor Substances 0.000 claims description 3
- 230000000295 complement effect Effects 0.000 claims description 2
- 229910044991 metal oxide Inorganic materials 0.000 claims description 2
- 150000004706 metal oxides Chemical class 0.000 claims description 2
- 239000006185 dispersion Substances 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 238000000429 assembly Methods 0.000 description 2
- 230000000712 assembly Effects 0.000 description 2
- 238000000059 patterning Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 235000009508 confectionery Nutrition 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 238000004513 sizing Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/0205—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/30—Transforming light or analogous information into electric information
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/0205—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
- G01J3/0224—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using polarising or depolarising elements
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/0205—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
- G01J3/0229—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using masks, aperture plates, spatial light modulators or spatial filters, e.g. reflective filters
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/0205—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
- G01J3/0235—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using means for replacing an element by another, for replacing a filter or a grating
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/254—Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/11—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
Abstract
双模包括被配置成投影可从中过滤出可见光的结构化照明的光源。双模成像器还包括被配置成捕捉来自场景的结构化照明和可见光两者的检测器。时间或空间过滤器用于选择性地阻塞可见光使其不到达检测器的一个或多个部分,而使结构化照明通过使其到达检测器的该一个或多个部分。
Description
背景
相机可用于捕捉场景的静止图像。快速连续拍摄的若干静止图像可用于生成包括多个帧的电影,每一帧对应于不同的静止图像。尽管这样的图像在各种不同的应用中是非常有用的,但这样的图像并非很好地适于某些目的。具体而言,常规的静止图像和电影不提供足以准确地评估在场景中所捕捉的各种表面的相对深度的信息。
概述
公开了用于对可见光所照明的场景进行成像的双模成像器。该双模成像器包括被配置成投影可从中过滤可见光的结构化照明的光源。该双模成像器还包括被配置成捕捉来自场景的结构化照明和可见光两者的检测器。时间或空间过滤器用于选择性地阻塞可见光使其不到达检测器的一个或多个部分,而使结构化照明通过使其到达检测器的该一个或多个部分。
提供本概述以便以简化形式介绍将在以下详细描述中进一步描述的一些概念。本概述并不旨在标识出所要求保护的主题的关键或必要特征,也不旨在用于限定所要求保护的主题的范围。此外,所要求保护的主题不限于解决在本公开的任一部分中提及的任何或所有缺点的实现。
附图简述
图1示出了可被处理用于构建色彩图像和深度图像的示例场景。
图2示意性地示出了根据本公开的一实施例的示例双模成像器。
图3示意性地示出了根据本公开的一实施例的示例转轮过滤器。
图4示意性地示出了其中图3的转轮过滤器正与检测器协作以构建色彩图像和深度图像的时间序列。
图5示意性地示出了与检测器协作以构建色彩图像和深度图像的示例空间过滤器。
图6示出了使用共享图像传感器来构建色彩图像和深度图像的示例方法。
图7示意性地示出了能够使用共享图像传感器来构建色彩图像和深度图像的示例计算系统。
详细描述
公开了能够使用共享图像传感器来处理深度信息和色彩信息的双模成像器。数字双模成像器在时间和/或空间上过滤递送给图像传感器(即,检测器)的光,使得像素的子集在时间的子集被暴露于第一参数(例如,波长带)所表征的光,且使得像素的相同或不同子集在时间的相同或不同子集被暴露于与第一参数不同的第二参数(例如,不同的波长带)所表征的光。以此方式,第一参数所表征的光可用于构建色彩图像,而第二参数所表征的光可用于构建深度图像。这两种图像都可使用相同的图像传感器来构建——例如,通过使用所有的像素来在读取色彩信息与深度信息之间进行时间上的交替,或通过使用所选择的像素来读取色彩信息而使用其他像素来读取深度信息。
使用共享图像传感器对色彩图像和深度图像的创建在下文作为示例并参考某些所示实施例来描述。将注意到包括在本说明书中的附图是示意性的。所示实施例的视图一般不按比例绘制。纵横比、特征大小以及特征数量可以有目的地失真,以使所选择的特征或关系更容易理解。
图1示出了可被处理用于构建色彩图像和深度图像的示例场景10的简化透视图。场景包括以不同深度(即,自位于场景前面的观察者的观点的距离)来安排的各个对象和表面。表面12在场景中是最深的(距观察者的观点最远)。表面14被安排在表面12的前面(距观察者的观点较近),且表面16、18和20被安排在表面14的前面。由此,当前考虑的表面是宏表面,具有与场景维度相同数量级的维度。然而,将注意到,此处公开的系统和方法不限于这样的表面,而是也将允许检查结构化宏表面的小得多的区域,例如,询问粗糙或不规则的拓扑结构等。此外,尽管图1示出了静止场景,但此处描述的概念可用于对动态场景(诸如包括一个或多个移动的人或对象的场景)成像。
除了被安排在场景内的不同深度以外,图1中示出的各个表面相对于彼此和观察者被不同地定向。表面12和14被定向为与观察者视线呈法向,而表面16对于观察者视线是倾斜的。此外,弯曲表面18和20呈现相对于观察者视线的连续定向范围。
图1中示出的表面也可呈现不同的纹理。例如,表面20相比于底层表面18可以是相对平滑的。光学上,场景的不同纹理可展示不同的光反射性质。例如,表面20可以是很大程度上镜面反射的,而表面18可以是很大程度上散射的。
最终,场景中的各个对象可以是不同色彩。尽管黑线和白线绘图被用于示意性地描绘场景10,但本领域中的技术人员将理解,各个表面的光吸收和光反射性质可以彼此不同,且由此各个表面的色彩可以彼此不同。
在某些应用中,仅处理来自场景的色彩信息以形成该场景的色彩图像(例如,数码照片或数字电影)。在其他应用中,仅处理来自场景的深度信息以形成深度图像。如此处描述的,处理色彩信息和深度信息两者,使得可形成色彩图像和深度图像。代替使用两个分开的相机——一个相机用于生成色彩图像而另一个相机用于生成深度图像——本发明涉及生成两种图像的单个双模成像器。
图2示出了场景10的横截平面视图。在一个示例实施例中,该图还示出了双模成像器22。该双模成像器是用于对场景成像的光学系统;它包括控制器23、光源24、检测器26和过滤器28。
控制器23可以是被配置成控制光源24、检测器26、和/或过滤器28的任何控制设备——例如,用于触发、协调、和/或同步这些组件的运作。控制器可包括如下文描述的逻辑子系统和/或数据保持子系统。在某些实施例中,控制器可包括深度分析器。在其他实施例中,深度分析器可在操作上与控制器通信,但本身可以是一分开的系统。
控制器可协调过滤器和检测器的定时,使得由检测器捕捉的图像在过滤器正阻塞来自检测器的可见光时被排序以构建深度图像。控制器还可协调过滤器和检测器的定时,使得由检测器捕捉的图像在过滤器正使可见光通过使其到达检测器时被排序以构建色彩图像。深度分析器随后可基于由检测器捕捉的结构化照明的一个或多个图像(即,在过滤器正阻塞可见光不使其到达检测器时,由检测器捕捉的一个或多个图像),来构建深度图像。这在下面将更详细地描述。
光源24可以是被配置成将可过滤照明投影到场景10的各个表面上的任何合适的光源。具体而言,光源24被配置成投影具有与可见光的对应特征不同的一个或多个特征的光,由此允许相对于投影光来过滤可见光(例如,可经由波长和/或偏振状态来过滤)。
在图2中示出的实施例中,光源包括激光器30和分散器32。激光器可提供具有已知偏振状态并且密集、经校准的、相干的且基本上单色的光束。
如此处使用的术语‘偏振状态’包含在光传播时光振荡的方向或指向或这一方向的旋转的任何非寻常指示;指示可以是准确的或近似的、完全的或不完全的。完全偏振状态的一个示例是包括S0、S1、S2和S3分量的完全Stokes矢量表示,这些分量被定义为:
S0=|Ex|2+|Ey|2
S1=|Ex|2-|Ey|2
S2=|Ea|2-|Eb|2
S1=|El|2-|Er|2,
而线性偏振方向ψ由下式定义:
2ψ=arctan(S2/S1).
继续图2,在某些实施例中,激光器30可以是连续波(CW)激光器;在其他实施例中,该激光器可以是脉冲的、模式锁定的、Q-开关的激光器等等。包括在光源24中的激光器的功率可基于要成像的场景来选择,功率较大的激光器用于较远且广阔的场景,而功率较小的激光器用于较近且更紧凑的场景。除了功率以外,激光器的发射激光波长可基于要成像的场景来选择。具体而言,可选择发射激光波长以便最低限度地与可见光重叠。在一个实施例中,发射激光波长可以是近红外波长。
分散器32可以是被配置成将来自激光器30的经校准光束分散在投影角范围中、且由此用彼此隔开的多个光特征来照明该场景的任何设备。在图2中示出的实施例中,光特征形成激光器30的图案化或以其他方式结构化的照明33。图2示出分散在限于水平面的偏转角范围的激光束。在所示实施例中,偏转角采用由常增量分开的离散值,例如,-20°、-15°、......、+20°。在其他实施例中,离散值由随机增量分开。在其他实施例中,激光束水平地分散在偏转角的连续范围中。将理解,此处所述的数字范围仅为示例,并且其他范围完全落入本发明的范围内。
分散器32可进一步将激光束分散在限于竖直面的偏转角范围中。与上述水平分散类似,竖直分散可以是离散的或连续的。如果水平和竖直分散两者都是离散的,则场景将由星座点来照明。如果竖直分散是离散的,而水平分散是连续的,则场景将由一系列水平条来照明。并且,如果竖直分散是离散的,而水平分散是连续的,则场景将由一系列竖直条来照明,如下文进一步引用的。可使用这些或其他结构化光图案而不背离本发明的范围。
为了分散激光束,分散器32可包括各种光学组件——透镜、衍射光学器件、漫射器、镜、波导、掩模等。在某些实施例中,分散器可进一步包括各种有源组件——例如,机电致动器、斩波器、压电设备、以及液晶光阀。
继续图2,检测器26可以是被配置成通过检测来自场景的光来捕捉该场景的图像的任何设备。此外,如图2中所示,检测器可被定向,使得捕捉到的图像包括由光源24和/或可见光所照明的场景的至少一部分。以此方式,从场景各个表面所反射的照明的一部分可被检测器检测到。检测器26被配置成捕捉来自场景的结构化照明和可见光。
检测器26可包括用于收集和/或将光聚焦于图像传感器40的各光学组件的几乎任何组合。
图像传感器40可以是被配置成检测可见光的相对强度和结构化照明33的相对强度的任何传感器。在其中光源24包括近红外发射激光器的实施例中,例如,图像传感器可包括被配置成检测具有近似三百八十纳米至一千纳米波长的光的互补金属氧化物半导体(CMOS)。此外,图像传感器可被配置成将捕捉到的图像表示成像素阵列。由此,捕捉到的图像的每一像素可以为一个或多个色彩通道对从场景的不同区域所反射的光强度进行编码。本领域技术人员将理解,可使用能够检测可见光、照明光照33的光、和/或经调制的照明的各种不同图像传感器,而不背离本发明的范围。此外,可以理解,可将图像传感器并入具有不同光学配置的各种设备。
过滤器28可以是时间过滤器或空间过滤器。时间过滤器的一个非限制性示例包括转轮过滤器。在图3中示意性地示出一个示例转轮过滤器50。转轮过滤器50包括被配置成阻塞可见光而使近红外光通过的第一部分52。第一部分用竖直线来示意性地标识。旋转过滤器还包括被配置成使可见光通过而可任选地阻塞近红外光的第二部分54。第二部分用水平线来示意性地标识。
图4示意性地示出四个不同时间:t0、t1、t2和t3的转轮过滤器50,这四个时间对应于检测器26a的四个连续曝光(即,检测器捕捉图像的四个连续时间)。尽管该图本质上是示意性的,但该图示出了光从左到右的行进。来自场景的光行进通过过滤器的底部至检测器。如这一示例中所示,转轮过滤器50的第一部分在检测器每隔一次捕捉图像时(例如,时间t0和t2)在光学上介于场景与检测器26a中间。同样,转轮过滤器50的第二部分在检测器每隔一次捕捉图像时(例如,时间t1和t3)在光学上介于场景与检测器26a中间。如以上讨论的,控制器可将时间过滤器的时间段设置为检测器的时间段的两倍。换言之,检测器26a在转轮过滤器每次旋转期间捕捉两个图像——可见光图像和近红外图像。即,每次旋转,转轮过滤器50被配置成对于近似一半的旋转阻塞可见光,而对于近似一半的旋转使可见光通过。
如图4中示意性地示出的,通过到达检测器的红外光可用于生成深度图像(即,在时间t0和t2)。如此处使用的,深度图像包括在其中对每一像素记录位置深度值(例如,z坐标)的任何图像。同样,通过到达检测器的可见光可用于生成色彩图像(即,在时间t1和t3)。如此处使用的,色彩图像包括在其中对每一像素记录一个或多个强度值(例如,黑白或灰度级图像的单个强度值、或与多色图像的不同色彩或亮度通道对应的两个或更多强度值)的任何图像。
上述配置是时间过滤器的一个非限制性示例。可以使用具有不同数目的可见光阻塞部分和可见光通过部分的其他转轮过滤器。例如,转轮过滤器可包括被配置成阻塞可见光的两个四等分,以被配置成通过可见光的两个四等分来交替。可见光阻塞和可见光通过部分可以按任何合适的方式来定大小和形状。此外,可以理解,可使用除了转轮过滤器以外的时间过滤器。一般而言,可使用被配置成在阻塞可见光使其不到达检测器与使可见光通过使其到达检测器之间进行时间上交替的任何过滤器。
尽管提供上述转轮作为非限制性示例来示出从深度图像的光中过滤色彩图像的光的概念,但可以理解其他安排也在本发明的范围内。例如,可结合波长敏感的偏振旋转器来使用调制偏振(例如,光弹性调制器)的其他活动设备来在时间上改变到图像传感器的信号。
图5示意性地示出空间过滤器60(部分地示出)的示例。空间过滤器60被配置成阻塞可见光使其不到达检测器62(部分地示出)的某些部分,而允许可见光通过使其到达该检测器的其他部分。例如,空间过滤器可被配置成阻塞可见光使其不到达检测器的多个空间上交替的像素组(例如,空间上交替的像素行、空间上交替的像素列、像素的棋盘图案等)中每隔一个像素组。在所示实施例中,空间过滤器60和检测器62被协同配置且对齐,使得偶数像素行被暴露于近红外光,而奇数像素行被暴露于可见光。
如图5中示意性地示出的,通过到达检测器的红外光可用于生成深度图像(即,使用偶数像素行)。同样,通过到达检测器的可见光可用于生成色彩图像(即,使用奇数像素行)。
另一种将可见光和红外光分开的方法是使用色彩旋转器。在这一情况下,来自场景的光通过线性偏振器且随后通过过滤器,该过滤器对于某些波长旋转偏振状态,但对其他波长保持相同的偏振状态。光的形成具有处于一种偏振状态的红外光以及处于一不同状态的可见光。这样的光可通过使用图案化偏振器来在空间上分开,其中偏振方向是空间变化的。
图6示出了使用共享图像传感器来构建色彩图像和深度图像的示例方法70。在72,方法70包括将结构化照明投影到场景上。结构化照明可由近红外波长或准许可见光被过滤同时保持结构化照明基本不被过滤的任何其他特征来表征。结构化照明可从任何合适的光源被投影,诸如包括近红外激光器的光源。
在74,方法70包括在阻塞来自场景的可见光使其不到达检测器与使来自场景的可见光通过使其到达检测器之间进行时间上的交替。在某些实施例中,这可使用诸如转轮过滤器等时间过滤器来完成。
在76,方法70包括逻辑分支。如果可见光被阻塞,则方法移至78。如果可见光未被阻止,则方法移至80。在78,方法70包括用检测器来捕捉结构化照明。检测器可以是能够捕捉结构化照明和可见光的任何合适的检测器。
在82,方法70包括基于用检测器捕捉到的结构化照明来生成深度图像。深度图像可至少部分地由深度分析器来构建,该深度分析器被配置成基于构成结构化照明的在空间上分开的光特征的相对位置,来评估像素的位置深度值。为便于这种类型的图像处理,图像传感器可包括像素阵列结构,使得单色光和RGB光都可被检测出。
在80,方法70包括逻辑分支。如果可见光被通过,则方法移至84。如果可见光未被通过(例如,来自场景的光既未通过过滤器的可见光过滤部分也未通过过滤器的近红外过滤部分),则方法循环回76。
在84,方法70包括用检测器来捕捉可见光。在78被用于捕捉结构化照明的同一检测器被用于在84捕捉可见光。
在86,方法70包括基于用检测器捕捉到的可见光来生成色彩图像。色彩图像可以是多色图像、黑白图像、或灰度级图像。
尽管以上在用于形成深度图像的红外结构化照明与用于形成色彩图像的可见光之间进行过滤的上下文中描述了过滤机制,可以理解,本文描述的过滤机制可用于过滤来自具有一个或多个不同特征(例如,波长、偏振等)的光的其他类型的深度成像照明,或反之亦然。一般而言,如文本描述的,具有第一特征的一个或多个类型的光可以从具有不同特征的不同类型的光中过滤出。相对于彼此而言是可过滤的光类型的非限制性示例包括可见光、红外光、近红外光、紫外光、结构化光、和/或已调制光。
如下面参考图7所述,可以使用各种不同的计算系统,而不偏离本公开的精神。参考图2描述的操作环境是作为示例来提供的,但并不意味着以任何方式来进行限制。相反,所示出的操作环境旨在展示可以在不背离本公开的范围的情况下应用于各种各样不同的操作环境的一般概念。
在此所述的方法和过程可以绑定到各种不同类型的计算系统。图7示意性地示出可执行本文描述的色彩图像构建和深度图像构建方法中的一个或多个的计算系统90。计算系统90可以采取各种不同的形式,尤其包括但不限于:游戏控制台、个人计算系统、军用跟踪和/或定标系统、以及提供绿屏或者运动捕捉功能的特征采集系统。
计算系统90可包括逻辑子系统92、在操作上连接到逻辑子系统的数据保存子系统94、显示子系统96、和/或双模成像器98。计算系统可任选地包括未示出在图7中的组件,并且/或者示出在图7中的某些组件可以是未被整合到计算系统中的外围组件。
逻辑子系统92可包括被配置为执行一个或多个指令的一个或多个物理设备。例如,逻辑子系统可被配置为执行一个或多个指令,该一个或多个指令是一个或多个程序、例程、对象、组件、数据结构或其他逻辑构造的一部分。可实现这样的指令以执行任务、实现数据类型、变换一个或多个设备的状态、或以其他方式得到所希望的结果。逻辑子系统可包括被配置为执行软件指令的一个或多个处理器。附加地或可替代地,逻辑子系统可包括被配置为执行硬件或固件指令的一个或多个硬件或固件逻辑机器。逻辑子系统可任选地包括分布在两个或多个设备上的独立组件,这些独立组件在一些实施例中可被远程放置。
数据保存子系统94可包括一个或多个物理设备,该一个或多个设备被配置成保存可由逻辑子系统执行以实现此处所述的方法和过程的数据和/或指令。在实现这样的方法和过程时,可以变换数据保持子系统94的状态(例如,以保持不同的数据)。数据保持子系统94可包括可移动介质和/或内置设备。数据保持子系统94可以包括光学存储器设备、半导体存储器设备(如RAM、EEPROM、闪存等)、和/或磁存储器设备等。数据保持子系统94可包括具有以下特性中的一个或多个特性的设备:易失性、非易失性、动态、静态、读/写、只读、随机存取、顺序存取、位置可寻址、文件可寻址、以及内容可寻址。在某些实施例中,可以将逻辑子系统92和数据保持子系统94集成到一个或更多个常见设备中,如专用集成电路或片上系统。
图7还示出使用计算机可读可移动介质100形式的数据保持子系统的一方面,该方面可用于存储和/或传送可执行来实现此处所述的方法和过程的数据和/或指令。
显示子系统96可用于呈现由数据保持子系统94所保持的数据的可视表示。因为此处所述的方法和过程改变了由数据保存子系统保存的数据,并进而变换了数据保存子系统的状态,所以可能同样变换了显示子系统96的状态以可视地表示底层数据中的改变(例如,显示子系统可显示所构建的色彩图像、所构建的深度图像的可视表示、和/或基于所构建的深度图像的虚拟模型)。显示子系统96可以包括使用实际上任何类型的技术的一个或多个显示设备。可将此类显示设备与逻辑子系统92和/或数据保存子系统94一起组合在共享封装中,或此类显示设备可以是外围显示设备。
计算系统90还包括被配置成获得一个或多个目标和/或场景的深度图像和色彩图像两者的双模成像器98。深度图像可使用结构化光分析来构建。在这样的分析中,图案化光(即,被显示成诸如网格图案或条纹图案等已知图案的光)可以被投影到场景上。在场景的表面上,图案可成为变形的,而图案的这一变形可被研究以确定从双模成像器到场景中的特定位置的物理距离。双模成像器可包括用于选择性地阻塞可见光的时间或空间过滤器,由此便于用同一双模成像器来捕捉深度图像和色彩图像两者。
可以理解,可由一个或多个双模成像器的逻辑机器来执行至少某些深度分析操作。双模成像器可包括被配置为执行一个或多个深度分析功能的一个或多个板上处理单元。双模成像器可以包括固件以促进更新这样的板载处理逻辑。
应该理解,此处所述的配置和/或方法在本质上是示例性的,并且这些具体实施例或示例不应被认为是局限性的,因为多个变体是可能的。此处所述的具体例程或方法可表示任何数量的处理策略中的一个或多个。由此,所示出的各个动作可以按所示顺序执行、按其他顺序执行、并行地执行、或者在某些情况下省略。同样,可以改变上述过程的次序。
本公开的主题包括各种过程、系统和配置的所有新颖和非显而易见的组合和子组合、和此处所公开的其他特征、功能、动作、和/或特性、以及其任何和全部等效物。
Claims (15)
1.一种用于对由可见光照明的场景进行成像的双模成像器,所述双模成像器包括:
光源,被配置成将从其中可过滤可见光的结构化照明投影到所述场景上;
检测器,被配置成捕捉来自所述场景的结构化照明和可见光两者;以及
过滤器,用于选择性地阻塞可见光使其不到达所述检测器的一个或多个部分而使所述结构化照明通过使其到达所述检测器的该一个或多个部分。
2.如权利要求1所述的双模成像器,其特征在于,所述过滤器包括时间过滤器,所述时间过滤器被配置成在阻塞可见光使其不到达所述检测器与使可见光通过使其到达所述检测器之间进行时间上的交替。
3.如权利要求2所述的双模成像器,其特征在于,所述过滤器包括转轮过滤器,所述转轮过滤器包括被配置成阻塞可见光的一个或多个部分以及被配置成使可见光通过的一个或多个部分。
4.如权利要求3所述的双模成像器,其特征在于,所述转轮过滤器被配置成对于近似一半的旋转阻塞可见光,而对于近似一半的该旋转使可见光通过。
5.如权利要求2所述的双模成像器,其特征在于,还包括控制器,所述控制器用于协调所述时间过滤器和所述检测器,使得在所述时间过滤器正阻塞可见光使其不到达所述检测器时由所述检测器捕捉到的图像被排序以构建深度图像;并且使得在所述时间过滤器正使可见光通过使其到达所述检测器时由所述检测器捕捉到的图像被排序以构建色彩图像。
6.如权利要求5所述的双模成像器,其特征在于,所述时间过滤器包括偏振器和光弹性调制器,用于在阻塞可见光使其不到达所述检测器与使可见光通过使其到达所述检测器之间进行时间上的交替,而无需移动各部分。
7.如权利要求1所述的双模成像器,其特征在于,所述过滤器包括空间过滤器,所述空间过滤器被配置成阻塞可见光使其不到达所述检测器的某些部分而允许可见光通过使其到达所述检测器的其他部分。
8.如权利要求7所述的双模成像器,其特征在于,所述检测器包括多个空间上交替的像素组,且所述空间过滤器被配置成阻塞可见光使其不到达所述多个空间上交替的像素组中每隔一个的像素组。
9.如权利要求8所述的双模成像器,其特征在于,所述多个空间上交替的像素组是空间上交替的像素行。
10.如权利要求7所述的双模成像器,其特征在于,所述空间过滤器包括偏振器、波长敏感的色彩旋转器、以及具有空间变化的偏振方向的图案化偏振器。
11.如权利要求1所述的双模成像器,其特征在于,所述检测器包括互补金属氧化物半导体。
12.如权利要求1所述的双模成像器,其特征在于,所述光源包括具有近红外发射激光波长的激光器。
13.如权利要求12所述的双模成像器,其特征在于,所述光源包括分散器,所述分散器被配置成将来自所述激光器的经校准的束分散在投影角范围中,以便用具有近红外波长的多个空间上分开的光特征来照明所述场景。
14.如权利要求1所述的双模成像器,其特征在于,还包括深度分析器,所述深度分析器被配置成基于由所述检测器捕捉到的结构化照明的一个或多个图像来构建深度图像。
15.一种构建色彩图像和深度图像的方法,所述方法包括:
将具有近红外波长的结构化照明投影在场景上;
在阻塞来自所述场景的可见光使其不到达检测器与使来自所述场景的可见光通过使其到达所述检测器之间进行时间上的交替;
在阻塞来自所述场景的可见光时,用所述检测器来捕捉所述结构化照明;
在使来自所述场景的可见光通过时,用所述检测器来捕捉可见光;
基于用所述检测器捕捉到的结构化照明来生成所述深度图像;以及
基于用所述检测器捕捉到的可见光来生成所述色彩图像。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/572,082 | 2009-10-01 | ||
US12/572,082 US8723118B2 (en) | 2009-10-01 | 2009-10-01 | Imager for constructing color and depth images |
PCT/US2010/047564 WO2011041066A2 (en) | 2009-10-01 | 2010-09-01 | Imager for constructing color and depth images |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102812697A true CN102812697A (zh) | 2012-12-05 |
CN102812697B CN102812697B (zh) | 2014-10-15 |
Family
ID=43822470
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201080043779.5A Active CN102812697B (zh) | 2009-10-01 | 2010-09-01 | 用于构建色彩和深度图像的成像器 |
Country Status (6)
Country | Link |
---|---|
US (2) | US8723118B2 (zh) |
EP (1) | EP2484107A4 (zh) |
JP (1) | JP2013506868A (zh) |
KR (1) | KR101719388B1 (zh) |
CN (1) | CN102812697B (zh) |
WO (1) | WO2011041066A2 (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104519338A (zh) * | 2013-09-30 | 2015-04-15 | 三星电子株式会社 | 产生彩色图像和深度图像的方法和设备 |
CN106382920A (zh) * | 2016-11-25 | 2017-02-08 | 深圳悉罗机器人有限公司 | 多功能视觉传感器、移动机器人及移动机器人的控制方法 |
CN111855621A (zh) * | 2015-02-24 | 2020-10-30 | 国立大学法人东京大学 | 动态高速高灵敏度成像装置及成像方法 |
CN112399028A (zh) * | 2016-03-01 | 2021-02-23 | 奇跃公司 | 深度感测系统和方法 |
CN112954153A (zh) * | 2021-01-26 | 2021-06-11 | 维沃移动通信有限公司 | 相机装置、电子设备、景深检测方法及装置 |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6168383B2 (ja) * | 2012-12-27 | 2017-07-26 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 欠陥検査装置及び欠陥検査方法 |
US9398287B2 (en) | 2013-02-28 | 2016-07-19 | Google Technology Holdings LLC | Context-based depth sensor control |
US9407837B2 (en) * | 2013-02-28 | 2016-08-02 | Google Inc. | Depth sensor using modulated light projector and image sensor with color and IR sensing |
WO2016029283A1 (pt) * | 2014-08-27 | 2016-03-03 | Muniz Samuel | Sistema de criação de imagens, videos e sons em ambiente virtual onidimensional a partir de cenas reais com conjunto de cameras e sensores de profundidade, reprodução de imagens, vídeos e sons em ambientes virtuais tridimencionais com head mounted display e sensor de movimento |
US9553423B2 (en) | 2015-02-27 | 2017-01-24 | Princeton Optronics Inc. | Miniature structured light illuminator |
US9953428B2 (en) | 2015-03-03 | 2018-04-24 | Microsoft Technology Licensing, Llc | Digital camera unit with simultaneous structured and unstructured illumination |
US9936151B2 (en) | 2015-10-16 | 2018-04-03 | Capsovision Inc | Single image sensor for capturing mixed structured-light images and regular images |
US10547830B2 (en) * | 2015-11-16 | 2020-01-28 | Samsung Electronics Co., Ltd | Apparatus for and method of illumination control for acquiring image information and depth information simultaneously |
US20170366773A1 (en) * | 2016-06-21 | 2017-12-21 | Siemens Aktiengesellschaft | Projection in endoscopic medical imaging |
US10466036B2 (en) | 2016-10-07 | 2019-11-05 | Arizona Board Of Regents On Behalf Of The University Of Arizona | Attachable depth and orientation tracker device and method of depth and orientation tracking using focal plane polarization and color camera |
EP3606412A4 (en) * | 2017-04-07 | 2020-12-23 | Toi Labs, Inc. | BIO CONTROL DEVICES, PROCEDURES AND SYSTEMS FOR USE IN A BATHROOM ENVIRONMENT |
CA3106823A1 (en) | 2018-07-19 | 2020-01-23 | Activ Surgical, Inc. | Systems and methods for multi-modal sensing of depth in vision systems for automated surgical robots |
CA3132350A1 (en) | 2019-04-08 | 2020-10-15 | Stephen Tully | Systems and methods for medical imaging |
US11617541B2 (en) * | 2019-06-20 | 2023-04-04 | Cilag Gmbh International | Optical fiber waveguide in an endoscopic system for fluorescence imaging |
US11516388B2 (en) * | 2019-06-20 | 2022-11-29 | Cilag Gmbh International | Pulsed illumination in a fluorescence imaging system |
DE102020201119A1 (de) | 2020-01-30 | 2021-08-05 | Robert Bosch Gesellschaft mit beschränkter Haftung | Detektorelement für einen Time-of-Flight-Sensor |
CN112070065A (zh) * | 2020-10-01 | 2020-12-11 | 深圳奥比中光科技有限公司 | 一种检测红外图像与深度图像的方法、装置及人脸识别系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050285966A1 (en) * | 2004-01-28 | 2005-12-29 | Canesta, Inc. | Single chip red, green, blue, distance (RGB-Z) sensor |
US7274393B2 (en) * | 2003-02-28 | 2007-09-25 | Intel Corporation | Four-color mosaic pattern for depth and image capture |
CN101179742A (zh) * | 2006-11-10 | 2008-05-14 | 三洋电机株式会社 | 摄像装置和图像信号处理装置 |
US20090114799A1 (en) * | 2007-11-07 | 2009-05-07 | Fujifilm Corporation | Image capturing system, image capturing method, and recording medium |
Family Cites Families (189)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3848129A (en) * | 1973-08-24 | 1974-11-12 | Sanders Associates Inc | Spectral discriminating radiation detection apparatus |
US4288078A (en) * | 1979-11-20 | 1981-09-08 | Lugo Julio I | Game apparatus |
US4349277A (en) * | 1980-06-11 | 1982-09-14 | General Electric Company | Non-contact measurement of surface profile |
US4695953A (en) | 1983-08-25 | 1987-09-22 | Blair Preston E | TV animation interactively controlled by the viewer |
US4630910A (en) | 1984-02-16 | 1986-12-23 | Robotic Vision Systems, Inc. | Method of measuring in three-dimensions at high speed |
JPH0646977B2 (ja) * | 1984-06-09 | 1994-06-22 | オリンパス光学工業株式会社 | 計測用内視鏡 |
US4627620A (en) | 1984-12-26 | 1986-12-09 | Yang John P | Electronic athlete trainer for improving skills in reflex, speed and accuracy |
US4645458A (en) | 1985-04-15 | 1987-02-24 | Harald Phillip | Athletic evaluation and training apparatus |
US4679068A (en) * | 1985-07-25 | 1987-07-07 | General Electric Company | Composite visible/thermal-infrared imaging system |
US4702475A (en) | 1985-08-16 | 1987-10-27 | Innovating Training Products, Inc. | Sports technique and reaction training system |
US4843568A (en) | 1986-04-11 | 1989-06-27 | Krueger Myron W | Real time perception of and response to the actions of an unencumbered participant/user |
US4711543A (en) | 1986-04-14 | 1987-12-08 | Blair Preston E | TV animation interactively controlled by the viewer |
US4796997A (en) | 1986-05-27 | 1989-01-10 | Synthetic Vision Systems, Inc. | Method and system for high-speed, 3-D imaging of an object at a vision station |
US5184295A (en) | 1986-05-30 | 1993-02-02 | Mann Ralph V | System and method for teaching physical skills |
US4751642A (en) | 1986-08-29 | 1988-06-14 | Silva John M | Interactive sports simulation system with physiological sensing and psychological conditioning |
US4809065A (en) | 1986-12-01 | 1989-02-28 | Kabushiki Kaisha Toshiba | Interactive system and related method for displaying data to produce a three-dimensional image of an object |
US4817950A (en) | 1987-05-08 | 1989-04-04 | Goo Paul E | Video game control unit and attitude sensor |
US5239463A (en) | 1988-08-04 | 1993-08-24 | Blair Preston E | Method and apparatus for player interaction with animated characters and objects |
US5239464A (en) | 1988-08-04 | 1993-08-24 | Blair Preston E | Interactive video system providing repeated switching of multiple tracks of actions sequences |
US4901362A (en) | 1988-08-08 | 1990-02-13 | Raytheon Company | Method of recognizing patterns |
US4893183A (en) | 1988-08-11 | 1990-01-09 | Carnegie-Mellon University | Robotic vision system |
JPH02199526A (ja) | 1988-10-14 | 1990-08-07 | David G Capper | 制御インターフェース装置 |
US4925189A (en) | 1989-01-13 | 1990-05-15 | Braeunig Thomas F | Body-mounted video game exercise device |
US5229756A (en) | 1989-02-07 | 1993-07-20 | Yamaha Corporation | Image control apparatus |
US5469740A (en) | 1989-07-14 | 1995-11-28 | Impulse Technology, Inc. | Interactive video testing and training system |
JPH03103822U (zh) | 1990-02-13 | 1991-10-29 | ||
US5101444A (en) | 1990-05-18 | 1992-03-31 | Panacea, Inc. | Method and apparatus for high speed object location |
US5148154A (en) | 1990-12-04 | 1992-09-15 | Sony Corporation Of America | Multi-dimensional user interface |
US5534917A (en) | 1991-05-09 | 1996-07-09 | Very Vivid, Inc. | Video image based control system |
US5417210A (en) | 1992-05-27 | 1995-05-23 | International Business Machines Corporation | System and method for augmentation of endoscopic surgery |
US5295491A (en) | 1991-09-26 | 1994-03-22 | Sam Technology, Inc. | Non-invasive human neurocognitive performance capability testing method and system |
US6054991A (en) | 1991-12-02 | 2000-04-25 | Texas Instruments Incorporated | Method of modeling player position and movement in a virtual reality system |
WO1993010708A1 (en) | 1991-12-03 | 1993-06-10 | French Sportech Corporation | Interactive video testing and training system |
US5875108A (en) | 1991-12-23 | 1999-02-23 | Hoffberg; Steven M. | Ergonomic man-machine interface incorporating adaptive pattern recognition based control system |
JPH07325934A (ja) | 1992-07-10 | 1995-12-12 | Walt Disney Co:The | 仮想世界に向上したグラフィックスを提供する方法および装置 |
US5999908A (en) | 1992-08-06 | 1999-12-07 | Abelow; Daniel H. | Customer-based product design module |
US5320538A (en) | 1992-09-23 | 1994-06-14 | Hughes Training, Inc. | Interactive aircraft training system and method |
IT1257294B (it) | 1992-11-20 | 1996-01-12 | Dispositivo atto a rilevare la configurazione di un'unita' fisiologicadistale,da utilizzarsi in particolare come interfaccia avanzata per macchine e calcolatori. | |
US5495576A (en) | 1993-01-11 | 1996-02-27 | Ritchey; Kurtis J. | Panoramic image based virtual reality/telepresence audio-visual system and method |
US5690582A (en) | 1993-02-02 | 1997-11-25 | Tectrix Fitness Equipment, Inc. | Interactive exercise apparatus |
JP2799126B2 (ja) | 1993-03-26 | 1998-09-17 | 株式会社ナムコ | ビデオゲーム装置及びゲーム用入力装置 |
US5405152A (en) | 1993-06-08 | 1995-04-11 | The Walt Disney Company | Method and apparatus for an interactive video game with physical feedback |
US5454043A (en) | 1993-07-30 | 1995-09-26 | Mitsubishi Electric Research Laboratories, Inc. | Dynamic and static hand gesture recognition through low-level image analysis |
US5423554A (en) | 1993-09-24 | 1995-06-13 | Metamedia Ventures, Inc. | Virtual reality game method and apparatus |
US5980256A (en) | 1993-10-29 | 1999-11-09 | Carmein; David E. E. | Virtual reality system with enhanced sensory apparatus |
JP3419050B2 (ja) | 1993-11-19 | 2003-06-23 | 株式会社日立製作所 | 入力装置 |
US5347306A (en) | 1993-12-17 | 1994-09-13 | Mitsubishi Electric Research Laboratories, Inc. | Animated electronic meeting place |
JP2552427B2 (ja) | 1993-12-28 | 1996-11-13 | コナミ株式会社 | テレビ遊戯システム |
US5577981A (en) | 1994-01-19 | 1996-11-26 | Jarvik; Robert | Virtual reality exercise machine and computer controlled video system |
US5580249A (en) | 1994-02-14 | 1996-12-03 | Sarcos Group | Apparatus for simulating mobility of a human |
US5597309A (en) | 1994-03-28 | 1997-01-28 | Riess; Thomas | Method and apparatus for treatment of gait problems associated with parkinson's disease |
US5385519A (en) | 1994-04-19 | 1995-01-31 | Hsu; Chi-Hsueh | Running machine |
US5524637A (en) | 1994-06-29 | 1996-06-11 | Erickson; Jon W. | Interactive system for measuring physiological exertion |
US5563988A (en) | 1994-08-01 | 1996-10-08 | Massachusetts Institute Of Technology | Method and system for facilitating wireless, full-body, real-time user interaction with a digitally represented visual environment |
US6714665B1 (en) | 1994-09-02 | 2004-03-30 | Sarnoff Corporation | Fully automated iris recognition system utilizing wide and narrow fields of view |
US5516105A (en) | 1994-10-06 | 1996-05-14 | Exergame, Inc. | Acceleration activated joystick |
US5638300A (en) | 1994-12-05 | 1997-06-10 | Johnson; Lee E. | Golf swing analysis system |
JPH08161292A (ja) | 1994-12-09 | 1996-06-21 | Matsushita Electric Ind Co Ltd | 混雑度検知方法およびそのシステム |
US5594469A (en) | 1995-02-21 | 1997-01-14 | Mitsubishi Electric Information Technology Center America Inc. | Hand gesture machine control system |
US5682229A (en) | 1995-04-14 | 1997-10-28 | Schwartz Electro-Optics, Inc. | Laser range camera |
US5913727A (en) | 1995-06-02 | 1999-06-22 | Ahdoot; Ned | Interactive movement and contact simulation game |
WO1996041304A1 (en) | 1995-06-07 | 1996-12-19 | The Trustees Of Columbia University In The City Of New York | Apparatus and methods for determining the three-dimensional shape of an object using active illumination and relative blurring in two images due to defocus |
US5682196A (en) | 1995-06-22 | 1997-10-28 | Actv, Inc. | Three-dimensional (3D) video presentation system providing interactive 3D presentation with personalized audio responses for multiple viewers |
US5702323A (en) | 1995-07-26 | 1997-12-30 | Poulton; Craig K. | Electronic exercise enhancer |
US6098458A (en) | 1995-11-06 | 2000-08-08 | Impulse Technology, Ltd. | Testing and training system for assessing movement and agility skills without a confining field |
US6073489A (en) | 1995-11-06 | 2000-06-13 | French; Barry J. | Testing and training system for assessing the ability of a player to complete a task |
US6308565B1 (en) | 1995-11-06 | 2001-10-30 | Impulse Technology Ltd. | System and method for tracking and assessing movement skills in multidimensional space |
US6430997B1 (en) | 1995-11-06 | 2002-08-13 | Trazer Technologies, Inc. | System and method for tracking and assessing movement skills in multidimensional space |
US6176782B1 (en) | 1997-12-22 | 2001-01-23 | Philips Electronics North America Corp. | Motion-based command generation technology |
US5933125A (en) | 1995-11-27 | 1999-08-03 | Cae Electronics, Ltd. | Method and apparatus for reducing instability in the display of a virtual environment |
US5641288A (en) | 1996-01-11 | 1997-06-24 | Zaenglein, Jr.; William G. | Shooting simulating process and training device using a virtual reality display screen |
EP0958002A4 (en) | 1996-05-08 | 2001-03-28 | Real Vision Corp | REAL-TIME SIMULATION USING POSITION DETECTION |
US6173066B1 (en) | 1996-05-21 | 2001-01-09 | Cybernet Systems Corporation | Pose determination and tracking by matching 3D objects to a 2D sensor |
JPH1051668A (ja) * | 1996-08-06 | 1998-02-20 | Iseki & Co Ltd | 農業用ロボットの撮像装置 |
US5989157A (en) | 1996-08-06 | 1999-11-23 | Walton; Charles A. | Exercising system with electronic inertial game playing |
EP0959444A4 (en) | 1996-08-14 | 2005-12-07 | Nurakhmed Nurislamovic Latypov | METHOD FOR TRACKING AND REPRESENTING THE POSITION AND ORIENTATION OF A SUBJECT IN THE SPACE, METHOD FOR PRESENTING A VIRTUAL SPACE THEREON, AND SYSTEMS FOR CARRYING OUT SAID METHODS |
JP3064928B2 (ja) | 1996-09-20 | 2000-07-12 | 日本電気株式会社 | 被写体抽出方式 |
EP0849697B1 (en) | 1996-12-20 | 2003-02-12 | Hitachi Europe Limited | A hand gesture recognition system and method |
US6081612A (en) * | 1997-02-28 | 2000-06-27 | Electro Optical Sciences Inc. | Systems and methods for the multispectral imaging and characterization of skin tissue |
US6009210A (en) | 1997-03-05 | 1999-12-28 | Digital Equipment Corporation | Hands-free interface to a virtual reality environment using head tracking |
US6100896A (en) | 1997-03-24 | 2000-08-08 | Mitsubishi Electric Information Technology Center America, Inc. | System for designing graphical multi-participant environments |
US5877803A (en) | 1997-04-07 | 1999-03-02 | Tritech Mircoelectronics International, Ltd. | 3-D image detector |
US6215898B1 (en) | 1997-04-15 | 2001-04-10 | Interval Research Corporation | Data processing system and method |
JP3077745B2 (ja) | 1997-07-31 | 2000-08-14 | 日本電気株式会社 | データ処理方法および装置、情報記憶媒体 |
US6188777B1 (en) | 1997-08-01 | 2001-02-13 | Interval Research Corporation | Method and apparatus for personnel detection and tracking |
US6720949B1 (en) | 1997-08-22 | 2004-04-13 | Timothy R. Pryor | Man machine interfaces and applications |
US6289112B1 (en) | 1997-08-22 | 2001-09-11 | International Business Machines Corporation | System and method for determining block direction in fingerprint images |
JPH1173491A (ja) * | 1997-08-29 | 1999-03-16 | Namco Ltd | フォアグランド画像生成装置 |
AUPO894497A0 (en) | 1997-09-02 | 1997-09-25 | Xenotech Research Pty Ltd | Image processing method and apparatus |
EP0905644A3 (en) | 1997-09-26 | 2004-02-25 | Matsushita Electric Industrial Co., Ltd. | Hand gesture recognizing device |
US6141463A (en) | 1997-10-10 | 2000-10-31 | Electric Planet Interactive | Method and system for estimating jointed-figure configurations |
US6411744B1 (en) | 1997-10-15 | 2002-06-25 | Electric Planet, Inc. | Method and apparatus for performing a clean background subtraction |
US6072494A (en) | 1997-10-15 | 2000-06-06 | Electric Planet, Inc. | Method and apparatus for real-time gesture recognition |
US6101289A (en) | 1997-10-15 | 2000-08-08 | Electric Planet, Inc. | Method and apparatus for unencumbered capture of an object |
US6384819B1 (en) | 1997-10-15 | 2002-05-07 | Electric Planet, Inc. | System and method for generating an animatable character |
US6130677A (en) | 1997-10-15 | 2000-10-10 | Electric Planet, Inc. | Interactive computer vision system |
US7155363B1 (en) * | 1997-12-01 | 2006-12-26 | Mks Instruments, Inc. | Thermal imaging for semiconductor process monitoring |
US6181343B1 (en) | 1997-12-23 | 2001-01-30 | Philips Electronics North America Corp. | System and method for permitting three-dimensional navigation through a virtual reality environment using camera-based gesture inputs |
US6159100A (en) | 1998-04-23 | 2000-12-12 | Smith; Michael D. | Virtual reality game |
US6077201A (en) | 1998-06-12 | 2000-06-20 | Cheng; Chau-Yang | Exercise bicycle |
US6950534B2 (en) | 1998-08-10 | 2005-09-27 | Cybernet Systems Corporation | Gesture-controlled interfaces for self-service machines and other applications |
US7036094B1 (en) | 1998-08-10 | 2006-04-25 | Cybernet Systems Corporation | Behavior recognition system |
US20010008561A1 (en) | 1999-08-10 | 2001-07-19 | Paul George V. | Real-time object tracking system |
US6681031B2 (en) | 1998-08-10 | 2004-01-20 | Cybernet Systems Corporation | Gesture-controlled interfaces for self-service machines and other applications |
US7121946B2 (en) | 1998-08-10 | 2006-10-17 | Cybernet Systems Corporation | Real-time head tracking system for computer games and other applications |
US6801637B2 (en) | 1999-08-10 | 2004-10-05 | Cybernet Systems Corporation | Optical body tracker |
IL126284A (en) | 1998-09-17 | 2002-12-01 | Netmor Ltd | System and method for three dimensional positioning and tracking |
DE69936620T2 (de) | 1998-09-28 | 2008-05-21 | Matsushita Electric Industrial Co., Ltd., Kadoma | Verfahren und Vorrichtung zum Segmentieren von Handgebärden |
US7323634B2 (en) * | 1998-10-14 | 2008-01-29 | Patterning Technologies Limited | Method of forming an electronic device |
AU1930700A (en) | 1998-12-04 | 2000-06-26 | Interval Research Corporation | Background estimation and segmentation based on range and color |
US6147678A (en) | 1998-12-09 | 2000-11-14 | Lucent Technologies Inc. | Video hand image-three-dimensional computer interface with multiple degrees of freedom |
EP1147370B1 (en) | 1998-12-16 | 2009-02-25 | 3DV Systems Ltd. | Self gating photosurface |
US6570555B1 (en) | 1998-12-30 | 2003-05-27 | Fuji Xerox Co., Ltd. | Method and apparatus for embodied conversational characters with multimodal input/output in an interface device |
US6363160B1 (en) | 1999-01-22 | 2002-03-26 | Intel Corporation | Interface using pattern recognition and tracking |
US7003134B1 (en) | 1999-03-08 | 2006-02-21 | Vulcan Patents Llc | Three dimensional object pose estimation which employs dense depth information |
US6299308B1 (en) | 1999-04-02 | 2001-10-09 | Cybernet Systems Corporation | Low-cost non-imaging eye tracker system for computer control |
US6503195B1 (en) | 1999-05-24 | 2003-01-07 | University Of North Carolina At Chapel Hill | Methods and systems for real-time structured light depth extraction and endoscope using real-time structured light depth extraction |
US6476834B1 (en) | 1999-05-28 | 2002-11-05 | International Business Machines Corporation | Dynamic creation of selectable items on surfaces |
US6959869B2 (en) * | 1999-06-07 | 2005-11-01 | Metrologic Instruments, Inc. | Automatic vehicle identification (AVI) system employing planar laser illumination and imaging (PLIIM) based subsystems |
US6873723B1 (en) | 1999-06-30 | 2005-03-29 | Intel Corporation | Segmenting three-dimensional video images using stereo |
US6738066B1 (en) | 1999-07-30 | 2004-05-18 | Electric Plant, Inc. | System, method and article of manufacture for detecting collisions between video images generated by a camera and an object depicted on a display |
US7113918B1 (en) | 1999-08-01 | 2006-09-26 | Electric Planet, Inc. | Method for video enabled electronic commerce |
US7050606B2 (en) | 1999-08-10 | 2006-05-23 | Cybernet Systems Corporation | Tracking and gesture recognition system particularly suited to vehicular control applications |
US6663491B2 (en) | 2000-02-18 | 2003-12-16 | Namco Ltd. | Game apparatus, storage medium and computer program that adjust tempo of sound |
US6633294B1 (en) | 2000-03-09 | 2003-10-14 | Seth Rosenthal | Method and apparatus for using captured high density motion for animation |
EP1152261A1 (en) | 2000-04-28 | 2001-11-07 | CSEM Centre Suisse d'Electronique et de Microtechnique SA | Device and method for spatially resolved photodetection and demodulation of modulated electromagnetic waves |
US6889075B2 (en) * | 2000-05-03 | 2005-05-03 | Rocky Mountain Biosystems, Inc. | Optical imaging of subsurface anatomical structures and biomolecules |
US6640202B1 (en) | 2000-05-25 | 2003-10-28 | International Business Machines Corporation | Elastic sensor mesh system for 3-dimensional measurement, mapping and kinematics applications |
US6731799B1 (en) | 2000-06-01 | 2004-05-04 | University Of Washington | Object segmentation with background extraction and moving boundary techniques |
US6788809B1 (en) | 2000-06-30 | 2004-09-07 | Intel Corporation | System and method for gesture recognition in three dimensions using stereo imaging and color vision |
WO2002009424A2 (en) | 2000-07-21 | 2002-01-31 | The Trustees Of Columbia University In The City Of New York | Method and apparatus for image mosaicing |
US7227526B2 (en) | 2000-07-24 | 2007-06-05 | Gesturetek, Inc. | Video-based image control system |
JP2002084451A (ja) * | 2000-09-11 | 2002-03-22 | Minolta Co Ltd | デジタル撮像装置、画像処理システム、記録媒体、およびデジタル撮像方法 |
US7058204B2 (en) | 2000-10-03 | 2006-06-06 | Gesturetek, Inc. | Multiple camera control system |
US7039676B1 (en) | 2000-10-31 | 2006-05-02 | International Business Machines Corporation | Using video image analysis to automatically transmit gestures over a network in a chat or instant messaging session |
US6539931B2 (en) | 2001-04-16 | 2003-04-01 | Koninklijke Philips Electronics N.V. | Ball throwing assistant |
US8035612B2 (en) | 2002-05-28 | 2011-10-11 | Intellectual Ventures Holding 67 Llc | Self-contained interactive video display system |
US7259747B2 (en) | 2001-06-05 | 2007-08-21 | Reactrix Systems, Inc. | Interactive video display system |
JP3420221B2 (ja) | 2001-06-29 | 2003-06-23 | 株式会社コナミコンピュータエンタテインメント東京 | ゲーム装置及びプログラム |
US6937742B2 (en) | 2001-09-28 | 2005-08-30 | Bellsouth Intellectual Property Corporation | Gesture activated home appliance |
US6825928B2 (en) * | 2001-12-19 | 2004-11-30 | Wisconsin Alumni Research Foundation | Depth-resolved fluorescence instrument |
JP3972654B2 (ja) * | 2001-12-28 | 2007-09-05 | 松下電工株式会社 | 固体撮像素子カメラおよびカメラ付きドアホン |
AU2003212211A1 (en) | 2002-04-19 | 2003-11-03 | Iee International Electronics And Engineering S.A. | Safety device for a vehicle |
US7348963B2 (en) | 2002-05-28 | 2008-03-25 | Reactrix Systems, Inc. | Interactive video display system |
US7710391B2 (en) | 2002-05-28 | 2010-05-04 | Matthew Bell | Processing an image utilizing a spatially varying pattern |
US7170492B2 (en) | 2002-05-28 | 2007-01-30 | Reactrix Systems, Inc. | Interactive video display system |
WO2003105289A2 (en) | 2002-06-07 | 2003-12-18 | University Of North Carolina At Chapel Hill | Methods and systems for laser based real-time structured light depth extraction |
US7489812B2 (en) | 2002-06-07 | 2009-02-10 | Dynamic Digital Depth Research Pty Ltd. | Conversion and encoding techniques |
US7257437B2 (en) * | 2002-07-05 | 2007-08-14 | The Regents Of The University Of California | Autofluorescence detection and imaging of bladder cancer realized through a cystoscope |
US7576727B2 (en) | 2002-12-13 | 2009-08-18 | Matthew Bell | Interactive directed light/sound system |
US7154157B2 (en) | 2002-12-30 | 2006-12-26 | Intel Corporation | Stacked semiconductor radiation sensors having color component and infrared sensing capability |
JP4235729B2 (ja) | 2003-02-03 | 2009-03-11 | 国立大学法人静岡大学 | 距離画像センサ |
DE602004006190T8 (de) | 2003-03-31 | 2008-04-10 | Honda Motor Co., Ltd. | Vorrichtung, Verfahren und Programm zur Gestenerkennung |
US8072470B2 (en) | 2003-05-29 | 2011-12-06 | Sony Computer Entertainment Inc. | System and method for providing a real-time three-dimensional interactive environment |
US7372977B2 (en) | 2003-05-29 | 2008-05-13 | Honda Motor Co., Ltd. | Visual tracking using depth data |
EP1631937B1 (en) | 2003-06-12 | 2018-03-28 | Honda Motor Co., Ltd. | Target orientation estimation using depth sensing |
WO2005034747A1 (en) * | 2003-09-15 | 2005-04-21 | Beth Israel Deaconess Medical Center | Medical imaging systems |
DE602004026791D1 (de) * | 2003-10-21 | 2010-06-02 | Barco Nv | Verfahren und Vorrichtung zur Durchführung einer stereoskopischen Bildanzeige auf der Basis von farbselektiven Filtern |
WO2005041579A2 (en) | 2003-10-24 | 2005-05-06 | Reactrix Systems, Inc. | Method and system for processing captured image information in an interactive video display system |
US8134637B2 (en) | 2004-01-28 | 2012-03-13 | Microsoft Corporation | Method and system to increase X-Y resolution in a depth (Z) camera using red, blue, green (RGB) sensing |
US7289211B1 (en) * | 2004-04-09 | 2007-10-30 | Walsh Jr Joseph T | System and method for imaging sub-surface polarization-sensitive material structures |
JP4708422B2 (ja) | 2004-04-15 | 2011-06-22 | ジェスチャー テック,インコーポレイテッド | 両手動作の追跡 |
US7308112B2 (en) | 2004-05-14 | 2007-12-11 | Honda Motor Co., Ltd. | Sign based human-machine interaction |
US7704135B2 (en) | 2004-08-23 | 2010-04-27 | Harrison Jr Shelton E | Integrated game system, method, and device |
US20080039715A1 (en) * | 2004-11-04 | 2008-02-14 | Wilson David F | Three-dimensional optical guidance for catheter placement |
US8548570B2 (en) * | 2004-11-29 | 2013-10-01 | Hypermed Imaging, Inc. | Hyperspectral imaging of angiogenesis |
KR20060070280A (ko) | 2004-12-20 | 2006-06-23 | 한국전자통신연구원 | 손 제스처 인식을 이용한 사용자 인터페이스 장치 및 그방법 |
US7853041B2 (en) | 2005-01-07 | 2010-12-14 | Gesturetek, Inc. | Detecting and tracking objects in images |
JP2008537190A (ja) | 2005-01-07 | 2008-09-11 | ジェスチャー テック,インコーポレイテッド | 赤外線パターンを照射することによる対象物の三次元像の生成 |
JP5080273B2 (ja) | 2005-01-07 | 2012-11-21 | クアルコム,インコーポレイテッド | オプティカルフローに基づく傾きセンサー |
US7598942B2 (en) | 2005-02-08 | 2009-10-06 | Oblong Industries, Inc. | System and method for gesture based control system |
WO2006099597A2 (en) | 2005-03-17 | 2006-09-21 | Honda Motor Co., Ltd. | Pose estimation based on critical point analysis |
US7560679B1 (en) * | 2005-05-10 | 2009-07-14 | Siimpel, Inc. | 3D camera |
KR101403172B1 (ko) | 2005-05-17 | 2014-06-03 | 퀄컴 인코포레이티드 | 방위-감응 신호 출력 |
US7541588B2 (en) * | 2005-07-12 | 2009-06-02 | Northrop Grumman Corporation | Infrared laser illuminated imaging systems and methods |
ATE412882T1 (de) | 2005-08-12 | 2008-11-15 | Mesa Imaging Ag | Hochempfindliches, schnelles pixel für anwendung in einem bildsensor |
US20080026838A1 (en) | 2005-08-22 | 2008-01-31 | Dunstan James E | Multi-player non-role-playing virtual world games: method for two-way interaction between participants and multi-player virtual world games |
US7450736B2 (en) | 2005-10-28 | 2008-11-11 | Honda Motor Co., Ltd. | Monocular tracking of 3D human motion with a coordinated mixture of factor analyzers |
US7701439B2 (en) | 2006-07-13 | 2010-04-20 | Northrop Grumman Corporation | Gesture recognition simulation system and method |
JP5395323B2 (ja) | 2006-09-29 | 2014-01-22 | ブレインビジョン株式会社 | 固体撮像素子 |
US7412077B2 (en) | 2006-12-29 | 2008-08-12 | Motorola, Inc. | Apparatus and methods for head pose estimation and head gesture detection |
US7729530B2 (en) | 2007-03-03 | 2010-06-01 | Sergey Antonov | Method and apparatus for 3-D data input to a personal computer with a multimedia oriented operating system |
US20080255403A1 (en) * | 2007-04-13 | 2008-10-16 | Ethicon Endo-Surgery, Inc. | Magnetic nanoparticle therapies |
US20080309913A1 (en) * | 2007-06-14 | 2008-12-18 | James John Fallon | Systems and methods for laser radar imaging for the blind and visually impaired |
EP2017591A1 (en) * | 2007-07-18 | 2009-01-21 | Fujifilm Corporation | Imaging apparatus |
US7852262B2 (en) | 2007-08-16 | 2010-12-14 | Cybernet Systems Corporation | Wireless mobile indoor/outdoor tracking system |
US8421015B1 (en) * | 2007-09-13 | 2013-04-16 | Oceanit Laboratories, Inc. | Position sensing detector focal plane array (PSD-FPA) event detection and classification system |
CN201254344Y (zh) | 2008-08-20 | 2009-06-10 | 中国农业科学院草原研究所 | 植物标本及种子存贮器 |
US9107567B2 (en) * | 2012-12-27 | 2015-08-18 | Christie Digital Systems Usa, Inc. | Spectral imaging with a color wheel |
-
2009
- 2009-10-01 US US12/572,082 patent/US8723118B2/en active Active
-
2010
- 2010-09-01 WO PCT/US2010/047564 patent/WO2011041066A2/en active Application Filing
- 2010-09-01 KR KR1020127008257A patent/KR101719388B1/ko active IP Right Grant
- 2010-09-01 EP EP20100821000 patent/EP2484107A4/en not_active Ceased
- 2010-09-01 CN CN201080043779.5A patent/CN102812697B/zh active Active
- 2010-09-01 JP JP2012532098A patent/JP2013506868A/ja active Pending
-
2014
- 2014-04-01 US US14/242,764 patent/US20140291520A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7274393B2 (en) * | 2003-02-28 | 2007-09-25 | Intel Corporation | Four-color mosaic pattern for depth and image capture |
US20050285966A1 (en) * | 2004-01-28 | 2005-12-29 | Canesta, Inc. | Single chip red, green, blue, distance (RGB-Z) sensor |
CN101179742A (zh) * | 2006-11-10 | 2008-05-14 | 三洋电机株式会社 | 摄像装置和图像信号处理装置 |
US20090114799A1 (en) * | 2007-11-07 | 2009-05-07 | Fujifilm Corporation | Image capturing system, image capturing method, and recording medium |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104519338A (zh) * | 2013-09-30 | 2015-04-15 | 三星电子株式会社 | 产生彩色图像和深度图像的方法和设备 |
CN104519338B (zh) * | 2013-09-30 | 2018-03-27 | 三星电子株式会社 | 产生彩色图像和深度图像的方法和设备 |
CN111855621A (zh) * | 2015-02-24 | 2020-10-30 | 国立大学法人东京大学 | 动态高速高灵敏度成像装置及成像方法 |
CN111855621B (zh) * | 2015-02-24 | 2023-11-10 | 国立大学法人东京大学 | 动态高速高灵敏度成像装置及成像方法 |
CN112399028A (zh) * | 2016-03-01 | 2021-02-23 | 奇跃公司 | 深度感测系统和方法 |
CN106382920A (zh) * | 2016-11-25 | 2017-02-08 | 深圳悉罗机器人有限公司 | 多功能视觉传感器、移动机器人及移动机器人的控制方法 |
CN112954153A (zh) * | 2021-01-26 | 2021-06-11 | 维沃移动通信有限公司 | 相机装置、电子设备、景深检测方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2011041066A2 (en) | 2011-04-07 |
KR101719388B1 (ko) | 2017-03-23 |
EP2484107A2 (en) | 2012-08-08 |
US8723118B2 (en) | 2014-05-13 |
CN102812697B (zh) | 2014-10-15 |
US20110079714A1 (en) | 2011-04-07 |
KR20120080591A (ko) | 2012-07-17 |
JP2013506868A (ja) | 2013-02-28 |
EP2484107A4 (en) | 2014-10-29 |
WO2011041066A3 (en) | 2011-06-23 |
US20140291520A1 (en) | 2014-10-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102812697B (zh) | 用于构建色彩和深度图像的成像器 | |
JP6260006B2 (ja) | 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置 | |
Cao et al. | A prism-mask system for multispectral video acquisition | |
US10425598B2 (en) | Methods and systems for time-encoded multiplexed imaging | |
US8532427B2 (en) | System and method for image enhancement | |
EP2518996B1 (en) | Image capture device and method | |
RU2535640C2 (ru) | Формирование многоспектральных изображений | |
JP4538766B2 (ja) | 撮像装置、表示装置および画像処理装置 | |
US8264536B2 (en) | Depth-sensitive imaging via polarization-state mapping | |
US8098275B2 (en) | Three-dimensional imaging system using optical pulses, non-linear optical mixers and holographic calibration | |
US20200288110A1 (en) | Stereo-polarimetric compressed ultrafast photography (sp-cup) systems and methods | |
US20160223724A1 (en) | Structured light pattern generation | |
JP2013506868A5 (zh) | ||
KR20120039440A (ko) | 3 차원 이미지 정보를 발생시키는 방법 및 장치 | |
CN104541193A (zh) | 光学显微镜和及其控制方法 | |
US10679370B2 (en) | Energy optimized imaging system with 360 degree field-of-view | |
WO2017172030A1 (en) | Laser projector and camera | |
CN103052914A (zh) | 三维摄像装置 | |
KR20170044524A (ko) | 이미지 획득 장치 및 방법 | |
CN103004218A (zh) | 三维摄像装置、摄像元件、透光部、及图像处理装置 | |
CN102289329B (zh) | 分辨率增强方法和图像检测系统 | |
US8279269B2 (en) | Mobile information kiosk with a three-dimensional imaging effect | |
CN102474649B (zh) | 三维摄像装置及透光板 | |
Jeon et al. | Multisampling compressive video spectroscopy | |
Ward et al. | An acousto-optic based hyperspectral imaging camera for security and defence applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
ASS | Succession or assignment of patent right |
Owner name: MICROSOFT TECHNOLOGY LICENSING LLC Free format text: FORMER OWNER: MICROSOFT CORP. Effective date: 20150505 |
|
C41 | Transfer of patent application or patent right or utility model | ||
TR01 | Transfer of patent right |
Effective date of registration: 20150505 Address after: Washington State Patentee after: Micro soft technique license Co., Ltd Address before: Washington State Patentee before: Microsoft Corp. |