技术领域
[0001] 本发明涉及成像参数的动态适应。
相关背景技术
[0002] 因为半导体处理变得更快以支持基于光波的成像系统,所以这种系统变得更加广泛地用于对象的检测。一些成像系统能够每秒提供几十个图像,这也使得这样的系统对于对象的追踪非常有用。尽管这样的成像系统的分辨率可能相对较低,但使用这些系统的应用程序能够利用它们操作的速度。
[0003] 诸如笔记本电脑或智能手机的移动设备不容易适应使用这样的成像系统,这是因为该成像系统的功率需求以及该移动设备的有限的电量存储能力。照明光源是对基于光的成像系统的高功率需求的最大贡献者,在操作期间,照明光源可以在恒定的功率电平下和/或恒定的频率下应用。进一步地,在最坏的使用情况下,该系统可以为了最好的性能而采用恒定的最大横向分辨率(即,像素的数量)。该功率需求经常超出移动设备的电量存储能力,减少了成像系统在应用于移动设备时的有用性。
具体实施方式
[0010] 综述
[0011] 本公开涉及设置为在与成像系统相关的预选区域中检测、识别和/或追踪对象的成像系统(例如,使用发射的电磁(EM)辐射的成像系统)。例如,成像系统可用于在计算设备附近的区域中检测和识别人手。成像系统可以在该手做手势时识别,并且追踪作为鼠标或其他到计算机设备的输入的替代的手势组合。
[0012] 例如在一个实现方式中,成像系统利用距离计算来检测、识别和/或追踪诸如人手的对象。因为电磁辐射在预选区域中被对象反射,所以距离计算可以基于接收发射的电磁辐射的反射。例如,距离计算可以基于光速和反射的电磁辐射的传播时间。
[0013] 设备和技术的代表性实现方式为成像设备和系统示例提供可适应的设置。该可适应的设置可与成像设备和系统的各种操作模式相关,并且可以用于节约电力。例如,操作模式可以基于在预选区域内是否检测到对象来定义。在一个实现方式中,操作模式基于在预选区域内是否检测到人手来定义。
[0014] 操作模式可以与发射的电磁辐射的诸如功率电平、调制频率、占空比等参数相关。发射的电磁辐射的一个或多个参数可以基于当前的操作模式和后续的操作模式来动态地和自动地调整。例如,成像系统在检测到所期望的对象时可以使用较高功率的模式,并且在没有检测到对象时可以使用较低功率的模式。在一个实现方式中,可以基于操作模式来调整传感器部件的分辨率。
[0015] 在本公开中将会讨论成像系统、设备和技术的各种实现方式和设置。参考附图中所示的基于光的成像系统和设备示例来讨论技术和设备。然而,这不意在限制,而是为了便于讨论和方便说明。所讨论的技术和设备可以应用于各种成像设备中的任意的设计、结构等(例如,基于辐射、基于声波发射、基于颗粒发射等)并且保持在本公开的范围内。
[0016] 下面将使用多个示例来更加详细地解释实现方式。尽管在这里和下面讨论了各种实现方式和示例,但是通过合并独立的实现方式和示例的特征和要素,进一步的实现方式和示例也是可能的。
[0017] 成像系统环境的示例
[0018] 图1是根据一个实现方式的可以采用所描述的设备和技术的示例应用环境100的示图。如示图中所示,例如成像系统102可以应用于计算机设备(“移动设备”)104。例如,成像系统102可以用于在预选区域108内检测诸如人手的对象106。在一个实现方式中,成像系统102设置为检测和/或识别人手106的姿势,并且可以设置为追踪作为移动设备104的鼠标或其他输入设备的替代的人手106的移动和/或姿势。例如在一个实现方式中,成像系统102的输出可以在显示设备110上呈现或显示(例如,鼠标指针或光标)。
[0019] 在各种实现方式中,成像系统102可与移动设备104集成,或可以具有一些与移动设备104分开或远离移动设备104的部件。例如,对于成像系统102的一些处理可以远程地放置(例如,云、网络等)。在另一示例中,可以在远程设备上或远程的位置传输、显示或呈现来自成像系统的一些输出。
[0020] 如本文中讨论的,移动设备104指代诸如膝上型电脑、智能手机等的移动的计算设备。移动设备104的示例可以包括但不限制于移动计算设备、膝上型电脑或笔记本电脑、手持式计算设备、平板计算设备、上网本计算设备、个人数字助理(PDA)、阅读器、智能电话、移动电话、媒体播放器、可穿戴计算设备等。这些实现方式并不局限于该上下文。此外,关于成像系统102的实现方式,静态计算设备也作为计算机设备104包括在本公开的范围内。静态计算设备可以包括但不限于,静态计算机、个人或台式计算机、电视机、机顶盒、游戏机、音频/视频系统、电器等。
[0021] 示例对象106可以包括成像系统102可以被设置以检测、识别、追踪等的任何物件。例如,这样的物件可以包括部分人体,诸如全部或部分的人手。对象106的其他的示例可以包括鼠标、定位器、识别笔、控制器、游戏部件、运动器材等。在各种实现方式中,成像系统102还可以设置为检测、识别和/或追踪对象106的姿势。姿势可以包括作为想法的表达的对象106的任何运动或位置或配置。例如,姿势可以包括朝某个方向或以某个配置来摆放人手(例如,用一个或多个手指指向,用手的一部分或多部分形成封闭的形状等)和/或以某个图案来移动该手(例如,以椭圆形的运动,以基本直线的运动等)。当其他对象106被摆放、配置、移动等的时候,也可以通过它们来形成姿势。
[0022] 成像系统102可以设置为在与移动设备104相关的预选区域108内检测、识别和/或追踪对象106。例如,预选区域108可以被选择为包围人手或其他对象106可能位于的区域。在一种情况下,预选区域108可以包围可能存在作出手势(作为鼠标或其他输入设备的替代)的人手的区域。例如,该区域可以在移动设备104的前面、侧面或周围。
[0023] 图1的示图将预选区域108示出为移动设备104前的立方体形状的区域。这只是为了解释和讨论的目的,并不意在限制。预选区域108可以是任何形状或尺寸,并且可以被选择为使得它通常将包围所希望的对象(当它们存在时),但并不包围不希望的对象(例如,其他不希望检测、识别、追踪等的物件)。在一个实现方式中,预选区域108可以包括一英尺乘以一英尺的立方体。在其他实现方式中,预选区域108可以包括其他形状和尺寸。
[0024] 如上所述,本文中描述的关于成像系统102的技术、部件和设备不限于图1中所示,并且在不偏离本公开的范围的条件下可以应用于其他成像系统和设备的设计和/或应用。在一些情况下,可以使用附加的或可选择的部件来实现本文中所描述的技术。应理解,成像系统102可以作为独立的系统或设备,或作为其他系统的一部分(例如,与其他的部件、系统等集成)来实现。
[0025] 成像系统的示例
[0026] 图2是示出了根据一个实现方式的成像系统102的示例部件的框图。如图2中所示,成像系统102可以包括照明模块202、光学模块204、传感器模块206和控制模块208。在各种实现方式中,成像系统可以包括更少的、添加的或替换的部件,并且保持在本公开的范围内。成像系统102的一个或多个部件可以被搭配、合并或另外与成像系统102的其他部件集成。例如在一个实现方式中,成像系统102可以包括成像设备或装置。此外,成像系统102的一个或多个部件可以对于其他部件远程地放置。
[0027] 如果在一个实现方式中包括照明模块202,则其设置为发射电磁辐射(例如,光辐射)以照亮预选区域108。例如在一个实现方式中,照明模块202是光发射器。在一个实现方式中,光发射器包括发光二极管(LED)。在另一个实现方式中,光发射器包括激光发射器。在一个实现方式中,照明模块202用发射的各个光脉冲照亮整个环境(例如,预选区域108)。在可选择的实现方式中,照明模块202阶段或扫描地照亮环境。
[0028] 在各种实现方式中,照明模块202可以发射不同形式的电磁辐射。在一个实现方式中,发射红外光。例如,光辐射可以包括一个或多个调制的红外光脉冲。照明模块202可在持续很短的间隔地开启,从而允许所发射的光脉冲照明预选区域108(包括在该预选区域内的任何对象106)。人眼不可见的红外光为预选区域108提供照明,并且因而不会使人分心。在其他的实现方式中,可以发射提供视觉反馈等的其他类型或频率的电磁辐射。如以上所提及的,在可选择的实现方式中,可以通过照明模块202发射其他的能量形式(例如,基于辐射,基于声波发射,基于颗粒发射等)。
[0029] 在一个实现方式中,照明模块202设置为照亮可以存在于预选区域108中的一个或多个对象106,从而检测对象106。在一个实现方式中,照明模块202的输出(例如,光脉冲)的参数或特性被设置为可以基于在预选区域108中是否检测到对象106来自动地和动态地调整。例如,为了节约电力,当在预选区域108中没有检测到对象106时,可以减少照明模块202的功率输出或者积分时间,并且当在预选区域108中检测到对象106时,可以增加照明模块202的功率输出或者脉冲积分时间。在一个实现方式中,基于在预选区域108中是否检测到对象106来调整光脉冲的照明时间、占空比、峰值功率和调制频率中的至少一个。在另一个实现方式中,基于在预选区域108中是否检测到人手来进一步调整光脉冲的照明时间、占空比、峰值功率和调制频率中的至少一个。
[0030] 在一个实现方式中,基于在预选区域108中是否检测到对象106来为成像系统102定义与照明模块202的输出的参数、特性等(例如功率电平,调制频率等)相关联的操作模式。图3是示出了根据实现方式的三个示例操作模式和相关联的成像系统102的参数的状态图300。这三个操作模式被标记为“空闲”(即,第一操作模式),意思是在预选区域108中没有检测到对象;“准备”(即,第二操作模式),意思是在预选区域108中检测到对象;“激活”(即,第三操作模式),意思是在预选区域108中检测到人手。在可替换的实现方式中,可以以相同的方式由成像系统102定义和/或使用更少的、添加的或替换的操作模式。
[0031] 如图3中所示,当没有检测到对象106时,第一操作模式与低调制频率(例如,10MHz)和低或最小系统功率相关联从而节约能量。当检测到至少一个对象106时,第二操作模式为了适度的能源消耗而与中等的调制频率(例如,30MHz)和中等的系统功率相关联。
当检测到至少一个人手时,第三操作模式为了最佳性能而与较高的调制频率(例如,80MHz)和较高的或最大的系统功率相关联。在其他的实现方式中,操作模式可与其他的功率值相关联。系统功率可以包括照明时间(电磁脉冲是“开”的时间,占空比等)、峰值功率电平等。
[0032] 在一个实现方式中,如图3的状态图300中所示,当系统从第一操作模式切换到第二操作模式或者从第二操作模式切换到第三操作模式时,增加电磁辐射的照明时间、占空比、峰值功率以及调制频率中的至少一个;并且当系统从第三操作模式切换到第二操作模式或者从第二操作模式切换到第一操作模式时,减小光辐射的照明时间、占空比、峰值功率以及调制频率中的至少一个。
[0033] 如果在一个实现方式中包括光学模块204,则将其设置为当电磁辐射被对象106反射时接收电磁辐射。在一些实现方式中,光学模块204可以包括一个或多个光学透镜、或其他部件,以用于聚焦或引导所反射的电磁波。例如,在其他替代的实现方式中,光学模块204可以包括接收器、波导、天线等。
[0034] 如图2中所示,在一个实现方式中,传感器模块206设置为从光学模块204接收反射的电磁辐射。在一个实现方式中,传感器模块206由多个像素组成。在一个示例中,多个像素中每一个都是独立的图像传感器(例如,感光像素等)。在这样的示例中,来自传感器模块206的作为结果的图像可以是独立像素的传感器图像的组合。在一个实现方式中,多个感光像素中的每一个都被设置为将电磁辐射脉冲的反射转换为电流信号。在各种实现方式中,来自这些像素的电流信号可以被一个或多个处理部件(例如,控制模块208)处理为图像。
[0035] 在一个实现方式中,传感器模块206(或者传感器模块206的各个像素)对电磁辐射从照明模块202传播至对象106,并且返回至传感器模块206的时间提供测量。相应地,在这样的实现方式中,成像系统102包括设置为基于飞行时间原理在预选区域108内检测对象106的三维范围成像设备。
[0036] 例如,在一个实现方式中,传感器模块206是设置为基于接收所反射的电磁辐射而在预选区域108内检测对象106的成像传感器。传感器模块206可以基于从照明模块202发射的电磁辐射被反射回传感器模块206所花费的时间来检测对象是否在预选区域
108中。这可以与当预选区域108中没有对象时电磁辐射返回至传感器模块206所花费的时间比较。
[0037] 在一个实现方式中,传感器模块206设置为基于接收电磁脉冲的反射来识别在预选区域108内的人手或对象106中的至少一个。例如,传感器模块206可以基于传感器模块206的各个独立像素的成像来识别人手、对象106和/或姿势。基于由独立像素接收的部分电磁辐射的反射时间,作为独立成像传感器的各个像素的组合可以形成手、姿势等的图像。这与传感器模块206的帧率的结合允许追踪手、对象、姿势等的图像。在其他的实现方式中,传感器模块206可以通过来自多个独立像素的成像来识别多个对象、手和/或姿势。
[0038] 此外,在一个实现方式中,传感器模块206设置为将预选区域108内的一个或多个人手的姿势与其他对象106区别开,并且当识别出人手的姿势时排除其他对象106。在其他的实现方式中,传感器模块206可以设置为在预选区域108内区别其他的对象106,并且排除检测到的任何其他物件。
[0039] 在一个实现方式中,传感器模块206设置为基于接收反射的电磁辐射来确定所检测的对象106距成像系统102的距离。例如,传感器模块206能够通过将光速乘以电磁辐射从照明模块202传播至对象106并返回到传感器模块206所花费的时间来确定所检测的对象106的距离。在一个实现方式中,传感器模块206的各个像素设置为测量部分电磁辐射从照明模块202传播至对象106,并返回到像素所花费的时间。
[0040] 在一个实现方式中,传感器模块206的横向分辨率能够基于成像系统102的操作模式来调整。还如图3的状态图300中所示,当没有检测到对象106时,第一操作模块与低分辨率(例如,10x10个像素,5cm深度分辨率)相关联以保存能量。当检测到至少一个对象106时,第二操作模式为了适当的能量损耗而与中等分辨率(例如,30x30个像素,1cm深度分辨率)相关联。当检测到至少一个人手时,第三操作模式为了最好的性能而与较高的分辨率(例如,160x160个像素,5mm深度分辨率)相关联。在其他的实现方式中,操作模式可以与其他的分辨率值相关联。在一些实施例中,可以控制像素同时具有不同的分辨率。例如,在存在对象和/或手时,可以基于先前的深度或3D测量的图像处理来确定像素与没有对象、有对象或者有对象手相对应。然后,那些与没有对象、有对象或者有手相对应的像素可以获得不同的像素分辨率。例如,当整个对象在例如横向方向上移动时,可以进一步改变或追踪具有不同像素分辨率的像素。
[0041] 在一个附加的实现方式中,为了节约电力,还可以基于成像系统102的操作模式来调整以帧每秒表示的帧率和/或传感器模块206的延时。如图3中所示,对于第一、第二和第三操作模式,传感器模块206的帧每秒可以分别是2fps、10fps和60fps的示例值。当性能不是那么重要时,在第一和第二操作模式中以减少的帧率操作以节约电力,在替换的实现方式中,操作模式可与其他的帧速率相关联。
[0042] 在另一实现方式中,到像素的调制驱动器(和/或到照明光源/发射器)的功率可以基于成像系统102的操作模式以相同的方式来调整。例如,在第一操作模式下可以减少功率(例如,最小功率),在第二操作模式下可以增加功率,并且在第三操作模式下可以进一步增加功率(例如,最大功率)。
[0043] 在进一步的实现方式中,传感器模块206可进行被配置为接收电磁辐射的反射的像素的划分(binning)。例如,该划分可以包括合并一组临近的像素并将该组像素作为单个合成像素处理。增加的像素区域可导致更高的传感器灵敏度,并从而降低照明需求,允许发射的电磁辐射的功率降低。该功率降低可以以降低峰值功率、降低积分时间等的形式实现。
[0044] 如果在一个实现方式中包括控制模块208,则将其设置为向成像系统102提供控制和/或处理。例如,控制模块208可以控制成像系统102的操作模式,控制其他模块(202、204、206)的操作,和/或处理由其他的模块(202、204、206)输出的信号和信息。在各种实现方式中,控制模块208设置为与照明模块202、光学模块204以及传感器模块206中的一个或多个进行通信。在一些实现方式中,控制模块208可集成到一个或多个其他模块(202、
204、206)中,或远离这些模块(202、204、206)。
[0045] 在一个实现方式中,控制模块208设置为基于电磁辐射是否被对象106反射来确定成像系统102的操作模式。进一步地,控制模块208可以设置为基于对象106是否是人手来确定成像系统102的操作模式。如关于图3中的状态图300所讨论的,当在预选区域108内没有检测到对象106时,控制模块208将成像系统102切换至第一操作模式,当在预选区域108中检测到对象106时,控制模块208将成像系统102切换至第二操作模式,并且当在预选区域108中检测到至少一个人手时,控制模块208将成像系统102切换至第三操作模式。在替换的实现方式中,控制模块208可以设置为基于其他的触发(例如,热值,功率电平,光照条件等)在操作模式之间自动地切换成像系统。
[0046] 在一个实现方式中,控制模块208设置为检测、识别和/或追踪由一个或多个手,或由对象106产生的姿势。在各种实现方式中,控制模块208可以被编程为识别一些对象106并且排除其他的。例如,控制模块208可以被编程为当检测到至少一个人手时排除所有其他对象。控制模块208还可以被编程为识别和追踪与对移动设备104的输入或命令等相关联的特定姿势。在一个示例中,当追踪一个姿势时,控制模块可以将成像系统102设置为第三操作模式以确保最佳性能,并且提供对该姿势最精确的读取。
[0047] 在一个实现方式中,控制模块208设置为基于所测量的反射电磁辐射的时间来计算对象106到成像系统102的距离。相应地,控制模块208可以设置为将从传感器模块206(或从传感器模块206的像素)输出的电流信号转换为对象106距成像系统102的距离。进一步地,在一个实现方式中,控制模块208可以设置为将电流信号转换为对象106的三维图像。在一个实现方式中,控制模块208设置为输出计算出的距离和/或对象106的三维图像。例如,成像系统102可以设置为将距离、所检测的对象106的三维图像、对象106的追踪坐标等输出到显示设备、到设置为处理信息的另一个系统等。
[0048] 在各种实现方式中,可使用添加或代替的部件来实现所公开的技术和布置。
[0049] 代表性处理
[0050] 图4示出用于调整成像系统(诸如成像系统102)的参数的代表性处理400。处理400描述在预选区域(诸如预选区域108)中检测一个或多个对象(诸如对象106)。发射的电磁(EM)辐射的一个或多个参数可以基于在预选区域中是否检测到对象来调整。参考图1到图3来描述处理400。
[0051] 描述该处理的顺序不旨在被解释为限制,所描述的处理框的任何标号能够以任意的顺序结合以实现该处理或代替的处理。另外,在不偏离本文中描述的主题的实质和范围的条件下,可以从该处理中删除独立的框。此外,在不偏离本文中描述的主题的实质和范围的条件下,可以以任何合适的材料或其组合来实现该处理。
[0052] 在框402中,处理包括发射电磁(EM)辐射以照亮预选区域。在一个示例中,可以由包括LED的发射器(诸如照明模块202)或激光发射器来发射电磁辐射。在各种实现方式中,EM辐射包括调制的红外光脉冲。例如在各种实现方式中,预选区域可以与计算机设备(诸如移动设备104)相关,以便向计算机设备提供输入。
[0053] 在框404中,处理包括接收电磁辐射的反射。例如,电磁辐射的反射可以由成像传感器(诸如传感器模块206)接收。电磁反射可以由成像传感器经由光学器件、接收器、天线等接收。
[0054] 在各种实现方式中,处理可以包括检测、识别和/或追踪对象、人手和/或对象或人手的姿势。
[0055] 在框406中,处理包括基于电磁辐射的反射是否被预选区域中的对象反射来调整电磁辐射的一个或多个参数。在各种实现方式中,电磁辐射的一个或多个参数包括电磁辐射的照明时间、占空比、峰值功率和调制频率。例如,当检测到对象时,可以增大一个或多个参数,当没有检测到对象时,可以减小一个或多个参数。
[0056] 在进一步的实现方式中,处理包括基于电磁辐射的反射是否被预选区域中的人手反射来调整电磁辐射的一个或多个参数。当检测到人手时,可增大一个或多个参数,当没有检测到人手时,可减小一个或多个参数。
[0057] 在一个实现方式中,该处理包括基于电磁辐射的反射是否被预选区域中的对象反射来调整成像传感器的一个或多个参数。在各种实现方式中,成像传感器的一个或多个参数可以包括横向分辨率(以像素数表示),深度(景深)分辨率(例如,以距离表示)和帧速率(例如,以帧每秒表示)。
[0058] 在另一个实现方式中,该处理包括对设置为接收电磁辐射的反射的像素进行划分。例如,该划分可以包括合并来自一组相邻像素的信号并且将该组像素的所合并的信号作为单个合成像素处理。
[0059] 在一个实现方式中,该处理进一步包括测量从发射该电磁辐射到接收该电磁辐射的反射的时间,并基于所测量的时间来计算对象的距离。在进一步的实现方式中,该处理包括将诸如距离、所检测的对象的三维图像、该对象的追踪坐标等的成像信息输出至显示设备、输出至设置为处理该信息的另一系统等。
[0060] 在替换的实现方式中,其他的技术可以以各种组合包括在处理400中,并且保持在本公开的范围内。
[0061] 结论
[0062] 尽管已针对结构特征和/或方法行为的语言描述了本公开的实现方式,但应该理解的是,这些实现方式没有必要限于所描述的特定的特征或行为。而是,特定的特征和行为作为实现示例设备和技术的代表性形式来公开。应注意,各个权利要求可以作为单独的实施例。然而,其它的实施例通过将独立权利要求的一个或多个特征与另一权利要求(即使在没有引用该权利要求时)的特征合并来提供。