/ Nweon / 0浏览

高通AR/VR专利针对反射光闪烁分享眼动追踪自适应算法



映维网Nweon
2024年08月15日

)XR头显的眼动追踪系统可以通过检测反射光来追踪注视点。闪烁的亮度(强度)可以基于光源的光输出量。但是,这种亮度可能会根据光源与眼睛的距离而变化,而用户的面部形状和眼睛形状会影响光源与眼睛的距离。

在一份专利申请中,
高通
介绍了一种用于眼动追踪的自适应算法。眼动追踪器可以配置为确定与眼睛反射光的闪烁相关的特定信息,例如闪烁的亮度和闪烁的区域。眼动追踪器同时可以获得目标闪烁参数值。然后,眼动追踪器可以调整光源的功率水平,以确保与闪烁相关联的信息的参数值与目标闪烁参数值相匹配。

高通指出,通过调整光源的功率水平,可以允许眼动追踪器动态调整光源与眼睛的距离。这种调整有助于调整光线的亮度,以适应不同的用户。另外,所述方法有助于节省电力,并确保眼睛反射/散射的光的亮度不超过要求阈值。

图2示出XR系统200的架构图。XR系统200可包括图像捕获和处理系统、图像捕获设备、图像处理设备或其组合。

如图所示,XR系统200包括一个或多个图像传感器202、加速度计204、陀螺仪206、存储207、计算组件210、XR引擎220、图像处理引擎224、渲染引擎226、通信引擎228和模型生成引擎230。

图3示出透镜组件300的简化横截面视图。在图3所示的示例中,透镜组件300包括透镜系统302、显示器304、照明源306、导光组件308和图像传感器310A/310B。

来自显示器304的光可通过导光组件308并由透镜系统302聚焦在用户眼睛315。照明源306可以是照亮用户眼睛315的红外照明源。在一个实施例中,可以使用多个照明光源306。当红外光到达用户的眼睛时,光的散射和/或反射可以到达导光组件308并向图像传感器310A反射。

图像传感器310B可以定位为致使图像传感器310B面向用户的眼睛315。所述照明源306可定位为引导诸如红外光的光,使得所述散射和/或反射的光能够到达所述图像传感器310B。在其他实施例中,图像传感器310B配置为面向用户眼睛315,则可以省略导光组件308。

图像传感器310可以是红外图像传感器,并可以检测来自眼睛的散射和/或反射光以形成一个或多个图像。XR系统可以从图像传感器310获取图像数据,并基于所获得的数据追踪用户的眼睛位置和/或注视方向。

有时候,用户眼睛相对于透镜组件300的位置可以变化。例如,每个个体用户可以具有不同的眼睛形状和人脸形状。在一个实施例中,眼动追踪系统可以配置为使用从图像传感器310收集的图像数据来在指定的眼动位置和/或旋转范围内执行眼动追踪。

可以使用多个照明源306执行眼动追踪,并且照明源可以配置为发出恒定数量的光。一般来说,光线从眼睛反射的方式会因用户的眼睛和面部而异。

图4说明了眼睛和面部形状如何影响眼动追踪时眼睛的光照。

例如,第一用户402具有相对较凹陷的眼睛,第一用户402眼睛与第一红外LED平面406之间的第一距离404可以大于第二用户410眼睛与第二红外LED平面412之间的第二距离408,其中第二用户眼睛410相对较突出。

在一个实施例中,照明源配置为发出恒定量的光,与第二用户眼睛410更亮和更大的闪烁相比,可以为第一用户402形成更暗和更小的闪烁。另外,红外LED平面406和412与第一用户的眼睛402和第二用户的眼睛410之间的距离对于同一用户可以基于头显的位置而变化,并且这种变化的距离导致对于同一用户的闪烁变化。

由于光的强度以及由此产生的闪烁与距离的平方成反比,眼睛和光源之间距离的相对较小变化可以令光量产生较大的差异。另外,红外LED或眼动仪的其他组件可能随着时间的推移而老化,并且可能随着时间的推移而在一定量的输入功率下变暗,从而减少产生闪烁的红外光量。

较小和/或较暗的闪烁可能导致眼动追踪不准确,而过于明亮的闪烁则可能会降低功率效率和/或可能对长时间暴露的眼睛有害。所以,有必要调整亮度,例如通过调整用于眼动追踪的照明源的功率量。

图5示出了用于节能眼动追踪的自适应算法系统500。系统500包括处理器502,处理器502可执行LED控制引擎504。所述LED控制引擎504可以耦合到并控制红外LED驱动器506。

例如,LED控制引擎504可以指示红外LED驱动器506增加或减少耦合到红外LED驱动器506的一个或多个红外LED 508的亮度。红外LED驱动器506可以控制一个或多个红外LED 508的操作,例如,通过控制到一个或多个红外LED 508的电流量。

一个或多个红外LED 508可传输可被眼睛514反射/散射512的红外光510。来自眼睛514的这种反射/散射512红外光可由眼动追踪摄像头516成像。所述眼动追踪摄像头516可以耦合到所述闪烁分析引擎518,闪烁分析引擎518可以分析来自所述眼动追踪摄像头516的图像。

闪烁分析引擎518可以分析闪烁以确定与闪烁相关的信息。与闪烁相关联的信息可以包括闪烁的像素的亮度、闪烁的面积等。

闪烁分析引擎518可将与闪烁相关的信息传递给LED控制引擎504。LED控制引擎504同时可以接收目标闪烁参数501。在一个实施例中,目标闪烁参数501可以包括用于与闪烁相关联的信息的目标值。闪烁参数501可以包括对应于与闪烁相关联的信息中的值的参数值。

LED控制引擎504可调整红外LED的功率/占空比,使与闪烁相关联的信息与目标闪烁参数501中的值一致。这使得LED控制引擎504能够平衡闪烁的大小/亮度和功率使用,同时保持在IEC 62471等光暴露指南范围内。

然后,LED控制引擎504可以将与所述闪烁相关联的信息与所述目标闪烁参数501进行比较,并根据所述比较调整所述一个或多个IR LED 508的亮度。例如,如果与闪烁相关联的信息的闪烁参数低于目标闪烁参数501,则LED控制引擎504可以增加一个或多个IR LED 508的亮度。

类似地,如果与闪烁相关联的信息的闪烁参数高于目标闪烁参数501,则LED控制引擎504可以降低一个或多个IR LED 508的亮度。

在一个实施例中,可以通过增加或减少一个或多个红外LED 508的功率量来调节亮度。另外,随着LED的老化,LED可能会因为一定的功率而变暗。根据目标闪烁参数501调整亮度可能有助于补偿LED的老化而变暗。

图6示出图像中闪烁的像素的亮度分布图表600。在图600中,亮度绘制在垂直轴602,而眼动追踪摄像头捕获的闪烁图像的像素位于水平轴604。像素的亮度已高斯化,从而令亮度曲线归一化以获得清晰度。

目标闪烁参数值可能包括一组阈值和/或一组目标值。作为使用阈值的示例,第一曲线606可以示出对于IR LED和眼睛之间的第一距离,在特定IR LED功率水平下闪烁的一组像素的亮度水平。

如果第一曲线606的峰值608亮度或第一曲线606中的多个像素的亮度小于第一阈值610,则可能难以使用图像进行眼动追踪。在一个实施例中,第一距离可以相对长于与第二曲线612或第三曲线620相关联的距离。

第二曲线612可以示出对于IR LED和眼睛之间的第二距离,在相同功率水平下闪烁的一组像素的亮度水平。第二距离可以比第一距离短。在一个实施例中,如果第二曲线612的峰值614的亮度或第二曲线614的多个像素616的亮度大于第二阈值618,则亮度可能过高,并导致过度使用电力。这种高亮度值可能效率低下,并且可能对眼睛有害。所以,目标闪烁参数值可以包括一组阈值,例如可用于调节照明源亮度的上阈值和下阈值。

作为另一个示例,第三曲线620可以表示理想距离情况,其中具有至少一定亮度的峰值622亮度和/或像素数624可以容易追踪并且在眼睛安全水平内。在一个实施例中,可以提供具有至少一定亮度的峰值622亮度和/或像素数624作为目标闪烁参数的目标值。

第三曲线620可以与某一亮度和闪烁的面积相关联。在一个实施例中,眼动追踪系统可以与特定闪烁特征相关联,例如最小和最大亮度以及闪烁的最小面积。

可以在不同的预期距离确定强度,以使眼动追踪器产生预测强度和阈值,例如根据诸如眼动追踪器灵敏度、眼睛安全强度值、预期曝光长度、饱和度光水平等因素选择。

在一个实施例中,可以对单个光源或多个光源进行亮度调整。另外,多个光源可以一起调整。

例如,图7A示出由彼此等距间隔的八个光源704照射的眼睛702。在使用多个光源的情况下,可以配置多个光源,使每个光源产生单独的闪烁,从而增加追踪的准确性。

作为另一实例,图7B示出了由在眼睛752周围不同间隔的八个光源754照射的眼睛752。在这种情况下,假设对8个光源754中的每个光源的功率水平进行单独控制,则8个光源754的功率水平可以一起调整,但为8个光源中的每个光源提供的功率的确切量可以根据各自光源与眼睛752的距离而变化。在这种情况下,每个光源754可以独立地调整。

图8示出进行图像处理的过程800流程图。

在802,计算设备可以获得眼睛的图像,所述眼睛的图像包括来自光源的闪烁。

在804,计算设备可以根据眼睛的图像确定与闪烁相关的信息。

在806,计算设备可以获得一个或多个目标闪烁参数值。

在808,计算设备可以将与光的闪烁相关联的信息与一个或多个目标闪烁参数值进行比较。

在810,计算设备(可以基于比较与光的闪烁相关的信息和一个或多个目标闪烁参数值来调整光源的功率量。


相关专利


Qualcomm Patent | Adaptive algorithm for power efficient eye tracking

名为“Adaptive algorithm for power efficient eye tracking”的高通专利申请最初在2023年2月提交,并在日前由美国专利商标局公布。