(映维网Nweon 2025年03月26日)XR的一大魅力在于你可以身临其境地置身于另一个空间,包括同事所在。这意味着远程协作。实际上,苹果一直有在探索XR的远程协作用例。在日前一份专利申请中,这家公司就介绍了相关的技术发明。
图2示出,第一环境240包括利用第一电子设备200的第一用户220,第二环境250包括利用第二电子设备210的第二用户232。第一电子设备200和第二电子设备210可以参与扩展现实通信(XRC)会话。
电子设备200和电子设备210可以参与公共XRC会话,而虚拟环境在每个设备的呈现方式可能不同。如图所示,电子设备200可以描绘环境240的物理对象。物理桌面222可以在显示器242描述为虚拟桌面224。电子设备200的显示器242同时可以包括与物理环境250中的用户232对应的化身226。另外,物理椅子234描绘成虚拟椅子236。
在一个实施例中,应用程序在特定扩展现实通信环境XRCE实例的情景中执行。例如,与第一设备相关联的第一用户可以与与第二设备相关联的第二用户一起参与XRC会话。根据来自第一用户的输入,第一设备可以执行托管在本地XRCE实例中的第一个XRCE应用程序。第一XRCE应用程序可以与第二XRCE应用程序共享数据,第二XRCE应用程序托管在第二XRCE实例中,并在第二设备执行。在特定XRCE实例的情景中执行托管应用程序有助于为XRCE中的本地用户提供一定程度的隐私。
在一个实施例中,XRCE的用户可以与其他用户共享来自XRCE应用程序的内容,包括图像、视频、音频、文档、电子表格、演示文稿等。在一个实施例中,在XRCE内执行的一个或多个XRCE应用程序可以在XRC会话的参与者之间共享内容。例如,第一个用户可以使用XRCE应用程序与在XRC会话中活动的其他用户共享他们的内容,如照片、视频、音乐等。
图3示出通信环境300的框图。用户可以使用具有各种访问XRC会话功能的各种设备访问XRC会话。作为示例,第一用户可以使用第一通信设备302访问XRC会话。第一通信设备302可以使用非XR图形用户界面(GUI) 304访问XRC会话。第二用户可以使用第二通信设备306访问XRC会话。
第二通信设备306,例如头戴式设备,可以使用XR GUI 308访问XRC会话。非XR GUI 304和XR GUI 308可以是XRCE的一部分。例如,非XR GUI 304可以在在第一通信设备302执行的第一XRCE实例310的上下文中执行,并且XR GUI可以在第二通信设备306上的第二XRCE实例312的上下文中执行。
在一个实施例中,XRCE实例提供服务和/或可用于XRC会话的接口的访问。例如,一个XRCE实例可以提供数据传输、网络、音频、视频、头像处理功能等。作为更具体的示例,XRCE实例可以提供用于在第一通信设备302和第二通信设备306之间携带XR数据的数据流314,例如第一XR数据316和第二XR数据318。
参与XRC会话的设备之间的数据流可能具有与设备之间相同的格式,这样,假设有适当的网络带宽可用,每个设备都可以获得相同的信息。
在一个实施例中,描述XRC会话的共享虚拟元素的信息显示可以基于设备的属性和功能进行调整。
图4A示出XRC会话的非XR第一视图400,图4B示出了相同XRC会话的XR第二视图450。值得注意的是,第一个视图400由与用户1关联的第一个设备显示,并从XRC会话中用户1的化身的角度(POV)呈现。第二个视图450是XRC会话的独立于用户的视图。
通常,在XRC会话中,XRC会话的重点是XRC会话的内容。为了增强参与者与XRC会话内容交互的能力,场景图可以对共享虚拟元素进行编码,然后描述相对于共享虚拟元素的三维关系。
相同的场景图可以用于渲染第一个视图400和第二个视图450。例如,假设视图来自同一POV,不能够显示XR视图的第一设备可以根据场景图呈现第一个视图400中所示的视图,而能够显示XR视图的设备可以根据场景图呈现第二个视图450中所示的视图。
作为另一个例子,相同的场景图可以包括一个或虚拟对象,用于显示虚拟对象的虚拟对象的描述,以及它们各自的位置。第一设备可以在虚拟元素UI 408中的列表中显示所述虚拟对象的全部或子集,而第二设备可以在第二视图450中显示所述虚拟对象。能够参与XRC会话的设备包括一个特征映射层,以帮助设备确定如何呈现场景图中描述的元素。
特征映射层可用于转换设备的场景图的各个方面。特征映射层可能是特定于设备或设备类型的,并且可以定义设备如何呈现XRC会话的共享虚拟元素。共享元素在设备的呈现方式取决于设备的功能。
例如,头戴式系统能够显示XRC会话的3D表示,而特征映射层可以解释这一点。然后,可以将头戴式系统配置为呈现XRC会话的视图,并在空间围绕XRC会话的3D设置排列共享虚拟元素。
然后,头戴式系统的用户可以在3D设置中在不同的共享虚拟元素(例如视频元素402B、游戏元素454、用户1、用户2和用户3)之间进行空间机动。值得注意的是,其他用户,用户4…用户N可以出现在3D设置中,但在第二个视图中可能不可见
诸如笔记本电脑、平板电脑、手机等设备可以将2D、非XR视图显示到XRC会话的3D设置中,从而使XRC会话的空间性扁平化。相应的特征映射层可以指示这样的设备内部呈现3D设置的3D表示,然后通过光栅化、光追或以其他方式生成3D设置的2D视口406来显示2D第二视图450。
在本例中,用户1的视口406的位置对应于用户1在XRC会话的3D设置中的化身位置。当用户1在视口406中与视频元素402A交互时,XRC的3D设置中用户1的化身正在查看相应的视频元素402B。
在XR第二视图中,用户可以指向、突出显示共享的虚拟元素或与之交互。在一个实施例中,用户2与视频元素402B交互。与虚拟元素(如XRCE应用程序)的交互可以规范化为相对于虚拟元素的图像空间。例如,当用户2触碰视频元素402B时,可以确定相对于视频元素402B的相对位置,并且可以在场景图中编码所述相对位置。
通过编码相对于虚拟元素的交互,交互可以跨设备转换,而在分辨率、宽高比、大小等方面可以存在差异。
在一个实施例中,进入XRC会话的非XR视图可能比XR视图更受空间限制,并且在使用非XR视图时,可能更难以看到XRC会话中的其他用户以及可能与同一虚拟元素交互的其他用户。
例如在XR视图中,其他用户可能是外围可见。为了帮助解决这类问题,非XR视图可以包含一个Ul元素,而它用于指示什么用户正在参与XRC会话。
在一个实施例中,用户栏410可以指示什么用户正在与与非XR视图关联的用户进行相同的虚拟元素交互。
如图2所示,用户1和用户2都与视频元素402A/402B交互,而用户3、4、…N不是。在本例中,与同一虚拟元素(这里是用户2)交互的用户的头像可以显示在用户栏410中。
例如,用户3正在与游戏元素404B进行交互,而用户4……N可能与其他元素相互作用(未显示)。在其他实施例中,可能希望使用户栏410中用户的头像可见,而不是转开。在这种情况下,可以使用另一种指示,表明什么用户没有与与非XR视图关联的用户进行交互,或者正在与与非XR视图关联的用户进行交互,例如图标、用户排序、突出显示/概述、零用户变灰等。
在一个实施例中,用户可能能够指向、突出显示或以其他方式与共享的虚拟元素交互。在XRC会话的XR视图中,如第二个视图450所示,用户能够操纵他们的化身伸出手并触碰视频元素402B。
用户2接触视频元素402B的位置可以基于相对于虚拟元素的坐标系确定并编码到场景图中。呈现XRC会话的非XR视图的设备能够显示和/或传输触摸/高亮信息。例如,根据与用户2触碰视频元素402B的位置相对应的场景图中编码的位置信息,可以在视口406中显示交互指示412。
XRC会话的重点通常放在共享虚拟元素方面,而特征映射可以包括表示特定共享虚拟元素的替代方法,而不是围绕3D设置在空间排列。
在一个实施例中,用户在XRC会话中与之交互的共享虚拟元素可以从场景图中确定。交互式共享虚拟元素可以收集并显示在2D第二视图450之中。
在一个实施例中,用户可以通过选择虚拟元素UI 408中的视频元素416(突出显示)与虚拟元素UI 408进行交互。在虚拟元素UI 408中选择交互式虚拟元素,可以通过移动视口406面向相应的交互式虚拟元素,在视口406中显示所选的交互式虚拟元素。
在XRC会话的3D设置中,用户视口 406对应于用户的表示形式,例如用户1的化身。所以,通过在交互式虚拟元素之间移动用户的表示,在交互式虚拟元素之间移动视口406可以在XRC会话的3D设置中可视化。
例如,用户1可以从虚拟元素UI 408中选择游戏元素414。如图5A所示,可以移动第一视图500所示的视口506以显示游戏元素504A,并且可以根据选择突出显示来自虚拟元素UI 508的游戏元素514。
在图5B所示的第二视图550中,用户1的化身可以从视频元素502B移动到游戏元素504B。用户1的化身可以通过3D设置自动从视频元素502B移动到游戏元素504B,就好像用户1正在移动他们的化身一样。在其他实施例,用户1的化身可以以另一种方式移动,例如传送、移动图标等。用户栏510可以更新以指示什么用户正在与所述用户交互相同的虚拟元素。
在一个实施例中,用户可以使用虚拟元素UI与另一个用户进行交互。参考图6,用户1可以选择用户2。作为响应,可以将第一视图600中显示的视口606移动到面向用户2,并且可以根据所述选择突出显示虚拟元素UI 608中对应于用户2的用户元素616。
任一用户或双方用户的化身可基于运动数据动画化。运动数据可由多种传感器提供。可以为每个用户捕获不同的运动数据。参与的设备可以配置为从各种传感器收集信息,并根据相关信息生成通用格式的运动数据。即,参与设备处理传感器信息以生成共同的运动数据。
交互可以由通过XR视图访问XRC会话的用户发起。例如,用户2尝试与用户1交互,并将他们的化身转向用户1,按下按钮,尝试触碰用户1的头像等等。当用户2发起与用户1的交互时,可以将用户1的视口606移动到面向用户2的位置,并突出显示虚拟元素UI 608中与用户2对应的用户元素616。在一个实施例中,可以向用户1提供批准来自用户2的交互发起的选项。
图7示出了在多用户通信会话中进行交互的技术700。
在702,第一通信设备接收与第一通信设备的第一用户和第二通信设备的第二用户之间的多用户通信会话相关联的数据,其中,与多用户通信会话相关联的第一数据被配置为呈现为XR图形用户界面(GUI)或非沉浸式GUI,例如2D GUI。
在704,第一通信设备确定第一通信设备可以呈现非沉浸式GUI。例如,非XR设备可以确定非XR设备支持XRC会话的非XR视图,或者非XR设备不支持XRC会话的XR视图。
在706,第一通信设备呈现非XR图形用户界面(GUI),并包括多用户通信会话中含有的虚拟对象的非XR表示,以及基于与多用户通信会话相关的数据的第二用户表示。
在708,第一通信设备更新非XR GUI以说明第二用户的表示与虚拟对象之间的交互,从而响应指示交互的数据。
相关专利:Apple Patent | Asymmetric presentation of an environment
名为“Asymmetric presentation of an environment”的苹果专利申请最初在2024年9月提交,并在日前由美国专利商标局公布。





