Nweon

nweon 文章

高通提出用于立体视频串流LLSS的低延迟神经编解码器

高通在虚拟现实等新视频模式的兴起中提出了一种低延迟神经立体视频压缩方法,称为LLSS。与传统方法不同,LLSS引入了双向特征移位模块,通过视图之间的相互信息和交叉视角先验模型进行编码,旨在实现快速高效的低延迟立体视频串流。该方法减少了延迟,并且相比于现有的神经和传统编解码器,性能得到了显著提高。 现有的立体视频编码方法采用了分别编码左右视图的单视图编解码器,而LLSS通过并行处理左右视图有效降低了延迟,同时利用视差补偿减少了视图之间的冗余。LLSS编解码器的开发采用了双向移位模块,促进了视图之间的连接和信息交换,实现了低延迟推理。研究表明,与最先进的方法相比,LLSS在立体视频基准上大幅提高了R-D性能。 总的来说,LLSS是一种低延迟的神经立体视频压缩方法,可以同时压缩左右视图,通过双向移位模块和并行自编码器来降低比特率和提高帧质量。
高通提出用于立体视频串流LLSS的低延迟神经编解码器

Meta提出基于智能眼镜的双耳房间脉冲响应盲识

智能眼镜被认为是增强现实的关键媒介,它提供了一个带集成麦克风和非耳塞扬声器的免手操作平台,可以将虚拟声源无缝地混合到现实世界的声学场景中。然而,要在增强现实中实现令人信服的虚拟声源,需要与真实声学相匹配的室内声学渲染,而有关用户声学环境的信息通常不可用。 为了解决这个问题,Meta和瑞典查尔姆斯理工大学的研究人员提出了一种基于智能眼镜的双耳房间脉冲响应盲识方法。他们使用智能眼镜中的麦克风阵列从现实环境中的几秒钟语音中盲识双耳房间脉冲响应,并通过去噪和波束形成来产生一个伪参考信号,用于估计房间脉冲响应。 该方法能够准确地估计房间声学参数,比基线算法在估计混响时间和直接-混响能量比方面更优。听力实验的结果进一步表明,与几何形状相似的房间相比,该方法能更令人信服地再现真实房间的声学效果。 该研究的方法为增强现实应用中的声学匹配问题提供了解决方案,并能够在智能眼镜中实现准确的双耳声学渲染。
Meta提出基于智能眼镜的双耳房间脉冲响应盲识

研究员提出快速3D神经隐式头部化身模型,保持高质量同时实现实时渲染

谷歌、加拿大西蒙菲莎大学和香港科技大学的研究人员提出了一种全新的3D神经隐式头部化身模型,通过引入局部哈希表混合形状、轻量级MLP和分层最近邻搜索方法,实现了高效的实时渲染和细粒度面部表情。研究团队在每个3DMM网格顶点附加了哈希表混合形状,使用卷积神经网络从头像驱动信号预测顶点权重,并建立相关的哈希表嵌入来捕获面部表情。此外,他们还设计了一个分层查询解决方案来加速k近邻搜索。实验结果表明,这种方法能够实现实时渲染,并获得与最先进的渲染质量相当的效果,尤其在具有挑战性的面部表情方面表现出优势。这项研究对于构建高质量、高效的虚拟化身具有重要意义,并可应用于虚拟现实、远程会议等实时应用领域。
研究员提出快速3D神经隐式头部化身模型,保持高质量同时实现实时渲染

研究员:连续多感官反馈可以提高VR手部重定向准确性

重定向方法被广泛应用于扩展交互空间和创造引人入胜的虚拟现实体验。然而,以往的研究主要关注用户是否能感知到目标感,很少研究用户对重定向的感知准确性和敏感性。此外,手重定向交互的感知和表现如何受到多感官反馈的影响尚不清楚。 为了解决这些问题,韩国科学技术院的研究团队使用心理物理学方法来指定用户对手重定向的感知准确性和敏感性,并提供可接受的重定向参数范围。研究结果表明,提供连续的多感官反馈和距离成比例的虚拟手与目标之间的距离可以提高用户对手重定向的感知准确性,并显著提高任务性能的精度。 此外,研究还发现多感官反馈对用户感知特征和重定向参数有影响。基于这些结果,团队得出结论,了解多感官反馈对人类在虚拟现实中的感知和表现的影响是设计更有效的手重定向方法的关键。 实验结果和分析发表在论文《多感官反馈对虚拟现实中手-重定向交互感知和表现的影响》中。
研究员:连续多感官反馈可以提高VR手部重定向准确性

经典VR游戏《Augmented Empire》将11月登陆Quest Store

《Augmented Empire》是一款回合制战术RPG游戏,在赛博朋克城市新萨凡纳的背景下展开。玩家将领导一支由罪犯组成的团队,挑战各种敌人。游戏可以在Oculus Go和三星Gear VR等平台上进行,现在开发团队正准备将其带到Quest平台上。Quest版本将进行视觉升级,使用动态照明和PBR,并根据不同设备使用不同的纹理。此外,新的混合现实支持允许玩家调整战盘大小,并支持手部追踪和控制器。游戏承诺提供10小时的游戏时间,包括26个任务,6个可玩角色和60个环境。还有改进的战斗小游戏和成就。《Augmented Empire》将于11月21日在Meta Quest Store上线。
经典VR游戏《Augmented Empire》将11月登陆Quest Store

洛克希德·马丁向保加利亚交付F-16 Block 70战斗机VR培训

保加利亚国防部表示,保加利亚空军学院已经接收了用于培训F-16 Block 70战斗机驾驶员的首个虚拟现实系统。这是保加利亚与战斗机制造商洛克希德马丁的合作项目的一部分。根据该项目,保加利亚空军计划在2025年开始交付首批F-16战斗机,洛克希德马丁将为保加利亚提供技术援助和资金支持。为了培训航空人员,Georgi Benkovski保加利亚空军学院将部署虚拟现实系统和驾驶模拟器,受训人员可以通过这些系统在身临其境的环境中熟悉相关操作。保加利亚国防部表示,空军学院成为欧洲唯一有机会培训F-16 Block 70战斗机的学校,并成为使用虚拟现实技术培训航空专家的先驱之一。
洛克希德·马丁向保加利亚交付F-16 Block 70战斗机VR培训

亚马逊用PICO头显培训送货驾驶员,94%更有信心

据映维网Nweon报道,亚马逊正在美国选定的配送站开展VR培训试点,利用PICO头显帮助培训送货员。亚马逊最初在2018年启动了DSP送货服务合作伙伴计划,为合作方提供培训、工具、资源和经验,而合作方则雇用和管理自己的送货司机和员工。为了进一步提高培训效率,亚马逊选择了PICO头显作为验证的VR解决方案。驾驶员在培训室中将首先掌握DSP送货合作伙伴的要求和规定,然后通过VR培训会话以交互体验的形式进行具体的送货过程和操作。亚马逊表示,在接受VR培训后,近94%的驾驶员感到更有信心。一旦完成了道路评估,受训员将进入实际的送货体验。亚马逊希望通过VR培训来加快驾驶员的培训效率,以满足日益增长的送货需求。
亚马逊用PICO头显培训送货驾驶员,94%更有信心

线下娱乐Sandbox VR发展零售礼品等周边业务扩增营收

VR线下娱乐公司Sandbox VR宣布与小吃和礼盒商Bokksu合作,共同开发独家小吃,并在Sandbox VR门店销售。除了关注游戏内容和改善体验,Sandbox VR也注重游戏之外的访客体验,例如提供小吃饮品。现在,Sandbox VR希望进一步发展周边业务,并与Bokksu合作开发以恐怖惊悚为主题的定制小吃和礼盒,以配合全新的VR游戏内容《Deadwood PHOBIA》。Sandbox VR表示,他们与Bokksu合作非常高兴,希望为玩家提供精心准备的小吃,并通过包含个人时刻的视频来回顾玩游戏时的刺激和开心时刻。Bokksu评价道,他们与Sandbox VR合作非常高兴,希望将日本小吃和零食的乐趣带给VR体验受众,并相信这种合作将让两个品牌的粉丝感到高兴。
线下娱乐Sandbox VR发展零售礼品等周边业务扩增营收

微软AR/VR专利提出实现精确后期重投影的有效方法

微软在一项专利申请中提出了一种实现精确后期重投影的方法。该方法使用基于渲染深度缓冲区的深度信息对图像应用校正,并通过根据渲染深度缓冲区采样位置来计算每个网格顶点的位置校正。使用自适应镶嵌网格可以减少计算成本和视觉伪影。预先计算的模式数据库存储与每个镶嵌网格对应的图案数据,从而有效地生成镶嵌网格。与现有的LSR方法相比,该方法具有更高的效率和更低的重投影延迟。在图像生成后,可以使用镶嵌网格进行重投影,从而减少重投影延迟。该方法可以在客户端设备上执行,并且可以减少网络延迟和负面影响。应用各种约束生成预先计算的图案数据库,进一步提高了重投影质量。此外,该方法还可以实现索引网格而不是未索引网格,从而提高了网格存储和渲染的效率。
微软AR/VR专利提出实现精确后期重投影的有效方法

Meta分享Meta Quest 3/3S的应用开发指南

Meta相信Quest 3S的推出正在扩大混合现实市场,为人们提供价格合理的高质量体验。 Meta团队分享了Quest 3和Quest 3S的开发路径,以及如何开始为游戏、健身、娱乐等更广泛领域构建丰富的应用程序。Meta Horizon OS提供多种引擎支持,开发者可以访问Meta Horizon开发者中心找到正确的指导。为混合现实构建应用程序,开发者可以使用Unity引擎,Meta提供特定于Meta Horizon的功能,帮助开发者快速实现各种功能。同时,Meta也分享了Meta Spatial SDK的使用,该SDK允许开发者利用现有的技能和开发知识构建增强的移动应用程序。无论是构建2D和基于Web的体验,还是展望未来,Meta Horizon OS和Meta Spatial SDK都为开发者提供了更多的选择和支持。Meta承诺将持续扩大平台支持,加强开发路径,并与开发者社区合作,以更好地为开发者提供服务。
Meta分享Meta Quest 3/3S的应用开发指南