英伟达为远程会议通话研发AI 3D视频聊天解决方案
首批商用视频会议系统诞生于50多年前,其目标是通过远程通信技术实现与他人沉浸式互动。虽然最新的3D视频会议技术能够捕捉眼神交流和其他非语言线索,但目前的系统需要昂贵的3D采集设备。因此,英伟达、加利福尼亚大学圣迭戈分校和北卡罗来纳大学教堂山分校合作,通过AI人工智能的方法开发了一种高保真低成本的3D远程呈现方法。这种方法能够提供基于3D扫描无法提供的新功能,并支持多种现有的3D显示器。此外,谷歌也在利用AI优化其光场通话项目Project Starline,该项目结合了光场技术、硬件和软件的进步,旨在提升远程通信的真实感。在英伟达团队的项目中,他们通过AI实时推断和渲染真实的3D表示,实现了实时的3D自我影像和头部追踪视图。研究人员还通过Vision Transformer提出了一种新的编码器,将2D输入转换为有效的三平面隐式3D表示,并使用最先进的神经方法实现眼神交流。团队的系统支持立体显示器和光场显示器,通过多种实验展示了其效果。团队利用NVIDIA TensorRT优化了编码器的性能,并在NVIDIA A6000 GPU上进行实时推理,实现了端到端的快速运行。