哈尔滨工业大学团队利用鱼眼摄像头进行全景观测在虚拟现实中具有重要意义。然而,传统方法合成的全景图像缺乏深度信息,在VR应用中只能提供三自由度旋转渲染。为了充分保留和利用原始鱼眼摄像头中的视差信息,该团队引入了MSI-NeRF方法,结合了深度学习全向深度估计和视图合成。他们构建了多球图像作为代价体,通过特征提取和变形构建隐式亮度场,实现全方位深度估计和六自由度视图合成。该方法只需通过源视图监督学习场景外观,不需新的目标视图,可以在现有的全景深度估计数据集上进行训练。实验证明,该方法在深度估计和新视图合成任务上优于现有方法。与传统针孔图像相比,全向图像包括水平和垂直的所有视角,可以存储整个场景的信息。然而,传统的拼接方法总会存在误差,且最终生成的图像失去了深度信息。该团队的方法通过保留输入多视角鱼眼图像中的三维信息,可以获得全方位的深度信息并进行六自由度视角合成。该解决方案在虚拟现实领域应用中能够消除三自由度渲染带来的VR晕动症。该研究还提出了一种新的空间视频采集和编辑方法,可以实现旋转和平移的视频去抖。总的来说,该研究团队提出的方法能够将传统的2D全景输出扩展为3D,并保留了视差信息,可以应用于各种VR应用,以消除VR晕动症并实现全景视频编辑和3D重建。