高清视频竟不是真的，几张照片渲染的3D场景让你难辨真伪

公众号新闻

2023-08-27 04:08

机器之心报道

编辑：梓文

还原度也太高了。

在开始今天的介绍前，先一起来看看下面的几个场景。

请注意，上述动图完全是由多张照片渲染出来的 3D 场景。人类很难发现它们的破绽。

那让我们一起看看，这种场景是怎样实现的。

网格和点是最常见的三维场景表示法，因为它们是显式的，非常适合基于 GPU/CUDA 的快速光栅化。相比之下，最新的神经辐射场（NeRF）方法建立在连续场景表征的基础上，通常使用体积光线渲染优化多层感知器（MLP），对捕捉到的场景进行新视角合成。虽然这些方法的连续性有助于优化，但渲染所需的随机取样成本很高，而且会产生噪声。

来自法国蔚蓝海岸大学的研究者引入了一种新方法，能够结合这两种方法的优点：3D 高斯表征有着 SOAT 视觉质量，并且在训练时间上也进行了优化，而基于 tile 的抛雪球算法（tile-based splatting）在几个数据集上以 1080p 分辨率实现 SOTA 实时渲染。

论文地址：https://huggingface.co/papers/2308.04079

研究团队立下目标：对多张照片拍摄的场景进行实时渲染，并在典型真实场景中实现时间最优化。此前，Fridovich-Kei 等人提出的方法虽然实现了快速训练，但难以达到当前 SOTA NeRF 方法所获得的视觉质量，而后者需要长达 48 小时的训练时间。还有研究提出快速但质量较低的辐射场方法，可以根据场景实现交互式渲染（每秒 10-15 帧），但这种方法无法实现高分辨率下的实时渲染。

接下来，我们来看本文是如何实现的。

方法

研究团队的解决方案主要由三个部分组成。

第一，引入 3D 高斯作为一种灵活而富有表现力的场景表征。输入与 NeRF 方法类似，即使用结构 - 运动（SfM）校准像机，并且使用稀疏点云初始化 3D 高斯集合，点云来自 SfM 过程。此外，该研究只用 SfM 点作为输入就能获得高质量的结果。需要注意的是，对于 NeRF 合成数据集，即使采用随机初始化，本文方法也能获得高质量的结果。研究表明，3D 高斯是一个很好的选择。

第二，优化 3D 高斯属性，即 3D 位置、不透明度𝛼、各向异性协方差和球谐波（SH）系数。优化过程产生了一个相当紧凑、非结构化和精确的场景表征。

第三，实时渲染解决方案，该研究使用快速 GPU 排序算法。不过，由于采用了 3D 高斯表征，可以在遵循可见度排序的情况下进行各向异性拼接，这要归功于排序和𝛼- blending— 并通过跟踪所需的尽可能多排序拼接的遍历，实现快速准确的向后传递。