Diffusion4D：首个4D视频生成扩散模型！数分钟内实现4D内容生成，超81K的4D数据集已开源！

点击下方卡片，关注“CVer”公众号

AI/CV重磅干货，第一时间送达

点击进入—>【Mamba/多模态/扩散】交流群

添加微信：CVer5555，小助手会拉你进群！

扫描下方二维码，加入CVer学术星球！可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料，及最前沿应用！发论文/搞科研/涨薪，强烈推荐！

本文介绍由多伦多大学，北京交通大学，德克萨斯大学奥斯汀分校和剑桥大学团队最新提出的4D生成扩散模型，该方法可以在几分钟之内可以完成时空一致的4D内容生成。Diffusion4D整理筛选了约81K个4D assets，利用8卡GPU共16线程，花费超过30天渲染得到了约四百万张图片，包括静态3D物体环拍、动态3D物体环拍以及动态3D物体前景视频。该方法是首个利用大规模数据集，训练视频生成模型生成4D内容的框架，目前项目已经开源所有渲染的4D数据集以及渲染脚本。

过去的方法采用了2D、3D预训练模型在4D（动态3D）内容生成上取得了一定的突破，但他们主要依赖于分数蒸馏采样（SDS）或者生成的伪标签进行优化，同时利用多个预训练模型获得监督不可避免的导致时空上的不一致性以及优化速度慢的问题。   

4D内容生成的一致性包含了时间上和空间上的一致性，它们分别在视频生成模型和多视图生成模型中被探索过。基于这个洞见，Diffusion4D将时空的一致性嵌入在一个模型中，并且一次性获得多时间戳的跨视角监督。

具体来说，使用仔细收集筛选的高质量4D数据集，Diffusion4D训练了一个可以生成动态3D物体环拍视图的扩散模型，而后利用已有的4DGS算法得到显性的4D表征，该方法实现了基于文本、单张图像、3D到4D内容的生成。

二、4D数据集

为了训练4D视频扩散模型，Diffusion4D收集筛选了高质量的4D数据集。已开源的Objaverse-1.0包含了42K运动的3D物体，在Objaverse-xl中包含323K动态3D物体。然而这些数据包含着大量低质量的样本，研究者们设计了运动程度检测、边界溢出检查等筛选方法，选取了共81K的高质量4D资产。

对于每一个4D资产，渲染得到了24个静态视角的图（上图第一行），24个动态视角的环拍图（上图第二行），以及24个正面动态图（上图第三行）。总计得到了超过四百万张图片，总渲染消耗约300 GPU天。其他数据集细节可以参考项目主页，目前所有渲染完的数据集和原始渲染脚本已开源，更多数据集使用方法值得探索！

三、方法

有了4D数据集之后，Diffusion4D训练具有4D感知的视频扩散模型（4D-aware video diffusion model）。过去的视频生成模型通常不具备3D几何先验信息，但近期工作如SV3D，VideoMV等探索了利用视频生成模型得到静态3D物体的多视图，因此Diffusion4D选用了VideoMV作为基础模型进行微调训练，使得模型能够输出动态环拍视频。此外设计了如运动强度(motion magnitude)控制模块、3D-aware classifier-free guidance等模块增强运动程度和几何质量。得益于视频模态具备更强的连贯性优势，输出的结果具有很强的时空一致性。

输出得到动态视角环拍视频后，Diffusion4D借助已有的4D重建算法将视频建模得到4D表达。具体来说采用了4DGS的表征形式，以及使用粗粒度、细粒度的两阶段优化策略得到最终的4D内容。从生产环拍视频到重建4D内容的两个步骤仅需花费数分钟时间，显著快于过去需要数小时的借助SDS的优化式方法。

四、结果   

根据提示信息的模态，Diffusion4D可以实现从文本、图像、3D到4D内容的生成，在定量指标和user study上显著优于过往方法。在生成质量上，Diffusion4D有着更好的细节，更为合理的几何信息以及更丰富的动作。更多可视化结果可以参考项目主页。

五、总结

Diffusion4D是首个利用视频生成模型来实现4D内容生成的框架，通过使用超81K的数据集、以及精心设计的模型架构实现了快速且高质量的4D内容。未来，如何最大程度发挥4D数据集价值，如何生成多物体、复杂场景的4D内容仍有很大的探索空间！

何恺明在MIT授课的课件PPT下载

在CVer公众号后台回复：何恺明，即可下载本课程的所有566页课件PPT！赶紧学起来！

CVPR 2024 论文和代码下载

在CVer公众号后台回复：CVPR2024，即可下载CVPR 2024论文和代码开源的论文合集

Mamba、多模态和扩散模型交流群成立

扫描下方二维码，或者添加微信：CVer5555，即可添加CVer小助手微信，便可申请加入CVer-Mamba、多模态学习或者扩散模型微信交流群。另外其他垂直方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF、3DGS、Mamba等。

一定要备注：研究方向+地点+学校/公司+昵称（如Mamba、多模态学习或者扩散模型+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群

▲扫码或加微信号: CVer5555，进交流群

CVer计算机视觉（知识星球）来了！想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料，欢迎扫描下方二维码，加入CVer计算机视觉（知识星球），已汇集近万人！

▲扫码加入星球学习

▲点击上方卡片，关注CVer公众号
整理不易，请赞和在看