物理改变图像生成：扩散模型启发于热力学，比它速度快10倍的挑战者来自电动力学
丰色 萧箫 发自 凹非寺
量子位 | 公众号 QbitAI
现在，图像生成领域的半壁江山已经被物理学拿下了。
火出圈的DALL·E 2、Imagen和Stable Diffusion，它们共同基于的扩散模型——
都是受到物理热力学的启发诞生的。
不仅如此，来自MIT、收录于NeurIPS 2022的一种比扩散模型效果还要好、速度还要快的新生成模型，则启发于电动力学。
如此攻势，让人不得不感叹：
留给图像生成的物理模型已经不多了？（手动狗头）
热力学如何启发扩散模型？
雏形：从一滴墨水得到启发
事实上，扩散模型并非从一开始就“崭露头角”。
很长一段时间里，图像生成领域的王者都非GAN莫属，即便期间不少新模型提出，它的生成效果仍然吊打其他一众模型。
初版扩散模型也是在这个背景下诞生。
就在GAN论文发布的后一年，斯坦福大学博士后Jascha Sohl-Dickstein基于GAN“没法学习完整概率分布”的缺陷，想到了一个idea。
对非平衡热力学有钻研的他，思考为何不能将物理和图像生成结合起来？
非平衡热力学是热力学的一个分支，专门研究某些不处于热力学平衡中的物理系统。
典型例子是一滴会在水中扩散的墨水。
在扩散之前，这滴墨水会是在水中的某个地方形成一个大斑点，但如果想模拟墨水开始扩散前的初始状态概率分布就会非常困难，因为这个分布很复杂、导致很难采样。
但随着墨水扩散到水中、水逐渐变成淡蓝色，墨水分子将分布得更简单更均匀，我们就可以很轻松地用数学公式来描述其中的概率。
这时候，非平衡热力学就上场了，它能将墨水扩散过程中每一步的概率分布都描述出来：
由于扩散过程的每一步都可逆，所以只要“步子”足够小，就可以从简单的分布再推断出最初复杂的分布来。
△就像是将这个过程倒放
Jascha Sohl-Dickstein就是受这个扩散原理的启发，创建了“扩散模型”，具体分为两步。
首先，通过某种算法将复杂图像转化为简单的噪声。
这一过程就类似于一滴墨水扩散到水全部变蓝，然后再逆转这一过程，将噪声转化为新图像。
具体来说，当系统拿到一张训练图像，这张图像的百万像素中的每一个点都有相应的值，根据这些值就能将像素转变为百万维空间中的一个点。
随后，用算法在每个时间步长中向每个像素点添加一些噪声，相当于墨水的每一步扩散，这样每个像素的值与其原始图像中的值之间的关系就会越来越小，直到看起来更像是一个简单的噪声分布。
接下来，对数据集中的所有图像执行这一操作，百万维空间中一开始由各个点组成的复杂分布（无法轻易描述和采样），就会变成围绕原点组成的简单正态分布。
Jascha Sohl-Dickstein解释道：
这个非常缓慢的“前向”转换过程就好比将数据分布变成了一个巨大的“噪音球”，提供了一个可以轻松采样的分布。
然后，再用这些被算法转换的图像，训练得到最终的扩散模型。
具体来说，就是喂给神经网络从前向转换过程中获得的噪声图像，训练它预测之前一步得到的噪声较小的图像，在这期间不断调整参数、改善模型，最终，它就可以将噪声图像输出成我们想要的图像。
这样训练好的神经网络，无需学习原始图像，就可以直接采样生成全新的图像。
2015年，Sohl Dickstein将这个扩散模型的雏形进行了发表。
遗憾的是，尽管它能够对整个分布进行采样，也不会只吐出图像数据集的“子集”，但能力还远远落于GAN——既表现在生成质量上，也表现在生成速度上。
改进：造就DALL·E2、Stable Diffusio等爆火模型
最终，是两位博士生的相继改变，造就了最终的“现代版”扩散模型。
首先是2019年，还在斯坦福大学读博士的Yang Song，和他的导师在完全不知道Sohl Dickstein成果的情况下，想出了一种类似的新方法。
相比Sohl Dickstein估计数据（即高维表面）的概率分布的做法，Yang Song估计的是分布的梯度（即高维表面的斜率）。
而通过先用不断增加的噪声水平干扰训练集中的每个图像，然后再让神经网络使用分布梯度预测原始图像，可以非常有效地去噪，最终生成质量很高的图像。
不过，这种方法的采样速度非常慢。
好在很快，2020年，UC伯克利的Jonathan Ho看到了这两项研究，意识到后者的思路可以用来重新设计和改进Sohl Dickstein最开始的那版雏形。
于是，就有了后来大名鼎鼎的DDPM（Denoising Diffusion Probabilistic Models）——它在所有的任务中，要么打平、要么超过所有其他生成模型，包括统治了该领域多年的GAN。
至此，一个最初启发于物理学原理的机器学习模型，几经周转，最终掀起了AIGC领域的热潮——
我们现在看到的DALL·E2、Stable Diffusio、SD和Imagen……都是基于DDPM这一扩散模型改进而来。
MIT新电动力学图像生成模型
现在，又是“拜物理学所赐”，扩散模型也迎来了新的挑战者。
基于电动力学的启发，来自MIT的研究人员提出了一种新的“泊松流”生成模型PFGM（“Poisson Flow” Generative Models）。
具体来说，这个生成模型将数据看成空间中新增z=0平面上的电荷，电荷产生了空间中的电场。
其中，电荷产生的电场线对应数据采样过程，电场线的方向即空间中泊松方程的解的梯度。
代表数据的电荷沿着产生的电场线向外移动，最终会形成一个半球面，并在球面半径足够大时，电荷在半球面上均匀分布。
与扩散模型中每一步概率分布都是可逆的一样，电场线也是可逆的。
因此，可以利用这种效果训练模型，让它学会通过均匀分布在半球面上的数据，反过来生成z=0平面上的数据。例如下图这个例子，数据分布一开始呈爱心状，但当数据最终移动到半径足够大的半球面上时，它们会呈现出均匀分布状态：
对应到图像生成过程中也一样，z=0平面上的数据分布，是我们希望生成的图像。
而生成模型要做的，则是通过半球面上均匀分布的数据，来反向推出希望生成的图像：
在CIFAR-10数据集上的评估中，PFGM是在一众类似思路模型中表现最好的，超过了扩散模型。
而且，PFGM在与扩散模型生成质量差不多的同时，速度要快上10~20倍，在速度和生成质量上取得了更好的“兼顾”。
下图是PFGM基于不同数据集训练后生成图片的过程，效果确实也是很能打了：
猜猜下一个挑战图像生成领域的物理模型会是什么？
参考链接：
[1]https://www.quantamagazine.org/the-physics-principle-that-inspired-modern-ai-art-20230105/
[2]https://arxiv.org/abs/2209.11178
[3]https://arxiv.org/pdf/1503.03585.pdf
— 完 —
「人工智能」、「智能汽车」微信社群邀你加入！
欢迎关注人工智能、智能汽车的小伙伴们加入交流群，与AI从业者交流、切磋，不错过最新行业发展&技术进展。
PS. 加好友请务必备注您的姓名-公司-职位噢 ~
点这里👇关注我，记得标星哦～
微信扫码关注该文公众号作者