快手「可灵」爆火：海外AI圈巨震，中国版Sora一号难求

2024-06-12 13:06

机器之心报道

编辑：蛋酱

短短一年后，AI 生成的「吃面条」已经如此自然流畅？这让全球网友都感受到了亿点点震撼。

图源：https://x.com/CharaspowerAI/status/1799494388462063632

右侧的这些生成视频，都来自快手刚刚推出的文生视频大模型「可灵」（Kling）。

不是预发布、不是纯 Demo 合集，而是直接开放测试的产品级应用，人人都能申请。而且，可灵支持生成最长 2 分钟、30fps 的 1080P 视频，主打从头脑风暴到可发布作品的「一键转化」。（官网地址：https://kling.kuaishou.com/）

最早一批用上的用户已经「真香」：

图源：https://x.com/op7418/status/1799047146089619589

图源：https://weibo.com/7714861068/Oig1Qm8Or?refer_flag=1001030103_

500 人上限的交流群，很快就满员了，满屏都是 tql：

还没用上的外国友人只能干着急，在社交媒体发「求求了」：

不夸张地说，可灵现在是「一号难求」：

消息传到硅谷创投圈，更是引发了一场热议。

Stability AI 前 CEO Emad Mostaque 表示：「中国的 AI 技术有自己的优势。」

图源：https://x.com/EMostaque/status/1799133463003684918

YC CEO 也在 X 平台转发了可灵生成的 Demo：

就图中这个「吃汉堡」的案例而言，在相同的提示词下，可灵的生成效果确实比 Sora 更生动、真实：

Prompt：Une personne tapant son meilleur croc dans son hamburger

视频地址：https://x.com/AngryTomtweets/status/1799787209651859910

对于关注 AI 的人来说，这几天一定陆陆续续看过很多可灵生成的作品了。机器之心也是第一时间就点进了申请通道，并拿到了试用资格。

接下来，我们不妨一边试用、一边分析可灵爆火的原因。

国内首个文生视频产品级应用

或许你还记得这个曾经非常火爆的「气球人」视频。三位创作者花费近两周时间，使用 Sora 制作了这条 1 分 21 秒的视频短片，让人感到十分惊艳。不过，负责后期制作的 Patrick Cederberg 坦白了过程中的很多问题，例如气球的颜色在每次生成中都会改变、镜头中会出现一些瑕疵等等。

Sora 生成结果。完整视频地址：https://youtu.be/9oryIMNVtto?si=F6oDzvrhzfVcQGeh

对于此前的视频生成模型来说，「一气呵成」生成 1 分钟以上的内容确实有难度，特别是要求画面中的各种元素保持前后一致。

猎豹移动董事长兼 CEO、猎户星空董事长傅盛公开了自己用可灵制作的「气球人」视频，并表示自己仅用了「几十分钟」，就做出了连续性、真实度、清晰度都很优秀的短片。

在内测的过程中，我们还发现了一个专业创作者社区自发建立的教程与 Demo 文档，包含了上百个可灵生成的作品，还提供了测试维度的指导。

感兴趣的读者请戳：https://waytoagi.feishu.cn/wiki/GevKwyEt1i4SUVk0q2JcqQFtnRd

下面这个 2 分钟的公益短片《一个很远的地方》也是完全由可灵生成的，你能看出来吗？

在创作者 @AIGC 十三的作品《疯狂动物城赛车大赛》中，这 20 秒包含了疾速行驶的赛车（大幅度运动）、动物驾驶车辆（考验想象力的概念组合）等生成难点，但从结果来看，可灵很好地解决了这些问题：

来源：可灵创作者@AIGC 十三

还有一个很有趣的案例是 @八级技工创作的《假期打开方式》，这段 56 秒的短频共花费了 3 小时制作，包含 23 个镜头。然后在可灵的生成结果之上添加配音，诙谐的感觉马上就有了：

来源：可灵创作者@八级技工

看完这些，我们应该已经意识到，可灵所代表的视频生成技术的影响力，远远超出了单纯的创作。在不同的研究领域和行业赛道，这一技术的落地正在加速，为从自动内容生成到复杂决策过程的各种任务提供了变革潜力。

哪些行业最先被改变？

传统的游戏开发通常受到预先渲染的环境和脚本事件的限制。一旦将视频生成模型集成到游戏领域，游戏的开发、玩耍和体验方式都将得到创新，为讲故事、互动和沉浸式体验带来新的可能性。对于游戏开发者来说，最直观的一项玩法是，根据用户叙述生成定制的视觉效果甚至角色动作。

在下方的 demo 中，我们可以看到，用户能够借助可灵创造出无与伦比的身临其境体验：

图源：https://x.com/dustinhollywood/status/1800056286215553444

‍

图源：https://x.com/dustinhollywood/status/1800056886693347624

另外一个将被颠覆的行业就是影视制作。传统的电影制作是一个艰巨而昂贵的过程，往往需要数年的努力、大量的设备和资金投入。视频生成技术的出现预示着电影制作进入了一个新的「民主化时代」，从简单的文本输入中自主生成个人影视作品的梦想正在成为现实。

现在，我们用可灵生成的是 5 秒的单镜头片段，伴随着技术的不断演进，用户单次能够生成的视频时长也会增加。比如说，我们未来或许能够一次性生成更长的视频内容，保持故事场景的连贯性和观赏性。其中的运镜手法也许会更高级，比如连贯的长镜头。

图源：https://x.com/dustinhollywood/status/1800007000849629674

下面这段剪影作品再次印证了一点：AI 对艺术的理解力与审美水准，丝毫不逊于人类。

Prompt：“A dancer’s silhouette transitions seamlessly through different dance styles, from hip-hop to ballet, in one continuous shot”

可灵生成作品。图源：https://x.com/dustinhollywood/status/1799970059957555210

科幻电影的风格完全拿捏：

来源：可灵创作者 @狗儿李

AI 同样能为奢侈品大片的制作注入灵感：

来源：可灵创作者 @AI 的小罗

我们可以看一下可灵生成的这段「蜂蜜」广告片，AI 在模拟倾倒蜂蜜特写镜头中的表现丝毫不输专业摄像团队：

来源：可灵创作者@追图AIGC

可灵背后有哪些技术？

我们无法从 OpenAI 简略的技术报告中获得足够的 Sora 研发细节，但可灵大模型官网却披露了更具参考意义的信息，主要包括从数据准备、模型架构、训练方案及优化策略几个方面。

数据准备

依托快手在视频技术领域的多年积累，可灵大模型团队已经构建了完备的标签体系，包括从视频基础质量、美学、自然度等多个维度对视频数据质量进行刻画，并针对每一个维度设计多种定制化的标签特征，以此来精细化筛选训练数据或调整训练数据的分布。

为了满足训练文生视频模型过程中成对的视频和文本描述需求，可灵大模型团队自研了视频描述模型，可以生成精确、详尽、结构化的视频描述，显著提升视频生成模型的文本指令响应能力。

模型架构

高质量的标注数据准备完毕后，可灵大模型又是如何获得模拟物理世界特性与概念组合的能力呢？

在整体架构设计上，可灵采用了目前火热的 Diffusion Transformer (DiT) 。传统的扩散模型主要利用包含下采样和上采样块的卷积 U-Net 作为去噪网络骨干。但一些研究表明，U-Net 架构对扩散模型的良好性能并非至关重要。通过采用更灵活的 Transformer 架构，扩散模型可以使用更多的训练数据和更大的模型参数。DiT 就是这个研究思路下的代表作之一。

这几个月来，业内形成一个共识，视频生成模型的成功，归根结底是 Scaling Law 的作用。这一共识正是基于 DiT 论文的发现，使用 Transformer 能稳定地扩大模型规模：随着训练计算量的增加（训练模型的时间延长或模型增大，或两者兼而有之），性能也会随之提高。

这意味着，对于视频生成模型，只要用更多的算力、更多的数据去 Scale up，生成质量还会持续提升。

可灵之所以能够将用户的文本提示转化为具体的画面，包括那些真实世界中不会出现的虚构场景，就是基于对文本 - 视频语义的深刻理解和 Diffusion Transformer 架构的强大能力。在自研架构和 Scaling Law 激发出的强大建模能力推动下，可灵能够很好地模拟真实世界的物理特性，生成符合物理规律的视频。

与此同时，基于团队自研的 3D VAE 网络，可灵大模型能够生成 1080p 分辨率的电影级视频，无论是浩瀚壮阔的宏大场景，还是细腻入微的特写镜头，都能够生动呈现。