Redian新闻
>
视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效

公众号新闻

机器之心报道

机器之心编辑部

AI 生成的视频终于能动了。

最近,除了大语言模型继续持续刷屏,视频生成技术也取得了重大进展,多家公司相继发布了新模型。


首先,作为最早探索视频生成领域的领头羊之一,Runway 升级了其 Gen-2 模型,带来了电影级别的高清晰度,令人瞩目,并称视频生成的一致性得到了重大改进。

但是,这种一致性的提升似乎是以牺牲视频动态性为代价的。从 Gen-2 的官方宣传视频中可以看出,尽管集合了多个短片段,但每个片段的动态性相对较弱,难以捕捉到人物、动物或物体的清晰动作和运动。

近期,Meta 也发布了视频生成模型 Emu Video。从 Emu Video 的官方示例中可以看出,其视频的动态性比 Gen-2 有明显提高,但仍然局限于较为简单的动作。


开发出了经典的文生图模型 Stable Diffusion 的公司 Stability.ai,也于近日发布了开源视频生成模型 Stable Video Diffusion (SVD),引发了开源社区的大量关注和讨论。SVD 效果能和 Gen-2 相当,通过测试样例能看出 SVD 生成的视频也相对缺少动态性。

SVD 论文里面提到了目前 SVD 生成的视频存在动态性不足的情况。

上述示例表明,生成有高度一致性且有丰富动态性的视频,让视频内容真正地动起来,是目前视频生成领域中的最大挑战

在这方面,最新的研究成果 PixelDance 迈出了关键性的一步,其生成结果的动态性显著优于目前现有的其它模型,引起了业界的关注。

Twitter知名AI博主@_akhaliq转发的PixelDance新闻已有近8万浏览量。


在官网(https://makepixelsdance.github.io)中,PixelDance 给出了两种不同的视频生成模式。

第一种是基础模式(Basic Mode),用户只需要提供一张指导图片+文本描述,PixelDance 就可以生成有高度一致性且有丰富动态性的视频,其中指导图片可以是真实图片,也可以利用现有的文生图模型生成。

从展示的结果来看,真实风格、动画风格、二次元风格、魔幻风格,PixelDance 通通都可以解决,人物动作、脸部表情、相机视角控制、特效动作,Pixeldance 也都可以很好的完成。只能说一句 tql!


第二种是高级魔法模式(Magic Mode),给了用户更多发挥想象力和创造力的空间。在这种模式下,用户需要提供两张指导图片+文本描述,可以更好地生成更有难度的视频内容。网站中展示了用魔法模式做出的各种炫酷特效镜头。


除此之外,官网还展示了完全使用 PixelDance 制作的 3 分钟故事短片:


非常震撼的一点是,使用 PixelDance 能按照用户预想的一个故事,制作每一个场景和对应的动作。不管是真实场景(如埃及、长城等),还是虚幻场景(如外星球),PixelDance 都能生成细节丰富、动作丰富的视频,甚至各种特效镜头也不在话下。

并且,主人公北极熊先生的黑色礼帽和红色领结形象,在不同的场景中都得到了很好的保持。长视频生成再也不是简单的拼凑弱相关的短视频片段了!

而达到这样拔群的视频生成效果,并没有依赖复杂的数据集和大规模的模型训练,PixelDance 在公开的 WebVid-10M 数据集上仅用 1.5B 大小的模型就达到了上述效果。


论文地址:https://arxiv.org/abs/2311.10982
demo 地址:https://makepixelsdance.github.io

在相应的论文《Make Pixels Dance: High-Dynamic Video Generation》中,作者指出了视频生成难以做出好效果的原因:相比于图片生成,视频生成具有特征空间显著更大、动作多样性显著更强的特点。这就导致了现有的视频生成方法难以学到有效的时域动作信息,生成的视频虽然图片质量较高,但动态性非常有限。

针对上述问题,PixelDance 提出了基于文本指导 + 首尾帧图片指导的视频生成方法,使得模型更充分地关注和学习视频的动态信息。

其中,首帧图片指导为整个视频内容提供了框架和素材。此外,通过将上一个视频片段的尾帧拿来作为下一个视频片段的首帧指导,可以生成更长的视频。文本描述提供了对视频动作的描述。尾帧图片指导为视频生成过程提供了结束状态的信息。作者提出了适配的方法,使得模型能接收比较粗糙的图片作为指导,这使得用户可以使用基本的图片编辑工具获得尾帧图片指导。

官网的信息显示,目前还在积极地迭代模型效果中,未来 2-3 个月内就会放出人人可以试用的模型。目前,作者也提供了途径支持大家发送想要测试的样例,目前官网中已经放出了一些用户的测试样例:


如此看来,有了 PixelDance,只要有天马行空的想象力,人人都可以成为「百万特效大师」!


© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
龙行龘(dá)龘(dá)!2024央视春晚宣布→全新AI视频生成工具Pika爆火!做电影都不在话下,高颜值学霸创始人被评“近乎完美”,她父亲还有家A股上市公司……Stability AI杀回来了:视频生成新Demo效果惊人,网友:一致性超群第十一章第二节 金融资本和货币政策Meta清华校友推全新AI「视频生视频」方法!单张A100生成「男人秒变猩猩」大片AI早知道|Pika 募集 5500 万美元资金;阿里推创新视频生成技术Animate Anyone中国式非自愿单身:认识 incel,理解 incel,成为 incel一句话秒出4K高清大片,视频生成Gen-2重磅更新又炸了API架构图解:如何以图表形式展现复杂系统文生视频下一站,Meta已经开始视频生视频了Pika、Gen-2、ModelScope、SEINE……AI视频生成哪家强?这个框架一测便知GPT-4联手开源建模软件Blender,打破文本到视频生成的物理界限AI早知道|Gemini推理能力强于GPT-3.5;美图AI视觉大模型将向公众开放;Meta推全新视频生成模型FlowVid斯坦福美女博士创业项目爆火!AI视频生成出道即顶流,半年融资5500万美元专访Pika Labs创始人:探索视频生成的GPT时刻龙行龘(dá)龘(dá)!清华光电计算新突破:芯片性能提升万倍,研究登顶Nature龙行龘(dá)龘(dá)!这些三叠字怎么念?海关总署:我国消费电子产业进出口呈现复苏势头消息称创企Stability AI正寻求出售;斯坦福博士创立的AI创企Pika推出首款视频生成产品丨AIGC日报AI视频生成卷出新高度:高清电影画质免费无限玩,号称“史上最强”复旦大学联合华为诺亚提出VidRD框架,实现迭代式的高质量视频生成Cell封面文章!我国科学家新突破,成功培育世界首个胚胎干细胞嵌合体猴子至今已发13篇Nature/Science/Cell,施一公学生李晓淳再发Cell現在的網路世界有點冷清视频生成新突破!字节跳动提出PixelDance:轻松呈现复杂动作与炫酷特效华裔美女开发AI视频生成器,6个月融资5500万美金口碑翻转,Pika 1.0试用效果折服一大票人,直呼「最佳视频生成器」在图像、视频生成上,语言模型首次击败扩散模型,tokenizer是关键夏婳:两情难相知(十三)看Vivian 转的视频和为人父转的柴静《和圣战分子对话》视频Meta生成式AI连放大招:视频生成超越Gen-2,动图表情包随心定制百岁老人研究新突破:C反应蛋白、中性粒细胞与淋巴细胞比率与中国百岁老人的长期死亡率相关清华芯片新突破登Science,获评“存算一体领域重大进展”!基于类脑架构实现片上快速AI学习6014 血壮山河之随枣会战 南昌之战 7
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。