Redian新闻
>
OpenAI新生成模型开源炸场!比Diffusion更快更强,清华校友宋飏一作

OpenAI新生成模型开源炸场!比Diffusion更快更强,清华校友宋飏一作

公众号新闻
金磊 鱼羊 萧箫 发自 凹非寺
量子位 | 公众号 QbitAI

图像生成领域,看来又要变天了。

就在刚刚,OpenAI开源了比扩散模型更快、性能更好的一致性模型

无需对抗训练,就能生成高质量图片!

这个重磅消息一经发出,立刻引爆学术圈。

虽说论文本身在3月份就已低调发布,但当时大伙儿普遍认为它只是个OpenAI的前沿研究,并不会真正将细节公开。

没想到这次直接来了个开源。有网友立刻上手实测了一波效果,发现只需要3.5秒左右就能生成64张左右256×256的图像:

游戏结束!

这是这位网友生成的图像效果,看起来还不错:

还有网友调侃称:这次OpenAI终于Open了!

值得一提的是,论文一作OpenAI科学家宋飏,是一位清华校友,16岁就通过领军计划进入清华数理基础科学班求学。

一起来看看这次OpenAI开源了一项怎样的研究。

开源了一个怎样的重磅研究?

作为一个图像生成AI,一致性模型(Consistency Model)最大的特点在于又好。

相比扩散模型,它主要有两大优势:

其一,无需对抗训练(adversarial training),就能直接生成高质量的图像样本。

其二,相比扩散模型可能需要几百甚至上千次迭代,一致性模型只需要一两步就能搞定多种图像任务——

包括上色、去噪、超分等,都可以在几步之内搞定,而不需要对这些任务进行明确训练。(当然,如果进行少样本学习的话,生成效果也会更好)

所以一致性模型究竟是如何实现这种效果的?

从原理来看,一致性模型的诞生与ODE(常微分方程)式生成扩散模型有关。

图中可见,ODE会先一步步将图片数据转换成噪声,随后再进行一个逆向求解,从噪声中学习生成图像。

而就在这个过程中,作者们试图将ODE轨迹上的任何点(如Xt、Xt和Xr)映射到它的原点(如X0)进行生成建模。

随后,这个映射的模型被命名为一致性模型,因为它们的输出都是同一轨迹上的同一点:

基于这种思路,一致性模型不需要再经过漫长的迭代,才能生成一个相对质量比较高的图像,而是能做到一步生成

下图是一致性模型(CD)和扩散模型(PD)在图像生成指标FID上的对比。

其中,PD是去年斯坦福和谷歌大脑提出的一种最新扩散模型方法渐进式蒸馏(progressive distillation)的简称,CD(consistency distillation)则是一致性蒸馏方法。

可以看出,几乎在所有数据集上,一致性模型的图像生成效果都要比扩散模型更好,唯一的例外是256×256的房间数据集上:

除此之外,作者们也将扩散模型、一致性模型和GAN等模型在其他各种数据集上进行了对比:

不过也有网友提到,这次开源的AI一致性模型,能生成的图像还是太小:

很难过,这次开源的版本生成的图像还是太小了,要是能给出生成更大图像的开源版本,肯定会非常让人兴奋。

也有网友猜测,可能只是OpenAI还没训练出来。不过可能训练出来了我们也不一定能搞到代码(手动狗头)

不过对于这项工作的意义,TechCrunch表示:

你若是有一堆GPU,那用扩散模型在一两分钟内迭代1500多次,生成图片的效果当然是极好的。

但如果你想在手机上或者聊天对话的时候实时生成图片,那显然扩散模型不是最好的选择。

一致性模型是OpenAI下一个重要动作。

期待OpenAI会开源一波分辨率更高的图像生成AI~

清华校友宋飏一作

论文一作宋飏,目前是OpenAI的研究科学家。

他14岁时,曾以17位评委全票通过的成绩,入选“清华大学新百年领军计划”。在次年高考中,他又成为连云港市理科状元,顺利考入清华。

2016年,宋飏从清华大学数理基础科学班毕业,此后赴斯坦福深造。2022年,宋飏获斯坦福计算机科学博士学位,而后加入OpenAI。

在博士期间,他的一作论文“Score-Based Generative Modeling through Stochastic Differential Equations”还获得过ICLR 2021的杰出论文奖。

根据其个人主页信息,从2024年1月开始,宋飏将正式加入加州理工学院电子系和计算数学科学系,担任助理教授。

项目地址:
https://github.com/openai/consistency_models

论文地址:
https://arxiv.org/abs/2303.01469

参考链接:
[1]https://twitter.com/alfredplpl/status/1646217811898011648

[2]https://twitter.com/_akhaliq/status/1646168119658831874

量子位智库「中国AIGC产业全景报告」

开放下载!

行业首份AIGC产业全景报告已经开放下载!

三大类玩家、四种商业模式、万亿规模市场、最值得关注的50家企业,还有具体的赛道部署机会和行业变革机遇,都将在报告内一一分析呈现。更多产业洞察,不容错过。

公众号后台回复 “ AIGC ” 即可下载完整报告~


点这里👇关注我,记得标星哦~


一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
高考744分,清华校长亲自登门,到他家却傻眼:父亲精神病,母亲瘫痪,整个家破败不堪校友活动丨清华经管EMBA四川校友会组织校友观看话剧《一代斯文》开源大模型新SOTA!支持免费商用,比LLaMA65B小但更强,基于1万亿token比Diffusion更快!OpenAI新图像生成模型开源了!清华校友宋飏一作清华朱军团队开源UniDiffuser:首个基于Transformer的多模态扩散大模型2023清华校友波士顿艺术周 --- 暨波士顿清华校友会年会分会场我的厉害国, 下了狠手?Meta发布全新大语言模型,号称比ChatGPT更强,单GPU上就能跑,后续或将开源校友活动丨水木清华人,南粤清华林:清华经管EMBA广东校友会植树节活动举办清华朱军团队开源UniDiffuser:首个基于Transformer的多模态扩散大模型!文图互生、改写全拿下!校友活动丨擦亮花火 共创未来:清华经管EMBA黑龙江校友会走进校友企业活动圆满落幕波士顿清华校友会「2023年」年会-创业投资专场!微软再炸场!Copilot与Windows强悍集成,与OpenAI标准互通 ,开建AI超级生态推荐 | 波士顿清华校友会「2023年」年会 - 学术科研专场!蔓藤教育CEO马列伟博士荣获「清华校友会杰出校友成就奖」!首个超大规模GAN模型!生成速度比Diffusion快20+倍,0.13秒出图,最高支持1600万像素开源AltDiffusion-m18 ,18种语言文图生成all in oneCVPR 2023 | 何恺明团队开源FLIP:MAE助力CLIP更快更高精度!李开复:AI2.0市场预计将是移动互联网规模的10倍,大模型开源非常重要,中国的技术需要开源炸掉北溪民用设施习不想做点啥Stability AI 发布开源版 DreamStudio,可使用最新 Stable Diffusion XL 图像生成器刘燕校友活动丨清华经管EMBA河北校友会组织全国40位校友来石参加“石马之约”GAN逆袭归来!清华校友论文引爆AI绘图圈,一秒把大象P转身,Diffusion黯然失色Agustín Hernández:中美洲建筑背景下的未来主义巨构波士顿清华校友会「2023年」年会 - 学术科研专场!波士顿清华校友会「2023年」年会-艺术风暴专场!OpenAI再发3D生成模型Shap-E,传Midjourney入局3D模型生成重访西班牙(12)-黄金之城的欢歌父疯母瘫,却以744分考上清华,清华校长亲自接待,他的故事令全网泪崩新婚夜老婆发烧,我去买药忘拿手机,折回去开门:“娶个畜生呀”波士顿清华校友会「2023年」年会-职业发展专场!校友展|征稿通知【2023清华校友波士顿艺术周】2023美国工程院院士名单出炉!13位华人,其中2位清华校友女人出轨,会有三种“味道”,特别第一种,是洗不掉的ICLR 2023 | 扩散生成模型新方法:极度简化,一步生成
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。