Redian新闻
>
4G显存低配畅玩AIGC!ControlNet作者新作登顶GitHub热榜,小白点3次就出图

4G显存低配畅玩AIGC!ControlNet作者新作登顶GitHub热榜,小白点3次就出图

科技
克雷西 萧箫 发自 凹非寺
量子位 | 公众号 QbitAI

AI画画,现在终于不用担心被老黄刀法“背刺”了!

只需要一块4年前的GTX 1650(显存4GB),AI出图效果堪比当前最好的开源模型SDXL。

图源:推特@ナビ

这是最近在GitHub上连续数日霸榜TOP 1的新项目Fooocus,三天标星破4k,ControlNet作者出品。

在它横空出世之前,大伙儿要想顺利跑Stable Diffusion最新的XL模型,怎么也得上16G显存的4060ti(12G显存的原生3060跑起来非常勉强)

与其他开源AI工具不同,Fooocus“聚焦于生成本身”,不仅硬件要求低,而且上手简单,十分小白友好——

全过程无需调整任何参数,点点鼠标,3步就能生成一张图像

图源推特@Photogenic Weekend

有网友直呼“这简直就是Stable Diffusion和Midjourney的集大成”:

跟手动调参说再见吧!离线、开源且免费,只需提示词和图片,就能让魔法涌现!

还有网友感叹:即使是小白,也能很好地发挥出Stable Diffusion XL模型的效果呢。

那么,这个全新的图像AI工具,实际生成效果如何?我们上手试了试。

Colab半分钟出图,效果比肩SD

从运行界面来看,Fooocus一共有一百多种内置风格可供选择。

图源推特@camenduru

至于效率,Fooocus出图也是非常快。在Colab中,速度优先模式下每画一张图大概只需半分钟:

日志显示的时间是绘制时间,不过之前还有个文本解析的过程,总共耗时大约是40秒:

画面经过加速处理

那就先让它画个漫画试试,来看看AI视角下的“马扎大战”会是什么样子。(可不是这个马扎哈)

由于用AI直接生成人像,手部的处理还是存在一些问题,所以我们干脆让马斯克和扎克伯格都戴上了手套:

效果好像还不错。不知道他们有没有什么赌注,不过不妨让输的人来女装一下。(温馨提示:打架没有赢家)

最终两人“握手言和”,这一珍贵画面也被摄影师记录了下来,整体画面是不是有那味了?

“马扎之战”结束之后,老马乖乖地回到公司,卖起了特斯拉。

忽略LOGO的话,海报的设计感也还蛮在线的。

其实Fooocus的每个内置风格都很有趣,所以不妨再来看看这些不同风格的整活图片:

在模仿著名作品方面,有赛博朋克版、塞尔达版、Minecraft版,甚至是宝可梦版本的马斯克可供观赏。

至于其他的艺术形式,还有像素Lowpoly风格,以及黏土人剪纸版本……

当然例子是举不完的,更多的风格读者朋友们可以自己去体验。

(不得不说,AI作图里的文字终于不是鬼画符了)

各位大画家是不是已经按耐不住想要试试了?我们马上就来介绍Fooocus的玩法!

Fooocus的界面是酱婶儿的,可以说是十分有九分简洁:

如果只是尝个鲜,没有特殊要求的话,这一个提示框完全足够了

因为作者已经把很多复杂技巧内化到了程序当中,调参这些操作不再需要手动完成。

直接在下面的框中输入Prompt,点击生成按钮就可以坐等出图了。

(默认一次出两张图,尺寸为1152×896,风格为cinematic default,速度优先)

如果需要高级设置,就把左下角的Advanced勾上,配置信息会出现在页面右侧,分为三个标签:

可以调整的内容包括尺寸、数量、风格、性能等等。

如果你是专业级玩家,还可以选择模型版本,甚至调整LoRA参数。

此外,还有调整锐利度这种高端玩法。

对于相同的内容,下面这张动图展示了锐利度从2到10再到20的变化。可以看出,随着锐利度增大,画面的细节也越来越丰富:

不过,对于Fooocus是否支持中文,我们也试了一下,很遗憾现在还不行。

比如我们输入提示词“苹果”,结果画出来的是个妹子。

这……难道是想说“You’re the apple of my eyes”?

现在你大概已经知道Fooocus的玩法了,那么又该怎么配置呢?

如果你有带英伟达显卡的Windows设备,那么可以用开箱即用的版本。(大概这已经是老黄第114514次赢麻了)

同时,硬件需要满足最低配置要求——4GB显存+8GB内存。

先从这里直接下载:
https://github.com/lllyasviel/Fooocus/releases/download/release/Fooocus_win64_1-1-10.7z

解压好之后,双击run.bat运行,系统会自动下载模型并部署,等配置完成就可以用了。

Linux版本的配置要求和Windows一样,不过配置流程要复杂些。

(如果有Jupyter,也可以参考Colab中用到的note文件)

首先要安装好环境依赖:

git clone https://github.com/lllyasviel/Fooocus.git
cd Fooocus
conda env create -f environment.yaml
conda activate fooocus
pip install -r requirements_versions.txt

然后下载模型文件,存储到指定目录:

具体请参见GitHub页面

当然,也可以让系统自动下载模型:

python launch.py

如果你在用Mac,或者硬件配置不满足要求,也可以用Colab直接运行。

(传送门:https://colab.research.google.com/github/lllyasviel/Fooocus/blob/main/colab.ipynb)

不过,还是要吐槽的是,Colab版本会时不时宕几次机,不是自动停止就是内存溢出……

如果想在Mac或A卡电脑上更丝滑地运行Fooocus,可以再等等作者的更新。

整体来看,Fooocus的出图效果不错,如果提示词选择好的话,甚至可以当Stable Diffusion来用,关键是硬件配置要求也不高。

这究竟是怎么实现的?

来自ControlNet作者最新项目

架构设计上,Fooocus主要分为两部分:交互界面和AI模型。

其中,交互界面参考了两个项目,分别是stable-diffusion-webui和ComfyUI。

stable-diffusion-webui主要是交互界面的前端设计:

ComfyUI则兼具Stable Diffusion的GUI和后端设计:

至于AI模型,能看出是用了Stable Diffusion新的SDXL模型:

这是也目前Stable Diffusion最好用的版本之一,生成效果相比之前的1.5版本有不少改进。

不过,虽然Fooocus的模型和UI设计都有参考现成Stable Diffusion开源项目,但作者在制作时,融入了不少自己的优化设计,使得模型跑起来更加丝滑。

例如,作者仔细在Fooocus中采用了自己设计的k扩散采样(advanced k-diffusion sampling)方法,能提升采样连续性,减少性能损失、提升采样效率;

此外,作者还仔细调整了采样器(Sampler)的参数,并在原版基础上修改增加了一些包括电影风格在内的新设定。

之所以给Fooocus加上LoRA选项,是因为作者测试发现,加上LoRA(权重设置小于0.5)的SDXL模型,效果几乎总是比不加LoRA的SDXL模型更好。

开发出Fooocus这个项目的作者名叫Lvmin Zhang,2021年本科毕业于东吴大学,目前在斯坦福大学读博。

他做过的几个项目,包括ControlNet和style2paints在内,几乎个个都爆火:

现在,最新的这个项目Fooocus,看起来同样很受欢迎。

在社交媒体上,已经有网友自发整出了Fooocus版不同风格的提示词合集Excel。

如果不知道生成什么样的图片,参考这个文档内的提示词就行:

你想好要用Fooocus生成什么样的图像了吗?

项目地址:
https://github.com/lllyasviel/Fooocus

参考链接:
[1]https://twitter.com/lvminzhang/status/1690118840326524928

[2]提示词合集:https://docs.google.com/spreadsheets/d/1AF5bd-fALxlu0lguZQiQVn1yZwxUiBJGyh2eyJJWl74/edit
[3]https://twitter.com/narrativenavi/status/1691235126045552645
[4]https://twitter.com/kiyoshi_shin

「量子位智库·仿生机器人沙龙」招募中

9月6日,「量子位智库·仿生机器人沙龙」将在北京中关村举办,欢迎全行业仿生机器人玩家参与 ~

点击图片了解详情,企业报名可联系活动负责人王琳玉(微信:iris_wang17,请备注企业+姓名)。沙龙观众通道后续开放,敬请期待 ~


点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
ICCV2023奖项出炉!斯坦福ControlNet和多伦多大学分别获得最佳论文!Segment Anything最佳提名大模型中的「罗翔老师」!北大兔展联合团队搞出ChatLaw,发布即登顶热榜,可提供法律咨询AI在玩一种很新的艺术,700万网友在线围观,ControlNet又立功了只需1%参数,效果超越ControlNet,新AI绘画控制大师来袭英伟达正准备推出具有 94GB 和 64GB 显存的 H100 Hopper 加速卡谁动了我的显存?——深度学习训练过程显存占用分析及优化狂揽13k star,开源版代码解释器登顶GitHub热榜,可本地运行、可访问互联网Xbox Series X 1TB Console with controller 5101 血壮山河之武汉会战 浴血田家镇 9Microsoft Surface Pro 3 i5-4gen/4g/128GB with keyboardGitHub热榜登顶:开源版GPT-4代码解释器,可安装任意Python库,本地终端运行斯坦福博士一己之力让Attention提速9倍!FlashAttention燃爆显存,Transformer上下文长度史诗级提升ControlNet、「分割一切」等热门论文获奖,ICCV 2023论文奖项公布For This Rural County, Internet Fame Is About More Than Money雨夜賞燈記《走过百年》&《漫天樱花飞》Like new PlayStation 4 Pro white 1 TB with one controller 贾佳亚韩松团队新作:两行代码让大模型上下文窗口倍增 | GitHub热榜阿里开源了一个新东西,上GitHub热榜了!开源论文神器DocsGPT登顶GitHub热榜!多类型文档查询,支持中文可本地部署 | 狂揽8000+星使用LLM构建AI Agents的正确姿势!ChatGPT作者博客全面总结nǚ hóng?nǚ gōng爆火「视频版ControlNet」开源了!靠提示词精准换画风,全华人团队出品第四章 三民主义救中国 (1)iPad mini 5th-gen Wi-Fi rose gold 64gb with case protector AI新风口?首个高质量「文生视频」模型Zeroscope引发开源大战:最低8G显存可跑ICCV 2023 中国遥遥领先!华人拿下最佳论文和最佳学生论文!SAM和ControlNet开启CV新纪元!让Attention提速9倍!FlashAttention燃爆显存,Transformer上下文长度史诗级提升推理效率比ControlNet高20+倍!谷歌发布MediaPipe Diffusion插件,「移动端」可用的图像生成控制模型ICCV'23论文颁奖“神仙打架”!Meta分割一切和ControlNet共同入选,还有一篇让评委们很惊讶台湾剧《造浪者》阿里开源了一个新东西,上 GitHub 热榜了!澳洲Coles纸袋遭吐槽!众多网友抱怨:一次就破!Coles这样回应…12页线性代数笔记登GitHub热榜,还获得了Gilbert Strang大神亲笔题词“互联网”要写成the Internet还是the internet?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。