港科大开源LMFlow！3090单卡5小时，每个人都能训练专属ChatGPT

项目地址：

lmflow.com 地址：

现在，LMFlow 迈出了这个方向的第一步。通常，ChatGPT 的训练包括至少以下几个步骤：pretrain → supervised tuning → instruction tuning → alignment。LMFlow 库利用现有的开源大模型，支持这套流程的所有环节和灵活组合。这意味着 LMFlow 库为我们建立了一条通向完整训练链的桥梁。

使用体验

据作者介绍，LMFlow 拥有四大特性：可扩展、轻量级、定制化和完全开源。基于此，用户可以很快地训练自己的模型并继续进行二次迭代。这些模型不仅限于最近流行的 LLaMA，也包括 GPT-2、Galactica 等模型。

前面我们已经提到：基于该开源库，用户只需使用单卡 3090，就能对 LLaMA-7b 模型进行微调，用时 5 个小时训练得到一个能够流畅对话的问答模型。进一步，如果使用更多资源对更大的 LLaMA-33b 模型进行微调，即可大大提升回答的质量！ 

不仅如此，在特定的专家领域（以医疗为例），只需微调 6 个 A100 * 天，就能够获得和 ChatGPT 相当甚至更好的效果。值得注意的是，ChatGPT 则具有 1750 亿的参数量，而这里性能相当的最小模型规模只有不到二十分之一，大大节约计算资源。

接下来是真正的上手实验。使用 conda 安装必要的依赖后，即可上手体验。

git clone https://github.com/OptimalScale/LMFlow.gitcd LMFlowconda create -n lmflow python=3.9 -yconda activate lmflowconda install mpi4pypip install -e .

cd databash download.sh allcd -

准备好了数据集之后，接下来就是模型训练。训练过程也大大简化，普通用户只需要执行一次 bash 脚本，即可轻松完成（非常适合小白入坑）。作者们还开放了训练好的模型下载，如果你不想自己训练模型，可以下载作者提供的 checkpoint 并进行推理。

cd output_modelsbash download.sh medical_ckptcd -

在此基础上，作者们还提供了基于 huggingface 模型或本地 checkpoint 的问答机器人脚本。一键运行即可与你训练的模型开始对话：

参考文献

[1] Ouyang, Long, et al. "Training language models to follow instructions with human feedback." Advances in Neural Information Processing Systems 35 (2022): 27730-27744.

#投 稿 通 道#

 让你的文字被更多人看到 

如何才能让更多的优质内容以更短路径到达读者群体，缩短读者寻找优质内容的成本呢？答案就是：你不认识的人。

总有一些你不认识的人，知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁，促使不同背景、不同方向的学者和学术灵感相互碰撞，迸发出更多的可能性。 

PaperWeekly 鼓励高校实验室或个人，在我们的平台上分享各类优质内容，可以是最新论文解读，也可以是学术热点剖析、科研心得或竞赛经验讲解等。我们的目的只有一个，让知识真正流动起来。

📝 稿件基本要求：

• 文章确系个人原创作品，未曾在公开渠道发表，如为其他平台已发表或待发表的文章，请明确标注 

• 稿件建议以 markdown 格式撰写，文中配图以附件形式发送，要求图片清晰，无版权问题

• PaperWeekly 尊重原作者署名权，并将为每篇被采纳的原创首发稿件，提供业内具有竞争力稿酬，具体依据文章阅读量和文章质量阶梯制结算

📬 投稿通道：

• 投稿邮箱：[email protected] 

• 来稿请备注即时联系方式（微信），以便我们在稿件选用的第一时间联系作者

• 您也可以直接添加小编微信（pwbot02）快速投稿，备注：姓名-投稿

△长按添加PaperWeekly小编

🔍

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧