Redian新闻
>
一文详解Prompt学习和微调(Prompt Learning & Prompt Tuning)

一文详解Prompt学习和微调(Prompt Learning & Prompt Tuning)

公众号新闻

©作者 | 张建伟

单位 | 浙江大学

研究方向 | 小样本学习、图像分割


Self-Attention 和 Transformer 自从问世就成为了自然语言处理领域的新星。得益于全局的注意力机制和并行化的训练,基于 Transformer 的自然语言模型能够方便的编码长距离依赖关系,同时在大规模自然语言数据集上并行训练成为可能。但由于自然语言任务种类繁多,且任务之间的差别不太大,所以为每个任务单独微调一份大模型很不划算。

在 CV 中,不同的图像识别任务往往也需要微调整个大模型,也显得不够经济。Prompt Learning 的提出给这个问题提供了一个很好的方向。

本文关于 NLP 的部分主要参考综述 [1]



NLP 模型的发展


过去许多机器学习方法是基于全监督学习(fully supervised learning)的。

由于监督学习需要大量的数据学习性能优异的模型,而在 NLP 中大规模训练数据(指为特定任务而标注好的数据)是不足的,因此在深度学习出现之前研究者通常聚焦于特征工程(feature engineering),即利用领域知识从数据中提取好的特征;

在深度学习出现之后, 由于特征可以从数据中习得,因此研究者转向了结构工程(architecture engineering),即通过通过设计一个合适的网络结构来把归纳偏置(inductive bias)引入模型中,从而有利于学习好的特征。

在 2017-2019 年,NLP 模型开始转向一个新的模式(BERT),即预训练 + 微调(pre-train and fine-tune)。在这个模式中, 先用一个固定的结构预训练一个语言模型(language model, LM)预训练的方式就是让模型补全上下文(比如完形填空)。

由于预训练不需要专家知识,因此可以在网络上搜集的大规模文本上直接进行训练。然后这个 LM 通过引入额外的参数或微调来适应到下游任务上。此时研究者转向了目标工程(objective engineering),即为预训练任务和微调任务设计更好的目标函数。



Prompt Learning


2.1 什么是 Prompt?


在做 objective engineering 的过程中,研究者发现让下游任务的目标与预训练的目标对齐是有好的。因此下游任务通过引入文本提示符(textual prompt),把原来的任务目标重构为与预训练模型一致的填空题。

比如一个输入 “I missed the bus today.” 的重构:

情感预测任务。输入:“I missed the bus today. I felt so___.” 其中 “I felt so” 就是提示词(prompt),然后使用 LM 用一个表示情感的词填空。

 翻译任务。输入:“English: I missed the bus today. French: ___.” 其中 “English:” 和 “French:” 就是提示词,然后使用 LM 应该再空位填入相应的法语句子。

我们发现用不同的 prompt 加到相同的输入上,就能实现不同的任务,从而使得下游任务可以很好的对齐到预训练任务上,实现更好的预测效果。

后来研究者发现,在同一个任务上使用不同的 prompt,预测效果也会有显著差异,因此现在有许多研究开始聚焦于 prompt engineering。

2.2 有哪些预训练模型?


● Left-to-Right LM: GPT, GPT-2, GPT-3
● Masked LM: BERT, RoBERTa
● Prefix LM: UniLM1, UniLM2
● Encoder-Decoder: T5, MASS, BART

2.3 有哪些Prompt Learning的方法?

● 按照 prompt 的形状划分:完形填空式,前缀式。

● 按照人的参与与否:人工设计的,自动的(离散的,连续的)

▲ 人工设计的 Prompt



Prompt Tuning


3.1 Fine-tune的策略


在下游任务上微调大规模预训练模型已经成为大量 NLP 和 CV 任务常用的训练模式。然而,随着模型尺寸和任务数量越来越多,微调整个模型的方法会储存每个微调任务的模型副本, 消耗大量的储存空间。尤其是在边缘设备上存储空间和网络速度有限的情况下,共享参数就变得尤为重要。

一个比较直接的共享参数的方法是只微调部分参数,或者向预训练模型中加入少量额外的参数。比如,对于分类任务:

Linear:只微调分类器 (一个线性层), 冻结整个骨干网络。

● Partial-k:只微调骨干网络最后的 k 层, 冻结其他层 [2][3]

● MLP-k:增加一个 k 层的 MLP 作为分类器。

● Side-tuning [4]:训练一个 “side” 网络,然后融合预训练特征和 “side” 网络的特征后输入分类器。

● Bias:只微调预训练网络的 bias 参数 [5][6]

● Adapter [7]:通过残差结构,把额外的 MLP 模块插入 Transformer。

近年来,Transformer 模型在 NLP 和 CV 上大放异彩。基于 Transformer 的模型在大量 CV 任务上已经比肩甚至超过基于卷积的模型。

Transformer 与 ConvNet 比较:Transformer 相比于 ConvNet 的一个显著的特点是:它们在对于空间(时间)维度的操作是不同的。

● ConvNet:卷积核在空间维度上执行卷积操作,因此空间内不同位置的特征通过卷积(可学习的)操作融合信息, 且只在局部区域融合。

● Transformer:空间(时间)维度内不同位置的特征通过 Attention(非学习的)操作融合信息,且在全局上融合。

Transformer 在特征融合时非学习的策略使得其很容易的通过增加额外的 feature 来扩展模型。


3.2 NLP中基于Prompt的fine-tune


● Prefix-Tuning

● Prompt-Tuning

● P-Tuning

● P-Tuning-v2


3.3 CV中基于Prompt的fine-tuning


3.3.1 分类


Visual Prompt Tuning [8]

▲ Visual Prompt Tuning

● VPT-Shallow


● VPT-Deep

▲ VPT Results


3.3.2 持续学习


Learning to Prompt for Continue Learning [9]

引入一个 prompt pool,对每个 input,从 pool 中取出与其最近的 N 个 prompts 加入 image tokens。input 和 prompts 距离的度量通过计算 input feature 和每个 prompt 的 key 的距离来得到,这些 key 通过梯度随分类目标一起优化。

▲ L2P


注意,最后使用 prompt 来分类。


3.3.3 多模态模型


Vision-Language Model: Context Optimization (CoOp) [10]

多模态学习的预训练模型。比如 CLIP,通过对比学习对齐文本和图像的特征空间。

▲ CLIP

选择不同的文本 prompt 对于精度影响较大。


▲ Prompt engineering vs Context Optimization (CoOp)

把人工设定的 prompt 替换为 learnable 的 prompt:

[CLASS] 放在后面:


● [CLASS] 放在中间:


Prompt 可以在不同类之间公用,也可以为每个类使用不同的 prompts(对于细粒度分类任务更有效)。

▲ Learning to Prompt for Vision-Language Model

▲ Learning to Prompt for Vision-Language Model

Conditional Prompt Learning for Vision-Language Models [11]

CoOp 在泛化到新的类别上时性能不好。

▲ To learn generalizable prompts

所以把 prompt 设计为 instance-conditional 的。

▲ To learn generalizable prompts

为 prompt 加上一个跟当前图像相关的特征以提高泛化性能。具体来说,先用 Image Encoder 计算当前图像的 feature,然后通过一个 Meta-Net 把 feature 映射到 prompt 的特征空间,加到 prompt 上面。

▲ To learn generalizable prompts


3.3.4 域适应


Domain Adaptation via Prompt Learning [12]

用 prompt 来标识 domain 的信息。

▲ Example prompt structure

通过对比学习解耦 representation 中的 class 和 domain 的表示。

▲ Domain Adaptation with Prompt Learning


参考文献

[1] Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing. Pengfei Liu, Weizhe Yuan, Jinlan Fu, Zhengbao Jiang, Hiroaki Hayashi, Graham Neubig. In arXiv 2021 https://arxiv.org/abs/2107.13586
[2] How transferable are features in deep neural networks? Jason Yosinski, Jeff Clune, Yoshua Bengio, Hod Lipson. In NeruIPS 2014 https://proceedings.neurips.cc/paper/2014/hash/375c71349b295fbe2dcdca9206f20a06-Abstract.html
[3] Masked autoencoders are scalable vision learners. Kaiming He, Xinlei Chen, Saining Xie, Yanghao Li, Piotr Dollár, Ross Girshick. In arXiv 2021 https://arxiv.org/abs/2111.06377
[4] Side-tuning: a baseline for network adaptation via additive side networks. Jeffrey O. Zhang, Alexander Sax, Amir Zamir, Leonidas Guibas, Jitendra Malik. In ECCV 2020 https://link.springer.com/chapter/10.1007/978-3-030-58580-8_41
[5] Bitfit: Simple parameter-efficient fine-tuning for transformer-based masked language-models.Elad Ben Zaken, Shauli Ravfogel, Yoav Goldberg. In ACL 2022 https://arxiv.org/abs/2106.10199
[6] TinyTL: Reduce memory, not parameters for efficient on-device learning. Han Cai, Chuang Gan, Ligeng Zhu, Song Han. In NeurIPS 2020 https://proceedings.neurips.cc/paper/2020/hash/81f7acabd411274fcf65ce2070ed568a-Abstract.html
[7] Parameter-efficient transfer learning for nlp. Neil Houlsby, Andrei Giurgiu, Stanislaw Jastrzebski, Bruna Morrone, Quentin De Laroussilhe, Andrea Gesmundo, Mona Attariyan, Sylvain Gelly. In ICML 2019 http://proceedings.mlr.press/v97/houlsby19a.html
[8] Visual Prompt Tuning. Menglin Jia, Luming Tang, Bor-Chun Chen, Claire Cardie, Serge Belongie, Bharath Hariharan, Ser-Nam Lim. In arXiv 2022 https://arxiv.org/abs/2203.12119
[9] Learning to Prompt for Continual Learning. Zifeng Wang, Zizhao Zhang, Chen-Yu Lee, Han Zhang, Ruoxi Sun, Xiaoqi Ren, Guolong Su, Vincent Perot, Jennifer Dy, Tomas Pfister. In CVPR 2022 https://arxiv.org/abs/2112.08654
[10] Learning to Prompt for Vision-Language Models. Kaiyang Zhou, Jingkang Yang, Chen Change Loy, Ziwei Liu. In arXiv 2021 https://arxiv.org/abs/2109.01134
[11] Conditional Prompt Learning for Vision-Language Models. Kaiyang Zhou, Jingkang Yang, Chen Change Loy, Ziwei Liu. In CVPR 2022 https://arxiv.org/abs/2203.05557
[12] Domain Adaptation via Prompt Learning. Chunjiang Ge, Rui Huang, Mixue Xie, Zihang Lai, Shiji Song, Shuang Li, Gao Huang. In arXiv 2022 https://arxiv.org/abs/2202.06687


更多阅读



#投 稿 通 道#

 让你的文字被更多人看到 



如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。


总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。 


PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析科研心得竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。


📝 稿件基本要求:

• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注 

• 稿件建议以 markdown 格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题

• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算


📬 投稿通道:

• 投稿邮箱:[email protected] 

• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者

• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿


△长按添加PaperWeekly小编



🔍


现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧


·
·

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
清北微软深挖GPT,把上下文学习整明白了!和微调基本一致,只是参数没变而已天赋“易昺(bǐng)”,创造历史!一文梳理缺陷检测的深度学习和传统方法我们搞了个GPT学习计划,带你一起学习,速来中美航班增加无望?现在办理赴华签证,需提供哪些材料?一文详解Prompt Engineer也保不住工作了!Midjourney发布图片生成Prompt功能“Describe”中美航班增加无望?赴华签证办理须知,一文详解540亿美元能“救活”瑞信吗?会否引发“雷曼危机2.0”?一文详解仍存后患的瑞信Prompt Engineering全面自动化:LeCun看了沉默,ChatGPT看了直呼内行一文详解缺陷检测的传统算法与深度学习算法(内附16篇前沿论文)【君在我心】之【云深情也深 】& 【今夜想起你 】& 【爱在我心中】Far From Home: Meet the Migrants Returning to Shanghai新版澳洲护照亮相!都有哪些变化?一文详解!一文详解 Ansible 自动化运维,提升工作效率!Prompt Tuning已经全面超越 Fine Tuning了?不动产统一登记都登记什么?有何影响?一文详解Prompt Tuning比Fine-tuning在哪些场景下表现更好?ClickPrompt:一站式 Prompt 学习、设计与运行工具(开源),支持 ChatGPT 等想给孩子学machine learning 。去哪里找in person的class呢?坐标nj一文详解医学图像最新研究方向!Agustín Hernández:中美洲建筑背景下的未来主义巨构一文详解!带你真正看懂“长空之王”红豆年糕2023年,Prompt Tuning是否已全面超越Fine-Tuning?美国普林斯顿大学,校园印象【美国春天母亲节5原创钢琴三部曲 “粉衣蓝裙”不表白庆六一艺术节】《美丽夏天温柔的雨》&《爱的童话》&《雷雨之后》一文详解财政部处罚德勤、华融,释放什么信号?生活在佛州,你得学好西班牙语"𝙇𝙚𝙖𝙙 𝙏𝙝𝙚 𝘾𝙝𝙖𝙧𝙜𝙚"广告#创译挑战蟹粉鲜肉馅、芝麻馅、榴莲馅……小布去看(chang)了看(chang)这些上海老字号汤圆,你最爱哪一款?孩子想学machine learning 和人工智能,大家有好的老师或培训学校推荐吗?【美国春天母亲节献礼4女高音三部曲 舞台艺术节255】春天原创现场舞台:《妈妈是天使》&《游子吟:三春晖》&《春天摇篮》GPT-3解数学题准确率升至92.5%!微软提出MathPrompter,无需微调即可打造「理科」语言模型五万字综述!Prompt Tuning:深度解读一种新的微调范式一文掌握prompt learning~是“大辞职(Great Job-quitting)”还是“大跳槽(Great Job-hopping)”?卡麦尔的警察和二手店一文详解网络安全事件的防护与响应!SQL能完成哪方面的计算?一文详解关系代数和SQL语法2015千人计划变2023千屏突破了
联系我们隐私协议©2023 redian.news
Redian新闻 · 海外热点 · 尽在指尖
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。