Prompt Tuning比Fine-tuning在哪些场景下表现更好?
最近几年,自然语言处理领域的研究飞速发展。特别是自2020年后,在NLP相关顶会上出现了一些原理简单、实现容易、理论清晰、效果惊人的方法论,例如,对比学习,提示学习等。这些方法论在诸如情感分析、文本蕴含、句子表征、知识图谱等下游任务上已经取得了令人瞩目的成绩。
本质上说,prompt是一种激发语言模型中知识的手段。随着prompting技术的大火,有越来越多的研究者在思考,Prompt(除了让这个方向的研究越来越卷)还能带来什么?
与此相类似的,对比学习在自然语言中备受关注。它使用成对的训练数据增强为具有良好的表示能力的编码器构建分类任务。也可能是因为对比学习研究的持续热度,2202年以来文本表示方向突然就卷起来了,SOTA刷的嗖嗖的,卑微的科研er表示,上一个工作才开始熟悉,新的SOTA就狠狠砸过来……
好,你厉害,我读还不行吗。
作为近年来NLP最火的方向之一,prompt吸引了足够多的关注。纵观今年各大顶会上的最新论文,我们可以观察到对比学习出现的频率明显增高,并且各种改进也层出不穷,一句话就是,开始卷起来了!
扫码领prompt必读论文合集
NLP发展至今,已经延伸出很多的子方向、子领域,单单从顶会论文的收录情况来看,很难不让人有这样的疑惑:感觉所有方向都有人做过了,好不容易有了一个idea,上网一搜,早已有人用来发了论文。
对于已然入坑的NLPer,怎么样才能高效做科研发论文抢占idea?
想要快速发论文有两点至关重要。
1.紧跟风口。
想发文章最容易的方法就是紧跟风口,顺着领域内的研究趋势确定自己的方向,毕竟在热门领域内,创新点和idea远比其他非热门领域多。
2.有一位有经验有能力的前辈指导。
大家都在努力的设计新网络、新策略、新training算法,只要能够在某一问题上做到一个很好的performance,论文就水到渠成。而想要快速达到,来自前辈的指点不可或缺。
所以,要解决的问题就是:
1.找到风口。
2.找到领域内的大神做导师。
扫码获取最新大咖公开课地址
获得大咖一对一指导机会
领取最新论文合集
创新点和idea不可能凭空生成,好的performance也绝不可能一蹴而就。
都说SCI论文只有0篇和无数篇的区别,这句话告诉我们,其实做科研写论文也是有方法有套路可循,掌握了窍门,后面的路才会走得通畅。
但是作为一个小白,还在“蹒跚学步”阶段,怎么去掌握窍门?来自前辈的指点必不可少。
一个好的指导老师的作用是,没有课题,能够结合所在课题组具体情况,结合最近热门研究方向,帮你规划课题,如果有了课题而缺少创新方向,老师能够快速帮你找到几种切入点,几种框架,甚至连需要读哪些文献都帮你想好了......
获取学术大咖的科研指导
赠送顶会论文资料包
(文末免费领取福利)
同时向大家推荐一个prompt科研小班。由沃恩智慧金牌导师,毕业于哈工大的Kimi博士指导。
滑动查看课程介绍
Kimi老师复现代码精彩片段↓
心动了就赶紧扫码预约吧~
ps:感兴趣的同学,可以联系老师免费领取一节代码复现课程(包含各个方向)~
作为日常为了论文而忙碌的科研人,小编知道大家一定很需要一些资料。因此,小编精心整理了一份超过1T的AI顶会论文大礼包!包含最新顶会论文、书籍等资料,以及英文论文写作指导保姆级资料,从文献阅读到论文写作,全部帮你整理好~
扫码免费领课程资料↑
-END-
微信扫码关注该文公众号作者