刘鹏飞老师认为NLP目前为止经历了四个阶段(范式)：
完全监督机器学习
完全监督深度学习
预训练模型微调： 预训练->微调->预测
Prompt提示学习：预训练->提示->预测
在阶段①中，我认为work的本质是特征，即特征的选取、衍生、侧重上的针对性工程。而在阶段②中更多的是对数据集与结构的抽象化构建，无论是使用Conv还是Attention，大家总能讲出来为什么work的好故事。阶段③中的本质就是无监督方法了，无论是像BERT一样构建MLM/NSP，还是各种变体(PLM，DAE)也都是在如何更好的训练预训练模型这一问题上下足了功夫。
在阶段④中，Prompt真正的不同是把焦点放在了让下游任务来适应语言模型，而不是上述三个阶段中的魔改语言模型来适应下游任务的变化。至于为什么这么做？我想可能有以下两点原因：
- 语言模型越大 = 微调难度越大
- 相信语言模型具有独立解决NLP问题的能力
其实第一点没什么好解释的，预训练模型越大，所需要的预训练预料也就越大，参数也就越多。如果微调时没有足够的数据，也就没有办法达到一个好的Fine-tuning效果。第二点也很好理解，预训练语言模型的知识相当丰富，没有必要为了利用它而去进行重构。
1. 讲讲Prompt方法
我们来先看一看什么是Prompt，在正常的预训练模型中，微调是这样的
Cheese in French is 【MASK】
而在Prompt Tuning中，将预训练模型直接拿过来用，将任务转化为这样的形式
Translate English to French: /* task description */
cheese => ___ /* prompt */
上述这个例子是一个zero-shot learning，我们再来看看one-shot learning：
Translate English to French: /* task description */
sea otter => loutre de mer /* example */
cheese => ___ /* prompt */
在硬件耗材和语料规模上两者的差距是显而易见的，而Prompt方法的性能随着LM的增大而增强，理论上LM是可以表现出无限学习的趋势(超大规模语料加超大规模参数)，所以Prompt展现的方法提供了更强大的限定域与相关性。总结一下Prompt的范式为：
自然语言指令(task description) + 任务demo(example) + 带__的任务
而其中，自然语言指令与任务demo都是非必要存在的，当然了，信息越少效果越差，总不能把所有的宝都压在别人训练的模型上。
2. Prompt Engineering构建
2.1 Prompt Shape
简单来说，Cloze Prompt和Prefix Pompt分别对应Prompt在句中还是句末。这个一般根据预训练模型来选择：
- 需要用自回归语言模型解决的生成任务，Prefix Pompt往往更好，因为它符合模型从左到右的特点
- 需要用自编码语言模型解决的掩码任务，Cloze Prompt往往更好，因为它和预训练任务的形式非常匹配
2.2 Manual Template Engineering
手动编写，懂的都懂，需要计算机实验、语言学理论、模型逻辑等方面的专业知识作为指导
2.3 Automated Template Learning
2.3.1 硬提示/离散提示(Hard Prompt/Discrete Prompt)
如上述例子一样，硬提示即搜索空间是离散的。一般需要算法工程师在下游任务上具备非常丰富的经验以及了解原预训练模型的底层概念，一般硬提示的准确率会不及Fine-tuning的SOTA，而且不同的Prompt对模型的影响非常大，像是提示的长度提示词汇的位置等等，一点Prompt的微小差别，可能会造成效果的巨大差异。
所以我们要做的就是两件事：
- 设计一个合适的提示模板，创造一个完形填空的题目
- 设计一个合适的填空答案，创造一个完型填空的选项
具体有以下这么几种方式：
- Prompt Mining：从大的语料库中进行挖掘(一般是挖掘输入与输出之间的高频词作为模板构建元素)
- Prompt Paraphrasing：参考文本数据增强方法，可以做seed Prompt的同义词替换，跨语种翻译等
- Gradient-based Search：从候选词中选择一些词作为Prompt并参与训练，根据梯度下降对选择词重新排列组合
- Prompt Generation：通过文本生成模型直接生成一个Prompt
- Prompt Scoring：根据语言模型对所有候选Prompt打分，选择一个对高分的Prompt使用
总而言之，上述Hard Prompt方法还是会输出一个叫能被人类理解的句子，为了不拘泥于人类的直观理解(机器也未必会理解)，还有一些方法可以构建连续性的向量作为Prompt
2.3.2 软提示/连续提示(Continuous prompt / Soft prompt)
因为硬提示的相对不稳定性(过多融入语言符号)，软提示概念即将Prompt的生成作为模型的一个任务来学习，也就是将上述确定性的自然语言转化为机器进行自我搜索的过程。
-
Prefix-tuning：在输出前加上一串连续的向量(前缀prefix)，保持PLM参数不变，仅训练该向量。从数学上讲，这包括在给定可训练前缀矩阵
和由
参数化的固定PLM的情况下，对以下对数似然目标进行优化:
是时间步长
处所有神经网络层的串联。如果相应的时间步长在前缀内(
是
)，则直接从
- Tuning Initialized with Discrete Prompts：即先找到一个Hard Prompt，然后再基于该模板初始化Prompt的token，最后微调这些特殊token的embedding，较为简单
- Hard-Soft Prompt Hybrid Tuning：在手工模板中添加一些可学习的embedding，作为结合
- P-turning：在3的基础上，通过BiLSTM的输出来表示Promptembedding，以便让Prompt内部产生一定程度的交互
