前言

首先强调一下，在看这篇文章之前，建议去看一下我之前写的：GPT-1原理-Improving Language Understanding by Generative Pre-Training

因为GPT-2是GPT-1的延续，所以接下来我介绍的内容都是假设你看过或者了解过GPT-1。
那么我们先来提前总结一下GPT2的内容，其实GPT-2只做了3点：

1. 在更大的模型上进行效果验证；
2. 在更大的数据集上进行模型训练和验证；
3. 改进了输入的有损编码情况

  其实本质上GPT-2就是对GPT-1的缺点进行改进、对优点进行放大、为之前的实验结果找到一个自洽的解释。所以这篇论文的介绍本身也不会太多。但是值得一看，因为它对未来的训练范式具有指导意义。

GPT-1优缺点回顾

既然GPT-2是对1的一个改进，那下面就先把我在GPT-1时候的一些总结照抄过来，当做参考。

GPT-1实验结果分析

1. 增加transformer的decoder层数，会对NLI的理解任务有提升。
2. 零样本能力：预训练好后的模型本身不需要微调，就具有了一定的NLI解决能力。
   关于第1条的结论应该属于顺理成章，而关于第2点，文章作者最开始的本意可能只是想在预训练阶段让模型学到一些词级别或者是短语级别的能力，诸如word2vec能力，而训练完之后，却发现，这个预训练的模型不仅仅具有简单的词embedding的能力，居然就已经有一些能够解决具体NLI任务的基础能力，只是效果不一定好。这应该是属于意外之喜。

GPT-1缺陷分析

1. 微调阶段，是需要根据不同的NLI任务，添加不同的任务头，这其实和Bert那一套是很像的，可以想象Bert很大概率是借鉴了GPT-1的。好了话说回来，这种添加任务头的形式，无形中是改变了原有的模型的。这可以说是一个缺点吧，因为OpenAI的追求是在不改变模型的情况下得到一个通才。
2. 在训练参数这一节提到，在文本输出的时候，是按照词级别进行输入的，这种有一个很大的缺点，如果有些单词没见过，那如何进行编码呢？当然可以有一些平滑处理的手段，但是这确实是一个现存的问题所在，而在minGPT中，则是用了字符级的输入，就是把单词中的字母一个一个的进行编码输入。这虽然解决了问题，但是这个计算量就很大了。所以才有了后来的字节级的编码，诸如bpe，wordpiece等。

GPT-2

训练数据

OpenAI的野心

首先我们从数据开始说起，然而训练数据的选定并不是这么简单，至少要自洽是不那么容易的，它牵扯到的问题很多，下面我们开始分析一下。

首先在GPT-1时期OpenAI就提出，当下的流行的这种有监督学习的形式，属于狭窄专家范畴，它只能解决单一的任务。而OpenAI的目标是希望探索出一个通用的可以完成多任务的模型。

但是在GPT-1中并没有做到一点，至少说是做得不彻底，因为在GPT-1中分为了两个阶段的训练：

1. 预训练：这个阶段主要是在大量未标注数据上进行无监督任务的学习；
2. 微调训练：这个阶段主要是在具体NLI任务上已标注好的数据上进行有监督学习；

在微调阶段，模型是需要更改的，它需要根据具体的NLI任务来添加不同的任务头，诸如情感分类任务，是需要在预训练的模型上加入一个二分类头，然后进行微调。这对于预训练阶段的模型来说，其实已经算是一个新模型了，因为一定程度上更改了模型的结构。这就是GPT-1的缺陷分析的第1点。

预训练/微调的训练范式

上一小节介绍了GPT-1在微调阶段其实是更改了模型的（根据不同的NLI任务添加任务头），这显然没有彻底满足OpenAI的野心，OpenAI希望找到一个通用的可以完成多任务的模型。

那他们该如何解决这个问题呢？其实这就归结到你的训练目标上，如果你的训练目标是一样的，那自然这个训练的方式就不用变，模型也不用变。我稍微举一个例子，如果你预训练阶段的训练目标是一个二分类，而你的微调阶段的目标也是二分类，自然模型自始至终都不用修改了，这很直觉的。那我们就要想想预训练阶段的训练目标是什么？微调阶段的训练目标是什么？他们能不能统一呢？

预训练的训练范式

我们来看一下，其实预训练阶段是可以抽象出一个通用的抽象表达的：利用输入来预测输出。

P(output | input)

而在预训练阶段，input就是之前出现的词，而output就是要预测的下一个词，以我在GPT-1中的例子来说：“你是一个打不死的码农”为例，先构建输入和输出

特征（feature）	标签（label）
你	是
你是	一
你是一	个
你是一个	打
你是一个打	不
你是一个打不	死
。。。	。。。

左侧的特征（feature）就是每一次输入到模型的input，而右边的标签（label）就是模型预测的output。当然输入的input每一次都会被padding到同一个长度，保证输入维度一样。

微调的训练范式

同样的，在微调阶段，他的训练范式是什么样子的呢？

同样的我们以GPT-1中的情感分类举例子：

特征（feature）	标签（label）
你真的狗阿	负面
小明的表现还是很不错的	负面
。。。	。。。

单从这个例子来看，其实是可以满足像预训练这样的训练范式的：

P(output | input)

左侧的特征（feature）就是每一次输入到模型的input，而右边的标签（label）就是模型预测的output。

但是你要时刻记住OpenAI的野心：通用多任务模型，这里的核心就是**通用多任务。**当从上面的单一的情感分类来看，训练范式其实已经和预训练阶段得到了统一，但是其他的任务呢？我现在来举一个例子：文本蕴含和文本问答

文本蕴含的意思就是判断一个句子是不是包含在另一个句子中，是一个二分类问题

摘要提取的意思随从一段文本中提取一小段文本，举个例子

句子1(feature1)	句子2(feature2)	标签（label）
我是一个练习三年半的码农，但是干了这么多年，我还是一事无成	我一事无成	包含

文本问答的意思是给一段文本和给一个问题，根据文本来回答问题，举个例子

句子1(feature1)	句子2(feature2)	标签（label）
我是一个练习三年半的码农，但是干了这么多年，我还是一事无成	你是设么职业？	码农

如果还是按照预训练的训练范式做训练的话，就不可行了，因为输入都是要两段连续文本。如果不做区分，我根本不知道你要我做文本蕴含任务还是文本问答。

那该如何弄呢？或许可以添加一个条件,给模型一个不同任务的区分。

P(output | input，task)

但是这有一个问题了，多了一个task，现在就要看一下，是否可以将这个有条件的微调范式和预训练的范式做一个统一。这就要看这个task怎么加了。或许可以在每个不同任务的输入的最前面加上关于任务的提示（这应该就是prompt的雏形）：

文本蕴含的输入：

文本蕴含：我是一个练习三年半的码农，但是干了这么多年，我还是一事无成 $ 我一事无成

文本问答的输入：

文本问答：我是一个练习三年半的码农，但是干了这么多年，我还是一事无成 $ 你是设么职业？

这样其实训练的范式就统一了，输入的时候利用在前面加上关于任务的提示，输出的时候就是根据输入去做词语接龙预测。范式重新统一到预训练时期的模式：

P(output | input)

那这样的话，不管是预训练还是微调，都是关于“下一个词”的预测。都满足P(output | input)的范式。这样就解决了一个最大的问题，不管是预训练还是微调阶段，模型都不用做任何更改了。同时这也指导着未来微调时你的数据该如何组织。

另外这样的训练范式的统一，也进一步验证了GPT-1阶段的实验结论：

零样本能力：预训练好后的模型本身不需要微调，就具有了一定的NLI解决能力。

训练数据选择

  从上面的介绍来看，现在模型已经可以不用更改了，但是还有一个问题就是：多任务。作者通过在GPT-1的实验中得到了关于“零样本能力”的结论，这个结论表明，大模型可以通过在大量的未标记的文本数据上去进行训练，在无形中掌握多任务的处理能力，同时他们看了大量的论文发现，这个观点可靠。 所以解决多任务的办法就是增加训练数据，且数据要尽量的多样化，当然也要保证数据的质量

综合以上的种种考虑，他们放弃了以往大家都用的Common Crawl数据集，他们觉得这个数据不够干净，最终他们网上爬取了大量的数据，经过数据清洗，制造了一个数据集WebText，总共40G：

数据集	大小
WebText	40G

最后总结一下，数据集的选择过程其实是在寻找一些理论来自洽现有的种种迹象，诸如零样本能力。这有一定的必要性。

模型结构和参数（更大的GPT-1）

上面已经搞定了数据选定的问题，从数据已经找到了统一的范式，自然模型就不用更改了，同时针对GPT-1实验中的第一点，在之前的实验中得到结论，transformer的decoder层数越多，对NLI的理解任务就会有所提升，那既然有这个结论，就实践呗，GPT-2就是一个更大的GPT-1，下面是具体的参数。

	解码器块	多头注意力	词embedding	前馈神经网络隐藏层维度
GPT-2	12	12	768	3072
GPT-2-medium	24	16	1024	4096
GPT-2-large	36	20	1280	5120
GPT-2-xl	48	25	1600	6400

在GPT-2中，给出了4个模型，一个比一个大。大力出奇迹。

模型预训练

数据搞定了，模型搞定了，接下来就是训练了，训练阶段呢，则有几个训练的数据作者更改了一下。

训练参数

在训练参数上的更改也是依据模型越大效果越好的实验结论，所以具体的训练参数只修改了两点

1. 单词输入最长文本为从512更改为1024；
2. batchsize从64更改为512；

其他的保持不变。

输入数据编码

最后还有一个地方是和GPT-1不一样的，那就是输入数据的编码形式，在原来GPT-1上，数据特征的embedding化是词级别的，这就会出现一个问题，那就是对于一些没有出想过的词，很难处理，只能利用有损编码的形式进行处理，所以这次GPT-2改了，在字节对级别上进行embedding化，这样就大大的减小了信息的损失，诸如interesting，在进行编码的时候，并不是一整个单词进行编码，而是先拆成字节对，诸如拆成int、erest，ing，然后对他们进行分别编码。这样其实就很少会遇到没有见过的词了。因为是在字节对这个级别进行编码的。而GPT-2是利用什么算法对单词进行字节对的拆分呢？是BPE，关于BPE的原理，后面会有专门的文章。当然了，可能有人会问，字符级的编码，信息可以实现完全的无损，理论上是这么说，但是字符级的编码，有很多的缺点：诸如计算量大，阻碍上下文长度的学习，没有捕获更高级的语义信息等，总之，字节对级的编码是在词级别和字符级别做一个折中。

最后总结一下，在数据编码上，从原来的词级别，改为字节对级别，字节对的拆分算法用BPE。这也是现在GPT4一直用的。

总结

关于GPT-2的内容大概就是这么多了，其实总结下来，就是：

1. 探索更大的模型进行训练
2. 探索利用更大更多样性更干净的数据进行预训练
3. 利用BPE这种字节对切分形式对词进行编码，减少信息损失。

最后我想解释一点，为啥GPT-2只讲了预训练，而不讲微调，这里就要看我在训练数据那一节的讲解了。首先他已经统一了训练的范式，既然统一了范式，这样你可以认为预训练和微调阶段其实就统一了。其次是从OpenAI的野心来看，他一直都想找到一个通用的多任务模型，而这个通用多任务的模型的特征就体现在他的零样本能力，所以整个GPT-2其实就是在探索模型的零样本能力。

好了，内容到此就结束了，后面按照大模型的时间线，可能会分享一下google的T5。同样的也强烈推荐大家去阅读一下GPT-2的原文：Language Models are Unsupervised Multitask Learners