目的：为了找到一个最能解释得到的生成样本的模型

PixelRNN

我们需要利用概率链式法则将图像x的生成概率转变为每个像素生成概率的乘积，也就是每个通道生成概率的乘积。

公式：

公式解释：p(x)是每个图像x的概率；右侧为第i个像素在1至i-1像素条件下的条件概率

训练这个RNN时，一次前向传播需要从左上到右下串行走一遍，然后根据上面的公式求出似然，并最大化似然以对参数做一轮更新。（像素值是逐个构建和更新的）

——》效率低——》CNN代替RNN来构建未知像素的分布律——》

PixelCNN

使用一个CNN来接收之前的所有像素，并预测下一个像素的出现概率

效果：在测试阶段，我们会发现PixelRNN和PixelCNN都要从左上角开始逐个像素点地生成图片，实际应用阶段生成图像的速度是很慢的。