RRHF

RRHF(Rank Responses to align Human Feedback)出自2023年4月的论文《RRHF: Rank Responses to Align Language Models with Human Feedback without tears》，是较早提出的不需要使用PPO来对齐人类偏好的方法。

设输入数据记为x，输出记为y，奖励函数为R(x,y)，待训练模型记为$\pi$（从模型$\rho$​初始化得到）。

在训练前，先对输入从不同来源采样输出(response)构建数据集，来源包括待训练模型、ChatGPT、GPT-4、人工标注的高质量和低质量输出。训练时，对于一个输入x，就有k个不同的输出$y_i$（$1\le i\le k$），奖励函数给每一个$y_i$的打分为$R(x,y_i)=r_i$，为了使模型与分数 { r i } k \{ r_i\}_k {ri​}k​对齐，让模型$\pi$对每一个$y_i$使用下式计算分数$p_i$：
$$p_i=-\frac{{\sum }_t\log P_{\pi }\left(y_{i,t}\mid x,y_{i,<t}\right)}{||y_i||}(1.1)$$
$p_i$是模型$\pi$ 下$y_i$的对数条件概率，目的是使模型$\pi$对高质量输出给更大概率，对低质量输出给小概率。使用如下ranking loss来优化这个目标：
$$L_{rank}=\sum _{r_i<r_j}max(0,p_i-p_j)(1.2)$$
此外要求模型从最高奖励的输出学习，损失与SFT的交叉熵损失类似：
$$\begin{gathered} i^{\prime }={\mathrm{argmax}}_i{r}_i \\ {L}_{ft}=-\sum _t\log P_{\pi }\left(y_{i^{\prime },t}\mid x,y_{i^{\prime },<t}\right)(1.3) \end{gathered}$$
RRHF的最终目标为这两部分损失之和：
$$L=L_{rank}+L_{ft}(1.4)$$

PRO

PRO（Preference Ranking Optimization）出自2023年6月的论文《Preference Ranking Optimization for Human Alignment》， 与RRHF一样，也是基于排序的对齐方法。相比于RRHF只使用两个输出进行pair-wise排序，PRO会考虑多个输出之间的排序。

设输入prompt为x，两个输出为$y^1$和$y^2$，人工标注的偏好为$y^1\succ y^2|x$，Bradley-Terry(BT)模型定义的偏好概率如下式，其目标可以看作为二分类问题奖励模型：${\mathcal{L}}_{BT}=-\log \sigma (r_{\varphi }(x,y^1)-r_{\varphi }(x,y^2))$，$r_{\varphi }$是奖励模型。
$$P_{PB}=\frac{\exp (r_{\varphi }(x,y^1))}{\exp (r_{\varphi }(x,y^1))+\exp (r_{\varphi }(x,y^2))}(2.1)$$

如果输入prompt x对应n个可能的输出 { y i } \{ y^i\} {yi}，且有偏好标注顺序$y^1\succ y^2\succ \cdots \succ y^n$，则可以定义$y^1$和偏好排序在其之后的输出满足$y^{1,2:n}=y^1\succ y^2,\cdots ,y^n$，那么Bradley-Terry(BT)的目标将变成下式：
$$P(y^{1,2:n}|x)=\frac{\exp (r(x,y^1))}{{\sum }_{i=1}^n\exp (r(x,y^i))}(2.2)$$
我们可以很容易想到上述目标没有完全利用排序信息，只使用了$y^1\succ y^2,\cdots ,y^n$，而剩余的n-2个排序如$y^2\succ y^3,\cdots ,y^n$、$y^{n-1}\succ y^n$则没有被使用，所以PRO的作者将上式扩展为下式：
$$\begin{array}{rl}P(y^{1,\cdots ,n}|x)& =\prod _{k=1}^{n-1}P(y^{k,k+1:n}|x)\\ & =\prod _{k=1}^{n-1}\frac{\exp (r(x,y^k))}{{\sum }_{i=k}^n\exp (r(x,y^i))}(2.3)\end{array}$$
PRO定义$r_{{\pi }_{\text{PRO}}}(x,y^k)$为以目标LLM ${\pi }_{\text{PRO}}$为参数的函数，即LLM ${\pi }_{\text{PRO}}$通过将${\pi }_{\text{PRO}}$生成的每个token的概率相乘来计算输出$y^k$的分数。
$$r_{{\pi }_{\text{PRO}}}(x,y^k)=\frac{1}{|y^k|}\sum _{t=1}^{|y^k|}\log P_{{\pi }_{\text{PRO}}}(y_t^k|x,y_{<k}^k)(2.4)$$
PRO的优化目标如下式：
$$\mathcal{L}(y^{1,\cdots ,n}|x)={\mathcal{L}}_{\text{PRO}}+\beta {\mathcal{L}}_{\text{SFT}}(2.5)$$
${\mathcal{L}}_{\text{SFT}}$是使用top 1候选输出得到的NLL损失，$\beta$是用来平衡文本质量和人类偏好的超参，${\mathcal{L}}_{\text{PRO}}$的定义如下（即前面2.3式的对数形式）：
$${\mathcal{L}}_{\text{PRO}}=\sum _{k=1}^{n-1}\log \frac{\exp (r_{{\pi }_{\text{PRO}}}(x,y^k))}{{\sum }_{i=k}^n\exp (r_{{\pi }_{\text{PRO}}}(x,y^i))}(2.6)$$

将RLHF嫁接到PRO

PRO不需要奖励模型就可以直接在人类标注偏好排序序列上进行优化，但作者也进行了试验发现将RLHF嫁接到PRO给其带来更多的灵活性，所以作者提出了如下三种可能的结合方式：

• Affordable Preference Ranking。PRO只依赖于人类偏好排序序列，但其数据来源没有被限定，即可以通过人工方式生成不同质量的多个输出，也可以利用已有LLM如ChatGPT、Alpaca等来生成不同的输出。生成的输出再由一个奖励模型$r_{\varphi }$来排序。

• Differentiated Contrast。前面2.6式${\mathcal{L}}_{\text{PRO}}$的定义将全部满足$y^i\prec y^k$的输出作为$y^k$的负样本并施加相同的惩罚。这种处理方式可能不合理，比如$y^{k+1}$只比$y^k$的效果差一点点，而$y^n$比$y^k$效果差很多，与$y^k$比较时模型应该轻微地惩罚$y^{k+1}$而重重地惩罚$y^n$。于是PRO作者将式2.6修改为下式，由奖励模型$r_{\varphi }$得到的分数$r_{\varphi }(x,y^i)$表明$y^i$的数值偏好。
  $${\mathcal{L}}_{\text{PRO}}=\sum _{k=1}^{n-1}\log \frac{\exp \left(\frac{r_{{\pi }_{\text{PRO}}}(x,y^k)}{{\mathcal{T}}_k^k}\right)}{{\sum }_{i=k}^n\exp \left(\frac{r_{{\pi }_{\text{PRO}}}(x,y^i)}{{\mathcal{T}}_k^i}\right)}(2.7)$$
  上式中
  $$\begin{gathered} {\mathcal{T}}_k^{i>k}=\frac{1}{r_{\varphi }(x,y^k)-r_{\varphi }(x,y^i)} \\ {\mathcal{T}}_k^k=\underset{i>k}{\min }{\mathcal{T}}_k^i \end{gathered}$$
  也就是将原有的${\mathcal{L}}_{\text{PRO}}$添加了动态温度参数，如果$r_{\varphi }(x,y^k)$ 和 $r_{\varphi }(x,y^i)$之间的差值增加，$y^k$和$y^i$之间的偏好差距更明显，温度${\mathcal{T}}_k^i$减小放大了正例$y^k$相比于$y_i$的惩罚。${\mathcal{T}}_k^k$​定义为所有负例里的最小温度值有助于维持分子和分母的平衡。

• Self-bootstrapping Augmentation。PRO对于偏好序列的长度要求不是固定的，所以可以将RLHF里的自举(self-bootstrapping)优势应用到PRO，即给定prompt x和当前模型，采样输出$\hat{y}$将其添加到输出集 { y 1 , ⋯ , y n } \{y^1, \cdots, y^n \} {y1,⋯,yn}，并使用奖励模型重新排序输出集得到$p({\hat{y}}^{1,\cdots ,n+1}|x)$，${\mathcal{L}}_{\text{PRO}}$相应地变成：
  $${\mathcal{L}}_{\text{PRO}}(y^{1,\cdots ,n}|x)\Rightarrow {\mathcal{L}}_{\text{PRO}}({\hat{y}}^{1,\cdots ,n+1}|x)$$
  其训练过程如下图
  

参考资料

1. RRHF：arxiv, github
2. PRO：arxiv, github