因果推断 | 潜在结果框架的基础知识

文章目录

1 引言
2 框架描述
- 2.1 问题定义
- 2.2 数学表达式
3 实现方案
- 3.1 随机实验数据
- 3.2 一般数据
4 方案评估
5 总结
6 相关阅读

1 引言

在上一篇文章（运筹从业者也需要的因果推断入门：基础概念解析和体系化方法理解）中，已经对因果推断有了一个大致的认知，接下来该逐个深入学习了。

我打算从非试验场景中的潜在因果框架开始。

选择这个作为深入学习的起点，一方面是因为，我目前的工作中亟需这方面的内容来做一些因果效应的量化评估；另一方面是，我已经比较熟悉试验场景里的随机对照实验和双重差分法，所以现在学习潜在因果框架的话，应该不会有什么问题。

不过我发现自己有点飘了，写啥都想写的全面一些。这不，原想把潜在因果框架的基础理论、算法实现、模型评估和业务应用等内容都聚集到一篇文章里来，结果在各种地方卡壳，导致一个月了还是零产出。

所以说，学习还是要一步一个脚印呐。今天这篇文章，就先把潜在因果框架的基础知识搞明白，具体的算法实现等内容后续再逐一学习和总结。

2 框架描述

2.1 问题定义

潜在因果框架（Potential Outcome Framework，POF）是由Donald Bruce Rubin提出的一种针对观测数据进行因果推断的框架，也被称为Rubin因果模型。

举个简单的例子：有10名患者服用了药物，最终8名患者康复，2名患者未康复；另有10名患者没有服用药物，最终5名患者康复，5名患者未康复。我们的目标是：如何从已有的这些数据中探查出，药物是否能有效治疗患者。

有些人可能会说，这很简单呀，服用药物的康复率是80%，未服用药物的康复率是50%，药物提升了30%的康复率，所以是有效的。乍一看没啥问题，实际上这个结论经不起推敲：假如服用药物的10名患者的患病程度比较浅，而未服用药物的患者的患病程度比较深，那么这30%的康复率的提升就不一定是药物带来的，而有可能是患病程度的差异导致的。

潜在因果框架要做的事情就是：用一种科学和令人信服的方式，从已有的观测数据中得到量化的因果效应值。

为了能更一般化地描述问题，首先做出如下设定：

样本数据集为： $D=\{d_1,d_2,...,d_n\}$ ， $n$ 为样本数量；策略变量为 $t\in \{0, 1\}$ ， $t = 0$ 表示不施加策略， $t = 1$ 表示施加策略；协变量 $X$ ，一般指与策略无关的变量；结果变量 $Y$ ： $Y_{0i}$ 表示无策略时第 $i$ 个样本的结果变量， $Y_{1i}$ 表示有策略时第 $i$ 个样本的结果变量。

那么在潜在因果框架下，问题可以简述为：基于数据集 $D=\{t_i,X_i,Y_i\}_i^n$ ，估计 $t$ 和 $Y$ 之间的因果效应。

2.2 数学表达式

为了给出因果效应的数学表达式，还需要引入一些定义：

个体因果效应（Individual Treatment Effect，ITE）
$ITE_i=Y_{1i}-Y_{0i}$
平均因果效应（Average Treatment Effect，ATE）
$ATE=E(Y_1-Y_0)$
策略组平均因果效应（Average Treatment effect on the Treated group，ATT）
$ATT=E(Y_1|t=1)-E(Y_0|t=1)$
对照组平均因果效应（Average Treatment effect on the Untreated group，ATU）
$ATU=E(Y_1|t=0)-E(Y_0|t=0)$
条件平均因果效应（Conditional Average Treatment Effect，CATE）
$CATE=E(Y_1|X=x)-E(Y_0|X=x)$
为了更清楚地理解这些概念，我们举个例子说明一下。

如上表所示，对于表中的实例，个体因果效应为表的最后一列，平均因果效应为
$ATE=\frac{1}{20}\sum_{i=1}^{20}[Y_{1,i}-Y_{0,i}]$
策略组平均因果效应为
$ATT=\frac{1}{10}\sum_{i=1}^{10}[Y_{1,i}-Y_{0,i}]$
对照组平均因果效应为
$ATU=\frac{1}{10}\sum_{i=11}^{20}[Y_{1,i}-Y_{0,i}]$
样本编号为偶数的平均因果效应为
$CATE=\frac{1}{10}\sum_{i=1}^{10}[Y_{1,2i}-Y_{0,2i}]$

严格定义下，我们要确定的是ATE的值；但在大多数情况下，我们计算的是ATT，并以此来代替ATE。

看起来，只要上表中的数据是完整的，因果效应的评估问题就完美解决了。但遗憾的是，针对任何样本，总有部分数据是无法观测到的：如果 $t = 1$ ，即样本施加了策略变量，那么就只能观测到 $Y_1$ ，此时上表的第4列是缺失的；如果 $t = 0$ ，则样本未施加策略变量，那么就只能观测到 $Y_0$ ，此时上表的第3列是缺失的。因此，无论是ATE、ATT、ATU、CATE还是ITE，都无法直接计算得到。

事实上，正因为有部分数据无法被观测，才需要“潜在结果”这次词。潜在因果框架认为，任何一个样本和一个策略变量，都存在一个潜在结果；进一步说，可以被观测到的结果为事实结果，无法被观测到的为反事实结果。

3 实现方案

3.1 随机实验数据

既然注定了会存在反事实结果，那么如果简单粗暴地使用 $t = 0$ 时的 $Y_0$ 来替代 $t = 1$ 时的 $Y_0$ ，以此计算ATT，会出现什么情况呢？

为了解答这个问题，我们进行如下的公式推导：
$ATT=E(Y_1|t=1) - E(Y_0|t=0) = [E(Y_1|t=1) - E(Y_0|t=1)] + [E(Y_0|t=1) - E(Y_0|t=0)]$

前一项显然就是ATT的真值，而后一项可以理解为策略组和对照组间的选择偏差。即，如果在构造策略组和对照组时，两者之间已经有偏差，那么替代计算的结果确实是不合理的；但如果他们之间无偏差，那么替代计算的结果就是没问题的。

而随机实验，其实就是后者。

在随机实验中，一般会随机的将样本个体分成两组：一组为策略组，施加策略变量；另一组为对照组，不施加策略变量。

也就是说，样本是否被施加策略变量，不受任何因素影响，自然独立于 $Y_0$ ，因此以下公式成立
$E(Y_{0}|t=1)=E(Y_{0}|t=0)=E(Y_{0})$
即，选择偏差为0。

因此如果已有数据是随机实验的数据，那么真实的因果效应就是： $E(Y_1|t=1) - E(Y_0|t=0)$
。

3.2 一般数据

如果已有数据不是随机实验的数据，那么直接替代计算就会多出一项选择偏差。为了减少或去掉选择偏差，还需要研究其他的解决方案。

目前大部分的解决方案中，都暗含了三个假设：

假设1：稳定性假设。任意个体的潜在结果不受其他个体接受的策略所影响，同时策略对个体的潜在结果是稳定的。

假设2：可忽略假设。除协变量 $X$ 的影响外，策略的分配与其潜在结果是无关的，即 $t\perp\!Y|X$ 。

假设3：正值假设。对于任意个体，任何策略的分配概率大于0，即 $\forall t,x$ 。

在这些假设下，常用的解决方案有：重加权方法；分层方法；匹配方法；基于树的方法；基于表征的方法；多任务方法；元学习方法等。这些方案的含义、代表性算法以及它们之间的联系，目前我还处于一知半解的状态，暂且罗列在这里，后续再花时间去学习和总结。

为了能对这些解决方案有个直观的理解，这里给出匹配方法的基本原理：简单来说，就是在对照组样本中，为策略组的每个样本都挑选出一个样本，该样本和策略组样本的相似度越高，便越能有效降低策略组和对照组之间的选择偏差。下图是一个匹配方案的实例。

4 方案评估

方案实现后，还需要评估方案的效果。

在机器学习领域，测试集中的每个样本都存在真值，因此可以逐一计算样本真值和模型预测值之间的偏差，然后评估算法好坏。但在因果推断中，由于反事实结果的存在，在测试集中不可能存在因果效应的真值，也就无法直接使用机器学习领域中的相关指标，还需要构建一些新的评估指标。

目前比较常用的一个指标是AUUC（Area Under Uplift Curve），本节参考causalml工具包中（一个开源的因果推断工具包）的计算逻辑大致描述AUUC如何计算。

首先根据预估的因果效应值从大到小对数据集D排序，此时第 $k$ 个样本的uplift值 $u (k)$ 定义为
$u(k)=\frac{R^T(D,k)}{N^T(D,k)}-\frac{R^C(D,k)}{N^C(D,k)}$
其中， $R^T$ 和 $R^C$ 分别为前 $k$ 个样本中策略组和对照组的结果变量之和； $N^T$ 和 $N^C$ 分别为前 $k$ 个样本中策略组和对照组的样本数量。显然， $u (k)$ 可以理解为：前 $k$ 个样本中策略组的平均结果变量值-前 $k$ 个样本中对照组的平均结果变量值。

有了 $u (k)$ 后，AUUC的计算表达式为
$AUUC=\frac{\sum_{k=1}^n[u(k)·k]}{n·n·u(n)}$
这个公式也需要解释一下：分子不是我们常规理解上的uplift曲线下的面积，而是累积uplift值（多了一项 $k$ ）；分母是为了做归一化， $n \cdot u (n)$ 表征的是全量样本的因果效应累积值，在此基础上还有另一个 $n$ 是因为分子是累积值。