Tree-based这类方法，和之前meta-learning 类的方法最明显的区别是: 这类方法把causal effect 的计算显示的加入了到了树模型节点分裂的标准中 从 response时代过渡到了effect时代。
大量的这类算法基本围绕着树节点分裂方式做文章，普遍采用的是兼容性比较高的[[万字长文讲述树模型的历史|cart树]]
Causal Tree & Honest Tree
causal tree[4] 这篇文章算是较早通过改变树模型node分裂方式来预估[[因果推断及其重要相关概念#heterogeneous causal effects|异质因果效应]](heterogeneous causal effects)的算法。
所以重点还是如何去构建 split criterion，前置可能要说一下相关的符号含义：
在特征空间
\(\mathbb X\)
下存在节点分裂方式的集合：
其中以 \(\ell(x;\prod)\) 表示叶子节点 \(\ell\) 属于划分方式 \(\prod\) , 此时该划分方式下的，node的条件期望定义为：
那么，自然如果给定样本 \(S\) , 其对应节点无偏统计量为：
Causal Tree 学习的目标 or loss func
学习目标使用修改后的MSE, 在标准mse的基础上多减去了一项和模型参数估计无关的
\(E[Y^2]\)
，此外
训练即build tree阶段，train set被切为两部分，一部分训练样本train set：
\(S^{tr}\)
, 一部分是估计样本 est set
\(S^{est}\)
，还有测试样本test set
\(S^{te}\)
这里有点绕：和经典的树模型不一样的是：叶子节点上存储的值不是根据train set来的, 而是划分好之后通过est set进行估计。(显然, 这种方式有点费样本...)。所以，这也是文中为啥把这种方法叫做“Honest”的原因。
假设已经根据训练样本得到划分方式，那么评估这种划分方式好坏被定义为：
算法的整体目标为：
其中， \(\pi(S)\) 定义为：
其实就是比较节点在划分后，左右子节点的输出差异是否满足阈值c， \(\bar Y_L=\mu(L)\)
节点划分方式
作者直接给出了节点划分时的loss计算标准：
我们来推导一下：
因为中间展开项期望为0, 所以公式变成：
同样的，展开项的项期望为0，由于无偏估计=> \(\mu(X_i;\small \prod)=E_{S^{est}}[\hat \mu(X_i;S^{est};\small\prod)]\) ，最终公式变成：
其中， \(E_{S^{est},X_i}[\mathbb V(\hat\mu(X_i;S^{est}, \small\prod))]=E_{S^{te},S^{est}}[\{\hat\mu(X_i;S^{est},\small\prod)-\mu(X_i;\small\prod\}^2]\)
公式中第一项可以理解为偏差的平方，第二项理解为方差。为什么MSE可以被理解成偏差和方差的组合，以及展开项为0
我们来证明一下：(开个玩笑:)，其实我是抄的Wikipedia，可以看
证明1
和
证明2
：
偏差项
接着分析偏差项：
第一项总体估计值的期望使用训练集的样本，即：
第二项方差项，叶子节点方差求均值
对于最外层的期望：
方差项
整合
最终估计量为：
其中, 偏差和方差不过的est估计量应该用est set，但是此处假设了train set和est set 同分布。
treatment effect 介入划分：处理异质效应
前面定义了MSE的范式，当需要考虑到异质效应时，定义异质效应：
很显然，我们永远观测不到异质性处理效应，因为我们无法观测到反事实，我们只能够估计处理效应，给出异质性处理效应的估计量：
因果效应下的EMSE为：
使用 \(\tau\) 替代了 \(\mu\) , 偏差项, 带入整合公式：
其中，
\(p\)
表示相应treatment组的样本占比，该子式也是最终的计算节点分类标准的公式
有了节点划分方式之后，build tree的过程和CART树是一样的
推理过程
推理过程和决策树基本一样，树建好之后，只用根据每个node存储的特征和threshold进行path 遍历，走到叶子节点返回值即可。
一般来说，causal tree的叶子节点存储的
结构体之外还单独存储了一个 叫 value 的数组，主要是存储每个节点的预测值。对于两个Treatment来说，存储的大小就是1x2的list，第一个element存储了control的 正样本比例，第二个element存储了treatment的正样本比例。
一般来说，这个比例会做配平或者说惩罚：
所以，最终推理得到的是一个输入一个样本X，得到T-C的treatment effect，我们不用像meta-learning类的模型一样，自己手动减得到ITE。
Causal Tree总结
- 作者改进了MSE，主动减去了一项模型参数无关的 \(E[Y_i^2]\) 。改进方法的MSE包含了组内方差，这个方差越大，MSE就会越低，所以它能够在一定程度上限制模型的复杂性
- 把改进的 mse loss apply 到CATE中来指导节点分割 和 建立决策树
- 构建树的过程中，train set切割为了 \(S^{tr}\) 和 \(S^{est}\) 两部分，node的预测值由 \(S^{est}\) 进行无偏估计，虽然最后实际上 \(S^{est}\) 用train set替代了。
-
理论上causal tree 仅支持 两个Treatment
如果使用causalml的package，如果存在多个T，非C组都会被置为一个T
REF
- https://hwcoder.top/Uplift-1
- 工具: scikit-uplift
- Meta-learners for Estimating Heterogeneous Treatment Effects using Machine Learning
- Athey, Susan, and Guido Imbens. "Recursive partitioning for heterogeneous causal effects." Proceedings of the National Academy of Sciences 113.27 (2016): 7353-7360.
- https://zhuanlan.zhihu.com/p/115223013
标签：游戏攻略
