因果模型训练步骤

Meta-learners (Reference)

SLeaner

  • 训练集将原Treatment列当作特征和特征集\{X_i\}合并训练一个Single Model。
  • 测试集中生成新的两列,一列Treatment,值为1,另一列Control,值为0,随后这两列分别和特征集\{X_i\}合并,用Single Model预测出两列分别为E[Y|X=x, T=1]和E[Y|X=x, T=0]。
  • 估计的CATE为两列的差:
    \hat{\tau}(x)=E[Y|X=x, T=1]-E[Y|X=x, T=0]

TLearner

  • 训练集根据Treatment的值分为两个样本集,一个处理组样本集,一个控制组样本集,针对两个样本集分别训练两个模型Model_treatment,Model_control。
  • 测试集分别使用Model_treatment和Model_control预测出两列,分别为E[Y(1)|X=x]和E[Y(0)|X=x]。
  • 估计的CATE为两列的差:
    \hat{\tau}(x)=E[Y(1)|X=x]-E[Y(0)|X=x]=E[Y(1)-Y(0)|X=x]

XLearner

  • 训练集根据Treatment的值分为两个样本集,一个处理组样本集,一个控制组样本集,针对两个样本集分别训练两个模型Model_treatment,Model_control。
  • 在全训练集上分别使用Model_treatment和Model_control预测出两列,分别为E[Y(1)|X=x]和E[Y(0)|X=x],计算残差列。如果样本Treatment列为1,则用实际值减预测值,如果样本Treatment列为0,则用预测值减实际值:
    D_i^1=Y_i^1-E[Y(1)|X=x] \\ D_i^0=E[Y(0)|X=x]-Y_i^0
  • 将残差列作为新的标签,再次根据Treatment的值分为两个样本集,一个处理组样本集,一个控制组样本集,针对两个样本集分别训练两个模型Residual_model_treatment,Residual_model_control。
  • 测试集分别使用Residual_model_treatment和Residual_model_control预测出两列,分别为E[D(1)|X=x]和E[D(0)|X=x]。
  • 估计的CATE为两列的差:
    \hat{\tau}(x)=g(x)E[D(0)|X=x]+(1-g(x))E[D(1)|X=x]
    g(x) 为propensity score。

RLearners

RLearner (Reference)

  • 训练集确定好两列:Outcome和Treatment,分别以该两列为标签训练两个模型(根据值的类型确定使用分类模型还是回归模型),model_y和model_t。
  • 在训练集中分别使用model_y和model_t预测出两列,分别为E[Y|X=x]和E[T|X=x],各自计算残差列:
    Residual = Y-E[Y|X=x] \\ Propensity = T-E[T|X=x] \\
  • 根据以上两残差列生成残差标签Residual\_target和权重weight:
    Residual\_target = Residual/Propensity \\ Weight = Propensity^2 \\
  • 在训练集中以Residual\_target为标签,权重列为weight,训练回归模型,并在测试集中进行预测,得到的预测值即为估计的CATE。

Doubly Robust Learner (Reference)

  • 训练集确定好两列:Outcome和Treatment,分别训练两个模型model_regression(回归模型)和model_propensity(分类模型)。其中,model_regression以特征集\{X_i\}和Treatment为输入,以Outcome为输出进行训练,model_propensity以特征集\{X_i\}为输入,以Treatment为输出进行训练。

  • 使用model_propensity分别预测出Treatment和Control的倾向得分值,分别为Pr[T_i=t|X_i]和Pr[T_i=0|X_i]。(注:倾向得分Propensity可能会出现0的情况,可用 \varepsilon=10^{-6} 进行替代。)

  • 在训练集中生成新的两列,一列Treat_value,值为1,另一列Control_value,值为0。在训练集中将Treat_value、Control_value列分别和特征集\{X_i\}合并,使用model_regression预测出Treatment和Control的Predicted Outcome,分别为E[Y|X_i, T_i=t]和E[Y|X_i, T_i=0]。

  • 根据以上两列倾向得分和两列预测值分别计算Y_{i,t}^{DR}和Y_{i,0}^{DR}:
    Y_{i,t}^{DR}=E[Y|X_i, T_i=t]+\frac{Y_i-E[Y|X_i, T_i=t]}{Pr[T_i=t|X_i]} \cdot 1\{T_i=t\} \\ Y_{i,0}^{DR}=E[Y|X_i, T_i=0]+\frac{Y_i-E[Y|X_i, T_i=0]}{Pr[T_i=0|X_i]} \cdot 1\{T_i=0\}

  • 在训练集中以特征集\{X_i\}为输入,以Y_{i,t}^{DR}-Y_{i,0}^{DR}为输出,训练回归模型model_final,并在测试集中进行预测,得到的预测值即为估计的CATE。

最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容