文章名称
【SIGIR-2021】【Max Planck Institute for Informatics】Counterfactual Explanations for Neural Recommenders
核心要点
文章旨在基于注意机制的可解释推荐系统对终端用户仍然不友好的问题，期望将反事实解释应用于神经推荐模型，生成可以被用户理解的物品元组，来作为模型决策的解释。作者利用influence functions来识别和某个推荐结果相关度最高的训练样本，从而得到上述物品元组。
方法细节
问题引入
现有的推荐模型具有如下3个问题，
- 利用注意力机制，该结果相对复杂，没有理论保证，不便于对终端用户解释；
- 利用用户-物品的关系，可能存在隐私问题保护的问题，并且用户感知度不高（不像后面介绍的解释是基于用户自己的行为的）；
- 利用了额外信息，例如图片，用户评论，并不是所有场景都能得到
反事实推理（解释）是基于用户自身行为的，就有较强的可信度、可以被审核（用户自己可以自己审核），并且用户自己可以采取行动来改变这种推荐（比如少做一些操作，来减少某种物品（视频，文章）被推荐给自己的概率。
相比于基于图的反事实解释方法[1]（Prince algorithm），神经网络（DNN类型的）推荐模型，具有更稠密的交叉，但是很难利用网络信息来进行解释。作者基于PRINCE方法的思想，期望把该方法转换到DNN模型上，但是面临2个挑战，
- PRINCE利用Personalized PageRank计算的contribution scores（贡献分）来生成反事实，这个方法不能直接迁移到DNN；
- PRINCE利用了图的性质，保证模型学习到的是最优解，但是该性质不能应用到DNN上。
为了解决上述第一个问题，作者采用Fast Influence Analysis (FIA)[1]来基于用户的历史行为计算行为对当前推荐的approximate influence（近似影响），用这个影响分数来代替PRINCE中的contribution scores（贡献分）。
类比第二个问题，作者把单独计算一个单点的影响分数转换为计算一个物品元组（一对物品，原始推荐物品和从推荐列表中寻找到的可替换的物品）的影响分数，并不断地将物品与其可替代物品的影响分数拉进，以此生成反事实解释集合。这样讲可能比较抽象，可以参考如下图所示的例子。Godfather II是原始推荐物品（电影，作者是在MovieLens 100k上做的实验），而Apt Pupil是推荐列表中提取出来的可替换物品。所谓“不断拉进影响分数”，是通过调整“用户历史行为”（例子是otherwise给出的部分，这个就是所谓的调整，也就是反事实解释）使得原始推荐物品和可替换的物品的影响分数不断接近，使得可替代物品变成被推荐物品。
具体做法
我们对要解决的问题进行一下形式化的定义，
- 用户集合为
，物品集合为
；
- 对用户
的推荐结果为
，其反事实推荐结果为
，
表示修改用户行为后，可以被替换的物品，从其中会挑选出
- 用户
（如用户历史的观看记录），反事实解释（行为）集合记作
，是把推荐结果变为
本节，我们介绍了作者对反事实解释的定义，以及生成反事实解释的思路。下一节继续介绍，如何进行反事实解释生成。
心得体会
反事实解释
这里所说的反事实解释和**其他文章的稍有出入，虽然都是最小的集合，不过不是特征值上的最小变动这种，而是用户最小的过去的行为（或者说过去的交互数据，用训练样本来表示）。可以理解为，作者的思路是利用历史行为产生反事实，而其他反事实解释方法是在修改属性。当然，历史行为如果变成统计值，也就是所谓的属性了。作者的历史行为是细致到每一个操作这种粒度的。
IF逐渐被广泛应用
随着因果推断在推荐领域的广泛应用，因果推断领域的一些新工具（其实是用了很久的统计学工具）也被应用到推荐领域，类似的方法还有因果推断推荐系统工具箱 - Influence Function for Unbiased Recommendation，都是利用影响函数，不同的是该方法用来纠正偏差，而本文则更贴进IF的老本行，解释样本重要性。但说到底，都不过是另一种利用而已。
文章引用
[1] Weiyu Cheng, Yanyan Shen, Linpeng Huang, and Yanmin Zhu. 2019. Incorporating Interpretability into Latent Factor Models via Fast Influence Analysis. In KDD.
