因果推断推荐系统工具箱 - Modeling User Exposure in Recommendation(一)

文章名称

Modeling User Exposure in Recommendation

核心要点

曝光偏差不仅带来虚假负反馈,同时可能诱导协同过滤模型,推荐本不应该被曝光的商品。作者提出将曝光建模为一个隐变量。这种显式建模的方法,由曝光模型和评分模型两个部分组成。通过EM算法,交替训练两个模型,最终得到尽可能不受曝光偏差影响的评分模型。

方法细节

问题引入

在物品量比较大的推荐系统中,因为曝光偏差的存在,不能简单地把没有点击的隐式反馈作为负反馈。因为,用户没有点击并不一定是不喜欢,有可能是没有看到该物品。因此,需要对没有点击的数据做区别处理。

具体做法

模型整体框架

作者在MF的基础上,把数据生成的过程描述为如下图所示的结构。其中,\delta_0代表,用户没有被曝光某个物品的时候,可能存在点击的概率。此时,p(y_{u, i} = 0 | a_{u, i})应该非常接近于1。而当用户被曝光了某个物品a_{u, i} =1,则可能出现各种可能(实际就两种,点击或不点击)。

MF style DGP

依据上述生成过程,可以推导出一个对数概率,表示用户被曝光物品和该物品被点击的联合概率。\mathbb{I}是示性函数,即中括号内的为真时,返回为1。
log probability

曝光模型

通常情况下,我们可以对所有用户和物品都使用同样的先验\mu_{u, i}来当做物品被曝光给某个用户的先验概率,反映的是用户潜在兴趣,物品潜在属性,点击数据对用户-物品元组的曝光概率的影响。但是,当我们拥有更多的物品或用户属性时(如用户所处的地域和餐馆所处的地域等),我们可以对\mu_{u, i}进行扩展建模,扩展过程如下图所示。左侧概率图中\mu_{u, i}是外生全局随机变量(即对全局用户都是一样的)。而右侧概率图中,\mu_{u, i}是有外生随机变量x和模型参数\psi共同决定的,x_{u, i}被称为exposure covariates,我们可以在不同场景下利用不同的模型来建模\mu_{u, i} | x_{u, i}, \psi

exposure model

例如,当我们认为物品的流行度对用户-物品元组的曝光概率有影响时,可以\mu_{i} \sim Beta(\alpha_1, \alpha_2)(可以理解为x_{u, i}\mu_{i}\psi\alpha_1, \alpha_2)。
又如,我们拥有物品的文字信息或地域信息,可以利用NLP或者是地理信息处理的方法,或者物品的特征向量x_{ i},那么p(\mu_{u, i} | x_{u, i}, \psi) = \sigma(\psi_u^{\top}x_{ i})。这里\psi_u是对每个用户学习得到的参数,可以被理解为是物品特征对特定用户曝光影响的权重。

心得体会

因果推断

从因果推断的角度讲,用户的某些特征,年龄,所处地域,兴趣爱好等,可能既影响物品对该用户的曝光,也会影响用户对被曝光物品的反馈。这个问题,在因果图上是一个典型的fork结构。作者也提到,曝光从因果分析的角度被理解为一个隐变量,可见建模物品曝光过程,就是在建模因果过程。曝光随机变量类似treatment,但它受到其他特征的影响。但文章中作者并没有构建成一个因果图,而是一个生成模型的形式,背后都是概率图的逻辑。

Exposure Bias

作者提到exposure bias的影响可能不仅仅是虚假的负反馈(曝光偏差的论文通常会讲到的)。同时,在协同过滤的场景下,也可能出现没有模型认为没有被曝光的相似物品具有更高的可能性被该用户喜欢(基于物品的协同,喜欢相似物品的用户,会喜欢当前物品)。此时,某物品没有被曝光给用户,其实由于如地域等原因(作者举例是餐馆推荐,New York City的用户没有被曝光Las Vegas的餐馆是合理的)。因此,曝光偏差也可能误导模型推荐一些未被曝光的物品。作者通过显示建模物品的曝光过程,既可以解决虚假负反馈,也可以解决上述未曝光陷阱。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,294评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,493评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,790评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,595评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,718评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,906评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,053评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,797评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,250评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,570评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,711评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,388评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,018评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,796评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,023评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,461评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,595评论 2 350

推荐阅读更多精彩内容