今天给大家分享的是阿里在KDD2022上中稿的论文。过往的广告点击率预估主要考虑广告本身的特征，而忽略了相邻展示的其他商家对其的影响，因此本文的出发点主要是广告点击率预估中的外部性建模。同时，针对点击率预估时由于广告展示位置不确定所带来的外部性多样和不确定的问题，设计了针对性的解决方案，一起来看一下。

1、背景

阿里搜索广告场景下，自然结果和广告结果混合展示。两部分展示的item分别由自然系统(organic search system,OS)和广告系统(search advertising system,AS)确定。OS的主要目标是优化用户体验，而AS的主要目标则是最大化平台收入以及商家ROI。在阿里搜索场景下，自然排序结果首先由OS给出，然后AS再将广告结果插入到固定的槽位中。

因此，我们可以得到两点信息，一方面，OS和AS是串行调用的，AS进行预估时，是可以拿到准确的自然结果排序信息，另一方面，广告是固定位插入的，而非像之前介绍的美团的CrossDQN是浮动位插入的。广告系统AS整体架构如下图所示：

可以看到，AS包含三个阶段，分别是召回、预估和拍卖，本文重点关注预估部分。过往的点击率预估模型，大都只关注目标item本身的特征，而忽略了其他同时展示的item对其的影响，这种影响我们将其称为外部性（Externalities）。同时，即使是相同的相邻展示商品，由于不同用户关注的侧重点不同，这种外部性影响也是不同的，例如价格之间的明显差距更容易引起价格敏感用户的关注。因此，本文研究的重点是CTR预估中个性化的外部性影响建模。

然而，外部性建模面临以下两方面的挑战：
1）一方面，目标的广告可能会被插入到任一广告位置，插入到不同位置时，其相邻商品是不同的，即外部性是多样的。直接预估所有的可能情况对于系统的负载有巨大的影响，因此需要一种更高效的方式去建模；
2）另一方面，尽管自然结果的排序可以提前得知，但是广告的排序是未确定的，如果忽略广告结果，会导致外部性影响考虑不完整，因此需要对广告最终的展示顺序做一定的模拟用于计算更准确的外部性信息。

为了解决以上两方面的挑战，论文在CTR预估模型中，设计了外部性计算模块，称为EXternality TRansformer（简称EXTR），一起来看一下。

2、EXTR介绍

EXTR的整体结构如下图所示：

可以看到，EXTR主要包含两部分，上下文交互模块Context Interaction Module和外部性提取模块Externality Extraction Module。其中，上下文交互模块主要用来对外部item的相互影响进行提取，外部性抽取模块则用于同时建模广告在不同位置时的外部性影响。

2.1 上下文交互模块

上下文交互模块主要用来对外部item的相互影响进行提取，外部item包括所有的自然结果以及除待预估的目标广告以外其他所有的广告结果。考虑到用户自上往下的顺序浏览习惯，建模顺序信息是必要的。因此论文采用Transformer的结构，同时输入信息中包括商家本身的信息以及ranking encoding。

由于自然结果的顺序已知，其ranking encoding也是确定的，但广告结果的顺序并不知道，因此论文进一步提出了Potential Allocation Generator (PAG)来对目标广告以外的其他广告的ranking encodings进行预估，其结构如下：

从图中可以看出，广告的ranking encoding是自然结果ranking encodings的加权和：

权重通过如下公式计算得出：

其中，N是自然结果的数量。为了提升权重计算的准确度，论文引入了如下的权重监督信号：

其中k是真实展示结果中，广告j前面的自然结果的数量，如果广告j实际没有曝光，则K=N+1。可以看到，如果自然结果的顺序和广告j越靠近，则监督信号的值越大，越远则值越小，并通过KL散度来计算对应的辅助损失：

2.2 外部性提取模块

外部性提取模块目标是同时建模目标广告在不同的广告插入位置时的外部性情况，同样使用Transformer进行建模，但使用的是target-attention的方式。结构如下图所示：

为了目标广告建模所有位置下的外部性情况，transformer的Q为目标广告特征向量和slot encoding的拼接，K和V则是上下文交互模块对应的输出：

而在Attention权重计算上，引入用户特征，充分考虑用户对于不同属性的偏好程度：

经过外部性提取模块，便得到目标广告插入到不同槽位时对应的外部性信息。最后经过ctr预估部分，得到每个位置下的点击率预估值。

3、实验结果

好了，最后来看一下实验部分，EXTR取得了比所有BaseLine更好的效果（但没有对比美团的深度位置交互网络DPIN）：

4、总结

外部性建模也逐渐吸引了越来越多的关注，如阿里的RACP，京东的CIM，美团的DPIN（这里的DPIN指Deep Page-level Interest Network，并非上文说的深度位置建模的DPIN）等。在精排阶段，由于无法获取准确的上下文信息，往往需要对外部性进行一定的模拟，本文的方法也是对上下文模拟提供了一定的借鉴思路。但论文的场景过于理想化了，如自然结果顺序已知，广告位按照固定位插入等等。一方面，出于耗时的考虑，自然结果和广告结果的处理往往是并行的两套系统，串行对于耗时的要求更为严格，另一方面固定位广告插入并非全局最优，浮动位的方案成为当前研究的主要趋势。因此在实际应用中，可以借鉴本文设计更加适合自身的解决方案。

好了，本文就介绍到这里，感兴趣的同学可以阅读原文～