读以下推荐系统文章学习笔记:
原文网址:
架构
数据层:各种数据
-
策略层:
-
召回策略:
协同过滤 矩阵分解 内容推荐
-
排序模型:
点击率 转化率 LR GBDT
-
特征过程
用户画像等
-
-
应用层
推送 目前主要有feed流推荐等。
详细介绍
特征工程
主要进行文本特征处理。如tf-idf方法,得到每篇文章的tdidf值。
关键词选取:TopK+均值。如果词的个数小于K,则全选,否则取文本内TFIDF均值以上的词作为该帖子的关键词。这样既保证小文的信息不丢失,又可以过滤大文本无用的词。
其他的特征处理方法还包括文本分类的类别、聚类后的类簇、LDA的主题向量、端到端的word2vec等。
策略引擎
生成候选集的算法
1.协同过滤(CF) 基于KNN(得到用户之间的相似度??)
2.内容推荐,同样基于KNN。用余弦相似度。得到帖子之间相似程度。
3.对于新用户,或者行为数据非常少的用户需要采取补充策略(冷启动),保证推荐列表的无线刷新和推荐服务的可用性。根据业务场景采用以下两种统计策略:
- 地域热门:根据用户当前定位商圈,统计当前及其附近5km商圈的热门帖子
- 全局热门:对某个时间段的帖子进行热门降序排列
融合排序
融合
每个候选集都需要曝光给用户,那么优先级什么?比例又是多少?这是融合的目的。
初始阶段常用的是分级和调制方法,优先选择效果好的策略算法,然后再按照不同的比例获取对应数目的候选集。
排序
因为每个策略算法内部原理不同,得出的评分也无法直接使用,所以最终选出来的候选集以什么顺序曝光给用户也是研究的难点。业内常用的最简单方法通过LR来预测CTR。
将帖子特征作为输入,用户是否点击作为输出,处理过程就是通过梯度下降法,找到最优的特征权重使得损失函数最小【机器学习的训练过程】
【原来逻辑回归用在这里呀】