背景:
2019年7月初,选择推荐方向,课程有两个项目,一个电影推荐,一个电商推荐。个人对推荐理解比较浅,这里先对电影推荐进行调研,整理思路。
电影推荐:
1.查阅七月在线论坛:
看了七月的推荐电影推荐开题,从上一期同学作业那里看到,想做好需要先对项目的各个功能先想清楚。
这里先从论坛下手:10条博客,没有一条电影推荐的,个别有提到相关。
问答中
1.集6 上海推荐小分队的问题汇总(https://ask.julyedu.com/question/86832):
电影信息包含电影的名称、导演、演员一些信息,但是同一条电影有不同的分类信息,比如《老炮儿》的类型分成三类:剧情、动作、犯罪,这个需要做个统一吗,还是说只删除其他类型保留一个,用户信息里面有些复杂,每一行是一个用户对一个电影的评分,但是数据里同一个用户对多个电影都有评分,这个信息处理出来,那每个用户都有不同数量的电影评分,这个就不太好办了吧,还是说用户信息的数据库表单里只存储用户名和ID,另外加上用户对所有的类型电影中TOP10的电影名,(我找到的数据里面用户没有像年龄学历爱好这样的其他信息),还是说在用户和电影关联的数据表单中单独存储两者的关系 ?
七月在线魏博士 2018/12/11 22:42:57
1、前端需要什么数据,你就存什么,后端的数据存储形式可以灵活选择
2、标签都保留下来
3,最后的每条训练数据是:一个用户,一个电影,评分,这样的形式
2.「推荐系统实战」一课的问题汇总与集中答疑(https://ask.julyedu.com/question/86841)
我之前看到案例中使用神经网络,直接将用户的特征,电影的特征全部转成 Embedding 以后,直接训练。针对电影的标题,是用卷积神经网络去提取特征。这种方式确实也能解决大数据问题,可以批量训练,也能解决特征组合的问题。我想知道,这个方法和第一种方法相比,有什么优点?或者说在效果上,能有多少提升?
July • 2018-12-16 22:33
搬运老罗说的:
1.隐私反馈场景下一般都是通过不同的反馈特征加权来构造矩阵的,这个上周讲过。batch训练是常用优化训练速度的方法。效果好坏取决于数据分布和稀疏性
2.非id类特征的使用解决了数据稀疏性问题,同时增加了泛化性,拟合和预测能力很强。
3.没理解你说的topk指的是什么
3.图像(https://ask.julyedu.com/uploads/questions/20181224/bb7f0018e9699590c5a4e27f724b376a.png)
4.在线推荐系统课期末项目解法和分析(音乐推荐)
(https://ask.julyedu.com/question/86917)
5.推荐系统综合项目解析与特征处理
(https://ask.julyedu.com/question/86919)
2.老师给的资料(各个网站)
推荐项目相关资源:
推荐资源汇总:
https://github.com/grahamjenson/list_of_recommender_systems
公开数据集:
http://shuaizhang.tech/2017/03/15/Datasets-For-Recommender-System/
http://cseweb.ucsd.edu/~jmcauley/datasets.html
开源项目:
https://github.com/LuckyZXL2016/Movie_Recommend
https://github.com/Microsoft/Recommenders
推荐系统架构:
https://blog.csdn.net/oufua/article/details/78427517
https://myslide.cn/slides/632
http://www.aboutyun.com/thread-23672-1-1.html
推荐算法库:
https://pypi.org/project/scikit-surprise/1.0.3/
http://www.librec.net
http://mahout.apache.org
http://www.libfm.org
https://github.com/princewen/tensorflow_practice/tree/master/recommendation
推荐论文汇总:
https://github.com/hongleizhang/RSPapers
https://github.com/robi56/Deep-Learning-for-Recommendation-Systems
爬虫库:
grab、scrapy、pyspider、cola、portia、restkit、demiurge、web
框架:
Django,Flask,Tornado