机器学习技能树整理 按问题类型划分 分类问题 Logistic Regression 总结:特征的线性组合+非线性映射。推导时从单个样本开始,单个样本经过sigmoid函数后...

机器学习技能树整理 按问题类型划分 分类问题 Logistic Regression 总结:特征的线性组合+非线性映射。推导时从单个样本开始,单个样本经过sigmoid函数后...
概率无向图模型: 又称作马尔科夫随机场。所谓随机场,其实是由一种服从某种分布的随机变量组成的,场中某些点之间存在依赖关系,进而形成联合概率分布。 设一个联合概率分布P(Y)和...
牛顿法: 根据二阶泰勒展开,用一阶和二阶倒数确定参数迭代步长和方向 设初始向量,它在处的泰勒展开如下: ,当时 注:矩阵求导公式: 对上式相对于求导: ① 因此可以得到处的迭...
深度学习中的注意力机制(Attention Macheanism): Attention机制较为广泛的应用是为了解决LSTM长输入序列在编码成固定长度向量后,解码受限于该固定...
RNN 循环神经网络 RNN主要处理有时序关系的变长序列问题。每个神经元在每一时刻都一个特殊的hidden状态h(t),由当前节点的输入I(t)和上一时刻t-1隐藏状态h(t...
协同过滤的本质其实就是向量间的相似度计算,例如欧氏距离和cosine相似度等。 UserCF UserCF基于用户对物品的偏好找到相邻邻居用户,然后将邻居用户喜欢的推荐给当前...
什么是在线学习,为什么要用在线学习 在一些大型互联网公司的广告系统中,Logistic Regression的权重更新非常看重速度,否则无法应对超大规模的数据集和在线数据流,...
PointWise 这种方法没有考虑到排序的一些特征,比如文档之间的排序结果针对的是给定查询下的文档集合,而Pointwise方法仅仅考虑单个文档的绝对相关度;另外,在排序中...
参考知乎这篇文章整理: https://zhuanlan.zhihu.com/p/34497989 矩阵分解解决什么问题 推荐系统中的评分矩阵是高度稀疏的,存储开销较大,因此...