240 发简信
IP属地:辽宁
  • 240
    归纳&总结

    机器学习技能树整理 按问题类型划分 分类问题 Logistic Regression 总结:特征的线性组合+非线性映射。推导时从单个样本开始,单个样本经过sigmoid函数后...

  • CRF:Conditional Random Fields

    概率无向图模型: 又称作马尔科夫随机场。所谓随机场,其实是由一种服从某种分布的随机变量组成的,场中某些点之间存在依赖关系,进而形成联合概率分布。 设一个联合概率分布P(Y)和...

  • 240
    牛顿法、拟牛顿法

    牛顿法: 根据二阶泰勒展开,用一阶和二阶倒数确定参数迭代步长和方向 设初始向量,它在处的泰勒展开如下: ,当时 注:矩阵求导公式: 对上式相对于求导: ① 因此可以得到处的迭...

  • 240
    Attention机制概念整理

    深度学习中的注意力机制(Attention Macheanism): Attention机制较为广泛的应用是为了解决LSTM长输入序列在编码成固定长度向量后,解码受限于该固定...

  • 240
    RNN LSTM BI-LSTM

    RNN 循环神经网络 RNN主要处理有时序关系的变长序列问题。每个神经元在每一时刻都一个特殊的hidden状态h(t),由当前节点的输入I(t)和上一时刻t-1隐藏状态h(t...

  • 推荐系统基本算法:协同过滤

    协同过滤的本质其实就是向量间的相似度计算,例如欧氏距离和cosine相似度等。 UserCF UserCF基于用户对物品的偏好找到相邻邻居用户,然后将邻居用户喜欢的推荐给当前...

  • 240
    在线学习:从梯度截断到FTRL

    什么是在线学习,为什么要用在线学习 在一些大型互联网公司的广告系统中,Logistic Regression的权重更新非常看重速度,否则无法应对超大规模的数据集和在线数据流,...

  • 240
    LTR方法总结

    PointWise 这种方法没有考虑到排序的一些特征,比如文档之间的排序结果针对的是给定查询下的文档集合,而Pointwise方法仅仅考虑单个文档的绝对相关度;另外,在排序中...

  • 240
    推荐系统中矩阵分解的应用

    参考知乎这篇文章整理: https://zhuanlan.zhihu.com/p/34497989 矩阵分解解决什么问题 推荐系统中的评分矩阵是高度稀疏的,存储开销较大,因此...