<center>SVD在推荐系统中的应用</center>
摘要
随着网络信息爆炸性增长，用户很难在海量的信息中找到自己需要的产品；商家也难以通过人工的方式向用户推荐其喜爱的产品，错失商机。基于SVD的协同过滤算法能够通过分析用户——产品的评分矩阵，来对空白评分进行预测，根据预测结果来对用户进行产品推荐。但是传统的SVD方法不支持对稀疏矩阵进行分解，因此需要对稀疏评分矩阵进行填充。利用总体平均值进行填充，效率太低，很难应用于实际生产，通过Funk-SVD方法可以既能够填充稀疏矩阵，也能够兼顾效率。
关键字：SVD Funk—SVD 推荐系统 协同过滤
协同过滤（Collaborative Filtering，简称CF）是利用集体智慧的一个典型方法，算法的核心思想类似于我们在选择看一本书时，往往会参考与自己口味相近的朋友的意见。基于CF算法的主要有两种，一种是基于领域的方法，另一种是基于隐语义的方法。
基于领域的方法主要是通过收集用户行为，得到用户和物品的特征向量，进一步计算相似度，找到物品或用户的相似邻居。基于隐语义的方法不依赖与共同评分，其基本思想是将用户和物品分别映射到两个真实含义未知的特征向量上去。这两个特征向量的含义并不能通过人为给定，只能通过SVD模型自己来确定。模型读取用户和物品组成的评分矩阵，通过最小化损失来学习这两个向量。
SVD又称奇异值分解，是线性代数中一种矩阵分解的技术，它能够将任意一个m*n的矩阵A分解成为U、S、V，U是m*m的正交矩阵，V是n*n的正交矩阵，S是m*n的矩阵，且A=U*S*V。通过SVD方式将矩阵A分解后，如果只保留前k个最大的奇异值，就实现了对矩阵降维的目的。我们之所以能够通过保留前k个最大的奇异值来实现降维，是因为在很多情况下，前10%甚至1%的奇异值的和就占了全部的奇异值之和的99%以上的比例。尽管我们能够通过降维来减少运算量，但是k值的选取是我们需要面对的重要问题。如果k值选的过大，那么降维的意义就不大；如果k值选的过小，那么降维之后就有可能丢失重要信息。下面通过一个例子来具体说明SVD算法在推荐系统中的应用。
假设存在以下行为user和列为item的数据矩阵A，0表示没有看过该电影：
通过SVD分解之后产生U、S、V三个矩阵：
此时，我们选取k=2来对U，S，V进行降维，k=2即表示我们默认该数据集含有两个隐形因子：
此时我们通过降维后的U、S、V相乘来得到A':
通过矩阵A和A'的比较，我们可以很直观的看出这两个矩阵十分相似，可以看做是一种数据有损的压缩。此时我们可以开始对一个新用户进行初步的推荐。假设该用户的评分向量p=[5,5,0,0,0,5]，首先我们通过公式p'=p*U'*S'l来得出用户的二维向量，接着通过余弦相似度计算来找出与新用户最相似的用户评分向量q=[5,5,3,0,5,5]，这样我们可以根据向量q来对向量p进行填充，也就是预测。但是，这种预测存在非常大的误差。因为奇异分解要求矩阵是稠密的，也就是说奇异分解不允许待分解矩阵中存在空白的部分，这与现实生活是冲突的。在现实生活中，评分矩阵一定是稀疏的，因为用户没有评分的物品一定是占大多数。为了解决这一问题，我们可以预先对缺失值进行填充，例如使用全局平均值。但是这一方法也有一个缺点——时间复杂度非常高。显示生活中，用户和物品的数目成千上万，计算总体平均值的效率非常低。
为了解决矩阵稀疏性，同时提高运算效率，我们引入了Funk—SVD算法。该算法又称为隐语义模型，主要思路是，将原始评分矩阵A（m*n）分解成两个矩阵P（m*k）和Q（k*n），同时仅考察原始评分矩阵中有评分的项分解结果是否准确，而判别标准则是均方差。即对于矩阵A(m*n)，我们想办法将其分解为P(m*k)、Q(k*n)，此时对于原始矩阵中有评分的位置M'ui来说，其在分解后矩阵中对应的值就是:
那么对于整个评分矩阵而言，总的损失就是:
SSE越小，说明总体的损失越小，预测结果越精确。我们可以通过随机梯度下降法来求SSE的最小值，随机梯度下降法在此就不展开叙述。得出最小SSE后，我们通过公式(1)来对原评分矩阵进行填充，也就是对用户的空白评分进行预测。
将SVD用于推荐系统，推荐结果比较准确，模型的拓展性也很强，能够应用于各种场景。但是SVD模型的可解释性很差，其中的隐性因子无法对应与现实生活中的具体概念，模型的训练速度仍然有待提高。总体来说，SVD在推荐系统的应用方面拥有良好的前景。
