1、样本点的的不同
SVM只有关键点的样本点对模型结果有影响,即支持向量对模型结果有影响。
LR中每个点都对样本点有影响。
2、损失函数不同
SVM的损失函数是Hinge损失函数:
LR的损失函数是log损失函数:
3、理论基础不同
SVM基于严格的数学推导;LR基于统计。
4、输出不同
LR可以对每个样本点给出类别判断的概率值,而SVM只有判断
5、可处理的特征空间维度不同。
LR在特征空间维度很高时,表现较差。
SVM则可以通过对偶求解高纬度特征空间。
6、防止过拟合能力不同
SVM模型包含中包含了L2正则化