监督学习:
分类与回归
线性回归:
线性模型:最小二乘法,岭回归,lasso回归 解决线性问题
参考链接:https://zhuanlan.zhihu.com/p/88698511
梯度下降
普通梯度下降 随机梯度下降
随机梯度下降在运行速度及结果正确性上都优于普通梯度下降,可以用作分类器SGDClassifier和回归器SGDRegressor。
支持向量机
寻找最优超平面
软间隔(允许训练集上存在错误数据,防止出现过度拟合)
线性不可分问题 增加特性维度,使用拉格朗日乘子法实现对超平面求解问题的升维
核函数 线性核 多项式核 高斯京香基核 Sigmoid核
朴素贝叶斯分类
一种简单的分类算法,基于概率统计模型,要求多维特性相互独立
高斯朴素贝叶斯 多项式朴素贝叶斯 伯努利朴素贝叶斯