机器学习第一讲

机器学习第一讲：机器学习介绍

机器学习分为两大学派 ，第一种为频率派机器学习，第二种为贝叶斯派机器学习；

1.频率派的观点

​​​​

实际上就是我们深度学习常说的权重，X则是样本，最大似然估计方法并不是唯一计算

的方法，还有最小二乘法，拉格朗日乘子法等等一系列方法，频率机器学习本质熵属于对我们的目标函数的优化。

2.贝叶斯派的观点

​

贝叶斯机器学习不仅仅有MAP计算，还有样本边缘概率计算，条件概率计算等等，贝叶斯机器学习本质上是求积分。    

频率派和贝叶斯派分别给出一系列的机器学习方法，频率派的观点导出一系列的统计机器学习算法，而贝叶斯导出了概率图理论，在应用频率派的MLE方法（最大似然估计方法）时最优化理论占据重要的地位，而贝叶斯派的算法无论是后验概率的建模还是利用后验概率进行推断时积分都占有重要的地位，因此采样积分方法，例如MCMC（Markov Chain Monte Carlo）,有很多的应用。

【注】两幅图片截取自《机器学习白板推导》