预告:
1.回归问题(分类问题)以及回归问题的优化目标函数(cost function)
2.梯度下降和导数
3.计算图
4.回归问题的梯度下降
5.矩阵化Vectorization
6.Python,Numpy的一些知识点
1.回归问题(分类问题)以及回归问题的优化目标函数(cost function)
Screen Shot 2017-12-03 at 11.30.52 AM.png
Screen Shot 2017-12-03 at 11.38.16 AM.png
Screen Shot 2017-12-03 at 11.47.22 AM.png
不管是机器学习还是深度学习,在我们学习到客观问题潜在的模型(一堆因子决定另一堆因子的模型)时,就像人类的学习需要有一个学习目标,减小cost function就是机器(深度)学习的学习目标。选择什么样的cost function决定的具体目标。就像我小时候的目标是“我要成为一个优秀的人”是一个抽象的大目标,而具体目标是“提高考试分数”是一样的道理。
为了数学省能够处理,这里没有选择平方差和来做cost function,而选用了另一个方程。最小化这个方程的值能够很好地贴合“使Y的计算值和实际值尽可能接近”的学习目标。
Screen Shot 2017-12-03 at 11.51.00 AM.png
2.梯度下降,导数
Screen Shot 2017-12-03 at 12.05.31 PM.png
Screen Shot 2017-12-03 at 12.07.25 PM.png
Screen Shot 2017-12-03 at 12.08.49 PM.png
3.计算图
Screen Shot 2017-12-03 at 12.15.00 PM.png
Screen Shot 2017-12-03 at 12.16.04 PM.png
Screen Shot 2017-12-03 at 12.16.42 PM.png
4.回归问题的梯度下降
Screen Shot 2017-12-03 at 12.57.58 PM.png
Screen Shot 2017-12-03 at 12.58.41 PM.png
Screen Shot 2017-12-03 at 12.59.09 PM.png
和的导数,导数的和,是一样的。
Screen Shot 2017-12-03 at 12.59.26 PM.png
5.矩阵化Vectorization
Screen Shot 2017-12-03 at 1.27.56 PM.png
Screen Shot 2017-12-03 at 1.28.32 PM.png
Screen Shot 2017-12-03 at 1.28.48 PM.png
Screen Shot 2017-12-03 at 1.29.29 PM.png
Screen Shot 2017-12-03 at 1.30.24 PM.png
Screen Shot 2017-12-03 at 1.31.17 PM.png
Screen Shot 2017-12-03 at 1.31.42 PM.png
Screen Shot 2017-12-03 at 1.32.05 PM.png