[机器学习入门] 李宏毅机器学习笔记-8(Backpropagation;反向传播算法)
VIDEO |
---|
当我们要用gradient descent来train一个neural network,要怎么做?
Gradient Descent
这里写图片描述
backpropagation就是Gradient Descent。
Chain Rule(连锁法)
这里写图片描述
Backpropagation主要用到了Chain Rule
Backpropagation
这里写图片描述
这里写图片描述
Forward pass
这里写图片描述
这里写图片描述
Backward pass
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
Summary
这里写图片描述