[机器学习入门] 李宏毅机器学习笔记-8(Backpropagation;反向传播算法)

[机器学习入门] 李宏毅机器学习笔记-8(Backpropagation;反向传播算法)

PDF VIDEO

当我们要用gradient descent来train一个neural network,要怎么做?

Gradient Descent

这里写图片描述

backpropagation就是Gradient Descent。


Chain Rule(连锁法)

这里写图片描述

Backpropagation主要用到了Chain Rule


Backpropagation

这里写图片描述
这里写图片描述

Forward pass

这里写图片描述
这里写图片描述

Backward pass

这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述

Summary

这里写图片描述
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容