第三周

Shallow Neural Network

Nerual Networks Overview

神经元网络就是把算法分解成一个个层,每次计算都回归优化前面的层,一次次优化得到最终解

Neural Network Representation 神经网络代表

以方括号上标代表层数, 0 层为输入层 最后一层为输出层 中间为隐藏层

Computing a Neural Network's Output

隐藏层每一个节点用下标数字和上标方括号数字代表, 没有下标的时候代表整体该层产出

Vectorizing across multiple examples

image.png
image.png

Explanation for Vectorized Implementation

image.png

image.png

Activation functions 激活函数

常见的激活函数

image.png

Why do you need non-linear activation functions

如果你选择一个线性函数 那么如果没有激活函数 你的结果永远是线性的

Derivatives of activation functions 激活函数导数

激活函数导数

Gradient descent for Neural Networks 神经网络梯度下降

正向传播和反向传播

初始化的知识

后向传播

image.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容