深度学习--神经网络

python库--numpy


安装

pip install numpy


numpy部分函数介绍

np.array()

np.zeros()

np.ones()

mat1.shape, mat1.size

2 * mat1

mat1.T

mat1.dot(mat2)

mat1*mat2

2+mat1

mat1.transpose(0,2,1)

mat1+mat2 ----broad cast

np.random.randn(5,10) ----正态分布

np.random.shuffle() ----打乱

np.sum()

np.sum(mat1,axis=1)

np.exp(mat1)

np.argmax(mat1)

反向传播算法(链式求导)----获取梯度


1、从计算图的底部开始向上,逐个节点计算函数值并保存下来。这个步骤,叫做前向计算(forward)。

2、从计算图的顶部开始向下,逐步计算损失函数对每个子节点的导函数,代入前向计算过程中得到的节点值,得到导数值。这个步骤,叫做反向传播(backward)或者更明确一点叫做反向梯度传播。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容