反向传播算法
“反向传播”是用于最小化我们的成本函数的神经网络术语,就像在逻辑和线性回归中使用梯度下降一样。

梯度计算-前向传播
表示第L层节点j的误差
.*表示点乘,是指对应的元素相乘

表示求导的导数
不需要计算,第一层是输入层,不存在误差。

梯度计算-后向传播
△表示大写的,是累加求和的意思。

后向传播
例题

例题
反向传播算法
“反向传播”是用于最小化我们的成本函数的神经网络术语,就像在逻辑和线性回归中使用梯度下降一样。
表示第L层节点j的误差
.*表示点乘,是指对应的元素相乘
不需要计算,第一层是输入层,不存在误差。
△表示大写的,是累加求和的意思。
例题