2018-12-20 神经网络反向传播算法

反向传播算法

“反向传播”是用于最小化我们的成本函数的神经网络术语,就像在逻辑和线性回归中使用梯度下降一样。 

梯度计算-前向传播

\delta _{j}^{(l)} 表示第L层节点j的误差

.*表示点乘,是指对应的元素相乘

表示求导的导数

\delta ^{(1)} 不需要计算,第一层是输入层,不存在误差。

梯度计算-后向传播

△表示大写的\delta ,是累加求和的意思。

后向传播

例题

例题
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 王宝强和刘昊然遭仇人追杀,情急之下夺过路人的小轿车开上就跑,路人看见车被开走,急忙追赶慌乱中被摔骨折。仇人开车继续...
    92b58df63804阅读 2,934评论 0 0
  • 2017/2/13 15:40 在这里,所有人都磕头跪拜。 佛俯视着这群凡人,笑而不语。 凡人内心虔诚,暗暗祈祷,...
    乔菇凉你好阅读 1,013评论 0 0
  • 当你喜欢做某件事的时候,你的心就是自在的。 如果你想要去做一件事,你的心就是被困住了。
    橡树芯阅读 1,121评论 0 0
  • 来贴几张以前画的图吧,如果有小伙伴喜欢的话我再发些其他的哈哈 第一张是纸上手绘。下面几张是在ipad上画的~(^_^)v
    sx帅气的名字阅读 2,707评论 4 2

友情链接更多精彩内容