
def backward(self, delta_array):
'''
反向计算W和b的梯度
delta_array: 从上一层传递过来的误差项
'''
# 式8
self.delta = self.activator.backward(self.input) * np.dot(
self.W.T, delta_array)
self.W_grad = np.dot(delta_array, self.input.T)
self.b_grad = delta_array
您好,在计算delta的时候,传入的参数为self.activator.backward(self.input),按照推导的公式,这儿不是self.output吗?不知道理解的对不对,还麻烦讲解一下,非常感谢。
零基础入门深度学习(3) - 神经网络和反向传播算法往期回顾 在上一篇文章中,我们已经掌握了机器学习的基本套路,对模型、目标函数、优化算法这些概念有了一定程度的理解,而且已经会训练单个的感知器或者线性单元了。在这篇文章中,我们...
周总结: 2017年1月16日-1月22日 工作:1.调用grpc技术(完成) 生活:1.跑步1次(未完成) 2.健身3次(未完成 ) 社群: 1.共读精进,分享,输出读书笔...
周总结: 2017年1月9日-1月15日 工作:1.多层实验框架技术 (完成) 2.服务器高并发技术 学习(未完成) 生活:1.跑步 1次(未完成) 2.健身 3次 (2次)...
阿东的故事 阿东,30岁,是一名美工设计师,很多项目的文案,都是他来主导设计的。公司的吉祥物汪仔,也是出自于他之手。 阿东今天照例加班忙到很晚,他去公司的咖啡厅,冲了一杯咖啡...
徒步,另一种生活方式 又到了周五的下午茶期间,同事们一起在闲聊,聊聊周末去哪儿。同事王丹高兴的说到,她周末报名参加一个徒步活动。因为是第一次参加,脸上充满了好奇,对这次活...
作业: 1、句子扩写 站在大楼顶上,他想要跳下去。 在寒风凛冽的深夜,他孤单一人站在33层大楼楼顶,空气中弥漫着浓浓的酒精气味,此刻他眼神迷茫的望着远方,想要纵身一跃,结束这...
2017年1月1日-1月8日 周计划: 工作:1.多层实验框架技术 生活:1.风雪五台山 2.健身 3次 社群:1.小组管理 2.组内分享准备-时间管理...
近几年思维导图火热,火热的背后有其深刻的缘由。 东尼.博赞是思维导图的发明者。他在书籍《博赞脑力训练手册之思维导图》中系统阐述了思维导图的来源、绘制规则、应用场景及未来发展。...