【西瓜书】第5章 神经网络

神经网络是一种模拟人脑的神经网络,以期能够实现人工智能的机器学习技术,在学习中主要参考西瓜书、python神经网络编程和吴恩达讲课中的内容整理,可能有些不正确的地方,还需要持续探索。


假设 hθ(x)h θ(x) 是logistic函数,则这个神经元也可以被称为一个带有logistic激活函数的人工神经元。在神经网络术语中,激活函数是指非线性函数 g(z)g(z) 的另一个术语。在神经网络的文献中, θ 参数有时也被称为权重。

一、吴恩达讲课中的内容

吴恩达讲课

在下文中有很多参数,在这里经过查看别人的笔记,在这里统一进行说明

a_{i}^j 表示第j层第i个神经元的激活项,激活项是一个具体神经元计算并输出的值

\Theta ^j表示权重矩阵,控制着从某一层到下一层的映射。

吴恩达讲课

一、前向传播误差

吴恩达讲课
吴恩达讲课

吴老师讲课中采用的还是逻辑回归中的cost function

吴恩达讲课


在上式中,y是一个向量,前半部分,y_{k}^i 是第i个预期值中的第k的元素值(多分类)

后半部分是所有参数的加和


吴恩达讲课

二、反向传播误差

吴恩达讲课

以上计算运用了导数的链式法则,推导过程https://blog.csdn.net/xuan_liu123/article/details/83660316

吴恩达讲课  J的变化率  使用梯度下降

以上计算出梯度,用于J更新

图片发自简书App

图片发自简书App

图片发自简书App

图片发自简书App

推导过程

Python神经网络

Python神经网络

吴恩达

吴恩达

吴恩达
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。