神经网络基础

神经元

  1. 感知机
    感知机是一种线性二分类模型,所有的分类器包括神经网络本质上都是要模拟一个函数f:x-->y。x为分类器输入,待分类特征;y为输出,x的类别。而函数的建立,依赖于参数。对于有监督的学习而言,通过对训练数据的学习得出参数。
  2. 神经元
    单个神经元结构上就是一个感知机,只是在原来的线性分类基础上加入了激活函数,使之能够进行非线性分类。
    在下图的感知机模型中,输入为向量x=(x1,x2,x3),输出为
    ,其中f( )就是激活函数,一般激活函数采用sigmoid或者tanh形式,值域分别为[0,1]或者[-1,1]
    sigmoid函数

    tanh函数

    ![](http://www.forkosh.com/mathtex.cgi? \Large h_{w,b}(x))

神经网络模型

神经网络由输入层、一到多个隐藏层、输出层组成,每层都由许多神经元构成。


简单的神经网络
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 20161019 工作很忙,更新极其缓慢 引言本系列是本人第一次在简书写东西,想将手头上正在学的神经网络归纳整理,...
    marine0131阅读 10,876评论 2 13
  • 近几年兴起的深度学习技术本质上也是一种机器学习方法,简单来说就是一系列可以训练多层神经网络(multilayere...
    Rapp阅读 7,613评论 0 6
  • 说明: 本系列文章翻译斯坦福大学的课程:Convolutional Neural Networks for Vis...
    Warren_Liu阅读 5,157评论 0 2
  • 我想 开个书店, 有个房子,一片菜园。 如果有缘, 有对的人,一起终老。 如果无缘, 自己孤老,也不遗憾。
    婴羊阅读 1,241评论 3 5
  • 真正的自我满足,是不需要赞赏的。 开完家长会后,一个家长和我交流,孩子回到家告诉她,她很不开心因为老师没有给她发小...
    Teacher纪阅读 2,784评论 1 7