深度学习入门基于Python的理论与实现（第2章 感知机）

  1. 感知机（perceptron）Frank Rosenblatt 1957年提出，感知机接收多个输入信号，输出一个信号，输入信号是只有1和0，输入信号被送往神经元时，会被分别乘以固定的权重（w_1x_1, w_2x_2），神经元会计算传送过来的信号的总和，只有这个总和超过阈值时才输出1.
    感知机数学式
    y=0 \quad (w_1x_1+w_2x_2 \leqslant \theta) \\ y=1 \quad (w_1x_1+w_2x_2 > \theta)
    引入偏置b的感知机数学式
    y=0 \quad (w_1x_1+w_2x_2+b \leqslant 0) \\ y=1 \quad (w_1x_1+w_2x_2+b > 0)
    感知机的多个输入信号都有各自固有的权重，这些权重发挥着控制着各个信号的重要性的作用。权重越大，信号的重要性就越高。b 是被称为偏置的参数，用于控制神经元被激活的容易程度；而w1 和w2是表示各个信号的权重的参数，用于控制各个信号的重要性。
  2. 线性和非线性
    感知机是线性分类器，局限性在于只能表示由一条直线分割的空间。曲线分割而成的空间称为非线性空间，由直线分割而成的空间称为线性空间。
  3. 从与非门到计算机
    通过组合与非门可以实现计算机，通过组合感知机也可以表示计算机（感知机的组合可以通过叠加了多层的单层感知机来表示）。理论上可以说2层感知机就能构建计算机。已有研究表明，2层感知机（每层使用激活函数为非线性的sigmoid函数）可以表示任意函数。
  4. 感知机可以表示与门和或门等逻辑电路，但是单层感知机无法表示异或门，可以使用2层感知机表示异或门
  5. 单层感知机只能表示线性空间，多层感知机可以表示非线性空间。
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成，浏览时请结合常识与多方信息审慎甄别。
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

友情链接更多精彩内容