一、人工智能
（一）什么是人工智能
智能： 从感觉到记忆再到思维的过程称为“智慧”，智慧的结果是语言和行为。行为和语言予以表达称为“能力”。智慧和能力的总称为“智能”。感觉、记忆、思维、行为、语言的过程称为“智能过程”。
人工智能： 人工构建的智能系统。
（二）人工智能的研究内容
人工智能是研究和开发用于模拟、延伸和扩展人类智能的理论、方法、技术及应用的技术学科，其主要研究内容可以归纳为以下四个方面。
- 机器感知： 感知是感觉和知觉的统称，它是客观事物通过感官在人脑中的直接反映。机器感知研究如何用机器或计算机模拟、延伸和扩展人的感知或认知能力，包括机器视觉、机器听觉和机器触觉等。机器感知是通过多传感器采集，并经复杂程序处理的大规模信息处理系统。
- 机器思维： 大脑的思维活动是人类智能的源泉，没有思维就没有人类的智能。机器感知也主要是通过机器思维来实现的。机器思维是指将感知得来的机器内部和外部各种工作信息进行有目的的处理。
- 机器学习： 学习是有特定目标的知识获取过程，是人类智能的主要标志和获得知识点基本手段，表现为新知识结构的不断建立和修改。机器学习是指计算机自动获取新的事实及新的推理算法等，是计算机具有智能的根本途径。
- 机器行为： 行为是生物适应环境变化的一种主要的手段。机器行为研究如何用机器模拟、延伸、扩展人的智能行为，具体包括自然语言生成、机器人行动规划、机器人协调控制等。
二、人工神经网络基础
人工神经网络是基于生物神经元网络机制提出的一种计算结构，是生物神经网络的某种模拟、简化和抽象。神经元是这一网络的“节点”，即“处理单元”。
（一）人工神经网络的功能与应用领域
人工神经网络可用于逼近非线性映射、分类识别、优化计算以及知识挖掘。近年来，人工神经网络在模式识别、信号处理、控制工程和优化计算领域得到了广泛的应用。
（二）人工神经元的M-P模型
M-P模型由心理学家McCulloch和数学家W. Pitts在1943年提出。
M-P模型的模型假设
- 每个神经元都是一个多输入单输出的信息处理单元;
- 神经元输入分兴奋性输入和抑制性输入两种类型;
- 神经元具有空间整合特性和阈值特性;
- 神经元输入与输出间有固定的时滞，主要取决于突触延搁;
- 忽略时间整合作用和不应期;
- 神经元本身是非时变的，即其突触时延和突触强度均为常数。
M-P模型的信息处理
M-P模型结构是一个多输入、单输出的非线性元件。其I/O关系可推述为
其中，表示从其他神经元传来的输入信号;
表示从神经元
到神经元
的连接权值;
表示阈值;
表示激励函数或转移函数;
表示神经元
的输出信号。
作为一种最基本的神经元数学模型，M-P模型包括了加权、求和和激励（转移）三部分功能。
-
加权： 输入信号向量
, 同时输入神经元
模拟了生物神经元的许多激励输入，对于M-P模型而言，
均为
或
。加权系数
模拟了生物神经元具有不同的突触性质和突触强度，其正负模拟了生物神经元中突触的兴奋和抑制，其大小表示突触的不同连接强度。
-
求和：
相应地表示生物神经元的膜电位，实现了对全部输入信号的空间整合（这里忽略了时间整合作用）。神经元激活与否取决于某一阈值电平，即只有膜电位超过阈值时，神经元才会被激活并发放脉冲，否则神经元不会产生输入信号。
实现了阈值电平的模拟。
-
激励： 激励函数
表征了输出与输入之间的对应关系，一般而言这种函数都是非线性的。对于
模型而言，神经元只有兴奋和抑制两种状态，神经元信号输出只有0、1两种状态。因此激励函数
（三）常见的神经元数学模型
神经元的数据模型主要区别于采用了不同的激励函数。
- 阈值型函数：
- 分段线性函数：
- Sigmoid型函数：
- 概率型函数：
概率型函数的输入和输出之间的关系是不确定的。分布律如下
其中， 被称为温度参数。
- 高斯型函数：
三、感知机
感知机（Perceptron）是美国学者Rosenblatt于1957年提出的一种用于模式分类的神经网络模型。
（一）单层感知机的结构及功能分析
M-P模型通常叫做单输出的感知机。按照M-P模型的要求，该人工神经元的激活函数为阶跃函数。为了方便表示，M-P模型表示为下图所示的结构。
用多个这样的单输入感知机可以构成一个多输出的感知机，其结构如下
其中为阈值，记，则输出节点的输出信号 可以表示为
其中 构成单层感知机的权值矩阵.
（二）单层感知机的功能分析
模式分类
对于二维平面，当输入/输出为线性可分集合时，一定可以找到一条直线将模式分成两类。此时感知机的结构图3所示，显然通过调整感知机的权值及阈值可以修改两类模式的分界线:
线性可分：这里的线性可分是指两类样本可以用直线、平面或超平面分开，否则称为线性不可分。
可以看出：
- 由于感知机的分裂判别方程式是线性方程，它不能解决线性不可分的问题。
- 单个感知机节点只能实现两类分类。如果要进行多于两类的分类将怎么做？生物医学已经证明：生物神经系统是由一些相互联系的，能够相互传递信息的神经细胞互连构成的。因此我们就自然想到将多个单输出的感知机神经元连接成多输出的感知机网络。
部分逻辑函数
（三）感知机的学习算法
学习目标
感知机的基本功能是对外部信号进行感知和识别，这就是当外部 个刺激信号或来自其它
个神经元（的信号）处于一定的状态时，感知机就处于兴奋状态，而外部
个信号或
个神经元的输出处于另一个状态时，感知机就呈现抑制状态。
如果、
是
中两个互不相交的集合，且有如下方程成立
则称集合为感知机的学习目标。根据感知机模型，学习算法实际上是要寻找权重
、
满足下述要求：
学习算法
感知机的训练过程是感知机权值的逐步调整过程，为此，用 表示每一次调整的序号。
对应于学习开始前的初始状态，此时对应的权值为初始化值。
训练算法如下：
（1）对各权值,
,
,
