因为老师的叫我们研究神经网络的缘由，这几天在看这方面的资料。这一看可不得了，什么AI，ML，NN，DL，还有各种算法，KNN等等，把我给看懵逼了。下午的时候自己又去了我的大B站，学习了一下神经网络，加上自己去问度娘，总算是有点点收获。
AI（Artificial intelligence）
先放张图以用来描述他们的关系
人工智能出现的比较早，早在上个世界五十年代，一群科学家们就提出了人工智能的构想，但是由于当时计算机设备硬件原因的限制，人工智能的发展一直比较缓慢，听得最多的就是在电影里面。但是在当时科学家们所提出的人工智能是强人工智能（General AI）
这个无所不能的机器，它有着我们所有的感知（甚至比人更多），我们所有的理性，可以像我们一样思考。
而我们现在能达到的水平是弱人工智能(Narrow AI）
弱人工智能是能够与人一样，甚至比人更好地执行特定任务的技术。例如，Pinterest上的图像分类；或者Facebook的人脸识别。
可以说GPU加速是人工智能发展的一大功臣，GPU 加速计算是指同时利用图形处理器 (GPU) 和 CPU，加快科学、分析、工程、消费和企业应用程序的运行速度。GPU的出现使得人工智能发展的更加迅速。
机器学习（Machine Learning）
在上图中可以看到，机器学习是在人工智能之内的，机器学习是实现人工智能的一种方式。
机器学习最基本的做法，是使用算法来解析数据、从中学习，然后对真实世界中的事件做出决策和预测。与传统的为解决特定任务、硬编码的软件程序不同，机器学习是用大量的数据来“训练”，通过各种算法从数据中学习如何完成任务。
而机器学习获得突破性研究的当属计算机视觉，我们能够通过计算机来识别一张停车标示的图片
神经网络（Neural Network）
人们通过研究人脑神经元的运作方式，得出了神经网络算法，而深度学习是基于神经网络算法的。
有这么几个专有名词。
训练集：正如字面意思，训练集就是用以训练的数据的集合，通常数据越多，其准确度会提高。
测试集：当训练完机器后，测试集是用来测试机器的准确度的集合。
特征集：特征集是从一堆数据中统计出来的特征的集合。
目标概念：目标概念是我们测试机器后所得到的目标的集合。
神经网络中又有些术语
输入层：可以看作是我们输入的特征的集合
隐藏层：隐藏层是我们机器得到特征集后机器自己处理的那一层
输出层：输出层是我们得到的信息的集合
权重：对应的每个输入层到隐藏层，隐藏层到隐藏层，隐藏层到输出层，都有一个权重。
偏置：对于每个隐藏层都有自己的偏置，偏置存在的作用是使得算出的目标集更准确
激励函数：对于每层到每层的处理，我们是这样做的，加权求和减去偏置置，得到的值在用激励函数处理，最后我们才得到正确的值。
机器学习中较为简单的算法是KNN（K nearest neighbor）
神经网络中较为简单的算法是BP(Back Propagation)
一文弄懂神经网络中的反向传播法---backpropagation
马士兵老师神经网络入门
