必须要动手实践，看是看不会的！！！

tf中数据都以tensor的形式出现，即多维数组。

常量 VS 变量（不是常量就是变量）

tensorboard 网络结构
tensorboard运行数据
tensorboard可视化

关键的tf.reshape()

tensor

Variable

constant

local response normalization 局部响应归一化函数
归一化　VS 正则化
归一化：把数变为（0，1）之间的小数
特点：对不同特征维度的伸缩变换的目的是使各个特征维度对目标函数的影响权重是一致的，即使得那些扁平分布的数据伸缩变换成类圆形。这也就改变了原始数据的一个分布。
好处：1 提高迭代求解的收敛速度; 2 提高迭代求解的精度
正则化：l1 l2 dropout 等:防止过拟合
normalization vs regularization