导言
今天重新编译了OpenPose的Caffe修改版,准备用于网络的训练,在正式训练网络之前,想先通过实例的学习来对网络训练有大致的认识
转化数据为LMDB格式
Caffe for Python
输入的预处理
一、为何需要对输入减去均值?
https://blog.csdn.net/GoodShot/article/details/80373372
https://blog.csdn.net/dcxhun3/article/details/47999281
https://blog.csdn.net/hai008007/article/details/79718251
(1) 如果数据是平稳的(即数据每一个维度的统计都服从相同分布),那么你可以考虑在每个样本上减去数据的统计平均值。 Eg. 对于图像,减去数据集的均值像素可以移除图像的平均亮度值,很多情况下我们对图像的照度并不感兴趣,而更多地关注它的内容,因此减去均值像素很有必要。
值得注意的是,在计算均值之前要预先划分好训练集、验证集和测试集,然后只针对训练集计算均值,否则就违背了深度学习的原则:模型训练过程仅能从训练模型中获取信息。
得到训练集的均值后,对训练集、验证集和测试集分别减去该均值。
根据链式求导法则,w权重的更新在一次更新权重的计算中要么全为正数(增大),要么全为负数(减小)