训练数据的存放
-
训练数据和测试数据建立文件夹分别存放, 建议这样存放:
train 和test 文件夹分别存放训练数据和测试数据
同时, 在这两个文件夹内部, 每一类别的数据存放在一个文件夹内:
如图, 类别名称就是文件夹名.
制作caffe输入数据的文本文档:
-
向caffe输送数据, 无论是转换成lmdb还是直接将图像送入网络, 都需要一个文本来存放数据的路径和对应的label. 具体的文本长这个样子:
为了制作这样的文本, 提供给大家一个python 脚本 caffe_data_txt_maker:
import os
def caffe_input_txt_maker(data_folder,outfile_name, phase = 'train'):
# 计数文件个数
file_cnt = 0
class_cnt = 0
with open(outfile_name,'w', encoding="utf-8") as fobj:
for folder_name in os.listdir(data_folder):
label = folder_name.split('__')[0]
folder_path = os.path.join(data_folder, folder_name)
class_cnt += 1
for file_name in os.listdir(folder_path):
file_cnt +=1
# 将文件夹名称也添加入内
if phase == 'train' :
file_path = 'train/' + folder_name + '/' + file_name
if phase == 'test' :
file_path = 'test/' + folder_name + '/' + file_name
fobj.writelines( file_path +" "*5+str(label)+'\n')
file_dir, base_name = os.path.split(outfile_name)
file_name, ext = os.path.splitext(base_name)
new_outfile_name = file_dir + '/' + file_name + '_%d_%d' % (class_cnt, file_cnt) + ext
if os.path.exists(new_outfile_name):
os.remove(new_outfile_name)
os.rename(outfile_name, new_outfile_name)
print ('Done')
if __name__ == "__main__":
caffe_input_txt_maker(data_folder = 'd:/WORKSPACE/DATA/caffe_test_data/train',
outfile_name = "./Basic_CNN_train.txt", phase = 'train')
caffe_input_txt_maker(data_folder = 'd:/WORKSPACE/DATA/caffe_test_data/test',
outfile_name = "./Basic_CNN_test.txt", phase = 'test')
脚本是需要3个输入参数:
data_folder :数据存放的路径
outfile_name : 输入文本文件的名称.
phase: 训练文件夹还是测试文件夹.
程序的phase参数需要判断用户是要生成训练文档还是测试文档, 然后在样本的路径中加入train或test. 并且程序还会将类别个数和样本总数写在输出的文本上.结果如下: