将自己的数据集制作成TFRecord格式
来源:互联网 发布:计算机编程入门书籍 编辑:程序博客网 时间:2024/04/29 22:23
在使用TensorFlow训练神经网络时,首先面临的问题是:网络的输入
此篇文章,教大家将自己的数据集制作成TFRecord格式,feed进网络,除了TFRecord格式,TensorFlow也支持其他格
式的数据,此处就不再介绍了。建议大家使用TFRecord格式,在后面可以通过api进行多线程的读取文件队列。
1. 原本的数据集
此时,我有两类图片,分别是xiansu100,xiansu60,每一类中有10张图片。
2.制作成TFRecord格式
tfrecord会根据你选择输入文件的类,自动给每一类打上同样的标签。如在本例中,只有0,1 两类,想知道文件夹名与label关系的,可以自己保存起来。
#生成整数型的属性def _int64_feature(value): return tf.train.Feature(int64_list = tf.train.Int64List(value = [value]))#生成字符串类型的属性def _bytes_feature(value): return tf.train.Feature(bytes_list = tf.train.BytesList(value = [value]))#制作TFRecord格式def createTFRecord(filename,mapfile): class_map = {} data_dir = '/home/wc/DataSet/traffic/testTFRecord/' classes = {'xiansu60','xiansu100'} #输出TFRecord文件的地址 writer = tf.python_io.TFRecordWriter(filename) for index,name in enumerate(classes): class_path=data_dir+name+'/' class_map[index] = name for img_name in os.listdir(class_path): img_path = class_path + img_name #每个图片的地址 img = Image.open(img_path) img= img.resize((224,224)) img_raw = img.tobytes() #将图片转化成二进制格式 example = tf.train.Example(features = tf.train.Features(feature = { 'label':_int64_feature(index), 'image_raw': _bytes_feature(img_raw) })) writer.write(example.SerializeToString()) writer.close() txtfile = open(mapfile,'w+') for key in class_map.keys(): txtfile.writelines(str(key)+":"+class_map[key]+"\n") txtfile.close()
此段代码,运行完后会产生生成的.tfrecord文件。
3. 读取TFRecord的数据,进行解析,此时使用了文件队列以及多线程
#读取train.tfrecord中的数据def read_and_decode(filename): #创建一个reader来读取TFRecord文件中的样例 reader = tf.TFRecordReader() #创建一个队列来维护输入文件列表 filename_queue = tf.train.string_input_producer([filename], shuffle=False,num_epochs = 1) #从文件中读出一个样例,也可以使用read_up_to一次读取多个样例 _,serialized_example = reader.read(filename_queue)# print _,serialized_example #解析读入的一个样例,如果需要解析多个,可以用parse_example features = tf.parse_single_example( serialized_example, features = {'label':tf.FixedLenFeature([], tf.int64), 'image_raw': tf.FixedLenFeature([], tf.string),}) #将字符串解析成图像对应的像素数组 img = tf.decode_raw(features['image_raw'], tf.uint8) img = tf.reshape(img,[224, 224, 3]) #reshape为128*128*3通道图片 img = tf.image.per_image_standardization(img) labels = tf.cast(features['label'], tf.int32) return img, labels
4. 将图片几个一打包,形成batch
def createBatch(filename,batchsize): images,labels = read_and_decode(filename) min_after_dequeue = 10 capacity = min_after_dequeue + 3 * batchsize image_batch, label_batch = tf.train.shuffle_batch([images, labels], batch_size=batchsize, capacity=capacity, min_after_dequeue=min_after_dequeue ) label_batch = tf.one_hot(label_batch,depth=2) return image_batch, label_batch
5.主函数
if __name__ =="__main__": #训练图片两张为一个batch,进行训练,测试图片一起进行测试 mapfile = "/home/wc/DataSet/traffic/testTFRecord/classmap.txt" train_filename = "/home/wc/DataSet/traffic/testTFRecord/train.tfrecords"# createTFRecord(train_filename,mapfile) test_filename = "/home/wc/DataSet/traffic/testTFRecord/test.tfrecords"# createTFRecord(test_filename,mapfile) image_batch, label_batch = createBatch(filename = train_filename,batchsize = 2) test_images,test_labels = createBatch(filename = test_filename,batchsize = 20) with tf.Session() as sess: initop = tf.group(tf.global_variables_initializer(),tf.local_variables_initializer()) sess.run(initop) coord = tf.train.Coordinator() threads = tf.train.start_queue_runners(sess = sess, coord = coord) try: step = 0 while 1: _image_batch,_label_batch = sess.run([image_batch,label_batch]) step += 1 print step print (_label_batch) except tf.errors.OutOfRangeError: print (" trainData done!") try: step = 0 while 1: _test_images,_test_labels = sess.run([test_images,test_labels]) step += 1 print step # print _image_batch.shape print (_test_labels) except tf.errors.OutOfRangeError: print (" TEST done!") coord.request_stop() coord.join(threads)
此时,生成的batch,就可以feed进网络了。
阅读全文
1 0
- 将自己的数据集制作成TFRecord格式
- 制作自己的数据集tfrecord格式
- TensorFlow 制作自己的TFRecord数据集
- TensorFlow 制作自己的TFRecord数据集
- AI_Scene classification 数据制作成TFrecord 格式
- How to transform our data into TFRecord(怎样将自己的图片数据转换成TF的格式)
- Tensorflow教程学习笔记(一)----将自己的数据集转换成TFRecord
- TensorFlow 学习(二) 制作自己的TFRecord数据集,读取,显示及代码详解
- 利用matlab将自己的数据制作为标准VOC数据集格式
- Tensorflow 训练自己的数据集(二)(TFRecord)
- Tensorflow使用TFRecord构建自己的数据集并读取
- tensorflow制作数据集之TFRecord
- 制作自己的图片数据集(VOC2007格式)
- tensorflow读取数据-tfrecord格式
- tensorflow读取数据-tfrecord格式
- [TFRecord格式数据]基本介绍
- TFRecord —— tensorflow 下的统一数据存储格式
- TFRecord格式数据和类似cifar的bin格式文件
- Gradle使用入门
- matlab2c使用c++实现matlab函数系列教程-randn函数
- ImageLoader,获取图片
- poj_1797_Heavy Transportation
- 基于restful服务端接口(二)
- 将自己的数据集制作成TFRecord格式
- Unity3D-塔防游戏项目主要源码(防御塔炮弹脚本)
- html+css学习心得(2)
- Sequence
- Python 爬取百度音乐
- Server Tomcat v8.0 Server at localhost failed to start.
- 【知了堂学习笔记】eclipse常见问题和基本设置
- 设计模式-抽像工厂
- 比特币源码解析(11)