【caffe】caffe中通过图像生成lmdb格式的数据

转载请注明出处：

http://www.cnblogs.com/darkknightzh/p/5909121.html

参考网址：

http://www.cnblogs.com/wangxiaocvpr/p/5096265.html

可以根据caffe-master\examples\imagenet \readme.md进行理解。

 

1 生成LmDB格式文件

caffe中通过图像生成lmdb格式文件的程序为examples/imagenet/create_imagenet.sh。该文件调用build/tools/convert_imageset（对应的源码为tools/convert_imageset.cpp）。

为了不改变原来的程序，在examples内新建testCreateLmDB文件夹。新建create_imagenet.sh，并输入：

#!/usr/bin/env sh 2 # Create the imagenet lmdb inputs 3 # N.B. set the path to the imagenet train + val data dirsset -e 4  5 EXAMPLE=examples/testCreateLmDB 6 DATA=/home/xxx/database/CASIA 7 TOOLS=build/tools 8  9 TRAIN_DATA_ROOT=/home/xxx/database/CASIA/10 VAL_DATA_ROOT=/home/xxx/database/CASIA/11 12 # Set RESIZE=true to resize the images to 256x256. Leave as false if images have13 # already been resized using another tool.14 RESIZE=true15 if $RESIZE; then16   RESIZE_HEIGHT=12817   RESIZE_WIDTH=12818 else19   RESIZE_HEIGHT=020   RESIZE_WIDTH=021 fi22 23 if [ ! -d "$TRAIN_DATA_ROOT" ]; then24   echo "Error: TRAIN_DATA_ROOT is not a path to a directory: $TRAIN_DATA_ROOT"25   echo "Set the TRAIN_DATA_ROOT variable in create_imagenet.sh to the path" \26        "where the ImageNet training data is stored."27   exit 128 fi29 30 if [ ! -d "$VAL_DATA_ROOT" ]; then31   echo "Error: VAL_DATA_ROOT is not a path to a directory: $VAL_DATA_ROOT"32   echo "Set the VAL_DATA_ROOT variable in create_imagenet.sh to the path" \33        "where the ImageNet validation data is stored."34   exit 135 fi36 37 echo "Creating train lmdb..."38 39 GLOG_logtostderr=1 $TOOLS/convert_imageset \40     --resize_height=$RESIZE_HEIGHT \41     --resize_width=$RESIZE_WIDTH \42     --shuffle \43     $TRAIN_DATA_ROOT \44     $DATA/train_all.txt \45     $EXAMPLE/face_train_lmdb46 47 echo "Creating val lmdb..."48 49 #GLOG_logtostderr=1 $TOOLS/convert_imageset \50  #   --resize_height=$RESIZE_HEIGHT \51  #   --resize_width=$RESIZE_WIDTH \52 #    --shuffle \53 #    $VAL_DATA_ROOT \54 #    $DATA/val.txt \55  #   $EXAMPLE/face_val_lmdb56 57 echo "Done."

之后，在caffe根目录打开终端，并输入sh examples/testCreateLmDB/create_imagenet.sh

说明：

1) 程序第6行EXAMPLE为当前文件在caffe目录的相对路径。

2) 程序第7行DATA为train_all.txt所在的文件夹（如果train_all.txt就在TRAIN_DATA_ROOT文件夹内，则DATA和TRAIN_DATA_ROOT一样），如下图：

其中第一列为数据库中所有文件的文件名相对于数据库目录的位置，第二列为图像类别。

3) 第10行TRAIN_DATA_ROOT为训练数据的绝对路径。

4) 第11行VAL_DATA_ROOT为验证数据的绝对路径。

5) 程序第15行RESIZE为是否对图像进行缩放。如果直接读图像的话，可以使用

new_height: 128

new_width: 128

进行缩放。但是使用lmdb的话，貌似没办法在prototxt里面设置缩放，只能在创建lmdb数据库时，进行缩放。缩放时，更改程序17、18行的RESIZE_HEIGHT和RESIZE_WIDTH。经测试，如果不缩放的话，生成数据库大小为28.2G，缩放后，生成数据库大小为21.2G（此处和图像具体大小有关，给出数据只为了说明缩放应该在哪里设置。）

6. 程序第46行EXAMPLE/face_train_lmdb为生成的LmDB文件所在的路径。注意：EXAMPLE/oriface_train_lmdb文件夹最好为空，或者删除该文件夹，否则可能会提示：

 

2 生成mean.binaryproto文件

为了不更改源文件，在testCreateLmDB内新建make_imagenet_mean.sh，并输入：

#!/usr/bin/env sh 2 # Compute the mean image from the imagenet training lmdb 3 # N.B. this is available in data/ilsvrc12 4  5 EXAMPLE=examples/testCreateLmDB 6 DATA=examples/testCreateLmDB 7 TOOLS=build/tools 8  9 $TOOLS/compute_image_mean $EXAMPLE/face_train_lmdb \10   $DATA/face_train_mean.binaryproto11 12 echo "Done."

说明：

1) 程序第3行EXAMPLE为当前程序所在目录（实际上为face_train_lmdb库文件所在目录。见第9行）。

2) 程序第4行DATA为需要生成的face_train_mean.binaryproto所在目录（见程序第10行）。

3) 生成的face_train_mean.binaryproto文件大小为192KB。