R-FCN+ResNet-50 训练模型

本文转载自：

http://blog.csdn.net/sinat_30071459/article/details/53202977

说明：

本文假设你已经做好数据集，格式和VOC2007一致，并且Linux系统已经配置好caffe所需环境（博客里教程很多），下面是训练的一些修改。

py-R-FCN源码下载地址：

https://github.com/Orpine/py-R-FCN

也有Matlab版本：

https://github.com/daijifeng001/R-FCN

本文用到的是Python版本。

本文主要参考https://github.com/Orpine/py-R-FCN。

准备工作：

（1）配置caffe环境(网上找教程)

（2）安装cython, python-OpenCV, easydict

[plain] view plain copy

 

1. pip install cython  
2. pip install easydict  
3. apt-get install python-opencv  

然后，我们就可以开始配置R-FCN了。

1.下载py-R-FCN

[plain] view plain copy

 

1. git clone https://github.com/Orpine/py-R-FCN.git  

下面称你的py-R-FCN路径为RFCN_ROOT.

2.下载caffe

注意，该caffe版本是微软版本

[plain] view plain copy

 

1. cd $RFCN_ROOT  
2. git clone https://github.com/Microsoft/caffe.git  

如果一切正常的话，python代码会自动添加环境变量 $RFCN_ROOT/caffe/python，否则，你需要自己添加环境变量。

3.Build Cython

[plain] view plain copy

 

1. cd $RFCN_ROOT/lib  
2. make  

4.Build caffe和pycaffe

[plain] view plain copy

 

1. cd $RFCN_ROOT/caffe  
2. cp Makefile.config.example Makefile.config  

然后修改Makefile.config。caffe必须支持python层，所以WITH_PYTHON_LAYER := 1是必须的。其他配置可参考：Makefile.config

接着：

[plain] view plain copy

 

1. cd $RFCN_ROOT/caffe  
2. make -j8 && make pycaffe  

如果没有出错，则：

5.测试Demo

经过上面的工作，我们可以测试一下是否可以正常运行。

我们需要下载作者训练好的模型，地址：链接：http://pan.baidu.com/s/1kVGy8DL 密码：pwwg

然后将模型放在$RFCN_ROOT/data。看起来是这样的：

$RFCN_ROOT/data/rfcn_models/resnet50_rfcn_final.caffemodel$RFCN_ROOT/data/rfcn_models/resnet101_rfcn_final.caffemodel

运行：

[plain] view plain copy

 

1. cd $RFCN_ROOT  
2. ./tools/demo_rfcn.py --net ResNet-50  

6.用我们的数据集训练

（1）拷贝数据集

假设我们已经做好数据集了，格式是和VOC2007一致，将你的数据集

拷贝到$RFCN_ROOT/data下。看起来是这样的：

$VOCdevkit0712/                           # development kit$VOCdevkit/VOCcode/                   # VOC utility code$VOCdevkit/VOC0712                    # image sets, annotations, etc.# ... and several other directories ...

如果你的文件夹名字不是VOCdevkit0712和VOC0712，修改成0712就行了。

（作者是用VOC2007和VOC2012训练的，所以文件夹名字带0712。也可以修改代码，但是那样比较麻烦一些，修改文件夹比较简单）

（2）下载预训练模型

本文以ResNet-50为例，因此下载ResNet-50-model.caffemodel。下载地址：链接：http://pan.baidu.com/s/1slRHD0L 密码：r3ki

然后将caffemodel放在$RFCN_ROOT/data/imagenet_models  (data下没有该文件夹就新建一个)

（3）修改模型网络

打开$RFCN_ROOT/models/pascal_voc/ResNet-50/rfcn_end2end  (以end2end为例)

注意：下面的cls_num指的是你数据集的类别数+1（背景）。比如我有15类，+1类背景，cls_num=16.

<1>修改class-aware/train_ohem.prototxt

[plain] view plain copy

 

1. layer {  
2.   name: 'input-data'  
3.   type: 'Python'  
4.   top: 'data'  
5.   top: 'im_info'  
6.   top: 'gt_boxes'  
7.   python_param {  
8.     module: 'roi_data_layer.layer'  
9.     layer: 'RoIDataLayer'  
10.     param_str: "'num_classes': 16" #cls_num  
11.   }  
12. }  

[plain] view plain copy

 

1. layer {  
2.   name: 'roi-data'  
3.   type: 'Python'  
4.   bottom: 'rpn_rois'  
5.   bottom: 'gt_boxes'  
6.   top: 'rois'  
7.   top: 'labels'  
8.   top: 'bbox_targets'  
9.   top: 'bbox_inside_weights'  
10.   top: 'bbox_outside_weights'  
11.   python_param {  
12.     module: 'rpn.proposal_target_layer'  
13.     layer: 'ProposalTargetLayer'  
14.     param_str: "'num_classes': 16" #cls_num  
15.   }  
16. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "conv_new_1"  
3.     top: "rfcn_cls"  
4.     name: "rfcn_cls"  
5.     type: "Convolution"  
6.     convolution_param {  
7.         num_output: 784 #cls_num*(score_maps_size^2)  
8.         kernel_size: 1  
9.         pad: 0  
10.         weight_filler {  
11.             type: "gaussian"  
12.             std: 0.01  
13.         }  
14.         bias_filler {  
15.             type: "constant"  
16.             value: 0  
17.         }  
18.     }  
19.     param {  
20.         lr_mult: 1.0  
21.     }  
22.     param {  
23.         lr_mult: 2.0  
24.     }  
25. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "conv_new_1"  
3.     top: "rfcn_bbox"  
4.     name: "rfcn_bbox"  
5.     type: "Convolution"  
6.     convolution_param {  
7.         num_output: 3136 #4*cls_num*(score_maps_size^2)  
8.         kernel_size: 1  
9.         pad: 0  
10.         weight_filler {  
11.             type: "gaussian"  
12.             std: 0.01  
13.         }  
14.         bias_filler {  
15.             type: "constant"  
16.             value: 0  
17.         }  
18.     }  
19.     param {  
20.         lr_mult: 1.0  
21.     }  
22.     param {  
23.         lr_mult: 2.0  
24.     }  
25. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "rfcn_cls"  
3.     bottom: "rois"  
4.     top: "psroipooled_cls_rois"  
5.     name: "psroipooled_cls_rois"  
6.     type: "PSROIPooling"  
7.     psroi_pooling_param {  
8.         spatial_scale: 0.0625  
9.         output_dim: 16  #cls_num  
10.         group_size: 7  
11.     }  
12. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "rfcn_bbox"  
3.     bottom: "rois"  
4.     top: "psroipooled_loc_rois"  
5.     name: "psroipooled_loc_rois"  
6.     type: "PSROIPooling"  
7.     psroi_pooling_param {  
8.         spatial_scale: 0.0625  
9.         output_dim: 64 #4*cls_num  
10.         group_size: 7  
11.     }  
12. }  

<2>修改class-aware/test.prototxt

[plain] view plain copy

 

1. layer {  
2.     bottom: "conv_new_1"  
3.     top: "rfcn_cls"  
4.     name: "rfcn_cls"  
5.     type: "Convolution"  
6.     convolution_param {  
7.         num_output: 784 #cls_num*(score_maps_size^2)  
8.         kernel_size: 1  
9.         pad: 0  
10.         weight_filler {  
11.             type: "gaussian"  
12.             std: 0.01  
13.         }  
14.         bias_filler {  
15.             type: "constant"  
16.             value: 0  
17.         }  
18.     }  
19.     param {  
20.         lr_mult: 1.0  
21.     }  
22.     param {  
23.         lr_mult: 2.0  
24.     }  
25. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "conv_new_1"  
3.     top: "rfcn_bbox"  
4.     name: "rfcn_bbox"  
5.     type: "Convolution"  
6.     convolution_param {  
7.         num_output: 3136 #4*cls_num*(score_maps_size^2)  
8.         kernel_size: 1  
9.         pad: 0  
10.         weight_filler {  
11.             type: "gaussian"  
12.             std: 0.01  
13.         }  
14.         bias_filler {  
15.             type: "constant"  
16.             value: 0  
17.         }  
18.     }  
19.     param {  
20.         lr_mult: 1.0  
21.     }  
22.     param {  
23.         lr_mult: 2.0  
24.     }  
25. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "rfcn_cls"  
3.     bottom: "rois"  
4.     top: "psroipooled_cls_rois"  
5.     name: "psroipooled_cls_rois"  
6.     type: "PSROIPooling"  
7.     psroi_pooling_param {  
8.         spatial_scale: 0.0625  
9.         output_dim: 16  #cls_num  
10.         group_size: 7  
11.     }  
12. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "rfcn_bbox"  
3.     bottom: "rois"  
4.     top: "psroipooled_loc_rois"  
5.     name: "psroipooled_loc_rois"  
6.     type: "PSROIPooling"  
7.     psroi_pooling_param {  
8.         spatial_scale: 0.0625  
9.         output_dim: 64  #4*cls_num  
10.         group_size: 7  
11.     }  
12. }  

[plain] view plain copy

 

1. layer {  
2.     name: "cls_prob_reshape"  
3.     type: "Reshape"  
4.     bottom: "cls_prob_pre"  
5.     top: "cls_prob"  
6.     reshape_param {  
7.         shape {  
8.             dim: -1  
9.             dim: 16  #cls_num  
10.         }  
11.     }  
12. }  

[plain] view plain copy

 

1. layer {  
2.     name: "bbox_pred_reshape"  
3.     type: "Reshape"  
4.     bottom: "bbox_pred_pre"  
5.     top: "bbox_pred"  
6.     reshape_param {  
7.         shape {  
8.             dim: -1  
9.             dim: 64  #4*cls_num  
10.         }  
11.     }  
12. }  

<3>修改train_agnostic.prototxt

[plain] view plain copy

 

1. layer {  
2.   name: 'input-data'  
3.   type: 'Python'  
4.   top: 'data'  
5.   top: 'im_info'  
6.   top: 'gt_boxes'  
7.   python_param {  
8.     module: 'roi_data_layer.layer'  
9.     layer: 'RoIDataLayer'  
10.     param_str: "'num_classes': 16"  #cls_num  
11.   }  
12. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "conv_new_1"  
3.     top: "rfcn_cls"  
4.     name: "rfcn_cls"  
5.     type: "Convolution"  
6.     convolution_param {  
7.         num_output: 784 #cls_num*(score_maps_size^2)   ###  
8.         kernel_size: 1  
9.         pad: 0  
10.         weight_filler {  
11.             type: "gaussian"  
12.             std: 0.01  
13.         }  
14.         bias_filler {  
15.             type: "constant"  
16.             value: 0  
17.         }  
18.     }  
19.     param {  
20.         lr_mult: 1.0  
21.     }  
22.     param {  
23.         lr_mult: 2.0  
24.     }  
25. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "rfcn_cls"  
3.     bottom: "rois"  
4.     top: "psroipooled_cls_rois"  
5.     name: "psroipooled_cls_rois"  
6.     type: "PSROIPooling"  
7.     psroi_pooling_param {  
8.         spatial_scale: 0.0625  
9.         output_dim: 16 #cls_num   ###  
10.         group_size: 7  
11.     }  
12. }  

<4>修改train_agnostic_ohem.prototxt

[plain] view plain copy

 

1. layer {  
2.   name: 'input-data'  
3.   type: 'Python'  
4.   top: 'data'  
5.   top: 'im_info'  
6.   top: 'gt_boxes'  
7.   python_param {  
8.     module: 'roi_data_layer.layer'  
9.     layer: 'RoIDataLayer'  
10.     param_str: "'num_classes': 16" #cls_num ###  
11.   }  
12. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "conv_new_1"  
3.     top: "rfcn_cls"  
4.     name: "rfcn_cls"  
5.     type: "Convolution"  
6.     convolution_param {  
7.         num_output: 784 #cls_num*(score_maps_size^2)   ###  
8.         kernel_size: 1  
9.         pad: 0  
10.         weight_filler {  
11.             type: "gaussian"  
12.             std: 0.01  
13.         }  
14.         bias_filler {  
15.             type: "constant"  
16.             value: 0  
17.         }  
18.     }  
19.     param {  
20.         lr_mult: 1.0  
21.     }  
22.     param {  
23.         lr_mult: 2.0  
24.     }  
25. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "rfcn_cls"  
3.     bottom: "rois"  
4.     top: "psroipooled_cls_rois"  
5.     name: "psroipooled_cls_rois"  
6.     type: "PSROIPooling"  
7.     psroi_pooling_param {  
8.         spatial_scale: 0.0625  
9.         output_dim: 16 #cls_num   ###  
10.         group_size: 7  
11.     }  
12. }  

<5>修改test_agnostic.prototxt

[plain] view plain copy

 

1. layer {  
2.     bottom: "conv_new_1"  
3.     top: "rfcn_cls"  
4.     name: "rfcn_cls"  
5.     type: "Convolution"  
6.     convolution_param {  
7.         num_output: 784 #cls_num*(score_maps_size^2) ###  
8.         kernel_size: 1  
9.         pad: 0  
10.         weight_filler {  
11.             type: "gaussian"  
12.             std: 0.01  
13.         }  
14.         bias_filler {  
15.             type: "constant"  
16.             value: 0  
17.         }  
18.     }  
19.     param {  
20.         lr_mult: 1.0  
21.     }  
22.     param {  
23.         lr_mult: 2.0  
24.     }  
25. }  

[plain] view plain copy

 

1. layer {  
2.     bottom: "rfcn_cls"  
3.     bottom: "rois"  
4.     top: "psroipooled_cls_rois"  
5.     name: "psroipooled_cls_rois"  
6.     type: "PSROIPooling"  
7.     psroi_pooling_param {  
8.         spatial_scale: 0.0625  
9.         output_dim: 16 #cls_num   ###  
10.         group_size: 7  
11.     }  
12. }  

[plain] view plain copy

 

1. layer {  
2.     name: "cls_prob_reshape"  
3.     type: "Reshape"  
4.     bottom: "cls_prob_pre"  
5.     top: "cls_prob"  
6.     reshape_param {  
7.         shape {  
8.             dim: -1  
9.             dim: 16 #cls_num   ###  
10.         }  
11.     }  
12. }  

(4)修改代码

<1>$RFCN/lib/datasets/pascal_voc.py

[plain] view plain copy

 

1. class pascal_voc(imdb):  
2.     def __init__(self, image_set, year, devkit_path=None):  
3.         imdb.__init__(self, 'voc_' + year + '_' + image_set)  
4.         self._year = year  
5.         self._image_set = image_set  
6.         self._devkit_path = self._get_default_path() if devkit_path is None \  
7.                             else devkit_path  
8.         self._data_path = os.path.join(self._devkit_path, 'VOC' + self._year)  
9.         self._classes = ('__background__', # always index 0  
10.                          '你的标签1','你的标签2',你的标签3','你的标签4'  
11.                       )  

改成你的数据集标签。

<2>$RFCN_ROOT/lib/datasets/imdb.py

主要是assert (boxes[:, 2] >= boxes[:, 0]).all()可能出现AssertionError，具体解决办法参考：

http://blog.csdn.net/xzzppp/article/details/52036794

PS：

上面将有无ohem的prototxt都改了，但是这里训练用的是ohem。

另外，默认的迭代次数很大，可以修改$RFCN\experiments\scripts\rfcn_end2end_ohem.sh:

[plain] view plain copy

 

1. case $DATASET in  
2.   pascal_voc)  
3.     TRAIN_IMDB="voc_0712_trainval"  
4.     TEST_IMDB="voc_0712_test"  
5.     PT_DIR="pascal_voc"  
6.     ITERS=110000  

修改ITERS为你想要的迭代次数即可。

（5）开始训练

[plain] view plain copy

 

1. cd $RFCN_ROOT  
2. ./experiments/scripts/rfcn_end2end_ohem.sh 0 ResNet-50 pascal_voc  

正常的话，就开始迭代了：

$RFCN_ROOT/experiments/scripts里还有一些其他的训练方法，也可以测试一下（经过上面的修改，无ohem的end2end训练也改好了，其他训练方法修改的过程差不多）。

（6）结果

将训练得到的模型($RFCN_ROOT/output/rfcn_end2end_ohem/voc_0712_trainval里最后的caffemodel)拷贝到$RFCN_ROOT/data/rfcn_models下，然后打开$RFCN_ROOT/tools/demo_rfcn.py，将CLASSES修改成你的标签，NETS修改成你的model，im_names修改成你的测试图片(放在data/demo下),最后：

[plain] view plain copy

 

1. cd $RFCN_ROOT  
2. ./tools/demo_rfcn.py --net ResNet-50  

我将显示的标签改为了中文，修改方法参考：http://blog.csdn.net/sinat_30071459/article/details/51694037