Faster R-CNN CPU环境搭建

操作系统：

bigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/tools$ cat /etc/issueUbuntu 14.04.2 LTS \n \l

Python版本：

bigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/tools$ python --versionPython 2.7.6

pip版本：

bigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/tools$ pip --versionpip 1.5.4 from /usr/lib/python2.7/dist-packages (python 2.7)

环境变量情况：

bigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/caffe-fast-rcnn$ echo $LD_LIBRARY_PATHbigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/caffe-fast-rcnn$ echo $PATH/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games

~/.bashrc内容，可以看到所有和PATH以及LD_LIBRARY_PATH相关的内容都没有设置：

# ~/.bashrc: executed by bash(1) for non-login shells.# added by Anaconda2 4.0.0 installer#export PATH="/home/bigtop/anaconda2/bin:$PATH"#export LD_LIBRARY_PATH="/home/bigtop/anaconda2/lib/":$LD_LIBRARY_PATH#export LD_LIBRARY_PATH="/lib/x86_64-linux-gnu/":$LD_LIBRARY_PATH

 

1. 安装Caffe需要的依赖包：

sudo apt-get install build-essential  # basic requirementsudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libboost-all-dev libhdf5-serial-dev libgflags-dev libgoogle-glog-dev liblmdb-dev protobuf-compiler #required by caffe

 

使用完上面的命令后，依赖已经安装完毕，但是由于Ubuntu 14.04版本的原因，导致opencv相关的环境不能够正常的work。所以，我重新编译了一个OpenCV，版本为3.1.0。

 

在解压后的目录中执行：

bigtop@bigtop-SdcOS-Hypervisor:~/tools/opencv-3.1.0$  cmake -DBUILD_TIFF=ON

然后执行make 和make install

2. 编译cafe-fast-rcnn

bigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/caffe-fast-rcnn$ lsbuild       CMakeLists.txt   data        examples    LICENSE          Makefile.config~         models     scriptscaffe.cloc  CONTRIBUTING.md  distribute  include     Makefile         Makefile.config.example  python     srccmake       CONTRIBUTORS.md  docs        INSTALL.md  Makefile.config  matlab                   README.md  toolsbigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/caffe-fast-rcnn$ pwd/home/bigtop/py-faster-rcnn/caffe-fast-rcnn

修改这个目录下的Makefile.config（如果没有这个文件，就直接cp Makefile.config.example Makefile.config)

将CPU_ONLY ：= 1开关和WITH_PYTHON_LAYER开关打开：

然后在该目录下执行：make –j8 && make pycaffe

在此过程中，可能会出现各种和python相关的包缺失问题，这里记录下，以便查询：

A》将caffe-fast-rcnn/python目录下的requirements下的依赖都装一遍：

bigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/caffe-fast-rcnn/python$ cat requirements.txt Cython>=0.19.2numpy>=1.7.1scipy>=0.13.2scikit-image>=0.9.3matplotlib>=1.3.1ipython>=3.0.0h5py>=2.2.0leveldb>=0.191networkx>=1.8.1nose>=1.3.0pandas>=0.12.0python-dateutil>=1.4,<2protobuf>=2.5.0python-gflags>=2.0pyyaml>=3.10Pillow>=2.3.0six>=1.1.0

执行如下命令：

for req in $(cat requirements.txt); do pip install $req; done

这里有一个小技巧，因为pip这个工具对应的网络非常的烂：

这个时候，可以将其改为国内的镜像网站，速度将提升几个数量级，方法如下：

新建~/.pip/pip.confg文件，内容如下：

[global]index-url = http://pypi.douban.com/simple

trusted-host = pypi.douban.com

或者在安装一个软件包的时候使用-i选项：

在我安装requirements.txt中涉及的依赖包的过程中，发现matplotlib始终没有安装成功，最后采用apt-get的方式进行了安装，如下：

sudo apt-get install python-matplotlib

B>opencv环境和caffe-fast-rcnn默认的Makefile配置有点小问题，cv::imread(cv:: String const&, int)找不到：

解决方案：

 

在一切都正常的情况下，对caffe-fast-rcnn进行make和make pycaffe的结果如下：

编译好caffe-fast-rcnn后，在py-faster-rcnn/lib中执行make命令：

bigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/lib$ makepython setup.py build_ext --inplacerunning build_extskipping 'utils/bbox.c' Cython extension (up-to-date)skipping 'nms/cpu_nms.c' Cython extension (up-to-date)skipping 'pycocotools/_mask.c' Cython extension (up-to-date)rm -rf buildbigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/lib$

 

3. 在安装配置好caffe-fast-rcnn后，修改py-faster-rcnn相关配置，让其模型可以在没有GPU的环境下运行：

A>将 ~/py-faster-rcnn/lib/fast_rcnn/config.py的如下内容：

B>将 ~/py-faster-rcnn/tools/test_net.py和 ~/py-faster-rcnn/tools/train_net.py的caffe.set_mode_gpu()修改为caffe.set_mode_cpu().

C>将~/py-faster-rcnn/lib/setup.py中，含有'nms.gpu_nms’的部分去掉，去掉后的内容如下：

#CUDA = locate_cuda()

112 ext_modules = [113     Extension(114         "utils.cython_bbox",115         ["utils/bbox.pyx"],116         extra_compile_args={'gcc': ["-Wno-cpp", "-Wno-unused-function"]},117         include_dirs = [numpy_include]118     ),119     Extension(120         "nms.cpu_nms",121         ["nms/cpu_nms.pyx"],122         extra_compile_args={'gcc': ["-Wno-cpp", "-Wno-unused-function"]},123         include_dirs = [numpy_include]124     ),125     Extension(126         'pycocotools._mask',127         sources=['pycocotools/maskApi.c', 'pycocotools/_mask.pyx'],128         include_dirs = [numpy_include, 'pycocotools'],129         extra_compile_args={130             'gcc': ['-Wno-cpp', '-Wno-unused-function', '-std=c99']},131     ),132 ]

D>做到上面三部后，还是不够的，还需要将：

../lib/fast_rcnn/nms_wrapper.py:9:#from nms.gpu_nms import gpu_nms

注释掉：

改force_cpu=True

否则，会抛出如下的异常：

Traceback (most recent call last):File "./demo.py", line 18, in from fast_rcnn.test import im_detectFile ".../py-faster-rcnn-master/tools/../lib/fast_rcnn/test.py", line 17, in from fast_rcnn.nms_wrapper import nmsFile ".../py-faster-rcnn-master/tools/../lib/fast_rcnn/nms_wrapper.py", line 11, in from nms.gpu_nms import gpu_nmsImportError: No module named gpu_nms

 

4. 运行demo.py

在环境一切就绪的情况下，将faster的模型下载下来：

bigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/data/scripts$ lsfetch_faster_rcnn_models.sh  fetch_imagenet_models.sh  fetch_selective_search_data.sh

运行其中的./fetch_faster_rcnn_models.sh脚本就可以下载下来了。

在/home/bigtop/py-faster-rcnn/tools目录下运行, python demo.py --cpu:

最后的结果如下：

 

 

 

 

注意：由于我是在没有图形界面终端上运行的，默认情况下demo.py会假设运行在有图形界面的环境中，需要修改demo.py的地方如下：

首先，在demo.py代码的最前面，注意一定是最前面，否则可能不成功，加入如下两行：

其次，在plt.draw()的地方加入savefig()语句，将结果保存成jpg文件形式：

 

5. 其他在安装过程中遇到的问题(比较杂，记录于此），如果上面的四个步骤进行的比较顺利的话，是不会遇到下面这些问题的：

5.1 No module named skimage.io:

 

5.2 下面这个问题是因为缺少，easydict,使用 sudo pip install easydict可以解决：

bigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/tools$ python demo.py  --cpuTraceback (most recent call last):  File "demo.py", line 17, in <module>    from fast_rcnn.config import cfg  File "/home/bigtop/py-faster-rcnn/tools/../lib/fast_rcnn/config.py", line 23, in <module>    from easydict import EasyDict as edictImportError: No module named easydictbigtop@bigtop-SdcOS-Hypervisor:~/py-faster-rcnn/tools$ sudo pip install  easydictDownloading/unpacking easydict  Downloading easydict-1.6.zip  Running setup.py (path:/tmp/pip_build_root/easydict/setup.py) egg_info for package easydictInstalling collected packages: easydict  Running setup.py install for easydict  Could not find .egg-info directory in install record for easydictSuccessfully installed easydictCleaning up...sudo pip install  easydict

 

5.3 这个问题是因为scipy安装出现问题，将其删掉：rm -fr /tmp/pip_build_root/scipy/，然后重新安装可以解决：

d --compile failed with error code 1 in /tmp/pip_build_root/scipyTraceback (most recent call last):  File "/usr/bin/pip", line 9, in <module>    load_entry_point('pip==1.5.4', 'console_scripts', 'pip')()  File "/usr/lib/python2.7/dist-packages/pip/__init__.py", line 235, in main    return command.main(cmd_args)  File "/usr/lib/python2.7/dist-packages/pip/basecommand.py", line 161, in main    text = '\n'.join(complete_log)UnicodeDecodeError: 'ascii' codec can't decode byte 0xe2 in position 98: ordinal not in range(128)

 

网上有很多搭建caffe的教程，都提到了用Anaconda，本来这个包是很好的，它可以解决很多python依赖的问题，可惜的是，它和我用的Ubuntu版本兼容性出现了问题，所以，我最终放弃了Anaconda，所有的python依赖都通过pip或者是apt-get进行了安装。

 

5.4 报下面这个错误，是因为caffe的环境都没有准备好，很有可能是没有执行make pycaffe:

Traceback (most recent call last):  File "detector.py", line 29, in <module>    import caffe  File "/python/caffe/__init__.py", line 1, in <module>    from .pycaffe import Net  File "/caffe/pycaffe.py", line 6, in <module>    from ._caffe import CaffeNetImportError: No module named _caffe

 

5.5 error: undefined reference to`TIFFIsTiled@LIBTIFF_4.0'

error: undefined reference to `TIFFIsTiled@LIBTIFF_4.0'

这个就是上文中提到的，使用ubuntu自带的opencv库会出现的问题，解决办法就是重新编译opencv。

 

6. 总结

整个过程还是颇费周折，因为caffe依赖的东西太多，环境搭建费事费力，最好的办法还是弄一个docker镜像，这样才能够从环境搭建的苦海中解脱，可惜的是我从daocloud上down下来的镜像是不能够运行在cpu上的。