对于Caffe 平行化的一点问题

现在的Caffe官方还在研究平行化的问题（单机多线程，多机多线程），从去年7月份就开始了，但是受制于现有版本的原因，暂时不支持 多机并行。单机的并行也是仅仅在使用了OpenBlas或者Intel MKL 这种有特殊运算的情况下才能实现。

为了解决这个问题，不得不去使用 渣浪渣潮的人搞的 P-Caffe 《点击打开链接》，就是fork了Caffe  的源码，然后加上 MPI 库，改了改源码，使用了集群去计算，当然。渣浪在这方面有优势，自己就是做集群的，找几个工程师搞一下也是挺好。

但是他们fork的是去年年底的那个版本的Caffe，还有大量BUG没修，稳定性比今年年初的Caffe差一些，不过简单实现了 集群多机并行，并且给出了一些示例。

这几天就靠这个方向去试用一下。看看效果。