Question

ubuntu 14.04 py-faster rcnn怎么自己训练vgg模型

Answer 1

1、cuDNN版本的选择
py-faster-rcnn建议进行caffe编译时选用cuDNN（Makefile.config文件中取消对应行的注释），我的cuda版本是7.5，试验了官网的cudnn各种版本，除了（cuDNN v3 (September 8, 2015), for CUDA 7.0 and later），都存在编译caffe时参数不匹配的问题，建议选用该版本。
cuDNN在显存占用上比caffe有较好的优化，具体可以查看py-faster-rcnn的ReadMe。
2、显卡计算能力配置
若采用cuDNN后发现还是不能运行ZF模型，一般情况是显卡计算能力配置的问题。
修改 faster-rcnn-root/lib/setup.py，将135行修改为-arch=sm_30或者更低，取决于显卡的型号。删除 faster-rcnn-root/lib/nms中的cpu_nms.c和gpu_nms.cpp，删除faster-rcnn-root/lib/utils中的bbox.c，重新编译caffe-fast-rcnn（这一步好像也可以不用），即可解决。
3、强制进行cpu运算
若还是计算能力不够，可以修改faster-rcnn-root/lib/fast_rcnn/nms_wrapper.py，将force_cpu设置为True。
4、运行提示caffe的syntax invalid问题
proto版本问题，修改faster-rcnn-root/caffe-fast-rcnn/python/caffe/proto/caffe_pb2.py，注释掉所有的syntax='proto2'即可。