ubuntu 系统下的Caffe环境搭建
对于caffe的系统一般使用linux系统,当然也有windows版本的caffe,不过如果你一开始使用了windows下面的caffe,后面学习的过程中,会经常遇到各种错误,网上下载的一些源码、模型也往往不能快速的跑起来,因为貌似caffe的官方只提供了linux版本,而且caffe在不断的快速迭代更新中,如果不使用原版的话,后面编译出现什么问题,自己怎么错的,自己都不知道。本篇博文主要讲解快速搭建caffe环境:
电脑系统:ubuntu 14.04
显卡:GTX 850
在ubuntu下要完整的搭建caffe,个人感觉最难的一步就是cuda的安装了,特别是对于双显卡的电脑来说,很容易黑屏、无法登陆图形界面,这个我安装了n久,都没装成功,因为我的电脑笔记本双显卡,每次装完cuda就黑屏,网上的教程一大堆,但都中看不中用,导致我重装了二三十次的系统,最后才成功。这里为了讲caffe的安装,我们先不使用GPU,进行安装测试,因为没有GPU我们依旧可以跑caffe,只是速度比较慢而已。
1、安装caffe所需要的依赖库
命令:
sudo apt-get install libatlas-base-dev
sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libboost-all-dev libhdf5-serial-dev
sudo apt-get install libgflags-dev libgoogle-glog-dev liblmdb-dev protobuf-compiler
这些库要安装挺久的,请耐心等待。
2、下载caffe。
到github上下载caffe:https://github.com/BVLC/caffe。下载完成后,解压caffe源码包。解压后,我们打开文件,可以看到caffe的源码包如下:
3、配置Make.config 文件。caffe文件解压后,文件夹下面有一个Makefile.config.example文件,我们需要对这个文件进行重命名为:Make.config 。也就是去掉后缀example。然后我们打开这个文件,可以看到如下内容:
然后我们把:#CPU_ONLY:=1,那一行的注释符号去掉:CPU_ONLY:=1。这是因为我们没有安装CUDA,还不能使用gpu,所以我们把配置改为只使用cpu。
4、编译caffe。
方案一:
(1)在完成Make.config配置后,我们输入命令:
make all
进行caffe源码编译.这一步有可能遇到如下错误:
caffe/proto/caffe.pb.h: No such file or directory
如果出现这个错误,那么输入命令:
protoc src/caffe/proto/caffe.proto --cpp_out=.
mkdir include/caffe/proto
mv src/caffe/proto/caffe.pb.h include/caffe/proto
然后在进行make all 就可以了
(2)编译完成后,在安装python接口,输入命令:
make pycaffe
这个如果不使用python接口,调用caffe模型的话也可以不用安装,不过建议还是搞一下,就一句话的事。完事后,我们会发现caffe源码目录下,多了一个build文件,这个文件下面有个tools,打开这个文件夹:
这个文件夹下面的工具可是个好东西啊,以后我们会经常用到这些可执行文件,最常用的就是可执行文件:caffe,我们只要调用这个工具,就可以进行训练。
(3)接着编译test文件夹下面的源码。命令如下:
make test
make runtest
采用这种方案一般没问题,不过我在使用c++调用的时候,会使用到链接库:libcaffe.so.1.0.0-rc3,这种方法编译后没有生成这个文件;经过google查找,发现采用cmake编译,才会生成libcaffe.so文件
方案二:直接采用cmake:
mkdir build
cd build
cmake ..
make all -j8
5、测试阶段
安装完了,自然要测试一下能不能用咯。首先cd到caffe目录,然后输入命令:
sh data/mnist/get_mnist.sh
sh examples/mnist/create_mnist.sh
vim examples/mnist/lenet_solver.prototxt
把lenet_solver.prototxt里面的solver_mode 改为 CPU。因为我们还没装GPU,暂时只使用CPU就好了。
然后我们运行脚本:
./examples/mnist/train_lenet.sh
这个时候,如果成功的话,就会开始跑起来:
说明:如果在使用caffe、或者编译安装caffe过程中,出现如下错误:
CXX/LD -o .build_release/tools/convert_imageset.bin
.build_release/lib/libcaffe.so: undefined reference tocv::imread(cv::String const&, int)'.build_release/lib/libcaffe.so: undefined reference tocv::imencode(cv::String const&, cv::_InputArray const&, std::vector >&, std::vector > const&)'
那么请修改上面的Makefile文件(不是Makefile.config):
LIBRARIES += glog gflags protobuf leveldb snappy \
lmdb boost_system hdf5_hl hdf5 m \
opencv_core opencv_highgui opencv_imgproc opencv_imgcodecs
也就是在libraries后面,加上opencv的相关库文件。
接着就开始caffe搞起吧,推荐个caffe模型网站:https://github.com/BVLC/caffe/wiki/Model-Zoo。本来个人不是很喜欢caffe的,就是因为这个网站吸引了我,这个网站可以搞到好多caffe模型、源码,非常适合于我们学习。
二、在Eclipse中使用编译调试caffe
1、首先就是安装Eclipse,然后安装c++开发插件,这个可以百度搜一下,eclipse下面怎么进行c++开发。
2.导入caffe makefile工程到eclipse (由于是英文版,下面描述也用英文,省的翻译,方便大家调试)
(1)File→New→Project→C/C++ →Makefile Project with Existing Code.
(2)Create a new Makefile Project from existing code
Projectname: caffe-master
Existing code location:/home/user/caffe-workspace/caffe-master
Language: choose C and C++
Toolchain:choose Linux GCC
(3)Then click on caffe-master in Project Explorer (set Window→Open Perspective → C/C++).
(4)Now go File → Properties → Run/Debug settings.Click New.., and choose C/C++ application
(5)Fill launch configurationproperties
· Arguments:
fill train –solver=examples/mnist/lenet_solver.prototxt
and change working directory from default to /home/user/caffe-workspace/caffe-master(change to your own directory)
(6)Now you can use debug caffe code: Run-> Debug
三、C++函数调用相关路径,makefile
CC=g++CXXFLAGS = -O2 -Wall -D__STDC_CONSTANT_MACROS INCLUDE = -I/usr/local/cuda/include -I. -I/usr/local/cuda/include -I/home/hjimce/caffe/include/ -I/home/hjimce/caffe/src/LIBRARY = -L/usr/local/x86_64-linux-gnu/ -lprotobuf \-L/usr/lib/x86_64-linux-gnu/ -lglog \-L/usr/local/cuda/lib64/ -lcudart -lcublas -lcurand \-L/usr/local/lib/ -lm -lpthread -lavutil -lavformat -lavcodec -lswscale -lopencv_core -lopencv_imgproc -lopencv_highgui \-L/usr/lib/python2.7/config-x86_64-linux-gnu/ -lpython2.7 \-L/sur/lib32/ -lrt \-L../../caffe/build/lib/ -lcaffeall:$(CC) $(INCLUDE) $(OBJS) testcpp.cpp -o exercise $(LIBRARY)
windows下的caffe环境搭建
最近在ubuntu搞了一个月的caffe,总感觉很不爽,因为ubuntn下面的c++集成开发工具,eclipse用起来没有vs爽,因为对caffe的函数名不是很熟悉,所以需要借助vs的c++助手。然后前一个月大部分也是调用pycaffe,但是最近感觉需要对caffe的c++函数比较熟悉,才能把自己的能力进一步提高,于是就开始搞起了windows 下的caffe,借助vs的强大功能,快速学习caffe。一开始采用vs2012,最后各种错误,最后改成vs2013很容易就编译成功了。
一、安装编译环境
1、 Visual studio2013
这个比较简单,不写步骤了。
2、python 2.7.6
为了能使用python调用Caffe,首先需要安装python,这个也简单,问度娘很多。注意两点:
①安装的时候记得勾选pip,这个工具很nice,可以为你省很多不必要的麻烦;
②安装完后设置好环境变量。可以再cmd命令中输入python检查,如果不报错,则恭喜。
接下来利用pip工具安装这几个包:numpy、scipy、matplotlib、scikit-image、protobuf
在cmd命令行内输入:pip install numpy即可,其他几个类似。
3、matalb
这个安装过程比较慢,也没什么需要注意的,这里直接略去。
二、安装caffe
1、caffe源码包
下载地址:https://github.com/Microsoft/caffe
2、编译配置
将下载的caffe-windows.zip进行解压,并进入其根目录下的windows目录,把这个CommonSettings.props.example文件复制到源目录一份,然后重命名为CommonSettings.props。打开并修改其中的配置项。有几个需要注意的地方:
①是否只是用cpu。如果你的电脑显卡支持GPU编程(是否支持可以去英伟达官网查询),那么可以配置为false。否则CpuOnlyBuild = true
②是否使用cudnn加速
③是否使用python和matalb,根据需要配置
④如果配置了python和matlab,这里需要把修改软件目录为自己电脑上的实际安装目录
⑤如果有cuda,则把CudaVersion修改为自己电脑的cuda版本
3、项目编译
用Visual studio2013打开caffe-master\windows下的Caffe.sln文件,进去后如下图(共16个项目):
(1)先生成【libcaffe】,右键生成;这里由于别的模块用到了libcaffe,所以,首先生成libcaffe
(2)再选择【解决方案Caffe】进行生成,这里时间比较久,因为Nuget会提示下载一些东西,包括boost,opencv2.4.10,gflags,glog,hdf5,lmdb,LevelDB,OpenBLAS,protobuf等预编译的依赖包。过程有点慢,多等会就ok。下载完成后会在caffe 的同级目录生成NugetPackages的文件。
如果中途编译失败,出现错误,不用紧张,双击出现如下对话框,确定然后保存,重新编译即可。
4、运行
右
同时在Build\x64\下生成了很多exe和dll文件。这些工具在后面训练网络、测试时候很有用。
三、体验深度学习
终于到这了,我们通过一个caffe自带的简单例子来体验一下caffe的网络训练和预测。
deep-learning属于有监督学习的一种,一般步骤分为:准备数据、训练模型和测试模型。我们下边也通过这三步来测试一个基于LeNet网络的学习模型。
1、准备训练数据
mnist数据集下载地址:http://yann.lecun.com/exdb/mnist/
下载后解压到caffe-master目录中的\data\mnist内。分别在cmd下输入以下命令
.\Build\x64\Release\convert_mnist_data.exe .\data\mnist\mnist_train_lmdb\train-images.idx3-ubyte .\data\mnist\mnist_train_lmdb\train-labels.idx1-ubyte .\examples\mnist\mnist_train_lmdb
.\Build\x64\Release\convert_mnist_data.exe .\data\mnist\mnist_test_lmdb\t10k-images.idx3-ubyte .\data\mnist\mnist_test_lmdb\t10k-labels.idx1-ubyte .\examples\mnist\mnist_test_lmdb
将数据转化为caffe需要的输入格式。
2、训练模型
①修改模型参数
修改examples\mnist\lenet_solver.prototxt,将最后一行改为solver_mode:CPU,
修改examples\mnist\lenet_train_test.prototxt,如下所示,左面为原始的,右面为修改后的。
②训练模型,训练完毕后会得到相应的准确率和损失率。
.\Build\x64\Release\caffe.exe train --solver=.\examples\mnist\lenet_solver.prototxt
3、测试模型
最终训练的模型全职文件保存在example\minst\lenet_iter_10000.caffemodel文件中,训练状态保存在example\minst\lenet_iter_10000.solverstate中。这两个文件都是PrototxtBuffer二进制格式。
利用训练好的模型权值文件可以测试数据集。运行如下命令:
.\Build\x64\Release\caffe.exe test -model examples\mnist\lenet_train_test.prototxt -weights examples\mnist\lenet_iter_10000.caffemodel -iterations 100
到这,整个caffe在windows上就安装完成了。下一节写Ubuntu下caffe的配置。
谢谢!
任何程序错误,以及技术疑问或需要解答的,请添加