Caffe——Python接口学习(4):mnist实例——手写数字识别
来源:互联网 发布:wifi网络质量不佳 编辑:程序博客网 时间:2024/05/17 06:10
Caffe——python接口学习(4):mnist实例——手写数字识别
一、数据准备官网提供的mnist数据并不是图片,但我们以后做的实际项目可能是图片。因此有些人并不知道该怎么办。在此我将mnist数据进行了转化,变成了一张张的图片,我们练习就从图片开始。mnist图片数据我放在了百度云盘。mnist图片数据下载:http://pan.baidu.com/s/1pLMV4Kz数据分成了训练集(60000张共10类)和测试集(共10000张10类),每个类别放在一个单独的文件夹里。并且将所有的图片,都生成了txt列表清单(train.txt和test.txt)。大家下载下来后,直接解压到当前用户根目录下就可以了。由于我是在windows下压缩的,因此是winrar文件。如果大家要在linux下解压缩,需要安装rar的linux版本,也是十分简单sudo apt-get install rar二、导入caffe库,并设定文件路径我是将mnist直接放在根目录下,所以代码如下;
# -*- coding: utf-8 -*-import caffefrom caffe import layers as L,params as P,proto,to_proto#设定文件的保存路径root='/home/xxx/' #根目录train_list=root+'mnist/train/train.txt' #训练图片列表test_list=root+'mnist/test/test.txt' #测试图片列表train_proto=root+'mnist/train.prototxt' #训练配置文件test_proto=root+'mnist/test.prototxt' #测试配置文件solver_proto=root+'mnist/solver.prototxt' #参数文件
其中train.txt和test.txt文件已经有了,其他三个文件,我们需要自己编写。此处注意:一般caffe程序都是先将图片转换成lmdb文件,但这样做有点麻烦。因此我就不转换了,我直接用原始图片进行操作,所不同的就是直接用图片操作,均值很难计算,因此可以不减均值。二、 生成配置文件配置文件实际上就是一些txt文档,知识后缀名为prototxt,我们可以直接到编辑器编写,也可以用代码生成,此处,我们用python生成。
#编写一个函数,生成配置文件prototxtdef Lenet(img_list,batch_size,include_acc=False): #第一层,数据输入层,以ImageData格式输入 data, label = L.ImageData(source=img_list, batch_size=batch_size, ntop=2,root_folder=root, transform_param=dict(scale= 0.00390625)) #第二层:卷积层 conv1=L.Convolution(data, kernel_size=5, stride=1,num_output=20, pad=0,weight_filler=dict(type='xavier')) #池化层 pool1=L.Pooling(conv1, pool=P.Pooling.MAX, kernel_size=2, stride=2) #卷积层 conv2=L.Convolution(pool1, kernel_size=5, stride=1,num_output=50, pad=0,weight_filler=dict(type='xavier')) #池化层 pool2=L.Pooling(conv2, pool=P.Pooling.MAX, kernel_size=2, stride=2) #全连接层 fc3=L.InnerProduct(pool2, num_output=500,weight_filler=dict(type='xavier')) #激活函数层 relu3=L.ReLU(fc3, in_place=True) #全连接层 fc4 = L.InnerProduct(relu3, num_output=10,weight_filler=dict(type='xavier')) #softmax层 loss = L.SoftmaxWithLoss(fc4, label) if include_acc: # test阶段需要有accuracy层 acc = L.Accuracy(fc4, label) return to_proto(loss, acc) else: return to_proto(loss)def write_net(): #写入train.prototxt with open(train_proto, 'w') as f: f.write(str(Lenet(train_list,batch_size=64))) #写入test.prototxt with open(test_proto, 'w') as f: f.write(str(Lenet(test_list,batch_size=100, include_acc=True)))
配置文件里面存放的,就是我们所说的network。这里我生成network,可能和原始不太一样,不过没有影响。三、生成参数文件solver同样,可以在编辑器里面直接书写,也可以用代码生成。
#编写一个函数,生成参数文件def gen_solver(solver_file,train_net,test_net): s=proto.caffe_pb2.SolverParameter() s.train_net =train_net s.test_net.append(test_net) s.test_interval = 938 #60000/64,测试间隔参数:训练完一次所有的图片,进行一次测试 s.test_iter.append(100) #10000/100 测试迭代次数,需要迭代100次,才完成一次所有数据的测试 s.max_iter = 9380 #10 epochs , 938*10,最大训练次数 s.base_lr = 0.01 #基础学习率 s.momentum = 0.9 #动量 s.weight_decay = 5e-4 #权值衰减项 s.lr_policy = 'step' #学习率变化规则 s.stepsize=3000 #学习率变化频率 s.gamma = 0.1 #学习率变化指数 s.display = 20 #屏幕显示间隔 s.snapshot = 938 #保存caffemodel的间隔 s.snapshot_prefix =root+'mnist/lenet' #caffemodel前缀 s.type ='SGD' #优化算法 s.solver_mode = proto.caffe_pb2.SolverParameter.GPU #加速 #写入solver.prototxt with open(solver_file, 'w') as f: f.write(str(s))
四、开始训练模型
#开始训练def training(solver_proto): caffe.set_device(0) caffe.set_mode_gpu() solver = caffe.SGDSolver(solver_proto) solver.solve()
最后,调用以上函数就可以了
if __name__=='__main__': write_net() gen_solver(solver_proto,train_proto,test_proto) training(solver_proto)
五、完成python文件mnist.py
# -*- coding: utf-8 -*-import caffefrom caffe import layers as L,params as P,proto,to_proto#设定文件的保存路径root='/home/xxx/' #根目录train_list=root+'mnist/train/train.txt' #训练图片列表test_list=root+'mnist/test/test.txt' #测试图片列表train_proto=root+'mnist/train.prototxt' #训练配置文件test_proto=root+'mnist/test.prototxt' #测试配置文件solver_proto=root+'mnist/solver.prototxt' #参数文件#编写一个函数,生成配置文件prototxtdef Lenet(img_list,batch_size,include_acc=False): #第一层,数据输入层,以ImageData格式输入 data, label = L.ImageData(source=img_list, batch_size=batch_size, ntop=2,root_folder=root, transform_param=dict(scale= 0.00390625)) #第二层:卷积层 conv1=L.Convolution(data, kernel_size=5, stride=1,num_output=20, pad=0,weight_filler=dict(type='xavier')) #池化层 pool1=L.Pooling(conv1, pool=P.Pooling.MAX, kernel_size=2, stride=2) #卷积层 conv2=L.Convolution(pool1, kernel_size=5, stride=1,num_output=50, pad=0,weight_filler=dict(type='xavier')) #池化层 pool2=L.Pooling(conv2, pool=P.Pooling.MAX, kernel_size=2, stride=2) #全连接层 fc3=L.InnerProduct(pool2, num_output=500,weight_filler=dict(type='xavier')) #激活函数层 relu3=L.ReLU(fc3, in_place=True) #全连接层 fc4 = L.InnerProduct(relu3, num_output=10,weight_filler=dict(type='xavier')) #softmax层 loss = L.SoftmaxWithLoss(fc4, label) if include_acc: # test阶段需要有accuracy层 acc = L.Accuracy(fc4, label) return to_proto(loss, acc) else: return to_proto(loss)def write_net(): #写入train.prototxt with open(train_proto, 'w') as f: f.write(str(Lenet(train_list,batch_size=64))) #写入test.prototxt with open(test_proto, 'w') as f: f.write(str(Lenet(test_list,batch_size=100, include_acc=True)))#编写一个函数,生成参数文件def gen_solver(solver_file,train_net,test_net): s=proto.caffe_pb2.SolverParameter() s.train_net =train_net s.test_net.append(test_net) s.test_interval = 938 #60000/64,测试间隔参数:训练完一次所有的图片,进行一次测试 s.test_iter.append(500) #50000/100 测试迭代次数,需要迭代500次,才完成一次所有数据的测试 s.max_iter = 9380 #10 epochs , 938*10,最大训练次数 s.base_lr = 0.01 #基础学习率 s.momentum = 0.9 #动量 s.weight_decay = 5e-4 #权值衰减项 s.lr_policy = 'step' #学习率变化规则 s.stepsize=3000 #学习率变化频率 s.gamma = 0.1 #学习率变化指数 s.display = 20 #屏幕显示间隔 s.snapshot = 938 #保存caffemodel的间隔 s.snapshot_prefix = root+'mnist/lenet' #caffemodel前缀 s.type ='SGD' #优化算法 s.solver_mode = proto.caffe_pb2.SolverParameter.GPU #加速 #写入solver.prototxt with open(solver_file, 'w') as f: f.write(str(s))#开始训练def training(solver_proto): caffe.set_device(0) caffe.set_mode_gpu() solver = caffe.SGDSolver(solver_proto) solver.solve()#if __name__ == '__main__': write_net() gen_solver(solver_proto,train_proto,test_proto) training(solver_proto)
将此文件放在根目录下mnist文件夹下,因此可用以下代码执行:
sudo python mnist/mnist.py
在训练过程中,会保存一些caffemodel。多久保存一次,保存多少次,都可以在solver参数文件里进行设置。我设置为训练10 epoch,9000多次,测试精度可以达到99%
阅读全文
0 0
- Caffe——Python接口学习(4):mnist实例——手写数字识别
- caffe的python接口学习(4):mnist实例---手写数字识别
- caffe的python接口学习(4):mnist实例---手写数字识别
- caffe的python接口学习(4):mnist实例---手写数字识别
- Caffe学习笔记(六):mnist手写数字识别训练实例
- TensorFlow实战—mnist手写数字识别
- 《学习Tensorflow》——MNIST手写数字识别
- Caffe学习总结(三)——mnist手写字库识别例程(1)
- Caffe学习总结(四)——使用mnist训练模型识别一张手写数字图像
- Tensorflow学习系列(1)——MNIST手写识别
- MNIST手写数字的识别——CNN篇
- MNIST手写数字的识别——DNN篇
- MNIST手写数字的识别——kNN篇
- tensorflow入门实践例子—MNIST手写数字识别
- Python scikit-learn 学习笔记—手写数字识别
- caffe MNIST手写数字识别例程
- caffe跑mnist手写数字识别
- caffe学习(二):利用mnist数据集训练并进行手写数字识别(windows)
- 程序员面试金典——单词最近距离
- 怎样获取sql字段名和中文值
- Android数据库加解密逆向分析(一)
- volley框架配合后端服务器实现get post请求以及图片的上传和下载
- 定义栈的数据结构,请在该类型中实现一个能够得到栈最小元素的min函数。
- Caffe——Python接口学习(4):mnist实例——手写数字识别
- Nginx反向代理缓存和redis简介
- 设计模式复习(一)
- 顺序图实验记录,又懒又差劲,好懒好懒
- Ubuntu14.04安装ROS indigo
- 快速排序
- 基于位置的服务之如何找到自己的位置
- jQuery 选择器(二)
- Vue.js 学习7 事件处理器