UFLDL教程之六:自我学习
来源:互联网 发布:淘宝水果属于什么类目 编辑:程序博客网 时间:2024/06/16 20:20
自我学习步骤:
0 初始化一些常量与参数
0 初始化一些常量与参数
输入图像784,类别为5,隐层节点为200
1 生成输入与测试数据集
一共60000张图像,0~4被认为是带标签的,有30596个(均分成两份,一份train_softmax,一份test)
5~9被认为是无标签的,有29404个,用sparseautocoder训练第一层网络
5~9被认为是无标签的,有29404个,用sparseautocoder训练第一层网络
2 用无监督的数据集训练稀疏自编码器
用minFunc来训练,迭代400次,得到最优参数。这个过程比较久,大约25min。然后显示提取的笔画特征
3 从有监督的数据集提取特征
也就是分别算出训练集和测试集在该网络的激活值们
4 训练softmax分类器
将提取的 train 激活值作为softmax层的输入,用minFunc训练,迭代100次,获得softmax模型参数,这样三层网络就建立起来了。
5 测试
用test data进行整个网络的测试,
用test data进行整个网络的测试,
准确率大约是98.202379%,很不错的样子,如果用来识别车型也能达到这个效果,我就啥都不用再干,毕设就完成了。
stlExercise.m:
% STEP 2: Train the sparse autoencoder% This trains the sparse autoencoder on the unlabeled training% images. % Randomly initialize the parameterstheta = initializeParameters(hiddenSize, inputSize);%% ----------------- YOUR CODE HERE ----------------------% Find opttheta by running the sparse autoencoder on% unlabeledTrainingImages
opttheta = theta; addpath minFunc/options.Method = 'lbfgs';options.maxIter = 400;options.display = 'on';[opttheta, loss] = minFunc( @(p) sparseAutoencoderLoss(p, ... inputSize, hiddenSize, ... lambda, sparsityParam, ... beta, unlabeledData), ... theta, options);%% STEP 5: Testing %% ----------------- YOUR CODE HERE ----------------------% Compute Predictions on the test set (testFeatures) using softmaxPredict% and softmaxModel[pred] = softmaxPredict(softmaxModel, testFeatures);
feedForwardAutoencoder.m:%% ---------- YOUR CODE HERE --------------------------------------% Instructions: Compute the activation of the hidden layer for the Sparse Autoencoder.activation = sigmoid(W1*data+repmat(b1,[1,size(data,2)]));
0 0
- UFLDL教程之六:自我学习
- Stanford UFLDL教程 自我学习
- UFLDL深度学习教程翻译之自我学习
- Stanford UFLDL教程 从自我学习到深层网络
- UFLDL教程(六)之栈式自编码器
- UFLDL 教程学习笔记:5.自我学习与无监督特征学习
- UFLDL教程笔记及练习答案三(Softmax回归与自我学习***)
- UFLDL笔记——自我学习
- UFLDL self-taught自我学习编程答案
- 深度学习UFLDL教程翻译之Softmax回归
- 深度学习UFLDL教程翻译之BP算法
- 深度学习UFLDL教程翻译之优化:随机梯度下降
- 深度学习UFLDL教程翻译之卷积神经网络(一)
- 深度学习UFLDL教程翻译之卷积神经网络(二)
- 深度学习UFLDL教程翻译之自动编码器
- 深度学习UFLDL教程翻译之PCA白化
- UFLDL 教程学习笔记目录
- UFLDL——Exercise:Self-Taught Learning 自我学习
- c语言之数据类型长度
- 浅谈CSRF攻击方式
- c++ 访问父类方法
- Qt 读取文件,获得文件名、路径
- UITableView四周有多余的空白区域
- UFLDL教程之六:自我学习
- Java 多线程:synchronized 多线程同步关键字
- WPF 加UserControl(wpf) ViewModel模式数据之间交互
- 单例模式续
- Linux-系统运维监控工具-概述
- Scrapy学习-1
- 线段树 水题----今天先写点初学者的基础
- redis3.0.7连接 <java>
- 【邂逅BUG】从imagecreatefromX图片创建函数引起的BUG的排查经验