深度学习进阶(四)--深度神经网络中梯度消失以及卷积神经网络初识
来源:互联网 发布:运动软件 佳明 编辑:程序博客网 时间:2024/06/05 03:59
总结一下今日的学习过程
1,上午学习了解了深度网络中的难点
2,了解了经常听到又不知所云的梯度消失问题的概念以及原理
认识到了Rectified Liner Unit激活函数可以很好的减少梯度消失问题,但没有具体的深入的理解及学习
3,认识到了卷积网络CNN,理解了其大致原理以及实现过程
结合GitHub上的neural-networks-and-deep-learning算法
不过代码调试了没有成功,
简单的类似于
ImportError: numpy.core.multiarray failed to import
版本问题需要更新
查看版本
python -c "import numpy; print(numpy.version.version)"
卸载(有的时候需要执行两次,将cuda中已经python中都卸载)
pip uninstall numpy
2,ImportError: cannot import name 'downsample'
将from theano.tensor.signal import downsample
换成
from theano.tensor.signal.pool import pool_2d
3,NameError: name 'xrange' is not defined
4,抱一个关于nose-parameterized转换成parameterized的警告
将nose-parameterized卸载,重新装parameterized
5,WARNING (theano.gof.compilelock): Overriding existing lock by dead process '9680' (I am process '16516')
这是由于keras与theano版本的旧的问题造成的,或者是Keras没有安装,这里是没有安装
pip install Keras
6,TypeError: 'float' object cannot be interpreted as an integer
错误语句
minibatch_indexin range(num_training_batches):
错误源 num_training_batches = size(training_data)/mini_batch_size
解决方法
将语句num_training_batches = size(training_data)/mini_batch_size修改,增加一个斜杠/
num_training_batches = size(training_data)//mini_batch_size
复杂的是由于上次配置的theano在GPU环境中出了问题,搁置了没有解决,非常痛苦啊
4,期间下午看了一个 第四届全国高校云计算应用创新大赛 https://cloud.seu.edu.cn/
准备报名参加,深度学习
阅读全文
0 0
- 深度学习进阶(四)--深度神经网络中梯度消失以及卷积神经网络初识
- 深度学习进阶(五)--卷积神经网络与深度置信网络以及自动编码初识(补昨天博客更新)
- 深度学习(四):高级卷积神经网络
- 深度学习(四):高级卷积神经网络
- 深度学习-卷积神经网络初识-1
- 深度学习-卷积神经网络初识-2
- 深度学习:卷积神经网络
- 深度学习-卷积神经网络
- 深度学习 卷积神经网络
- 深度学习卷积神经网络
- 深度学习进阶(二)--神经网络结构算法以及梯度下降法
- 深度学习(四)卷积神经网络入门学习(1)
- 深度学习(四)卷积神经网络入门学习
- 深度学习(四)卷积神经网络入门学习(1)
- 吴恩达深度学习课程四:卷积神经网络(学习笔记)
- 深度学习(四)卷积神经网络Lenet-5实现
- 深度学习(四)CNN卷积神经网络推导和实现
- 吴恩达深度学习笔记(四)week1卷积神经网络
- Learning Python Part II 之 赋值语句(Assignments)
- Linux下不能进入windows的NTFS分区之挂载错误问题(error mounting)
- 软件评测师笔记001--软件测试基础
- BLE协议栈的学习笔记
- java中常用的并发工具
- 深度学习进阶(四)--深度神经网络中梯度消失以及卷积神经网络初识
- 简单的zabbix配置
- Maven配置pom.xml的详细介绍
- 10.9(周一)
- 准确率(Accuracy), 精确率(Precision), 召回率(Recall)和F1-Measure
- 基于Faster-rcnn及FCN的中文OCR文本定位
- 基于GPS的城市管道精确定位系统的单片机控制
- 触发器里面before和after的区别
- 第四章 “字符串和多维数组”翻转学习任务