Hinton Neural Network课程笔记1a:为什么需要机器学习?
来源:互联网 发布:澳洲 工程师 工资 知乎 编辑:程序博客网 时间:2024/05/16 09:52
课程简介
hinton在coursera上开的网课,名称为Neural Networks for Machine Learning (University of Toronto)
课程笔记
第一节课就是介绍了一下Machine Learning的优势,以及给了几个相关的例子。
1. Machine Learning的优势
课中把Machine Learning和hard coded program做了一下对比,发现有一些任务很难用规则等解决。例如识别物体,首先我们不知道大脑是如何进行识别的,从而无从模仿;而且传统图像的方法是用各种规则融合在一起,不仅复杂,而且总有一些情况下解决不了。再比如判断异常,没有一种简单可靠的规则可以判定a credit card transaction is fraudulent,并且欺骗行为是逐渐改变的。
总结一下,机器学习的优势其实就在于其为数据驱动,即不需要了解其内的具体规则就可以得到一个程序;而且对于任何新情况只需要更新数据库即可,不需要重新思考并编码新规则;获取数据的代价往往小于重写代码的代价。
课中列举了一些适用于机器学习的例子,分为识别问题、异常检测和预测问题三类。
2. 机器学习应用实例
分别描述了2012年深度神经网络在两个领域内取得的成果。
2.1. 图像识别
这个任务简述一下就是输入图像,输出图像的类别(例如猫、狗、驴等等)。
首先介绍了MNIST数据集,说其为机器学习届的果蝇,并给出了两个理由:
1. 公开数据集,易于获取,训练网络的速度很快。
2. 有很多已有的在MNIST数据集上的结果。
然后又拿出一些其中的例子,解释说直接写程序很难找到可用的共通模板(不仅要识别正确,还有把其他类识别错误)。
MNIST数据集对于神经网络来说就是大材小用了,所以又介绍了一个难一些而且具有普适性代表性的数据集:ImageNet。数据集网上就有,就不赘述了。
这里面Hinton分析了一下模型错误的结果,发现说虽然神经网络有的时候会把图片识别错,但是往往都是有理由的(比如人是可以在图片中找出和该类物体类似的地方的)。
2.2. 语音识别
简述了语音识别的框架,大致上就是预处理、音律识别和解码。如下图:
然后介绍了当时(2012年)最新的架构,以及相应的结果:
然后和传统方法在不同数据集上做了比较,说明深度网络精度高、训练快。
- Hinton Neural Network课程笔记1a:为什么需要机器学习?
- Hinton Neural Networks课程笔记1d:一个简单的机器学习实例
- Hinton Neural Network课程笔记10a:融合模型Ensemble, Boosting, Bagging
- 机器学习技法课程学习笔记12-- Neural Network
- 李宏毅机器学习课程笔记9:Recurrent Neural Network
- Hinton Neural Networks课程笔记2d:为什么感知机的学习算法可以收敛
- Hinton Neural Networks课程笔记3a:线性神经元的学习算法
- 机器学习笔记-Neural Network
- Hinton Neural Networks课程笔记1e: 监督学习、强化学习、无监督学习,及其应用
- Hinton Neural Network课程笔记9f:Mackay的设定正则化系数方法
- Hinton Neural Network课程笔记11b: 利用Hopfield Net进行信息存储
- 台湾大学林轩田机器学习技法课程学习笔记12 -- Neural Network
- 机器学习笔记——Neural Network
- Hinton Neural Networks课程笔记4a:使用神经网络做逻辑推理
- Hinton Neural Networks课程笔记3c:学习逻辑斯蒂回归
- 台湾大学深度学习课程 学习笔记 lecture3-1 Recurrent Neural Network (RNN)
- Hinton Neural Networks课程笔记1b:神经网络模拟的大脑机理
- Hinton Neural Networks课程笔记4c:softmax输出神经元
- STM32上使用UCOSII--信号量和邮箱
- Fragment常见错
- LeetCode
- 缙云创新工作室项目开发心得
- 面试题49. 把字符串转换为整数
- Hinton Neural Network课程笔记1a:为什么需要机器学习?
- LightOJ
- CTF实验吧-简单的sql注入【SQL注入关键词绕过】
- android雪花效果
- day2
- 文章标题
- Java-线性查找和二分查找
- pip install conda之后出现问题
- SQlite数据库的C编程接口(八) 工具函数(Utility Functions) ——《Using SQlite》读书笔记