机器学习学习笔记.day12
来源:互联网 发布:ubuntu php 编辑:程序博客网 时间:2024/06/08 06:38
周志华《机器学习》 学习笔记
最近开始学习机器学习,参考书籍西瓜书,做点笔记。
第十二章 计算学习理论
学习时结合http://www.dataguru.cn/article-11253-1.html方便理解;
12.1 基础知识
泛化误差:学习器在新样本上的误差,;
经验误差:学习器在训练集上的误差,;
Jensen不等式:;
Hoeffding不等式:;v为总体比例,u为抽样样本比例;
12.2 PAC学习
概念:从样本空间到标记空间的映射;
若果样例的映射等于真实标记,则称为目标概念;
目标概念所构成的集合称为概念类;
已较大概率学的误差满足预设上限的模型,即概率近似正确的含义;
PAC辨识:;
PAC可学习;存在学习算法和多项式函数ploy,使得对于任何,算法能从假设空间中PAC辨识概念类C;
12.3 有限假设空间
12.4 VC维
12.3和12.4参考上面链接,那里比书上讲的更形象;
12.5 Rademacher复杂度
这一节主要看看概念和公式即可,推导做了解;
12.6 稳定性
稳定性考察的时算法在输入发生变化时,输出是否会随之发生较大的变化;
对任何样输入中的样本,若学习算法满足:;则称算法关于损失函数l满足β-均匀稳定性;
对损失函数l,若学习算法所输出的假设满足经验损失最小化,则称算法满足经验风险最小化原则,简称算法ERM;
若学习算法是ERM且稳定的,则假设空间H可学习;
稳定性与假设空间通过损失函数l联系起来;
第十二章笔记写的相当少,主要还是参考上面的连接里面的内容,感觉那里比书上讲的更形象一些,这一章我作为了解看一下,有一个大致的轮廓即可。其中VC维和Rademacher复杂度较难理解,多花了点时间。这次笔记感觉做的很不好,以后改进。
我的笔记做的比较粗糙,还请见谅。
- 机器学习学习笔记.day12
- C++ 学习笔记 day12
- Day12 多线程学习笔记
- Android学习笔记day12
- 传智播客-Java学习笔记day12
- JavaScript-day12-个人学习笔记
- c++ 学习笔记(高级linux编程) day12
- 黑马程序员 Java学习笔记 (day12)
- java学习day12
- java学习day12
- java学习day12
- 21天学通Java学习笔记-Day12(MYsql-JDBC)
- 黑马程序员 java学习笔记 Day12:java中的IO整理
- Java 学习笔记——线程间通信(day12)
- Python的学习笔记DAY12---python和Mysql之二
- 常见对象String和其方法+JAVA学习笔记-DAY12
- Hibernate学习笔记 -- day12 使用JPA实现综合案例
- java毕向东学习笔记——day12
- stack 实现二叉树的非递归遍历——C语言
- 从零自学Hadoop(12):Hadoop命令中
- Bullet3物理引擎碰撞检测相关代码片段
- 关于优化问题
- redis命令一
- 机器学习学习笔记.day12
- 欢迎使用CSDN-markdown编辑器
- 把数组排成最小的数
- 从零自学Hadoop(13):Hadoop命令下
- POJ 3126 Prime Path BFS
- Mac. IntelliJ IDEA maven+springmvc添加包时小插曲
- 移动端车牌识别sdk计算机视觉、图像处理
- Factorial Trailing Zeroes
- 线性代数