回归树和分类树的区别
来源:互联网 发布:gtp手机吉他谱软件 编辑:程序博客网 时间:2024/04/29 13:32
- 分类树
以C4.5分类树为例,C4.5分类树在每次分枝时,是穷举每一个feature的每一个阈值,找到使得按照feature<=阈值,和feature>阈值分成的两个分枝的熵最大的阈值(熵最大的概念可理解成尽可能每个分枝的男女比例都远离1:1),按照该标准分枝得到两个新节点,用同样方法继续分枝直到所有人都被分入性别唯一的叶子节点,或达到预设的终止条件,若最终叶子节点中的性别不唯一,则以多数人的性别作为该叶子节点的性别。
总结:分类树使用信息增益或增益比率来划分节点;每个节点样本的类别情况投票决定测试样本的类别。
- 回归树
回归树总体流程也是类似,区别在于,回归树的每个节点(不一定是叶子节点)都会得一个预测值,以年龄为例,该预测值等于属于这个节点的所有人年龄的平均值。分枝时穷举每一个feature的每个阈值找最好的分割点,但衡量最好的标准不再是最大熵,而是最小化均方差即(每个人的年龄-预测年龄)^2 的总和 / N。也就是被预测出错的人数越多,错的越离谱,均方差就越大,通过最小化均方差能够找到最可靠的分枝依据。分枝直到每个叶子节点上人的年龄都唯一或者达到预设的终止条件(如叶子个数上限),若最终叶子节点上人的年龄不唯一,则以该节点上所有人的平均年龄做为该叶子节点的预测年龄。
总结:回归树使用最大均方差划分节点;每个节点样本的均值作为测试样本的回归预测值。
阅读全文
0 0
- 分类树和回归树的区别
- 回归树和分类树的区别
- 回归和分类的区别
- 回归和分类的区别
- 分类和回归的区别和联系
- 分类和回归的区别和联系
- 分类和回归区别
- 树分类、线性回归和树回归的感性认知
- 模式识别 - "分类" 和 "回归" 的区别
- 回归模型和分类模型的区别
- 分类树和回归树
- CART分类和回归树
- 分类与回归的区别
- 回归与分类的区别
- 回归和分类区别,及模型的选择
- 分类回归树CART
- 回归树分类器
- CART分类回归树
- Js中JSON.stringify()、JSON.parse()、eval()详解
- Java-科学计数法 (20)
- idea使用maven创建java web项目
- 实践
- EditText 去掉下划线 仿微信边框 selector
- 回归树和分类树的区别
- 图片的一些相关操作
- 洛谷1563 玩具谜题
- 购物车car.js
- ZigBee 3.0 《Base-Device-Behavior-Specification》-- Security
- MyBatis从入门到放弃六:延迟加载、一级缓存、二级缓存
- URL保存
- php 操作数组 (合并,拆分,追加,查找,删除等)
- Is Derek lying?