决策树
来源:互联网 发布:淘宝代付可以用花呗吗 编辑:程序博客网 时间:2024/06/06 09:30
决策树:判别模型
学习策略:正则化的极大似然估计
学习的损失函数:对数似然损失
学习算法:特征选择,生成,剪枝
决策树的损失函数定义:
其中|T|为树T的叶节点个数,t是数T的叶节点,该叶节点上有Nt个样本,其中k类的样本有Ntk个。Ht(T)就是叶节点t上的经验熵:
剪枝的总体思路如下:
1.由完全树T0开始,剪枝部分结点得到T1,再次剪枝部分结点得到T2,直到剪枝到仅剩下树根的那棵树Tk。当然这些树都要保留{T1,T2,....,Tk};
2.接着通过交叉验证法在验证数据集上对这k棵树分别进行测试评价,选择损失函数最小的数Tα作为最优子树。
阅读全文
0 0
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- 决策树
- hibernate写原生sql
- cdn-varnish 高速缓存器
- eclice直接复制项目,包,类后运行时显示无法加载主类
- MarkDown基本使用小结
- Docker使用心得
- 决策树
- 哈希表(线性探测法处理冲突)
- C++作业6
- es6中let const var的区别
- (JAVA) 最大的矩形-20131203
- zabbix的原理详解及其搭建
- 新人菜鸟——初学ArrayList,关于自己的理解(欢迎大家补充和修正)
- yum 安装默认安装目录
- POJ 3278 Catch That Cow