机器学习算法总结--随机森林
来源:互联网 发布:北京软件开发平均工资 编辑:程序博客网 时间:2024/05/22 06:27
转自:http://blog.csdn.net/lc013/article/details/55100913
简介
随机森林指的是利用多棵树对样本进行训练并预测的一种分类器。它是由多棵CART(Classification And Regression Tree)构成的。对于每棵树,其使用的训练集是从总的训练集中有放回采样出来的,这意味着总训练集中有些样本可能多次出现在一棵树的训练集中,也可能从未出现在一棵树的训练集中。在训练每棵树的节点时,使用的特征是从所有特征中按照一定比例随机地无放回的抽取的,假设总的特征数是
M
,则这个比例可以是(√M),12(√M),2(√M) 。
训练过程
随机森林的训练过程可以总结如下:
(1)给定训练集S
,测试集T
,特征维数F
。确定参数:使用到的CART的数量t
,每棵树的深度d
,每个节点使用到的特征数量f
,终止条件:节点上最少样本数s
,节点上最少的信息增益m
对于第1-t棵树,i=1-t
:
(2)从S中有放回的抽取大小和S一样的训练集S(i),作为根节点的样本,从根节点开始训练
(3)如果当前节点上达到终止条件,则设置当前节点为叶子节点,如果是分类问题,该叶子节点的预测输出为当前节点样本集合中数量最多的那一类c(j)
,概率p
为c(j)
占当前样本集的比例;如果是回归问题,预测输出为当前节点样本集各个样本值的平均值。然后继续训练其他节点。如果当前节点没有达到终止条件,则从F维特征中无放回的随机选取f维特征。利用这f维特征,寻找分类效果最好的一维特征k
及其阈值th
,当前节点上样本第k维特征小于th
的样本被划分到左节点,其余的被划分到右节点。继续训练其他节点。有关分类效果的评判标准在后面会讲。
(4)重复(2)(3)直到所有节点都训练过了或者被标记为叶子节点。
(5)重复(2),(3),(4)直到所有CART都被训练过。
预测过程
预测过程如下:
对于第1-t棵树,i=1-t:
(1)从当前树的根节点开始,根据当前节点的阈值th,判断是进入左节点(<th
)还是进入右节点(>=th
),直到到达,某个叶子节点,并输出预测值。
(2)重复执行(1)直到所有t棵树都输出了预测值。如果是分类问题,则输出为所有树中预测概率总和最大的那一个类,即对每个c(j)的p进行累计;如果是回归问题,则输出为所有树的输出的平均值。
有关分类效果的评判标准,因为使用的是CART,因此使用的也是CART的评判标准,和C3.0,C4.5都不相同。
对于分类问题(将某个样本划分到某一类),也就是离散变量问题,CART使用Gini值作为评判标准。定义为
例如:分为2类,当前节点上有100个样本,属于第一类的样本有70个,属于第二类的样本有30个,则
对于回归问题,相对更加简单,直接使用
特征重要性度量
计算某个特征X的重要性时,具体步骤如下:
对每一颗决策树,选择相应的袋外数据(out of bag,OOB)计算袋外数据误差,记为errOOB1.
所谓袋外数据是指,每次建立决策树时,通过重复抽样得到一个数据用于训练决策树,这时还有大约1/3的数据没有被利用,没有参与决策树的建立。这部分数据可以用于对决策树的性能进行评估,计算模型的预测错误率,称为袋外数据误差。
这已经经过证明是无偏估计的,所以在随机森林算法中不需要再进行交叉验证或者单独的测试集来获取测试集误差的无偏估计。
随机对袋外数据OOB所有样本的特征X加入噪声干扰(可以随机改变样本在特征X处的值),再次计算袋外数据误差,记为errOOB2。
- 假设森林中有N棵树,则特征X的重要性=
∑errOOB2−errOOB1N 。这个数值之所以能够说明特征的重要性是因为,如果加入随机噪声后,袋外数据准确率大幅度下降(即errOOB2上升),说明这个特征对于样本的预测结果有很大影响,进而说明重要程度比较高。
特征选择
在特征重要性的基础上,特征选择的步骤如下:
- 计算每个特征的重要性,并按降序排序
- 确定要剔除的比例,依据特征重要性剔除相应比例的特征,得到一个新的特征集
- 用新的特征集重复上述过程,直到剩下m个特征(m为提前设定的值)。
- 根据上述过程中得到的各个特征集和特征集对应的袋外误差率,选择袋外误差率最低的特征集。
优点
- 在数据集上表现良好
- 在当前的很多数据集上,相对其他算法有着很大的优势
- 它能够处理很高维度(feature很多)的数据,并且不用做特征选择
- 在训练完后,它能够给出哪些feature比较重要
- 在创建随机森林的时候,对generlization error使用的是无偏估计
- 训练速度快
- 在训练过程中,能够检测到feature间的互相影响
- 容易做成并行化方法
- 实现比较简单
代码实现
简单使用sklearn中随机森林算法的例子:
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
此外,OpenCV中也实现了随机森林算法。具体使用例子可以查看RandomForest随机森林总结。
- 机器学习算法总结--随机森林
- 机器学习算法总结--随机森林
- 机器学习算法-随机森林
- 机器学习算法-随机森林
- 机器学习算法(六):随机森林
- 【机器学习基础】随机森林算法
- 【机器学习基础】随机森林算法
- [机器学习]漫谈随机森林算法
- 机器学习—随机森林算法
- 机器学习算法(二)-随机森林
- [机器学习]漫谈随机森林算法
- 机器学习算法-随机森林(RF)
- 机器学习算法之随机森林
- 机器学习九大算法---随机森林
- 随机森林-机器学习
- 机器学习 -- 随机森林
- 机器学习-随机森林
- 机器学习-随机森林
- 萌新开始学安卓啦
- 悲观锁
- 使用ffmpeg合并视频文件的三种方法
- hive查询与优化
- 2017/8/9 离线赛
- 机器学习算法总结--随机森林
- react native Text实现限制行数不显示省略号,尾部直接截断
- JAVA常用日期比较操作说明
- 说一说排序算法,稳定性,复杂度
- vue
- 数字签名与数字证书技术简介(一)
- Scala 之 模式匹配
- 常用Markdown(MD)语法
- 正则表达式--初级