决策树个人总结

决策树是一个分类器，关键问题在于怎么分更合理。

决策树的思想是按特征属性一个个来划分。

而在选择划分属性上，不同的算法会有不同的指标。

比如ID3用得信息增益，C4.5用的信息增益率。

信息增益的计算又会关系到熵的定义和计算。

这是一个简单易懂的分类器，只要理解熵的意义，基本就能够明白这个算法了。