用于数据挖掘的分类算法有哪些,各有何优劣?
来源:互联网 发布:淘宝 比价网 编辑:程序博客网 时间:2024/05/14 14:15
链接:https://www.zhihu.com/question/24169940/answer/26952728
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
训练集有多大?
如果你的训练集很小,高偏差/低方差的分类器(如朴素贝叶斯)比低偏差/高方差的分类器(如K近邻或Logistic回归)更有优势,因为后者容易过拟合。但是随着训练集的增大,高偏差的分类器并不能训练出非常准确的模型,所以低偏差/高方差的分类器会胜出(它们有更小的渐近误差)。
你也可以从生成模型与鉴别模型的区别来考虑它们。
某些分类器的优势
朴素贝叶斯(Naive Bayes, NB)
超级简单,就像做一些数数的工作。如果条件独立假设成立的话,NB将比鉴别模型(如Logistic回归)收敛的更快,所以你只需要少量的训练数据。即使条件独立假设不成立,NB在实际中仍然表现出惊人的好。如果你想做类似半监督学习,或者是既要模型简单又要性能好,NB值得尝试。
Logistic回归(Logistic Regression, LR)
LR有很多方法来对模型正则化。比起NB的条件独立性假设,LR不需要考虑样本是否是相关的。与决策树与支持向量机(SVM)不同,NB有很好的概率解释,且很容易利用新的训练数据来更新模型(使用在线梯度下降法)。如果你想要一些概率信息(如,为了更容易的调整分类阈值,得到分类的不确定性,得到置信区间),或者希望将来有更多数据时能方便的更新改进模型,LR是值得使用的。
决策树(Decision Tree, DT)
DT容易理解与解释(对某些人而言——不确定我是否也在他们其中)。DT是非参数的,所以你不需要担心野点(或离群点)和数据是否线性可分的问题(例如,DT可以轻松的处理这种情况:属于A类的样本的特征x取值往往非常小或者非常大,而属于B类的样本的特征x取值在中间范围)。DT的主要缺点是容易过拟合,这也正是随机森林(Random Forest, RF)(或者Boosted树)等集成学习算法被提出来的原因。此外,RF在很多分类问题中经常表现得最好(我个人相信一般比SVM稍好),且速度快可扩展,也不像SVM那样需要调整大量的参数,所以最近RF是一个非常流行的算法。
支持向量机(Support Vector Machine, SVM)
很高的分类正确率,对过拟合有很好的理论保证,选取合适的核函数,面对特征线性不可分的问题也可以表现得很好。SVM在维数通常很高的文本分类中非常的流行。由于较大的内存需求和繁琐的调参,我认为RF已经开始威胁其地位了。
回到LR与DT的问题(我更倾向是LR与RF的问题),做个简单的总结:两种方法都很快且可扩展。在正确率方面,RF比LR更优。但是LR可以在线更新且提供有用的概率信息。鉴于你在Square(不确定推断科学家是什么,应该不是有趣的化身),可能从事欺诈检测:如果你想快速的调整阈值来改变假阳性率与假阴性率,分类结果中包含概率信息将很有帮助。无论你选择什么算法,如果你的各类样本数量是不均衡的(在欺诈检测中经常发生),你需要重新采样各类数据或者调整你的误差度量方法来使各类更均衡。
但是。。。
更好的数据往往比更好的算法更重要,提取好的特征也需要很大的功夫。如果你的数据集非常大,那么分类算法的选择可能对最后的分类性能影响并不大(所以可以根据运行速度或者易用性来选择)。
如果你很在意分类的正确率,那么你得尝试多种分类器,根据交叉验证的结果来挑选性能最好的。或者,学习下Netflix Prize和Middle Earth, 使用某种集成的方法来组合多个分类器。- 用于数据挖掘的分类算法有哪些,各有何优劣?
- 用于数据挖掘的分类算法有哪些,各有何优劣?
- 数据挖掘有哪些算法
- 数据挖掘的统计方法有哪些?
- 数据挖掘的方法有哪些?
- 数据挖掘之分类算法---knn算法(有matlab例子)
- 数据挖掘的数据分析方法有哪些(通俗易懂)
- 数据挖掘中常用的数据清洗方法有哪些?
- OLED有哪些优劣势?
- 指针的分类有哪些
- 解析 | 京东方成功研发的AMQLED显示产品,和LCD、AMOLED相比各有何优劣?
- 用于html5 css3的编辑器有哪些
- CPU有哪些分类?
- 数据挖掘算法的分类
- 有监督的数据挖掘
- 数据挖掘领域最有影响力的18个算法
- 数据挖掘领域最有影响力的18个算法
- 商业银行业务外包的分类有哪些?
- 关于Tinkerpatch的初步研究
- 扫描给定范围端口是否开放
- Android限制输入框为电话号码(纯数字)
- [C++](CQ之一)内存的分配和释放
- 云计算助力一带一路,西天取金
- 用于数据挖掘的分类算法有哪些,各有何优劣?
- linux应用程序中设置RTC
- java使用jnative jar包调用C/C++
- 使用cross-env解决跨平台设置NODE_ENV的问题
- Angularjs 手风琴效果(组织架构)
- MongoDB基本概念
- Hive元数据库表分析和操作
- 计算机基础知识(面试)
- 编译发布时OwinStartup冲突的解决办法