spark mlib中机器学习算法的测试(SVM,KMeans, PIC, ALS等)

来源:互联网 发布:天刀捏脸数据女 高冷 编辑:程序博客网 时间:2024/05/01 21:11

在学习spark mlib机器学习方面,为了进行算法的学习,所以对原有的算法进行了试验。从其官网(http://spark.apache.org/docs/latest/mllib-guide.html)上进行了相关文档的介绍学习,并通过其给定的例子包中相关进行测试。


(1)SVM测试(SVMwithSGD,要知道在mahout中都不支持SVM的)



(2)Kmeans算法测试



 (3)  LDA算法测试



(4)PIC算法(超强的迭代聚类算法)



(5)推荐系统的ALS算法测试(利用movie lens数据)


同样的数据,用spark选出的MSE精度似乎比其它网页上介绍的0.46多的值要高。这个有待于进一步验证。


(6) 关联挖掘(FPGrowth算法)




通过之前的mahout与spark的学习,总体上mahout用起来非常不方便,而spark开发方便,速度更高效


0 0
原创粉丝点击