sklearn.cross_validation模块
来源:互联网 发布:vc控制台 数据库 编辑:程序博客网 时间:2024/05/18 06:19
sklearn.cross_validation模块的作用顾名思义就是做cross validation的。
- cross validation大概的意思是:对于原始数据我们要将其一部分分为train data,一部分分为test data。train data用于训练,test data用于测试准确率。在test data上测试的结果叫做validation error。将一个算法作用于一个原始数据,我们不可能只做出随机的划分一次train和test data,然后得到一个validation error,就作为衡量这个算法好坏的标准。因为这样存在偶然性。我们必须好多次的随机的划分train data和test data,分别在其上面算出各自的validation error。这样就有一组validation error,根据这一组validation error,就可以较好的准确的衡量算法的好坏。cross validation是在数据量有限的情况下的非常好的一个evaluate performance的方法。而对原始数据划分出train data和test data的方法有很多种,这也就造成了cross validation的方法有很多种。
- sklearn中的cross validation模块,最主要的函数是如下函数:sklearn.cross_validation.cross_val_score:
- 调用形式是scores = cross_validation.cross_val_score(clf, raw data, raw target, cv=5, score_func=None)参数解释:clf是不同的分类器,可以是任何的分类器。比如支持向量机分类器。clf = svm.SVC(kernel='linear', C=1)cv参数就是代表不同的cross validation的方法了。如果cv是一个int数字的话,并且如果提供了raw target参数,那么就代表使用StratifiedKFold分类方式,如果没有提供raw target参数,那么就代表使用KFold分类方式。
- 函数的返回值就是对于每次不同的的划分raw data时,在test data上得到的分类的准确率。至于准确率的算法可以通过 score_func参数指定,如果不指定的话,是用clf默认自带的准确率算法。sklearn.cross_validation.train_test_split:
- 功能:从样本中随机的按比例选取train data和test data。
- 调用形式为:X_train, X_test, y_train, y_test = cross_validation.train_test_split(train_data, train_target, test_size=0.4, random_state=0)test_size是样本占比。如果是整数的话就是样本的数量。random_state是随机数的种子。不同的种子会造成不同的随机采样结果。相同的种子采样结果相同。除了KFold以及StratifiedKFold这两种对raw data进行划分的方法之外,还有以下划分方法:cross_validation.ShuffleSplitcross_validation.Bootstrapcross_validation.LeaveOneLabelOutcross_validation.LeaveOneOutcross_validation.LeavePLabelOutcross_validation.LeavePOutcross_validation.StratifiedShuffleSplit
Demo1.py
import numpy as npfrom sklearn import datasetsfrom sklearn.cross_validation import train_test_split#分割数据的模块from sklearn.neighbors import KNeighborsClassifierfrom sklearn.cross_validation import cross_val_score #K折交叉验证模块# 加载iris数据集iris = datasets.load_iris()# 读取特征X = iris.data# 读取分类标签y = iris.target# 定义分类器knn = KNeighborsClassifier(n_neighbors = 5)# 进行交叉验证数据评估, 数据分为5部分, 每次用一部分作为测试集scores = cross_val_score(knn, X, y, cv = 5, scoring = 'accuracy')# 输出5次交叉验证的准确率print (scores)
结果:
[ 0.96666667 1. 0.93333333 0.96666667 1. ]
Demo2.py
import numpy as npimport matplotlib.pyplot as pltfrom sklearn import datasetsfrom sklearn.cross_validation import train_test_splitfrom sklearn.neighbors import KNeighborsClassifierfrom sklearn.cross_validation import cross_val_score # 确定knn中k的取值# 加载iris数据集iris = datasets.load_iris()# 读取特征X = iris.data# 读取分类标签y = iris.target# 定义knn中k的取值, 0-10k_range = range(1, 30)# 保存k对应的准确率k_scores = []# 计算每个k取值对应的准确率for k in k_range: # 获得knn分类器 knn = KNeighborsClassifier(n_neighbors = k) # 对数据进行交叉验证求准确率 scores = cross_val_score(knn, X, y, cv = 10, scoring = 'accuracy') # 保存交叉验证结果的准确率均值 k_scores.append(scores.mean())# 绘制k取不同值时的准确率变化图像plt.plot(k_range, k_scores)plt.xlabel('K Value in KNN')plt.ylabel('Cross-Validation Mean Accuracy')plt.show()
结果:
作者:Ledestin
链接:http://www.jianshu.com/p/6beffa4b80be
來源:简书
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
阅读全文
0 0
- sklearn.cross_validation模块
- Sklearn.cross_validation模块和数据划分方法
- from sklearn.cross_validation import train_test_split
- cross_validation 模块弃用
- sklearn的svc参数总结及cross_validation
- sklearn.cross_validation 0.18版本废弃警告及解决方法
- Python scikit-learn机器学习工具包学习笔记:cross_validation模块
- Python scikit-learn机器学习工具包学习笔记:cross_validation模块
- Python scikit-learn机器学习工具包学习笔记:cross_validation模块
- Python scikit-learn机器学习工具包学习笔记:cross_validation模块
- Python scikit-learn机器学习工具包学习笔记:cross_validation模块
- \python2.7\lib\site-packages\sklearn\cross_validation.py:41: DeprecationWarning: This module was dep
- easy_install 安装sklearn模块
- sklearn dataset模块学习
- sklearn 中 make_blobs模块使用
- sklearn学习(模块列表)
- python安装scipy与sklearn模块
- python安装numpy/scipy/matplotlib/sklearn模块
- Linux 自动备份mysql数据
- TCP协议与UDP协议的区别
- PS
- Python3+gdal 读取tiff格式数据
- PAT乙级练习题.1008
- sklearn.cross_validation模块
- 虚拟机字节码执行引擎
- struts.xml文件中package元素的各大属性讲解
- javaweb_day7(JDBC)的配置信息提取到配置文件
- linux ——系统虚拟机管理
- Leetcode第38题
- Mvp购物车
- 景驰无人驾驶 1024 编程邀请赛 A.热爱工作的蒜蒜(最短路,SPFA)
- Java NIO系列教程(4):Scatter/Gather