【python|ML】k-fold/leave-one-out 方法在对率回归实现（西瓜书习题3.4，数据UCI-iris）
来源：互联网 发布：怎么在淘宝联盟推广 编辑：程序博客网 时间：2024/06/05 11:46
# 经验：梯度下降要让目标确实减小（或者增大），此程序tempsum需要减小，故要着重检查！！import numpy as npdef dlhg(x, d): x = np.c_[x, np.ones(d.shape[0])] w = np.random.randn(x[0].shape[0]) miu = 0.01 temp_sum_old = np.inf count = 0 while True: tempsum = 0 dw = 0 for i in range(d.shape[0]): pdt = np.sum(w * x[i]) tempsum = tempsum + np.log(1 + np.exp(pdt)) - d[i] * pdt dw = dw + (np.exp(pdt) / (1 + np.exp(pdt)) - d[i]) * x[i] if np.abs(tempsum - temp_sum_old) < 0.01: break w = w - miu * dw temp_sum_old = tempsum count = count + 1 #print(tempsum) #print(count) #for i in range(d.shape[0]): # # i 为第i个样本 # if np.sum(w * x[i]) > 0: # print(1) #else: # print(0) #print(w) return w
import numpy as npdef load_iris(): iris_data_file = "D:/WORKSPACE/ML/DATA/UCI/_iris.data" _x = np.genfromtxt(iris_data_file, delimiter=',', usecols=(0, 1, 2, 3)) _y = np.genfromtxt(iris_data_file, delimiter=',', usecols=(4)) return _x, _y# 示例：from UCIdata import *from duilvhuigui import *x, d = load_iris()x = x[:100]d = d[:100]# 10-fold cross-validationerr_count = 0print("\td\t\ty")for k in range(10): xte = np.r_[x[5 * k:5 * (k + 1)], x[50+5 * k:50+5 * (k + 1)]] dte = np.r_[d[5 * k:5 * (k + 1)], d[50+5 * k:50+5 * (k + 1)]] xtr = np.r_[x[:5 * k], x[5 * (k + 1):50+5 * k], x[50+5 * (k + 1):]] dtr = np.r_[d[:5 * k], d[5 * (k + 1):50+5 * k], d[50+5 * (k + 1):]] w = dlhg(xtr, dtr) xte = np.c_[xte, np.ones(dte.shape[0])] print("{}-fold\t".format(k)) for i in range(dte.shape[0]): if np.sum(w * xte[i]) > 0: y = 1 else: y = 0 print("\t{}\t{}".format(dte[i], y)) if dte[i] != y: err_count += 1print("Total error:{}\t".format(err_count))# leave-one-outerr_count = 0print("Leave-one-out")for k in range(100): xte = x[k] dte = d[k] xtr = np.r_[x[:k], x[k+1:]] dtr = np.r_[d[:k], d[k+1:]] w = dlhg(xtr, dtr) # 特殊处理：只有一维情况下，这里了用np.c_[]会报错 xte = np.r_[xte, 1] if np.sum(w * xte) > 0: y = 1 else: y = 0 print("\t{}\t{}".format(dte, y)) if dte != y: err_count += 1print("Total error:{}\t".format(err_count))结语：error都是0，也没发现哪里不对。。。我的天
此博客纯粹为记录，算是知识的积累。当然也欢迎交流批评等。
0 0
- 【python|ML】k-fold/leave-one-out 方法在对率回归实现（西瓜书习题3.4，数据UCI-iris）
- 【LDA|ML】西瓜书习题3.4
- K-Means C实现（基于iris数据）
- 周志华机器学习，3.3编程实现对率回归，并给出西瓜数据集3.0α上的结果
- python 实现 knn分类算法 (Iris 数据集）
- Python 3实现k-邻近算法以及 iris 数据集分类应用
- Python实现决策树对西瓜进行分类
- Calculate Leave-One-Out Prediction for GLM
- leave-one-out之个人理解
- 对西瓜数据集实现LDA编程
- 支持向量机多分类libSVM二（UCI中iris数据分类）
- Matlab读取UCI数据集Iris中数据
- R语言实现K-Means算法数据集iris
- python iris 数据集
- KD树——UCI数据集IRIS
- 朴素贝叶斯——UCI数据集IRIS
- k-Means聚类算法实现--基于西瓜数据4.0
- 【python 神经网络】BP神经网络python实现-iris数据集分类
- c++函数部分
- （课堂讨论）关于SQS
- backpropagation反向传播算法
- CVPR 2016-12-14
- 类别(Category)与扩展(Extension)
- 【python|ML】k-fold/leave-one-out 方法在对率回归实现（西瓜书习题3.4，数据UCI-iris）
- Caffe 增加自定义 Layer 及其 ProtoBuffer 参数
- Java IO学习
- Yii2: Not Found (#404):Unable to find debug data tagged
- 全排列问题算法及实现（Permutation）
- matlab 函数 bwarea
- valgrind android编译、安装
- 牵手华为，国泰君安打造强劲业务使能引擎
- 欢迎使用CSDN-markdown编辑器
