Logistic回归(改进的随机梯度上升)
来源:互联网 发布:微信支付退款接口 php 编辑:程序博客网 时间:2024/06/09 14:53
上一节我们讨论的随机梯度上升算法在进行迭代的过程中回归系数会出现激烈的改变,这一节我们对上一节的算法进行改进:
def stocGradAscent1(dataMatrix, classLabels, numIter=150): m,n = shape(dataMatrix) weights = ones(n) #initialize to all ones for j in range(numIter): dataIndex = range(m) for i in range(m): alpha = 4/(1.0+j+i)+0.0001 randIndex = int(random.uniform(0,len(dataIndex))) h = sigmoid(sum(dataMatrix[randIndex]*weights)) error = classLabels[randIndex] - h weights = weights + alpha * error * dataMatrix[randIndex] del(dataIndex[randIndex]) return weights在这个改进的算法中我们增加了两处代码,步长会随着迭代的次数增加而不断减小,但是不会减小到0,如果处理的是动态变化的问题可以适当的加大常数项。第二处改进的地方是回归系数的更新是通过随机选取样本点来进行的。这样可以减少周期性的波动。
0 0
- Logistic回归(改进的随机梯度上升)
- [机器学习]Logistic回归梯度上升法与改进的随机梯度上升算法
- Logistic回归(随机梯度上升)
- Logistic回归(梯度上升)
- 基于梯度上升算法的Logistic回归
- Logistic回归算法(梯度上升)
- 机器学习-Logistic回归之随机梯度上升
- 机器学习实战-logistic回归随机梯度上升浅见
- 《机器学习实战》第五章:Logistic回归(2)随机梯度上升和一个实例
- Logistic回归梯度上升分类法
- 【机器学习】Logistic回归的梯度上升法
- 机器学习之logistic回归的梯度上升算法
- Logistic回归中梯度上升算法的数学原理
- Logistic回归和梯度上升算法
- Logistic回归与梯度上升算法
- Logistic回归及梯度上升算法
- Logistic回归和梯度上升算法
- Logistic回归与梯度上升算法
- cocos2d-html5 各平台声音播放总结
- oracle 查看正在执行的sql_trace
- MytabIcon(一个自定义的控件,且带有渐变效果)
- POJ-2594-Treasure Exploration-(路径相交的最小路径覆盖+闭包传递)
- 用requestDisallowInterceptTouchEvent()方法防止viewpager和子view滑动事件冲突
- Logistic回归(改进的随机梯度上升)
- struct结构体在c和c++中的区别
- jsp 初学01
- android ImageLoader加载本地图片的工具类
- 一步一步开发安卓应用 登录界面的功能 (LoginActivity)
- TextView的使用
- Android中的线程与线程池
- Git学习
- Qt读取excel