梯度下降法(一)入门
来源:互联网 发布:java算法数据结构视频 编辑:程序博客网 时间:2024/05/01 13:22
梯度下降法(一)入门 2012-12-11 13:14 22981人阅读 评论(12)收藏举报
本文章已收录于:
分类:
作者同类文章X
版权声明:本文为博主原创文章,未经博主允许不得转载。
梯度下降法是一个一阶最优化算法,通常也称为最速下降法。我之前也没有关注过这类算法。最近,听斯坦福大学的机器学习课程时,碰到了用梯度下降算法求解线性回归问题,于是看了看这类算法的思想。今天只写了一些入门级的知识。
我们知道,函数的曲线如下:
编程实现:c++ code
- /*
- * @author:郑海波
- * blog.csdn.net/nuptboyzhb/
- * 2012-12-11
- */
- #include <iostream>
- #include <math.h>
- using namespace std;
- int main()
- {
- double e=0.00001;//定义迭代精度
- double alpha=0.5;//定义迭代步长
- double x=0;//初始化x
- double y0=x*x-3*x+2;//与初始化x对应的y值
- double y1=0;//定义变量,用于保存当前值
- while (true)
- {
- x=x-alpha*(2.0*x-3.0);
- y1=x*x-3*x+2;
- if (abs(y1-y0)<e)//如果2次迭代的结果变化很小,结束迭代
- {
- break;
- }
- y0=y1;//更新迭代的结果
- }
- cout<<"Min(f(x))="<<y0<<endl;
- cout<<"minx="<<x<<endl;
- return 0;
- }
- //运行结果
- //Min(f(x))=-0.25
- //minx=1.5
- //Press any key to continue
问题:
迭代步长alpha为什么要选择0.5??选择其他的值可以吗?它的取值与迭代的次数、收敛性及结果的准确性有何关系?如果选择alpha的值?下次好好的探讨。
转载请声明:http://blog.csdn.net/nuptboyzhb/article/details/8281923
0 0
- 梯度下降法(一)入门
- 梯度下降法(一)入门
- 梯度下降法(一)入门
- 梯度下降法(一)入门
- 梯度下降法(一)入门
- 【转载】梯度下降法(一)入门
- 梯度下降法(一)
- 梯度下降法入门
- 梯度下降法一
- 机器学习入门:线性回归及梯度下降(一)
- 机器学习入门系列一(关键词:单变量线性回归,梯度下降法)
- 机器学习算法入门之(一)梯度下降法实现线性回归
- 机器学习入门系列一(关键词:单变量线性回归,梯度下降法)
- 梯度下降法和拟牛顿法(一):梯度下降法思想
- Andrew Ng机器学习笔记(一):梯度下降法
- 【机器学习】机器学习(一、二):批梯度下降法、随机/增量梯度下降法、最小二乘法
- 机器学习算法入门之(一) 梯度下降法实现线性回归
- 机器学习笔记(一):梯度下降算法,随机梯度下降,正规方程
- AngularJS 不得不了解的服务 $compile 用于动态显示html内容
- lintcode ----数字三角形
- Spring mvc环境下web项目配置ajax跨域访问
- Qt之格栅布局(QGridLayout)
- 全自动桌面整理器
- 梯度下降法(一)入门
- 水平滚动
- sudo: /usr/bin/sudo must be owned by uid 0 and have the setuid bit set
- iOS中制作微信摇一摇的图框雏形
- JavaSE_接口,接口中的修饰符
- lucene学习 内存索引库和文件索引库结合
- 【iOS开发】数组的去重(无序和有序)
- 关于jquery插件的那点事!
- iOS NSURLSession 详解