程序博客网 > 联系打字软件

最小二乘法

来源：互联网发布：联系打字软件编辑：程序博客网时间：2024/06/05 20:30

最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。

利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。

最小二乘法还可用于曲线拟合。

其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。

示例[编辑]

数据点（红色）、使用最小二乘法求得的最佳解（蓝色）、误差（绿色）。

某次实验得到了四个数据点 $(x, y)$ ： $(1, 6)$ 、 $(2, 5)$ 、 $(3, 7)$ 、 $(4, 10)$ （右图中红色的点）。我们希望找出一条和这四个点最匹配的直线 $y=\beta_1+\beta_2 x$ ，即找出在某种“最佳情况”下能够大致符合如下超定线性方程组的 $\beta_1$ 和 $\beta_2$ ：

\begin{alignat}{4}\beta_1 + 1\beta_2 &&\; = \;&& 6 & \\\beta_1 + 2\beta_2 &&\; = \;&& 5 & \\\beta_1 + 3\beta_2 &&\; = \;&& 7 & \\\beta_1 + 4\beta_2 &&\; = \;&& 10 & \\\end{alignat}

最小二乘法采用的手段是尽量使得等号两边的方差最小，也就是找出这个函数的最小值：

\begin{align}S(\beta_1, \beta_2) = &\left[6-(\beta_1+1\beta_2)\right]^2+\left[5-(\beta_1+2\beta_2) \right]^2 \\&+\left[7-(\beta_1 + 3\beta_2)\right]^2+\left[10-(\beta_1 + 4\beta_2)\right]^2.\\\end{align}

最小值可以通过对 $S(\beta_1, \beta_2)$ 分别求 $\beta_1$ 和 $\beta_2$ 的偏导数，然后使它们等于零得到。

\frac{\partial S}{\partial \beta_1}=0=8\beta_1 + 20\beta_2 -56

\frac{\partial S}{\partial \beta_2}=0=20\beta_1 + 60\beta_2 -154.

如此就得到了一个只有两个未知数的方程组，很容易就可以解出：

\beta_1=3.5

\beta_2=1.4

也就是说直线 $y=3.5+1.4x$ 是最佳的。

阅读全文

0 0

联系打字软件

联系打字软件

原创粉丝点击

热门问题 老师的惩罚人脸识别我在镇武司摸鱼那些年重生之率土为王我在大康的咸鱼生活盘龙之生命进化天生仙种凡人之先天五行春回大明朝姑娘不必设防，我是瞎子九月九重阳节九月轻歌作品九月英语九月初九九月三十日九个月宝宝发育指标镜中月九鹭非香九天神龙诀秋风揽月九月奇迹九天神龙决秋揽月农历九月十九什么日子金秋九月九月菊八月暖九月温十月还有小阳春九月阳光作品九月幸运召唤师比伯海莉九月办婚礼农历九月十九海子九月九月歌曲周云蓬九月九月海子九月图片九月歌九月歌词九月的英文单词我的九月九月的英文九月是什么月九月用英语怎么说九月网九月英文九月的英语九月海子海子九月九月适合去哪旅游九月旅游九月去哪里旅游好九月出国游九月龙的命运九月台历