多项式回归

在上一节所介绍的非线性回归分析，首先要求我们对回归方程的函数模型做出判断。虽然在一些特定的情况下我们可以比较容易地做到这一点,但是在许多实际问题上常常会令我们不知所措。根据高等数学知识我们知道，任何曲线可以近似地用多项式表示，所以在这种情况下我们可以用多项式进行逼近，即多项式回归分析。

    一、多项式回归方法

假设变量y与x的关系为p次多项式，且在x_i处对y的随机误差  (i=1,2,…,n)服从正态分布N(0,)，则

    令

x_i1=x_i, x_i2=x_i²，…，x_ip=x_i^p

    则上述非线性的多项式模型就转化为多元线性模型，即

 

    这样我们就可以用前面介绍的多元线性回归分析的方法来解决上述问题了。其系数矩阵、结构矩阵、常数项矩阵分别为

   (2-4-11)

 

                 (2-4-12)

 

                       (2-4-13)

 

    回归方程系数的最小二乘估计为

                       (2-4-14)

需要说明的是，在多项式回归分析中，检验b_j是否显著，实质上就是判断x的j次项x^j对y是否有显著影响。

对于多元多项式回归问题，也可以化为多元线性回归问题来解决。例如，对于

       (2-4-15)

    令x_i1=Z_i1, x_i2=Z_i2, x_i3=Z_i1², x_i4=Z_i1Z_i2, x_i5=Z_i2²

    则(2-4-15)式转化为

    转化后就可以按照多元线性回归分析的方法解决了。

    下面我们通过一个实例来进一步说明多项式回归分析方法。

    

    一、应用举例

    例2-4-2  某种合金中的主要成分为元素A和B，试验发现这两种元素之和与合金膨胀系数之间有一定的数量关系，试根据表2-4-3给出的试验数据找出y与x之间的回归关系。

表2-4-3  例2-4-2试验数据

 首先画出散点图（图2-4-3）。从散点图可以看出，y与x的关系可以用一个二次多项式来描述：

i=1,2,3…,13

图2-4-3  例2-4-2的散点图

    令

x_i1=x_i,x_i2=x_i²,

    则

    现在我们就可以用本篇第二章介绍的方法求出   的最小二乘估计。由表2-4-3给出的数据，求出

    由（2-2-16）式

    由此可列出二元线性方程组

    将这个方程组写成矩阵形式，并通过初等变换求b₁,b₂和系数矩阵L的逆矩阵L^-1:

    于是

    b₁=-13.3854

    b₂=0.16598

    b₀=2.3323+13.3854 40-0.16598 1603.5=271.599

    因此

    下面对回归方程作显著性检验：

    由（2-2-43）式

S_回=

    由（2-2-42）式

S_总=

S_残=L_yy- S_回=0.2572

 将上述结果代入表2-2-2中制成方差分析表如下：

表2-4-4          方差分析表

 

    查F检验表，F_0。01（2，10）=7.56, F>F_0.01(2 ,10)，说明回归方程是高度显著的。

    下面对回归系数作显著性检验

    由前面的计算结果可知：

    b₁=-13.3854            b₂=0.16598

    c₁₁=51.125            c₂₂=7.9916 10^-3

    由（2-2-54）式

    由（2-2-53）式

    检验结果说明的x一次及二次项对y都有显著影响。