ARIMA（待续。。。）

ARIMA

标签（空格分隔）： 时间序列

---

1. 理论

1.0 基本概念

• 随机变量序列{Yt:t=0,±1,±2...}称为一个随机过程
• 自协方差函数:γt,s=Cov(Yt,Ys)
• 自相关函数：ρt,s=γt,sγt,tγs,s√

1.1 平稳（ARMA）

  最重要的假设即平稳性

• 平稳性的基本思想: 决定过程特性的统计规律不随着时间的变化而变化， 从一定意义上来说，过程位于统计的平衡点上。

• 严平稳： 对一切的时滞k 和 时间点t1,… tn,都有 Yt1,…Ytn 与 Yt1−k,…Ytn−k的联合分布相同

• 弱平稳： （1）均值函数在所有时间上恒为常数
       (2) γt,t−k = γ0,k,对所有的时间t和时滞k

  在本文中，每当单独提及平稳概念时，通常指的都是弱平稳

• 对于平稳过程，自协方差函数γt,s=γt,s=γ0,|t−s|， 只与时间间隔|t−s|有关，而与实际时刻无关，因此，简记为：γk=γt,t−k, ρk=ρt,t−k

1.1.1 一般线性过程

  一般线性过程{Yt}可以表示成现在和过去白噪声变量的加权线性组合：

Yt=et+ψ1et−1+ψ2et−2+...

1.1.2 MA(moving average)

  当有限个系数ψ不为0的时候，得到滑动平均过程（滑动权数至et+1,et,…et−q+1得到Yt+1）。此时，稍微改变符号，写成：

Yt=et−θ1et−1−θ2et−2−...−θqet−q

称为q阶滑动平均过程，简记为MA(q).

1.1.2.1 一般MA（q）过程

  对于一般的MA(q)过程：Yt=et−θ1et−1−θ2et−2−...−θqet−q
可计算得到：

γ0=(1+θ21+θ22+...+θ2k)

γk=(−θk+θ1θk+1+θ2θk+2+...+θq−kθq)

ρk =

−θk+θ1θk+1+θ2θk+2+…+θq−kθq1+θ21+θ22+…+θ2k0k=1,2,…,qk>q 

1.1.3 AR(Autoregressive)

  假定Yt的当前值是自身最近p阶滞后项和新息项et的线性组合(我们总是可以在方程中用Yt−u代替Yt,引入非零均值）,可得到自回归过程，写成：

Yt=ϕ1Yt−1+ϕ2Yt−2+...+ϕpYt−p+et

称为p阶自回归过程，记为AR(p);
  其中et包含了序列在t期，无法用过去值来解释的所有新信息，因此，假设et独立于Yt−1,Yt−2,...。

1.1.3.0 AR平稳性

  上式可用滞后算子表示为：

(1−ϕ1L1−ϕ2L2−...−ϕpLp)xt=Φ(L)xt=et

其中，Φ(L)=(1−ϕ1L1−ϕ2L2−...−ϕpLp)称为AR算子或特征多项式
  对于AR(P), 如果特征方程：

Φ(L)=0

的所有跟的绝对值都大于1，则该过程是一个平稳过程。

1.1.4 ARMA

  假定序列中的部分是自回归，部分是滑动平均，可以得到自回归滑动平均模型：

Yt=ϕ1Yt−1+ϕ2Yt−2+...+ϕ3Yt−3+et−θ1et−1−θ2et−2−...−θqet−q

称{Yt}为自回归滑动平均混合过程，简记为ARMA（p,q).

1.2 非平稳（ARIMA)

  具有时变均值的任何时间序列都是非平稳的，eg：

Yt=μt+Xt

的模型（其中μt 是时变均值函数， Xt是零均值平稳序列）

1.2.1 ARIMA

  如果一个时间序列{Yt}的d次差分Wt=∇dYt是一个平稳的ARMA过程，服从ARMA(p,q)模型，我们称{Yt}是ARIMA(p,d,q)过程。实际上，通常取d=1或最多为2.

1.3 季节性

1.3.1 季节ARMA模型

  季节周期为s的Q阶季节MA(Q)模型如下：

Yt=et−Θ1et−s−Θ2et−2s−...−ΘQet−Qs

其季节MA特征多项式如下：

Θ(x)=1−Θ1xs−Θ2x2s−...−ΘQxQs

显然，该序列总是平稳的，且其自相关函数只在s,2s,...,Qs等季节滞后上非零，特别的：

ρks=−Θk+Θ1Θk+1+...+ΘQ−kΘQ1+Θ21+...+Θ2Q,k=1,2,...,Q

  季节周期为s的P阶季节AR(P)模型如下：

Yt=Φ1Yt−1+Φ2Yt−2s+...+ΦpYt−Ps+et

其季节特征多项式为：

Φ(x)=1−Φ1xs−Φ2x2s−ΦPxPs

通常要求et独立于Yt−1,Yt−2,...,而且为了保证平稳性，要求特征方程Φ(x)=0的所有根的绝对值都大于1。

1.3.2 乘法季节ARMA

  可以构造一类模型，它们不仅在季节滞后上包含相关性，而且在邻近序列值的更小滞后上依然包含相关性。eg:考虑一个MA模型，其特征多项式如下：

(1−θx)(1−Θx12)

展开后得到1−θx−Θx12+θΘx13.因此相应的时间序列满足下式：
Yt=et−θet−1−Θet−12+θΘet−13

  一般定义季节周期为s的乘法季节ARMA(p,q)(P,Q)s模型是AR特征多项式为ϕ(x)Φ(x)、MA特征多项式为θ(x)Θ(x)的模型，其中：

ϕ(x)=1−ϕ1x−ϕ2x2−…−ϕpxpΦ(x)=1−Φ1x−Φ2x2s−…−ΦpxPs

θ(x)和Θ(x)同理。
eg：假设 P=q=1,p=Q=0且s=12,则模型为：

Yt=ΦYt−12+et−θet−1

1.3.3 乘法季节ARIMA

  考虑如下的时间序列Yt:

Yt=Mt+St+et

其中：

St=St−s+εt

Mt=Mt−1+ξt

其中{et},{εt}和{ξt}是相互独立的白噪声序列。这里将同时应用季节差分和普通的非季节查分来得到：

▿▿sYt=▿(Mt−Mt−1+εt+et+et−s)=(ξt+εt+et)−(εt−1+et−1)−(ξt−s+et−s)+et−s−1

这里所定义的过程是平稳的，且只在1,s-1,s和s + 1等滞后上有非零相关性，这同季节周期为s的乘法季节模型ARMA(0,1)×(0,1)的相关结构一致。

  过程{Yt}称为季节周期为s、非季节阶数为p,d和q,季节阶数为P,D和Q的乘法季节ARMA模型,前提是差分序列

Wt=▿d▿DsYt

满足某季节周期为s的ARMA(p,q)×(P,Q)模型。{Yt}称为季节周期为s的ARIMA(p,d,q)×(P,D,Q)s模型。
  经验证明，这些模型足够拟合许多序列，通常模型也只要用三四个那样很少的几个参数。

2. R中的应用