w4

随机过程 Stochastic Process
{Yt}，称{Y1=y1,Y2=y2,⋯,YT=yT}为长度为T的随机过程的一个实现。
{Yt}平稳表明它各个方面的行为不随时间t的变化而变化。

---

严平稳：
对于任意给定的有限的整数r，联合分布(Yt,Yt1,⋯,Ytr)仅依赖ti−t而不依赖时刻t。
严平稳的性质：
1.对于所有的时间t，Yt的各阶矩在不同时刻是相同的。
2.以严平稳过程为自变量的函数值也是严平稳的，即Yt严平稳，则g(Yt)严平稳。

---

宽平稳：
各个时刻t，随机过程的均值和方差相等，即：
E[Yt]=μ，Var[Yt]=σ2
协方差仅决定于时间差，而与起始时间无关：
cov(Yt,Yt−j)=γj
相关系数：
ρj=corr(Yt,Yt−j)=cov(Yt,Yt−j)Var(Yt)Var(Yt−j)√=γjσ2
即随机过程Yt在两个间隔为j的时间取值时，其线性相关系数仅决定于该随机过程的方差和这两个随机变量（因为时刻给定，随机过程退化为随机变量）协方差。

---

高斯白噪声 Gaussian White Noise
Yt∼iid N(0,σ2)

独立白噪声过程 Independent White Noise Process
Yt∼iid (0,σ2) or Yt∼IWN(0,σ2)
E(Yt)=0且Var(Yt)=σ2

弱白噪声过程 Weak White Noise Process
Yt∼WN(0,σ2)
和IWNP一样，但此时cov(Yt,Ys)=0for t≠s，而IWNP的Yt和Ys独立

---

非平稳过程
确定性趋势过程 Nonstationary Processes
Yt=β0+β1t+εt，其中εt∼WN(0,σ2ε)
E(Yt)=β0+β1t与t有关

---

随机游走 random walk
Yt=Yt−1+εt，其中εt∼WN(0,σ2ε)
Y0即起始点给定，Yt=Y0+∑j=1tεj
得到Var(Yt)=σ2ε⋅t，依赖于t的取值。

---

滑动平均过程 Moving Average (MA) Processes
Yt=μ+εt+θεt−1,−∞<θ<∞，其中εt∼iid N(0,σ2ε)
均值：E(Yt)=μ
方差：Var(Yt)=σ2ε(1+θ2)
协方差：cov(Yt,Yt−1)=θσ2ε
当时间差大于1时，协方差为0，即对于滑动平均过程而言，仅有时刻相差为1个单位的两个观测是有一定的线性相关关系的，而时刻差大于1单位时，两个观测是线性无关的。
相关系数：ρ1=γ1σ2=θ1+θ2
故相关系数的取值和θ值有关，且两个相邻时刻的观测是正线性相关还是负线性相关由θ的符号给定。
相关系数的取值范围为(−12,12)

---

自回归模型 Autoregressive (AR) Process
均值调整形式 mean-adjusted form
Yt−μ=ϕ(Yt−1−μ)+εt, −1<ϕ<1
其中εt∼iid N(0,σ2ε)

当−1<ϕ<1时，AR(1)是自相关函数各态历经的。
均值：E[Y_t]=μ
方差：Var[Y_t]=σ2ε1−ϕ2
协方差：cov(Yt,Yt−j)=σ2ε1−ϕ2⋅ϕj
相关系数：corr(Yt,Yt−j)=ϕj
由于|ϕ|<1，故随着时间差j的增加，两个观测的线性相关系数的绝对值是递减的，即两个观测相距的时间越远，其线性相关程度越低。

AR模型中，在时间上更接近的随机变量比在时间上更遥远的随机变量更加（线性）相关，即：
|(corr(Yt,Yt−1)|>|(corr(Yt,Yt−2)|

回归模型形式 regression model form
Yt=c+Yt−1+εt

---

---

遍历性 = 各态历经性
各态历经的直观解释是：平稳随机过程的每一个样本轨迹几乎必须经历它所具有的各种状态。
各态历经分为均值各态历经和相关函数各态历经。

对于一个随机过程f(X,t)，每一次观测都是基于某个特定的时间t0时，事件X的取值。即对于一个随机过程的取值，首先确定时间t0得到f(X,t0)，然后根据事件X（随机变量）的取值x0（确定的数值）得到随机过程的取值f(x0,t0).
随机过程的时间平均：对于随机过程f(X,t)，在每一个时刻t0时，都可以看成是一个随机变量，时间平均即是在该时刻下的随机变量的期望值（即在概率上求平均）。