【随机过程】动态概率 私人回顾

前几篇总结了客观概率和主观概率，但是都是静态随机变量，这一篇主要讲动态随机变量，也就是随机过程。

十二、随机过程

如果随机变量随一个确定的参数 t 变换，那么称该随机变量为随机过程。最常见的情况就是参数t是时间。最简单的随机过程就是伯努利随机过程，参数t造成的影响是个常数，最常见的随机过程就是电子热噪声，无处不在，无时无刻。随机过程的本质是对随机变量随时间（或其他变量）变化的刻画。随机过程改变的不是每一次取值，而是整个状态空间的变化。也就是某一刻随机变量的样本空间发生了变化。由于有了变量，所以随机过程的分布函数也就成了动态的，而非一个确定的东西。

除了参数t外，随机过程一切照旧，有分布函数，有度量量，期望、方差、各阶矩等等。如果t确定，则变成了一个随机变量，否则是一个动态的过程。也就是说，我们可以把参数t忽视，针对随机变量的所有内容都可以搬到随机过程上来。

同样地，随机过程的随机性，使其具有各个参数点相关性的刻画。可以在随机过程上定义自相关函数，自协方差函数。这里的函数定义在同一个随机过程的不同参数对应的随机变量上，放在时间t角度下，这说明，随着时间t的变化，前后两个随机变量会不会有相关性。如果有，说明之前时刻的随机变量的的确确影响到了之后的随机变量的取值，如果没有，说明前后参数变化会造成无关，这是一个极好的性质。

二维随机过程意味着两个随机过程都随着同一个变量变化。仍然是放在时间角度下看，整个时间的随机变量都在随着时间而变化，且时间是同步进行的，也就是说，随便找两个随时间变化的随机过程，它们就可以组成一个二维随机过程分布。在二维前提下，互相关函数和互协方差函数诞生了，如果对于任意时间t，互协方差函数为0，说明两个随机过程不相关。

十三、典型随机过程

独立增量过程：在互不重叠的区间上，增量平稳。如果随着时间的变化增量按比例变化，那么就是平稳增量过程。例如，随着时间的流逝，相同一段时间内出生的人口数，是越来越多，越来越快的，也就是说，这不是个平稳过程，也不是个独立增量过程，因为前一段时间增长的人口会对之后时间增长的人口造成影响。

泊松过程：这个和泊松分布一脉相承，银行排队模型这个泊松过程不要太多。条件包括独立增量，在足够小的时间段上，两个客户到达的可能性无限小。

更重要的泊松过程的性质是：
定理一：泊松过程的点间间距是相互独立的随机变量，服从指数分布。
定理二：反过来，指数分布不断加在一起，构成泊松过程。

维纳过程：独立增量，任意增量服从参数包含时间差的正态分布。

十四、马尔科夫过程

马尔科夫过程的意思就是无后效性，指未来的状态仅仅依赖当前的状态，和过去无关，而当前的状态也是从上一个状态而来，与再之前无关。马尔科夫过程可以比作事过就忘，我认为整个世界就是建立在马尔科夫过程基础上运转的，比如说抛硬币，此时此刻，高度、手速、角度、风速、弹性、质量等等因素都是随机过程，在抛掷的那一刻，所有信息都确定了，得到了一个或正或反的结果。而下一次抛掷的时候，显然是从当前这个抛掷随时间发展过去的，风速变慢了，高度抬高了，角度变化了，等等，我们又得到了一个新的结果，这个新的结果和整个影响因素的变化都有关。这个新的结果和前一个结果自然有关，和再之前的结果有关吗？当然也是有关的，因为是从之前的结果状态不断变化来的，但是那些都不需要考虑了，因为并不会影响对未来的判断。

独立增量过程就是一个马尔科夫过程。因为每一次增量都和之前、再之前的无关。

由马尔科夫过程就可以得到马尔科夫链，这是状态转移的基本形式。这个链是描述程序语言的基本工具，也是描述所有流程走向的工具。从状态转移概率可以得到转移矩阵、状态转移图。如果还保证平稳性，则说明这个状态转移是平稳的。在这里我忽然想到了线性时不变系统，时不变的含义其实也就是平稳。

N步转移概率也就是N个转移矩阵相乘。与马尔科夫过程相对应的还有隐含马尔科夫链。在分词中有用。

十五、平稳随机过程

如果随机过程的概率分布始终不变，就是严平稳；如果只是保证期望和自相关函数不变性，那就是宽平稳过程。
 
若自相关函数、互相关函数能够保证相关性只随着时间差改变，那么相关性就是平稳的，被称为平稳相关。

各态历经性：也就是遍历性，指的是从一个状态出发可以以非0的概率遍历所有的状态，而且，还需要保证非周期性，如果是周期就是确定性周期函数了，而且，还要保证正常返回。遍历性是个时间上的概念，也就是从一个时间点出发，经过若干时间能够遍历所有的状态，具有遍历性的随机过程一定是宽平稳过程。这样，时间平均代替了统计平均。

平稳过程的功率谱密度，这让我想起来信号的功率谱密度，频谱密度，也是随时间变化的过程，在短时间内，这是一个平稳过程，而且是个严平稳过程。