- 里论外几
-
Wold表示定理(**核心**)
继续把定理的剩余部分证完。先直观回顾一下定理的五个部分都讲了些啥。
证明定理中构造的信息序列是零均值白噪声
信息序列滑动与定理中决定性序列部分正交
白噪声的滑动和与其本身的地位相同
白噪声单边滑动和是纯非决定性平稳序列
V 的确是决定性平稳序列
证明(2)很长且繁琐:定义
关系图变为
说明 Vt 垂直与白噪声序列
显然 ,根据投影性质有 ,即 .
当 s > t 时,注意此时 ,而 ,所以
要想完成证明,需要按照定义找到垂直关系和包含关系
可以这样理解,一个平稳序列一开始就有一些信息 V(t) ,然后不断产生白噪声,它自然与 V(t) 是正交的。
现在我们令 ,那么
需要证明的是 .
准备工作:证明 和 平稳相关。即
第一行是显然的,主要证明第二行。
根据之前的定理,用将无穷资料写为有穷资料的极限(注意下面这个式子与信息序列的定义有关)
根据内积的连续性有
这只与 t - s 有关。到此就证明了平稳相关。
下面补全(1)中遗漏的,定义白噪声滑动的系数
平稳相关保证其与 t 无关,并且
而这样定义的系数为何平方可和?下面直接证明 ,从中说明平方可和。
回顾定义 ,这是无穷资料,我们写成有穷资料再取极限
定义 ,(为什么 b 和 n 无关?)那么对 j 从 0 到 n 有(注意其中第 3 个等号是关键!)
即得 (自然就与 n 无关了),因此
根据投影的性质, ,所以
令 n 趋于无穷,有 ,所以 均方收敛到 .
而根据之前定理,无穷资料就是有穷资料的极限,有 均方收敛到
而均方极限唯一,所以 .
下面最后再来证明 U 和 V 垂直就可以休息一下了。
由于 和 正交,所以 ,而 ,所以 ,也就得到了正交。可以说明 也是平稳序列,因为右边两个都是平稳序列,且 U 和 V 是正交的,把 U 移过来之后求自协方差函数是没有交叉项的。
至此(1)(2)证毕。
证明(3): ,即二者地位相同。
其中一个包含关系显然,U 为白噪声序列生成的,自然包含在其闭包中。下面证明 就可以了,这实际上有点难度。
首先有 ,回顾一下之前介绍过的一个引理:包含 A 的最小闭子空间可以由 A 中元素的有限线性组合再取极限得到(这个引理就是当时用来证明无穷资料与有穷资料极限等价的),根据引理存在
使得
而根据 V 与 U 以及ε 的正交关系有
由此可得 ,这表明白噪声序列可以由 U 中有限元素取极限得到,所以 ,继而 .
证明(4):U 是纯非决定性的(很重要的技巧,之后 AR 和 MA 等都可以这样证明!)
写出 k 步预测误差,其中箭头部分是需要证明的
考虑其中最佳线性预测部分
第一个等号用到刚刚证明的(3),第二个等号将白噪声拆为下标小和下标大两部分,其中下标小的处于 中,就是所要求的投影。
于是
证明(5):V 是决定性的(终于要结束了www)
这个 V 很玄学,它表示平稳序列一开始具有的信息,看不见摸不着。
其决定性等价于证明
注意到 ,将 V 用定义写开,其中的 U 可以写成求和形式
第三个等号用信息序列的定义。其中两部分 且
所以 .再次用引理!注意 ,存在
有
根据正交有
所以 ,根据引理(第二次用啦!)
所以 V 的决定性就证好了。
wold表示定理的意义
称
是平稳序列的 wold 表示,U 和 V 分别为其纯非决定性和决定性的部分。滑动平均的系数 a 为 wold 系数。称一步预测误差
为新息序列。 为一步预测的均方误差。
新息指的是完全不能被历史线性预测。
根据定理,任何纯非决定性平稳序列都能表示为白噪声的单边滑动和
任何白噪声的单边滑动和都是纯非决定性平稳序列,但注意其中白噪声不一定恰好为新息序列。(考虑 a0 是否为 1,不为 1 就不是)
ARMA 序列的 wold 表示
例 ARMA(p,q) 模型的方程为
设有泰勒展开式
那么 。下面证明它是纯非决定性的,只需要说明这里的白噪声是定理中的新息序列即可。(只对简单的可逆 ARMA 模型做证明)
由上面式子可知 ,利用可逆性 ,二者能相互表示,所以有 ,于是
要证 ,已经证明它在空间中,只需证明误差项垂直于该空间,即 。事实上根据白噪声相互正交有
因此
第一行:还记得最佳线性预测怎么证吗?(是否在空间中;误差项是否垂直该空间).
事实上直接计算也可以:(更简洁!!!)
可以证明这里的系数就是wold系数,即
关于信息的讨论
信息序列是当前资料比历史资料多的信息,可以证明 ,递推可得
其中 .
多步预报的均方误差
根据 wold 表示定理的第五部分有 ,所以
根据 wold 分解公式知预测的误差为
均方误差为
最佳预测
之前简单介绍了一下,并没有展开讲。这里说明一下为什么最佳预测就是条件期望。
设 表示由 生成的 代数(表示了历史资料的所有信息,涵盖了非线性的)
要证明的是
首先说明其二阶矩存在
加一项减一项即可
其中交叉项利用全期望公式可以证明为 0.
最佳线性预测和最佳预测相等的条件
如果平稳序列有 wold 表示
最佳线性预测和最佳预测相等的充要条件为
即白噪声序列是一个鞅。
鞅,直观来说就是公平赌博,表示在给定前面的历史信息的条件下,收益的期望为 0.