平稳序列有唯一的谱函数, A R ( p ) {\rm AR}(p) AR(p)序列也不例外。由于 A R ( p ) {\rm AR}(p) AR(p)序列属于无穷滑动和,所以线性平稳序列的谱密度公式依然适用,并且可以和特征多项式建立联系,即 f ( λ ) = σ 2 2 π ∣ ∑ j = − ∞ ∞ ψ j e i j λ ∣ 2 = σ 2 2 π ∣ ∑ j = 0 ∞ ψ j e i j λ ∣ 2 = σ 2 2 π [ A − 1 ( e i λ ) ] 2 = σ 2 2 π ∣ A ( e i λ ) ∣ 2 . f(\lambda) =\frac{\sigma^2}{2\pi}\left|\sum_{j=-\infty}^\infty \psi_je^{{\rm i}j\lambda} \right|^2 =\frac{\sigma^2}{2\pi}\left|\sum_{j=0}^\infty \psi_je^{{\rm i}j\lambda} \right|^2 =\frac{\sigma^2}{2\pi}[A^{-1}(e^{{\rm i}\lambda})]^2 =\frac{\sigma^2}{2\pi|A(e^{{\rm i}\lambda})|^2}. f(λ)=2πσ2∣∣∣∣∣j=−∞∑∞ψjeijλ∣∣∣∣∣2=2πσ2∣∣∣∣∣j=0∑∞ψjeijλ∣∣∣∣∣2=2πσ2[A−1(eiλ)]2=2π∣A(eiλ)∣2σ2. 从谱密度的表达式中,我们可以看到, f ( λ ) f(\lambda) f(λ)在 λ = λ j \lambda =\lambda_j λ=λj的地方会表现出峰值,并且当 ρ j → 1 \rho_j\to 1 ρj→1时 f ( λ j ) → ∞ f(\lambda_j)\to \infty f(λj)→∞,谱密度的存在性就会难以保持,也就是 A R ( p ) {\rm AR}(p) AR(p)序列的平稳性遭到破坏。
之前我们在定义谱密度时,是根据自协方差函数来的,只有谱密度作为输入、自协方差函数作为输出的计算式。现在,对于自协方差函数列绝对可和的情况,我们将提出谱密度的自协方差函数反演公式,这是自协方差函数作为输入、谱密度作为输出的计算式。
自协方差函数反演公式:如果平稳序列 { X t } \{X_t\} {Xt}的自协方差函数 { γ k } \{\gamma_k\} {γk}绝对可和,则 { X t } \{X_t\} {Xt}的谱密度是 f ( λ ) = 1 2 π ∑ k = − ∞ ∞ γ k e − i k λ = 1 2 π ∑ k = − ∞ ∞ γ k cos ( k λ ) = 1 2 π [ γ 0 + 2 ∑ k = 1 ∞ γ k cos ( k λ ) ] . f(\lambda) =\frac 1{2\pi}\sum_{k=-\infty}^\infty \gamma_ke^{-{\rm i}k\lambda} =\frac 1{2\pi}\sum_{k=-\infty}^\infty \gamma_k\cos(k\lambda) =\frac 1{2\pi}\left[\gamma_0+2\sum_{k=1}^\infty\gamma_k\cos (k\lambda) \right]. f(λ)=2π1k=−∞∑∞γke−ikλ=2π1k=−∞∑∞γkcos(kλ)=2π1[γ0+2k=1∑∞γkcos(kλ)]. 这里第二个等号由谱密度是实函数保证,绝对可和保证谱密度在 [ − π , π ] [-\pi,\pi] [−π,π]上是处处收敛的。
要证明这个公式,只需要保证 f ( λ ) f(\lambda) f(λ)在 [ − π , π ] [-\pi,\pi] [−π,π]上是非负的,并且满足 γ k = ∫ − π π f ( λ ) e i k λ d λ \gamma_k=\int_{-\pi}^\pi f(\lambda)e^{{\rm i}k\lambda}{\rm d}\lambda γk=∫−ππf(λ)eikλdλ。这里,后面的等式比较容易验证,即 ∫ − π π ( 1 2 π ∑ j = − ∞ ∞ γ j e − i j λ ) e i k λ d λ = 1 2 π ∑ j = − ∞ ∞ γ j ∫ − π π e − i ( k − j ) λ d λ = 1 2 π ∑ j = − ∞ ∞ γ j ⋅ 2 π δ k − j = γ k . \begin{aligned} &\int_{-\pi}^\pi \left(\frac 1{2\pi}\sum_{j=-\infty}^\infty \gamma_je^{-{\rm i}j\lambda}\right)e^{{\rm i}k\lambda}{\rm d}\lambda\\ =&\frac 1{2\pi}\sum_{j=-\infty}^\infty\gamma_j \int_{-\pi}^\pi e^{-{\rm i}(k-j)\lambda}{\rm d}\lambda\\ =&\frac 1{2\pi}\sum_{j=-\infty}^\infty\gamma_j\cdot2\pi\delta_{k-j}\\ =&\gamma_k. \end{aligned} ===∫−ππ(2π1j=−∞∑∞γje−ijλ)eikλdλ2π1j=−∞∑∞γj∫−ππe−i(k−j)λdλ2π1j=−∞∑∞γj⋅2πδk−jγk. 接下来就要验证 f ( λ ) f(\lambda) f(λ)是非负的,引入“周期图”为 I N ( λ ) = 1 2 π N ∣ ∑ j = 1 N X j e i j λ ∣ 2 I_N(\lambda)=\frac{1}{2\pi N}|\sum\limits_{j=1}^NX_je^{{\rm i}j\lambda}|^2 IN(λ)=2πN1∣j=1∑NXjeijλ∣2,这里 X i X_i Xi是 { X t } \{X_t\} {Xt}的观测值,对其求期望,有 f ( λ ) = E I N ( λ ) = 1 2 π N E ( ∑ j = 1 N X j e i j λ ) ( ∑ k = 1 N X k e i k λ ‾ ) = 1 2 π N ∑ j = 1 N ∑ k = 1 N γ j − k e − i ( j − k ) λ d λ = 1 2 π N ∑ m = − ( N − 1 ) N − 1 ( N − ∣ m ∣ ) γ m e − i m λ d λ = 1 2 π ∑ m = − N N − 1 γ m e − i m λ d λ − 1 2 π N ∑ m = 1 − N N − 1 ∣ m ∣ γ m e − i m λ d λ . \begin{aligned} &f(\lambda)={\rm E}I_N(\lambda)\\ =&\frac 1{2\pi N}{\rm E}\left(\sum_{j=1}^NX_je^{{\rm i}j\lambda} \right)\left(\overline{\sum_{k=1}^NX_ke^{{\rm i}k\lambda }} \right)\\ =&\frac 1{2\pi N}\sum_{j=1}^N\sum_{k=1}^N\gamma_{j-k}e^{-{\rm i}(j-k)\lambda}{\rm d}\lambda \\ =&\frac 1{2\pi N}\sum_{m=-(N-1)}^{N-1}(N-|m|)\gamma_me^{-{\rm i}m\lambda }{\rm d}\lambda \\ =&\frac 1{2\pi}\sum_{m=-N}^{N-1}\gamma_me^{-{\rm i}m\lambda }{\rm d}\lambda -\frac 1{2\pi N}\sum_{m=1-N}^{N-1}|m|\gamma_me^{-{\rm i}m\lambda}{\rm d}\lambda . \end{aligned} ====f(λ)=EIN(λ)2πN1E(j=1∑NXjeijλ)⎝⎛k=1∑NXkeikλ⎠⎞2πN1j=1∑Nk=1∑Nγj−ke−i(j−k)λdλ2πN1m=−(N−1)∑N−1(N−∣m∣)γme−imλdλ2π1m=−N∑N−1γme−imλdλ−2πN1m=1−N∑N−1∣m∣γme−imλdλ.
对此式做一下解读。第一行到第二行是直接的;第二行到第三行因为是有限项,所以期望与求和可交换;第三行到第四行运用双重求和的简化,具体见下面的说明;第四行到第五行就是简单的拆开。
对于二重的求和, j , k j,k j,k都从 1 ∼ N 1\sim N 1∼N,假设每一个需要求和的项是 S j , k S_{j,k} Sj,k,则整个排列是 [ S 1 , 1 S 1 , 2 S 1 , 3 ⋯ S 1 , N S 2 , 1 S 2 , 2 S 2 , 3 ⋯ S 2 , N S 3 , 1 S 3 , 2 S 3 , 3 ⋯ S 3 , N ⋮ ⋮ ⋮ ⋮ S N , 1 S N , 2 S N , 3 ⋯ S N , N ] . \begin{bmatrix} S_{1,1}&S_{1,2}&S_{1,3}&\cdots&S_{1,N}\\ S_{2,1}&S_{2,2}&S_{2,3}&\cdots&S_{2,N}\\ S_{3,1}&S_{3,2}&S_{3,3}&\cdots&S_{3,N}\\ \vdots&\vdots&\vdots&&\vdots\\ S_{N,1}&S_{N,2}&S_{N,3}&\cdots&S_{N,N} \end{bmatrix}. ⎣⎢⎢⎢⎢⎢⎡S1,1S2,1S3,1⋮SN,1S1,2S2,2S3,2⋮SN,2S1,3S2,3S3,3⋮SN,3⋯⋯⋯⋯S1,NS2,NS3,N⋮SN,N⎦⎥⎥⎥⎥⎥⎤. 现在按照下标的差值 j − k j-k j−k排列,则每个与对角线平行的直线上, j − k j-k j−k应该相同,且 j − k = m j-k=m j−k=m的 S j , k S_{j,k} Sj,k应该有 N − ∣ m ∣ N-|m| N−∣m∣个。因此得到第三行到第四行的求和公式。
到达这一步后, f ( λ ) f(\lambda) f(λ)被分成两部分,后一部分是 1 2 π N ∑ j = 1 − N N − 1 ∣ j ∣ γ j e − i j λ , \frac{1}{2\pi N}\sum_{j=1-N}^{N-1}|j|\gamma_je^{-{\rm i}j\lambda}, 2πN1j=1−N∑N−1∣j∣γje−ijλ, 由Kronecker引理,这一项随着 N N N增大是趋向于0的,而前一部分 1 2 π ∑ j = 1 − N N − 1 γ j e − i j λ \frac 1{2\pi}\sum\limits_{j=1-N}^{N-1}\gamma_je^{-{\rm i}j\lambda} 2π1j=1−N∑N−1γje−ijλ 随着 N N N增大,最终就得到我们预设的谱密度形式 1 2 π ∑ j = − ∞ ∞ γ j e − i j λ . \frac 1{2\pi}\sum_{j=-\infty}^\infty \gamma_je^{-{\rm i}j\lambda}. 2π1j=−∞∑∞γje−ijλ. 也就是说,假设 f ( λ ) f(\lambda) f(λ)如同我们预设的形式,那么就有 f ( λ ) = lim N → ∞ f N ( λ ) = lim N → ∞ E I N ( λ ) ≥ 0. f(\lambda)=\lim_{N\to \infty}f_N(\lambda)=\lim_{N\to \infty}{\rm E}I_N(\lambda)\ge0. f(λ)=N→∞limfN(λ)=N→∞limEIN(λ)≥0. 得到我们要证明的结论—— f ( λ ) f(\lambda) f(λ)非负,这样才能说明 f ( λ ) f(\lambda) f(λ)就是 { γ k } \{\gamma_k\} {γk}的谱密度。
Kronecker引理:设实数列或复数列 ∑ j = 1 n x j \sum_{j=1}^nx_j ∑j=1nxj收敛,非负实数列 b n b_n bn单调递增且趋向于 + ∞ +\infty +∞,那么 lim n → ∞ ∑ j = 1 n b j x j b n = 0. \lim_{n\to \infty}\frac{\sum_{j=1}^nb_jx_j}{b_n}=0. n→∞limbn∑j=1nbjxj=0. 对实数列情形给出证明,设 A n = ∑ j = 1 n x j → A A_n=\sum_{j=1}^n x_j\to A An=∑j=1nxj→A,则 x n = A n − A n − 1 x_n=A_n-A_{n-1} xn=An−An−1, ∑ j = 1 n b j x j = ∑ j = 1 n b j ( A j − A j − 1 ) = b 1 A 1 + b 2 A 2 − b 2 A 1 + b 3 A 3 − b 3 A 2 ⋯ + b n A n − b n A n − 1 = ∑ j = 1 n − 1 A j ( b j − b j + 1 ) + b n A n \begin{aligned} &\sum_{j=1}^n b_jx_j=\sum_{j=1}^nb_j(A_j-A_{j-1})\\ =&b_1A_1+b_2A_2-b_2A_1+b_3A_3-b_3A_2\cdots+b_nA_n-b_nA_{n-1}\\ =&\sum_{j=1}^{n-1}A_j(b_j-b_{j+1})+b_nA_n\\ \end{aligned} ==j=1∑nbjxj=j=1∑nbj(Aj−Aj−1)b1A1+b2A2−b2A1+b3A3−b3A2⋯+bnAn−bnAn−1j=1∑n−1Aj(bj−bj+1)+bnAn 那么 lim n → ∞ ∑ j = 1 n b j x j b n = lim n → ∞ ∑ j = 1 n A j ( b j − b j + 1 ) b n + A = S t o l z A − lim n → ∞ A n − 1 ( b n − b n − 1 ) b n − b n − 1 = 0. \begin{aligned} &\lim_{n\to \infty}\frac{\sum_{j=1}^n b_jx_j}{b_n}\\ =&\lim_{n\to \infty}\frac{\sum_{j=1}^n A_j(b_j-b_{j+1})}{b_n}+A\\ \xlongequal{\rm Stolz}&A-\lim_{n\to \infty}\frac{A_{n-1}(b_n-b_{n-1})}{b_n-b_{n-1}}\\ =&0. \end{aligned} =Stolz =n→∞limbn∑j=1nbjxjn→∞limbn∑j=1nAj(bj−bj+1)+AA−n→∞limbn−bn−1An−1(bn−bn−1)0. 对于题目中要验证的数列,显然 b N = N b_N=N bN=N单调递增且趋向于无穷大,将求和的部分分为正数、零、负数三部分,考虑正数部分,原式为 ∑ j = 1 N − 1 ∣ j ∣ x j , x j = γ j e − i j λ \sum_{j=1}^{N-1}|j|x_j,x_j=\gamma_je^{-{\rm i}j\lambda} ∑j=1N−1∣j∣xj,xj=γje−ijλ,由于 γ j \gamma_j γj以负指数阶收敛于0,所以其绝对可和,也就是 ∑ x j \sum x_j ∑xj存在,所以由Kronecker引理,得到正数部分的求和极限为0,同理对负数也是0,在 j = 0 j=0 j=0一个点处的极限仍然是0。所以,后一部分随着 N N N增大收敛于0。
结合反演公式和无穷滑动和的谱密度,得到以下等式: f ( λ ) = 1 2 π ∑ j = − ∞ ∞ γ j e − i j λ = σ 2 2 π ∣ A ( e i λ ) ∣ 2 . f(\lambda)=\frac1{2\pi}\sum_{j=-\infty}^\infty\gamma_je^{-{\rm i}j\lambda}=\frac{\sigma^2}{2\pi|A(e^{{\rm i}\lambda})|^2}. f(λ)=2π1j=−∞∑∞γje−ijλ=2π∣A(eiλ)∣2σ2.
之前我们说过,如果 A ( z ) A(z) A(z)有靠近单位圆的根,则通解收敛于平稳解的速度会比较缓慢,在收敛之前,我们还能看到样本的轨迹。这就是我们要讨论的自协方差函数的周期性,通过周期性的讨论,我们可以看到在收敛趋势还不明显的时候,相隔一定时间的样本点之间呈现一定的相关度。
由Yule-Walker方程, A ( B ) γ k = σ 2 ψ − k A(\mathscr B)\gamma_k=\sigma^2\psi_{-k} A(B)γk=σ2ψ−k,可以反解得到 γ k = σ 2 A − 1 ( B ) ψ − k \gamma_k=\sigma^2A^{-1}(\mathscr B)\psi_{-k} γk=σ2A−1(B)ψ−k。要想通过这个式子验证 γ k \gamma_k γk的周期性,需要对 A − 1 ( B ) A^{-1}(\mathscr B) A−1(B)进行分解。假设 A ( z ) A(z) A(z)的所有根互异,则有以下的因式分解: A ( z ) = ( 1 − z / z 1 ) ⋯ ( 1 − z / z p ) , A − 1 ( z ) = 1 ( 1 − z / z 1 ) ( 1 − z / z 2 ) ⋯ ( 1 − z / z p ) = c 1 1 − z / z 1 + ⋯ + c p 1 − z / z p . A(z)=(1-z/z_1)\cdots (1-z/z_p),\\ A^{-1}(z)=\frac1{(1-z/z_1)(1-z/z_2)\cdots(1-z/z_p)}=\frac{c_1}{1-z/z_1}+\cdots+\frac{c_p}{1-z/z_p}. A(z)=(1−z/z1)⋯(1−z/zp),A−1(z)=(1−z/z1)(1−z/z2)⋯(1−z/zp)1=1−z/z1c1+⋯+1−z/zpcp. 这里 c i = ∏ k ≠ i z i ∏ k ≠ i ( z k − z i ) . c_i=\frac{\prod_{k\ne i}z_i}{\prod_{k\ne i}(z_k-z_i)}. ci=∏k=i(zk−zi)∏k=izi. 也就是说可以将 A − 1 ( z ) A^{-1}(z) A−1(z)进行有理分式分解,分解细节可以忽略。代回就有 γ k = σ 2 A − 1 ( B ) ψ − k = σ 2 ∑ j = 1 p c j ( 1 − z j − 1 B ) − 1 ψ − k = σ 2 ∑ j = 1 p c j ∑ l = 0 ∞ ( z j − 1 B ) l ψ − k = σ 2 ∑ j = 1 p c j ∑ l = 0 ∞ z j − l ψ − k + l = σ 2 ∑ j = 1 p c j ∑ l = k ∞ z j − l ψ l − k = σ 2 ∑ j = 1 p c j ∑ l = k ∞ ψ l − k z j − ( l − k ) − k = σ 2 ∑ j = 1 p c j ∑ l = 0 ∞ ψ l z j − l z j − k = σ 2 ∑ j = 1 p c j A − 1 ( z j − 1 ) ρ j − k e − i k λ j = Δ σ 2 ∑ j = 1 p A j ρ j − k cos ( k λ j + θ j ) , k ≥ 0. \begin{aligned} \gamma_k=&\sigma^2A^{-1}(\mathscr B)\psi_{-k}\\ =&\sigma^2\sum_{j=1}^p c_j(1-z_j^{-1}\mathscr B)^{-1}\psi_{-k}\\ =&\sigma^2\sum_{j=1}^p c_j\sum_{l=0}^\infty (z_j^{-1}\mathscr B)^l\psi_{-k}\\ =&\sigma^2\sum_{j=1}^pc_j\sum_{l=0}^\infty z_j^{-l}\psi_{-k+l}\\ =&\sigma^2\sum_{j=1}^pc_j\sum_{l=k}^\infty z_j^{-l}\psi_{l-k}\\ =&\sigma^2\sum_{j=1}^pc_j\sum_{l=k}^\infty \psi_{l-k}z_j^{-(l-k)-k}\\ =&\sigma^2\sum_{j=1}^pc_j\sum_{l=0}^\infty \psi_lz_j^{-l}z_j^{-k}\\ =&\sigma^2\sum_{j=1}^pc_jA^{-1}(z_j^{-1})\rho_j^{-k}e^{-{\rm i}k\lambda_j}\\ \stackrel\Delta=&\sigma^2\sum_{j=1}^pA_j\rho_j^{-k}\cos(k\lambda_j+\theta_j),\quad k\ge 0. \end{aligned} γk=========Δσ2A−1(B)ψ−kσ2j=1∑pcj(1−zj−1B)−1ψ−kσ2j=1∑pcjl=0∑∞(zj−1B)lψ−kσ2j=1∑pcjl=0∑∞zj−lψ−k+lσ2j=1∑pcjl=k∑∞zj−lψl−kσ2j=1∑pcjl=k∑∞ψl−kzj−(l−k)−kσ2j=1∑pcjl=0∑∞ψlzj−lzj−kσ2j=1∑pcjA−1(zj−1)ρj−ke−ikλjσ2j=1∑pAjρj−kcos(kλj+θj),k≥0. 这里的证明稍显繁琐,第二行到第三行运用了级数展开即 1 / ( 1 − x ) = ∑ j = 0 ∞ x j 1/(1-x)=\sum\limits_{j=0}^\infty x^j 1/(1−x)=j=0∑∞xj,最后一行定义 A j cos ( λ j k + θ j ) A_j\cos(\lambda_jk+\theta_j) Ajcos(λjk+θj)为 c j A − 1 ( z j − 1 ) e − i λ j k c_jA^{-1}(z_j^{-1})e^{-{\rm i}\lambda _jk} cjA−1(zj−1)e−iλjk的实部。可以看出,如果 ρ j \rho_j ρj接近1, γ k \gamma_k γk收敛的比较慢,则它的频率特性就会开始增强,而且最小的 ρ j \rho_j ρj对应的角频率 λ j \lambda_j λj会显现得越明显(因为收敛的慢,显示的出来)。
结合谱密度的表达式 f ( λ ) = σ 2 2 π ∣ A ( e i λ ) ∣ 2 f(\lambda)=\frac{\sigma^2}{2\pi|A(e^{{\rm i}\lambda})|^2} f(λ)=2π∣A(eiλ)∣2σ2 可以看到,在 ρ j \rho_j ρj越小的地方 f ( λ ) f(\lambda) f(λ)越大,如果它趋近于1, 则 { X t } \{X_t\} {Xt}的平稳性会遭到破坏。
最后,我们简要地介绍一下时间序列的完全可预测性,先从随机变量的完全线性预测开始。
随机变量线性相关:对于方差有限的随机变量 Y 1 , ⋯ , Y n Y_1,\cdots,Y_n Y1,⋯,Yn,如果存在一组常数 b 0 , ⋯ , b n b_0,\cdots,b_n b0,⋯,bn,使得 E ( ∑ j = 1 n b j Y j − b 0 ) 2 = 0 , {\rm E}\left(\sum_{j=1}^n b_jY_j-b_0 \right)^2=0, E(j=1∑nbjYj−b0)2=0, 就称随机变量 Y 1 , ⋯ , Y n Y_1,\cdots,Y_n Y1,⋯,Yn是线性相关的,否则称为线性无关的。
完全线性预测:如果 Y 1 , ⋯ , Y n Y_1,\cdots,Y_n Y1,⋯,Yn线性相关且 b n ≠ 0 b_n\ne 0 bn=0,那么 Y n Y_n Yn可以被 Y 1 , ⋯ , Y n − 1 Y_1,\cdots,Y_{n-1} Y1,⋯,Yn−1线性表示,此时就称 Y n Y_n Yn可以被 Y 1 , ⋯ , Y n − 1 Y_1,\cdots,Y_{n-1} Y1,⋯,Yn−1完全线性预测。
对于平稳序列 { X t } \{X_t\} {Xt},如果其 n n n阶自协方差矩阵为 Γ n \Gamma_n Γn, n n n维向量 b = ( b 1 , ⋯ , b n ) ′ \boldsymbol b=(b_1,\cdots,b_n)' b=(b1,⋯,bn)′,那么 E ( ∑ j = 1 n b j X t − j − b 0 ) 2 ≥ E [ ∑ j = 1 n b j ( X t − j − E X t ) ] 2 = b ′ Γ n b ≥ 0. {\rm E}\left(\sum_{j=1}^n b_jX_{t-j}-b_0 \right)^2\ge {\rm E}\left[\sum_{j=1}^nb_j(X_{t-j}-{\rm E}X_t) \right]^2=\boldsymbol b'\Gamma_n\boldsymbol b\ge0. E(j=1∑nbjXt−j−b0)2≥E[j=1∑nbj(Xt−j−EXt)]2=b′Γnb≥0. 第一个不等号成立,是因为随机变量的均值是其最佳线性预测。这个不等式告诉我们,对于平稳序列 { X t } \{X_t\} {Xt},只有当其自协方差矩阵退化时,才能让 X t − 1 , ⋯ , X t − n X_{t-1},\cdots,X_{t-n} Xt−1,⋯,Xt−n线性相关,才有完全可预测的可能。对于 Γ n \Gamma_n Γn正定的情形,一定有 X t − 1 , ⋯ , X t − n X_{t-1},\cdots,X_{t-n} Xt−1,⋯,Xt−n线性无关,也就是 X n X_n Xn不可能被 X 1 , ⋯ , X n − 1 X_1,\cdots,X_{n-1} X1,⋯,Xn−1完全线性预测。
特别对于 A R ( p ) {\rm AR}(p) AR(p)序列,我们已经证明了其自协方差函数函数是正定的,所以 X n X_n Xn不能由 X 1 , ⋯ , X n − 1 X_1,\cdots,X_{n-1} X1,⋯,Xn−1完全线性预测。
A R ( p ) {\rm AR}(p) AR(p)序列也是线性平稳序列,故存在唯一的谱密度为 f ( λ ) = σ 2 2 π ∣ ∑ j = 0 ∞ ψ j e i j λ ∣ 2 = σ 2 2 π ∣ A ( e i λ ) ∣ 2 . f(\lambda)=\frac{\sigma^2}{2\pi}\left|\sum_{j=0}^\infty \psi_je^{{\rm i}j\lambda} \right|^2=\frac{\sigma^2}{2\pi|A(e^{{\rm i}\lambda})|^2}. f(λ)=2πσ2∣∣∣∣∣j=0∑∞ψjeijλ∣∣∣∣∣2=2π∣A(eiλ)∣2σ2.
对于自协方差函数 { γ k } \{\gamma_k\} {γk}绝对可和的情况,平稳序列存在谱密度自协方差函数反演公式为: f ( λ ) = 1 2 π ∑ j = − ∞ ∞ γ k e − i k λ = 1 2 π [ γ 0 + 2 ∑ j = 1 ∞ γ j cos ( λ j ) ] . f(\lambda)=\frac1{2\pi}\sum_{j=-\infty}^\infty\gamma_ke^{-{\rm i}k\lambda}=\frac 1{2\pi}\left[\gamma_0+2\sum_{j=1}^\infty \gamma_j\cos(\lambda j) \right]. f(λ)=2π1j=−∞∑∞γke−ikλ=2π1[γ0+2j=1∑∞γjcos(λj)].
当 ρ j \rho_j ρj比较接近1时, A R ( p ) {\rm AR}(p) AR(p)序列的自协方差函数呈现出周期性。所有 z j z_j zj中 ρ j \rho_j ρj最小的那个对应的角频率 λ j \lambda_j λj最为重要。
时间序列的完全可预测性,指的是从其历史观测可以完全预测未来的值,蕴含着平稳序列的线性相关性。 A R ( p ) {\rm AR}(p) AR(p)序列没有完全可预测性。