Blog - 晨星博客

在本课程中，一般用$X(n)$或$X_n$表示随机序列，用$x(n)$或$x_n$表示$X(n)$的分布函数和概率密度函数的自变量。在不涉及分布函数和概率密度函数的情况下，本课程也经常用$x(n)$或$x_n$表示随机序列。

离散时间随机信号分析

随机序列的统计描述

随机序列的概率描述

随机序列的一维概率分布函数和一维概率密度函数:
$$ F_{X_n}\left(x_n\right)=P\left(X_n \leq x_n\right) $$ $$ f_{X_n}\left(x_n\right)=\frac{\partial F_{X_n}\left(x_n\right)}{\partial x_n} $$ 不同时刻的随机变量之间往往不是孤立的，它们之间存在某种关联性。为了更加完整地描述随机序列，需要用到二维及多维统计特性。 随机序列的二维分布函数和二维概率密度函数:
$$ F_{X_n, X_m}\left(x_n, x_m\right)=P\left(X_n \leq x_n, X_m \leq x_m\right) $$ $$ f_{X_n, X_m}\left(x_n, x_m\right)=\frac{\partial^2 F_{X_n, X_m}\left(x_n, x_m\right)}{\partial x_n \partial x_m} $$ N维:
$$ F_{X_1, X_2 \cdots, x_N}\left(x_1, x_2, \cdots, x_N\right)=P\left(X_1 \leq x_1, X_2 \leq x_2, \cdots, X_N \leq x_N\right) $$ $$ f_{X_1, X_2 \cdots, X_N}\left(x_1, x_2, \cdots, x_N\right)=\frac{\partial^N F_{X_1, X_2 \cdots, X_N}\left(x_1, x_2, \cdots, x_N\right)}{\partial x_1 \partial x_2 \cdots \partial x_N} $$ 概率分布函数和概率密度函数能够对随机序列进行完整的描述，但是在实际中往往无法得到它们。因此，需要引入随机序列的数字特征来描述随机序列。

随机序列的数字特征

数学期望:

\[ m_X(n)=E\left[X_n\right]=\int_{-\infty}^{\infty} x f_{X_n}(x) \mathrm{d} x \]

均值、方差及其关系:

\[ E\left[\left|X_n\right|^2\right]=\int_{-\infty}^{\infty}|x|^2 f_{X_n}(x) \mathrm{d} x \]

\[ \sigma_X^2(n)=E\left[\left|X_n-m_X(n)\right|^2\right] \]

\[ \sigma_X^2(n)=E\left[\left|X_n\right|^2\right]-\left|m_X(n)\right|^2 \]

相关函数和协方差函数:
在随机序列不同时刻的状态之间，存在着关联性，或者说不同时刻的状态之间互相有影响，包括随机序列本身或者不同随机序列之间。

自:

\[ r_{X X}(n, m)=E\left[X_n^* X_m\right]=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} x_n^* x_m f_{X_n, X_m}\left(x_n, x_m\right) \mathrm{d} x_n \mathrm{~d} x_m \]

\[ \operatorname{cov}\left(X_n, X_m\right)=E\left[\left(X_n-m_{X_n}\right)^* \left(X_m-m_{X_m}\right)\right]=r_{X X}(n, m)-m_{X_n}^* m_{X_m} \]

对于零均值随机序列: $\operatorname{cov}\left(X_n, X_m\right)=r_{X X}(n, m)$

互:

\[ r_{X Y}(n, m)=E\left[X_n^* Y_m\right]=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} x_n^* y_m f_{X_m, Y_m}\left(x_n, y_m\right) \mathrm{d} x_n \mathrm{~d} y_m \]

\[ \operatorname{cov}\left(X_n, Y_m\right)=E\left[\left(X_n-m_{X_n}\right)^*\left(Y_m-m_{Y_m}\right)\right]=r_{X Y}(n, m)-m_{X_n}^* m_{Y_m} \]

对于零均值随机序列: $\operatorname{cov}\left(X_n, Y_m\right)=r_{X Y}(n, m)$

平稳随机序列及其数字特征

严平稳随机序列: 它的N维概率分布函数或N维概率密度函数与时间n的起始位置无关。换句话说，统计特性不随时间的平移而发生变化。
$$ F_{X_{1+k}, X_{2+k} \cdots, X_{N+k}}\left(x_{1+k}, x_{2+k}, \cdots, x_{N+k}\right)=F_{X_1, X_2 \cdots, X_N}\left(x_1, x_2, \cdots, x_N\right) $$

宽平稳随机序列: 它们的均值却不随时间而改变，而它们的相关函数仅是时间差的函数。

平稳随机序列x(n)的一维概率密度函数与时间无关，因此它们的均值、均方值和方差均与时间无关。
二维概率密度函数仅决定于时间差，与起始时间无关，因此自相关函数与自协方差函数是时间差的函数。
- 自:
  $$ r_{x x}(m)=E\left[x^* (n) x(n+m)\right] $$
  
  \[ \operatorname{cov}_ {x x}(m)=E\left[\left(x(n)-m_x\right)^* \left(x(n+m)-m_x\right)\right] = r_{x x}(m)-|m_x|^2 \]
  
  \[ r_{x y}(m)=r_{x y}(n, n+m)=E\left[x^* (n) y(n+m)\right] \]
- 互:
  $$ \operatorname{cov}_ {x y}(m)=E\left[\left(x(n)-m_x\right)^* \left(y(n+m)-m_y\right)\right] =r_{x y}(m)-m_x^* m_y $$
- 性质:
  $$ r_{x x}^* (m)=r_{x x}(-m) $$
  
  \[ r_{x y}^* (m)=r_{y x}(-m) \]
  
  自协方差函数和互协方差函数也类似。。。
随机序列正交: $r_{x y}(m)=0$
随机序列互不相关(线性无关):
$$ \operatorname{cov}_ {x y}(m)=0 \Rightarrow r_{xy}(m) = m_x^* m_y $$ $$ \Rightarrow E\left[x^* (n) y(n+m)\right]= E\left[x^* (n)\right] E[y(n)] = E\left[x^* (n)\right] E[y(n+m)] $$

实(宽)平稳随机序列:

自相关函数和自协方差函数是m的偶函数

\[ \begin{equation} \begin{aligned} &r_{x x}(m)=r_{x x}(-m), \operatorname{cov}_ {x x}(m)=\operatorname{cov}_ {x x}(-m) \\ &r_{x y}(m)=r_{y x}(-m), \operatorname{cov}_ {x y}(m)=\operatorname{cov}_{y x}(-m) \end{aligned} \end{equation} \]
$r_{xx}(0)$在数值上等于随机序列的平均功率:

\[ r_{x x}(0)=E\left[x^2(n)\right] \]

\[ r_{x x}(0) \geq\left|r_{x x}(m)\right| \]

\[ r_{x y}(0) \geq\left|r_{x y}(m)\right| \]
平稳随机序列内部的相关性随着时间差的变大，越来越弱

\[ \lim _ {m \rightarrow \infty} r_{x x}(m)=m_x^2 \]

\[ \lim _ {m \rightarrow \infty} r_{x y}(m)=m_x m_y \]
协方差与方差的关系

\[ \operatorname{cov}_ {x x}(0)=r_{x x}(0)-m_x^2=E\left[x^2(n)\right]-m_x^2=\sigma_x^2 \]

平稳随机序列的功率谱密度

平稳随机序列是非周期函数，且是能量无限信号，因此无法直接利用傅里叶变换进行分析。自:
$$ P_{x x}(z)=\sum_{m=-\infty}^{\infty} r_{x x}(m) z^{-m} $$ $$ r_{x x}(m)=\frac{1}{2 \pi j} \oint_c P_{x x}(z) z^{m-1} d z $$ $$ r_{x x}^* (m)=r_{x x}(-m) \Rightarrow P_{x x}(z)=P_{x x}^* \left(\frac{1}{z^*}\right) $$

互:
$$ P_{x y}(z)=\sum_{m=-\infty}^{\infty} r_{x y}(m) z^{-m} $$ $$ P_{x y}(z)=P_{y x}^* \left(\frac{1}{z^* }\right) $$

根据上式极点特性, 可知收敛域包含单位圆，相关函数的傅立叶变换存在: $$ P_{x x}\left(\mathrm{e}^{\mathrm{j} \omega}\right)=\sum_ {m=-\infty}^{\infty} r_{x x}(m) \mathrm{e}^{-j \omega m} $$

\[ r_{x x}(m)=\frac{1}{2 \pi} \int_ {-\pi}^\pi P_{x x}\left(\mathrm{e}^{j \omega}\right) \mathrm{e}^{j \omega m} \mathrm{~d} \omega \Rightarrow r_{x x}(0)=\frac{1}{2 \pi} \int_ {-\pi}^\pi P_ {x x}\left(\mathrm{e}^{j \omega}\right) \mathrm{d} \omega \]

自:
实平稳序列x(n)的功率谱密度具有下列性质： 1. 功率谱是$\omega$的偶函数: $$ P_{x x}\left(\mathrm{e}^{\mathrm{j} \omega}\right)=P_{x x}\left(\mathrm{e}^{-\mathrm{j} \omega}\right)= r_{x x}(0)+2 \sum_{m=1}^{\infty} r_{x x}(m) \cos (\omega m) $$ $$ \Rightarrow r_{x x}(m)=\frac{1}{\pi} \int_0^\pi P_{x x}\left(\mathrm{e}^{j \omega}\right) \cos (\omega m) \mathrm{d} \omega $$ 3. 功率谱是实的非负函数，即: $$ P_{x x}\left(\mathrm{e}^{\mathrm{j} \omega}\right) \geq 0 $$

互: $$ P_{x y}\left(\mathrm{e}^{\mathrm{j} \omega}\right)=\sum_{m=-\infty}^{\infty} r_{x y}(m) \mathrm{e}^{-\mathrm{j} \omega m} $$

\[ r_{x y}(m)=\frac{1}{2 \pi} \int_{-\pi}^\pi P_{x y}\left(\mathrm{e}^{\mathrm{j} \omega}\right) \mathrm{e}^{\mathrm{j} \omega m} \mathrm{~d} \omega \]

\[ P_ {x y}\left(\mathrm{e}^{\mathrm{j} \omega}\right)=P_ {y x}\left(\mathrm{e}^{-\mathrm{j} \omega}\right) \]

随机序列的各态历经性

时间平均值: $\langle x(n)\rangle=\lim _ {N \rightarrow \infty} \frac{1}{2 N+1} \sum_ {n=-N}^N x(n)$
时间自相关函数: $\left\langle x^* (n) x(n+m)\right\rangle=\lim_ {N \rightarrow \infty} \frac{1}{2 N+1} \sum_ {n=-N}^N x^* (n) x(n+m)$

如果平稳随机序列的集合平均值与集合自相关函数依概率趋于平稳随机序列样本函数的时间平均值与时间自相关函数，
$$ =m_ x=E[X(n)] $$

$$ \left\langle x^* (n) x(n+m)\right\rangle=r_ {x x}(m)=E\left[x^* (n) x(n+m)\right] $$ 则称该平稳随机序列具有各态历经性。(一般都有)

特定的随机序列

白噪声: 满足
$$ \operatorname{cov}\left(x_n, x_m\right)=\sigma_{x_n}^2 \delta_{m n} $$ 其中
$$ \delta_{m n}= \begin{cases}1 & m=n \ 0 & m \neq n\end{cases} $$ 即$x(n)$的任意两个随机变量都不相关，则称该序列为白噪声序列。
平稳白噪声: $$ \operatorname{cov}(m)=\sigma^2 \delta(m) $$ 对于均值为0的平稳白噪声: 功率谱在整个频带上是个常数。
$$ P_{x x}\left(e^{j \omega}\right)=\sum_{m=-\infty}^{+\infty} r_{x x}(m) e^{-j w_n}=\sum_{m=-\infty}^{\infty} \sigma^2 \delta(m) e^{-j w n}=\sigma^2 $$

只要信号的带宽大于系统的带宽，且在系统的带宽中信号的频谱基本恒定，就可以把信号看作白噪声。
正态和白色是两种不同的概念，前者是指信号取值的规律服从正态分布，后者指信号不同时刻取值的关联性。

谐波过程:
$$ x(n)=\sum_ {i=1}^N A_i \cos \left(\omega_i n+\theta_i\right) $$

其中，$A_i$与$\omega_i$是常数，$\theta_i$是服从均匀分布的独立随机变量($p\left(\theta_i\right)=\frac{1}{2 \pi}, -\pi<\theta_i \leq \pi$)

证明其平稳:

\[ E[x(n)]=\frac{A}{2 \pi} \int_{-\pi}^\pi \cos (\omega n+\theta) \mathrm{d} \theta=0 \]

\[ r_ {x x}(n, n+m)=E[x(n) x(n+m)]=\frac{A^2}{2 \pi} \int_ {-\pi}^\pi \cos (\omega n+\theta) \cos (\omega(n+m)+\theta) \mathrm{d} \theta = \frac{1}{2} A^2 \cos (\omega m) \]

当N大于1，也可证明:

\[ \left\{\begin{array}{c} E[x(n)]=0 \\ r_{x x}(m)=\sum_{i=1}^N \frac{1}{2} A_i^2 \cos \left(\omega_i m\right) \end{array}\right. \]

随机信号的采样定理

对于平稳随机信号，如果其功率谱严格限制在某一有限频带内，该随机信号称为带限随机信号。

低通性带限随机信号: $$ P_{x x}(\Omega)=0, |\Omega| \geq \Omega_c $$

只要采样频率$f_s$满足: $$ \Omega_{\mathrm{s}}=2 \pi f_{\mathrm{s}} \geq 2 \Omega_{\mathrm{c}} \text { 或者 } T \leq \frac{1}{2 f_{\mathrm{c}}}=\frac{\pi}{\Omega_{\mathrm{c}}} $$

则有插值公式: $$ \hat{X}(t)=\sum_{n=-\infty}^{\infty} X(n T) \frac{\sin \Omega_c(t-n T)}{\Omega_c(t-n T)} $$

可以证明, $$ E\left[|X(t)-\hat{X}(t)|^2\right]=0 $$

随机序列数字特征的估计

估计准则

$$ \hat{\alpha}=F\left(x_0, x_1, x_2, \cdots, x_{N-1}\right) $$ 估计量的偏移: $B=\alpha-E[\hat{\alpha}]$ $B=0$无偏估计; $B\ne 0$有偏估计; $\lim _{N \rightarrow \infty} E[\hat{\alpha}]=\alpha$渐进无偏估计

估计量的方差: $\sigma_ {\hat{\alpha}}^2=E\left[(\hat{\alpha}-E[\hat{\alpha}])^2\right]$

估计量的均方误差: $E\left[\tilde{\alpha}^2\right]=E\left[(\hat{\alpha}-\alpha)^2\right] =B^2+\sigma_{\hat{\alpha}}^2$
一致估计: 估计量随N的增大，在均方意义上趋于它的真值。

尽量满足无偏性和一致性。。

均值的估计

$\hat{m}_x=\frac{1}{N} \sum_{i=0}^{N-1} x_i$

偏移: $$ E\left[\hat{m}_ x\right]=E\left[\frac{1}{N} \sum_ {i=0}^{N-1} x_ i\right]=\frac{1}{N} \sum_ {i=0}^{N-1} E\left[x_i\right]=m_x \Rightarrow B = 0 $$ 无偏估计。。。

方差与均方误差:

方差的估计

自相关函数的估计

无偏自相关函数的估计:

有偏自相关函数的估计:

平稳随机序列的线性系统响应

系统响应的平稳性

数学期望: 如果输入信号是平稳随机序列，那么输出信号的数学期望也与时间无关。 $$ \begin{aligned} m_ y &=E[y(n)]=\sum_{k=-\infty}^{\infty} h(k) E[x(n-k)]=\sum_{k=-\infty}^{\infty} h(k) m_x \ &=m_x \sum_{k=-\infty}^{\infty} h(k)=m_x H\left(\mathrm{e}^{j 0}\right) \end{aligned} $$

自相关函数: 线性时不变系统输出的自相关函数等于输入的自相关函数与单位脉冲响应的自相关函数的线性卷积。

系统响应的功率谱密度

\[ v(l)=h(l) * h^* (-l) \Rightarrow V(z)=H(z) H^* \left(\frac{1}{z^*}\right) \]

\[ r_ {y y}(m)=r_{x x}(m) * v(m) \Rightarrow P_{y y}(z)=P_{x x}(z) V(z)=P_{x x}(z) H(z) H^* \left(\frac{1}{z^*}\right) \]

根据Z变换得出傅立叶变化:

\[ \begin{aligned} P_{y y}\left(\mathrm{e}^{j \omega}\right) &=P_{x x}\left(\mathrm{e}^{j \omega}\right) H\left(\mathrm{e}^{j \omega}\right) H^*\left(\mathrm{e}^{j \omega}\right) \\ &=P_{x x}\left(\mathrm{e}^{j \omega}\right)\left|H\left(\mathrm{e}^{j \omega}\right)\right|^2 \end{aligned} \]

对于实序列，则有: $$ v(l)=h(l) * h(-l) \Rightarrow P_{y y}(z)=P_{x x}(z) H(z) H\left(z^{-1}\right) $$

系统的输入、输出互相关函数

输入、输出之间的互相关函数等于系统的单位脉冲响应与输入的自相关函数的卷积。

\[ \begin{aligned} r_{x y}(m) &=E\left[x^* (n) y(n+m)\right]=E\left[x^* (n) \sum_{k=-\infty}^{\infty} h(k) x(n+m-k)\right] \\ &=\sum_{k=-\infty}^{\infty} h(k) E\left[x^* (n) x(n+m-k)\right] \\ &=\sum_{k=-\infty}^{\infty} h(k) r_{x x}(m-k) \\ &=h(m) * r_{x x}(m) \end{aligned} \]

互功率谱密度:

\[ r_{xy}(m) =h(m) * r_{x x}(m) \Rightarrow P_{x y}\left(\mathrm{e}^{j \omega}\right)=H\left(\mathrm{e}^{j \omega}\right) P_{x x}\left(\mathrm{e}^{j \omega}\right) \]

时间序列的信号模型

平稳随机序列$x(n)$可以看作是由均值为零的白噪声$w(n)$激励一个线性时不变系统$H(z)$(p阶IIR滤波器)产生的:

\[ \begin{aligned} &x(n)+a_1 x(n-1)+\cdots+a_p x(n-p) \\ &=w(n)+b_1 w(n-1)+\cdots+b_q w(n-q) \end{aligned} \]

其中$w(n)$是均值为0，方差为$\sigma_w^2$的白噪声

三种时间序列信号模型

滑动平均模型(MA: Moving Average): 该模型是一个全零点模型(FIR滤波器)，没有除原点以外的极点。如果模型的全部零点都在单位圆的内部，那么该系统是一个最小相位系统，且模型是可逆的。 $$ \begin{gathered} x(n)=w(n)+b_ 1 w(n-1)+\cdots+b_q w(n-q) \ H(z)=B(z)=1+\sum_{i=1}^q b_i z^{-i} \end{gathered} $$

自回归模型(AR: Auto-Regressive): 该模型是一个全极点模型(IIR滤波器)，没有除原点以外的零点。只有当模型的全部极点都在单位圆的内部时，该系统才是因果稳定的。 $$ \begin{gathered} x(n)+a_1 x(n-1)+\cdots+a_p x(n-p)=w(n) \ H(z)=\frac{1}{A(z)}=\frac{1}{1+\sum_{i=1}^p a_i z^{-i}} \end{gathered} $$ 自回归－滑动平均模型(ARMA: Auto-Regressive Moving Average): 系统函数分子称为MA部分，分母称为AR部分，它们无公因式，且应分别满足稳定性和可逆性的条件。ARMA模型可以看作AR模型和MA模型的级联。

三种信号模型的适用性

沃尔德(Wold)分解定理(关于MA):
$$ x(n)=u(n)+v(n) $$ $v(n)$是具有连续谱分布函数的平稳随机MA序列(ARMA也具有MA性质)，MA部分常常是有限阶的。

AR模型的普遍适用性: 任意一个MA序列可用无限阶AR信号模型表示，或者用阶数足够大的AR信号模型近似表示。 $$ X(z)=B(z) W(z) \Rightarrow B^{-1}(z)=\frac{1}{B(z)}=\frac{1}{1+b_1 z^{-1}+b_ 2 z^{-2}+\cdots+b_q z^{-q}} $$

\[ \Rightarrow \]

$$ B^{-1}(z)=G(z)=1+g_1 z^{-1}+g_2 z^{-2}+\cdots \Rightarrow G(z) X(z)=W(z) $$ 同一序列用不同信号模型表示，效率不同，系数越少，效率越高。

系统函数与模式转换: AR模型适合表示时间序列的功率谱有尖峰而没有深谷的信号，MA模型适合表示其功率谱有深谷而没有尖峰的信号，ARMA模型则适合尖峰和深谷都有的情况。
此外，AR模型比其它两种模型的计算简单，因此得到了广泛应用。只要AR模型的阶数足够高，其近似性也比较好。

信号模型的功率谱

有理谱信号:

谱分解定理:

时间序列计算自相关函数与功率谱密度:

功率谱密度计算系统函数:

维纳滤波

维纳滤波器的标准方程

只考虑加性噪声的线性时不变系统:

\[ x(n)=s(n)+v(n) \]

\[ y(n)=x(n) * h(n) \]

\[ d(n) = s(n) \]

\[ y(n) = \hat{s}(n) \]

可以把$y(n)$是看成是对$d(n)$的估计，这样可以将$h(n)$看作是一个估计器，也就是说滤波的目的就是要得到期望信号$d(n)$的一个最佳估计。

维纳滤波以估计的结果与信号真值之间的误差的均方值最小作为最佳准则。
维纳滤波根据估计对象不同，分为三类: 滤波、预测、平滑。

维纳滤波器的标准方程

\[ e(n)=d(n)-y(n)=d(n)-\sum_k h(k) x(n-k) \]

\[ \frac{\partial E\left[|e(n)|^2\right]}{\partial h_k}=0, h_k=a_k+i b_k \Rightarrow \frac{\partial E\left[|e(n)|^2\right]}{\partial a_k}+j \frac{\partial E\left[|e(n)|^2\right]}{\partial b_k}=0 \]

系统的均方误差达到最小值的充要条件是误差信号e(n)与任一进入估计的输入信号x(n)正交，这就是通常所说的正交性原理。

代入$d(n)$，得到维纳-霍夫(Wiener-Hopf)方程: $$ \begin{gathered} E\left[x^* (n-k) d(n)\right]=\sum_i h(i) E\left[x^* (n-k) x(n-i)\right] \ r_{x d}(k)=\sum_i h(i) r_{x x}(k-i)=h(k) * r_{x x}(k) \end{gathered} $$

FIR维纳滤波器的求解

原理

例题

IIR维纳滤波器的求解

非因果IIR维纳滤波器的求解

因果IIR维纳滤波器的求解

例题

功率谱估计

功率谱的定义与性质

信号的能量谱与功率谱

能量谱:
根据Parseval定理,

\[ \sum_ {n=-\infty}^{\infty}|x(n)|^2=\frac{1}{2 \pi} \int_ {-\pi}^\pi \left|X\left(\mathrm{e}^{j \omega}\right)\right|^2 \mathrm{~d} \omega \]

若级数收敛，那么$x(n)$为能量型信号，$\left|X\left(\mathrm{e}^{j \omega}\right)\right|^2$称为能量谱密度(能量对频率的导数)

功率谱:
若不收敛，则必有

\[ \sum_ {n=-N}^N|x(n)|^2= \frac{1}{2 \pi} \int_ {-\pi}^\pi\left|X_N\left(\mathrm{e}^{j \omega}\right)\right|^2 \mathrm{~d} \omega \]

有限长序列的功率谱密度:

\[ \frac{1}{2 N+1} \sum_ {n=-N}^N|x(n)|^2=\frac{1}{2 \pi} \int_{-\pi}^\pi \frac{1}{2 N+1}\left|X_N\left(\mathrm{e}^{j \omega}\right)\right|^2 \mathrm{~d} \omega \]

更一般的:

\[ \lim _ {N \rightarrow \infty} \frac{1}{2 N+1} \sum_{n=-N}^N|x(n)|^2= \frac{1}{2 \pi} \int_{-\pi \rightarrow \infty}^\pi \lim _{N \rightarrow \infty} \frac{1}{2 N+1}\left|X_N\left(\mathrm{e}^{j \omega}\right)\right|^2 \mathrm{d} \omega \]

随机信号的功率谱密度

\[ \lim _ {N \rightarrow \infty} \frac{1}{2 N+1} \sum_{n=-N}^N E\left[|x(n)|^2\right]=\frac{1}{2 \pi} \int_{-\pi}^\pi \lim _ {N \rightarrow \infty} \frac{1}{2 N+1} E\left[\left|X_N\left(\mathrm{e}^{j \omega}\right)\right|^2\right] \mathrm{d} \omega \]

随机序列$x(n)$的平均功率:

\[ \lim _ {N \rightarrow \infty} \frac{1}{2 N+1} \sum_{n=-N}^N E\left[|x(n)|^2\right] \]

功率谱密度:

\[ P_{x x}\left(\mathrm{e}^{j \omega}\right)=\lim _ {N \rightarrow \infty} \frac{1}{2 N+1} E\left[\left|X_N\left(\mathrm{e}^{j \omega}\right)\right|^2\right]=\lim _ {N \rightarrow \infty} E\left[\frac{1}{2 N+1}\left|\sum_ {n=-N}^N x(n) \mathrm{e}^{-j \omega n}\right|^2\right] \]

对于平稳随机序列，则有 $$ E\left[|x(n)|^2\right] = r_{xx}(0) \Rightarrow r_{x x}(0)=\frac{1}{2 \pi} \int_{-\pi}^\pi P_{x x}\left(\mathrm{e}^{j \omega}\right) \mathrm{d} \omega $$ 因此，$r_{xx}(0)$和$E[|x(n)|^2]$就是平稳随机序列$x(n)$的平均功率

维纳-辛钦定理

Wiener-Khintchine定理: 平稳随机过程的自相关函数和功率谱密度之间存在傅立叶变换的关系 $$ P_{x x}\left(\mathrm{e}^{j \omega}\right)=\sum_{m=-\infty}^{+\infty} r_{x x}(m) \mathrm{e}^{-j \omega m} $$

证明：

实平稳随机序列功率谱密度的性质

功率谱是非负的实函数(对非平稳随机序列也成立): $$ P_{x x}\left(\mathrm{e}^{j \omega}\right)=\lim _{N \rightarrow \infty} \frac{1}{2 N+1} E\left[\left|X_N\left(\mathrm{e}^{j \omega}\right)\right|^2\right] \geq 0 $$
功率谱是关于$\omega$的偶函数: $$ r_{x x}(-m)=r_{x x}(m) \Rightarrow P_{x x}\left(\mathrm{e}^{-\mathrm{j} \omega}\right)= P_{x x}\left(\mathrm{e}^{\mathrm{j} \omega}\right) $$

现代功率谱估计

谱估计的现代方法主要是以随机过程的参数模型为基础的，因此也可以将其称为参数模型方法，简称模型方法。分为三个步骤: 1. 为被估计的随机过程选择一个合理的信号模型; 2. 根据观测得到的有限个数据，估计模型的参数; 3. 用估计得到的模型参数计算功率谱;

随机过程x(n)可以用有理函数模型很好的逼近:
$$ x(n)=-\sum_{i=1}^p a_i x(n-i)+\sum_{i=0}^q b_i w(n-i) $$

\[ H(z)=\frac{B(z)}{A(z)}=\frac{\sum_{i=0}^q b_i z^{-i}}{1+\sum_{i=1}^p a_i z^{-i}} \]

其中，$w(n)$是均值为0，方差为$\sigma_w^2$的高斯白噪声, $a_i$是反馈支路系数(AR系数), $b_i$是前馈支路系数(MA系数)。

\[ P_{x x}(z)=P_ {w w}(z) H(z) H^* \left(\frac{1}{z^* }\right)=\sigma_ w^2 H(z) H^* \left(\frac{1}{z^* }\right) \]

\[ \Rightarrow P_ {x x}\left(\mathrm{e}^{j \omega}\right)=\sigma_w^2 H\left(\mathrm{e}^{j \omega}\right) H^*\left(\mathrm{e}^{j \omega}\right)=\sigma_w^2\left|H\left(\mathrm{e}^{j \omega}\right)\right|^2 \]

当$h(n)$为实因果序列时,

\[ P_{x x}(z)=\sigma_ w^2 H(z) H\left(z^{-1}\right)=\sigma_w^2 \frac{B(z)}{A(z)} \frac{B\left(z^{-1}\right)}{A\left(z^{-1}\right)} \]

模型选择

在现代谱估计中，要求选择的模型能够表示出谱峰、谱谷和频谱的滚降。对于具有尖峰的谱，应该选用具有极点的模型，如 AR 和 ARMA 模型；对于具有平坦的谱峰和深谷的信号，可以选用MA模型；既有极点也有零点的谱应选用 ARMA模型。相对地说，ARMA模型的适用范围较宽。对于滚降太快的谱，没有一种模型可以准确地表示功率谱，可以选用高阶的 AR 模型近似表示。

选择模型的另一个考虑是尽量减少模型的参数。这也取决于模型的选择是否合适。如果模型的选择不合适，那么只有提高阶数才能得到较近似的谱，这样需要估计的参数增多，就会降低谱估计的质量。因此应该在选择合适模型的基础上，尽量减少模型的参数。