随机信号分析

150 分钟读完

随机信号分析复习提纲

注:

  • 本文所有版权归孙宇畅所有,BIT Lecture拥有本文的使用权、转发权等。用户转发请注明作者,尤其强调文中公式的版权皆为作者所有,对未经许可擅自使用者,将追究其责任。

  • 本课程的先修课程有《概率论与统计》,《数学分析》/《微积分》/《工科数学分析》。
  • 本提纲依赖的课本为朱华等编著的《随机信号分析》(北京理工大学出版社)。

前言

  • 《随机信号分析》这门课涉及了很多数学知识,然而单背公式是肯定不行的,还需要自己的很多理解,由于我个人才疏学浅,本篇提纲并没有写太多自己的理解,还需要读者结合书籍、网络进行自己的理解体会。
  • 这门课是一门重要的课,说它是数学课有点小看它,说它是专业基础课又觉得不够全面,因为知识之广、内涵之深令我感触颇深,本文的初衷是将一些重要的知识提炼出来,供大家复习时参考。
  • 由于事情繁杂,公式又多,本文难免有疏漏,希望大家可以提出来,我会及时修改,使这篇文章可以造福更多人。

第一章 概率论

1.1 概率空间的概念

  • 几种概率模型

    古典概率,几何概率,统计概率

  • 概率空间$ (\Omega,\mathcal{F},P) $

    其中$ \Omega $表示样本空间,$ \mathcal{F} $表示事件域,$ P $表示概率。

    • 全部样本点构成的集合称为样本空间
    • 满足特定要求的部分样本点构成的集合称为事件域
    • 事件域包含了许多个事件$ A $
    • 每一事件$ A $发生的概率为$ P[A] $

    了解更多:怎样理解概率空间这个概念和概率空间的三元素-知乎

1.2 条件概率空间

  • 条件概率空间$ (\Omega,\mathcal{F},P_B) $

    其中$ P_B[A]=P[A\mid B] $

  • 全概率公式 \(P[A]=\sum_{j=1}^{N}{P[A\mid B_j]P[B_j]}\)

  • 贝叶斯公式 \(P[B_i \mid A]=\frac{P[A \mid B_i]P[B_i]}{\sum_{j=1}^{N}{P[A\mid B_j]P[B_j]}}\)

  • 统计独立 \(P[B \mid A]=P[B] \:or\: P[A\cap B]=P[A]P[B]\)

1.3 随机变量及其概率分布函数

  • 随机变量(RV)的定义

    注意:随机变量是个函数,而非变量。

  • 离散/连续/混合型随机变量

  • 分布密度函数$ f_X(x) $的含义

  • 分布函数$ F_X(x) $的含义

    • 离散型:$ F_X(x)=P[X\leq x] $

    • 连续型:$ F_X(x)=\int_{-\infty}^{x}{f_{X}(x)}dx $

      注:求导关系略。

  • 分布函数$ F_X(x) $的三条基本性质

    • 非负、递增函数
    • 右连续性
    • $ F_X(-\infty)=0, F_X(\infty)=1 $
  • $ f_X(x) $与$ F_X(x) $的关系

1.4 多维随机变量及其分布函数

  • 离散型:$ F_{XY}(x,y)=P[X\leq x,Y\leq y] $

  • 连续型:$ F_{XY}(x,y)=\int_{-\infty}^{x}{\int_{-\infty}^{y}f_{XY}(x,y)}dxdy $

    注:求导关系略。

  • 边沿分布函数

    $ F_1(x)=F(x,\infty),F_2(y)=F(\infty,y)$

  • 边沿密度函数

    $ f_X(x)=\int_{-\infty}^{\infty}{f_{XY}(x,y)}dy,f_Y(y)=\int_{-\infty}^{\infty}{f_{XY}(x,y)}dx $

  • X,Y为互相独立的RVs,等价于:
    • $ F_{XY}(x,y)=F_{X}(x)F_{Y}(y) $
    • 连续型:$ f_{XY}(x,y)=f_{X}(x)f_{Y}(y) $
    • 离散型:$ P[X=x_i,Y=y_i]= P[X=x_i]P[Y=y_i]$
  • 条件概率密度 $f_{X\mid Y}(x\mid y)=\frac{f_{XY}(x,y)}{f_Y(y)}$

  • 条件概率分布 $F_{X\mid Y}(x\mid y)=\int_{-\infty}^{x}{f_{X|Y}(u,y)}du$

1.5 随机变量函数的分布

对于随机变量的函数 \(Y=g(X)\) Y仍然是一个随机变量。

  • 若Y和X存在单调函数关系,并存在反函数$ X=h(Y) $,则二者的概率密度满足:
\[f_Y(y)=f_X(h(y))|h'(y)|\]
  • 若反函数$ X=h(Y) $是非单调的,例如有一个Y值对应两个X值,$ X_1=h_1(Y) $,$ X_2=h_2(Y) $,则有: \(f_Y(y)=f_X(h_1(y))|h_1'(y)|+f_X(h_2(y))|h_2'(y)|\)

  • 相似地,对于二维随机变量有: \(f_{Y_1Y_2}(y_1,y_2)=|J|f_{X_1X_2}(x_1,x_2), J=\frac{\partial (x_1,x_2)}{\partial (y_1,y_2)}\)

  • 若Z是X和Y的组合,则有以下关系(两个特殊的) \(Z=X+Y,f_Z(z)=\int_{-\infty}^{\infty}{f_{XY}(x,z-x)}dx\)

    \[Z=XY,f_Z(z)=\int_{-\infty}^{\infty}{\frac{1}{|x|}f_{XY}(x,\frac{z}{x})}dx\]

    差、商的公式略。

1.6 随机变量的数字特征

  • 数学期望(以连续型变量为例) \(E[X]=\int_{-\infty}^{\infty}{Xf_{X}(x)}dx\)

    \[E[\vec Y]=\int_{-\infty}^{\infty}{g(\vec X)f_{X}(\vec x)}d\vec x, \vec Y=g(\vec X)\]
  • 方法:求某RV的数学期望(以离散型变量为例)
    1. $ E[Y]=\sum_{j=1}^{N}{y_jP[Y=y_j]} $(利用自身分布)
    2. $ E[Y]=\sum_{i=1}^{M}\sum_{j=1}^{N}{y_jP[X=x_i,Y=y_j]} $(利用联合分布)
    3. $E[Y]=\sum_{i=1}^{M}{E[Y\mid X=x_i]P[X=x_i]}$(利用条件分布)
  • 数学期望的性质

    注:只列出了部分难记忆的, 其余可见课本P37。

    • $E[X]=E[E[X\mid Y]]$
    • $E[g(Y)X\mid Y]=g(Y)E[X\mid Y]$
    • $E[g(Y)\mid Y]=g(Y)$
    • $E[(X-E[X\mid Y])^2]\leq E[(X-g(Y))^2]$
  • 原点/中心矩
    • X的k阶原点矩$m_k=E[X^k]$
    • X的k阶中心矩$\mu_k=E[(X-E[X])^k]$
    • $m_0=1$
    • $m_1=E[X]$
    • $m_2=\mu_2+[E(X)]^2$
    • $\mu_2$描述离散程度(方差)
    • $\mu_3$描述概率分布的非对称性
    • $\mu_4$描述曲线尖削/平坦程度
  • 协方差$K_{XY}=E[(X-E(X))(Y-E(Y))]$

  • 相关系数$r_{XY}=\frac{K_{XY}}{\sigma_X\sigma_Y}$

  • 独立、不相关、正交的含义

    注:十分重要,一定要区分清楚。

    • 若$ E[X^jY^k]=E[X^j]E[Y^k] $,则X、Y互相独立。
    • 若$ E[XY]=E[X]E[Y] $,或者说$ K_{XY}=0 $,则X、Y互不相关。
    • 若$ E[XY]=0 $,则X、Y互相正交。
    • 由上可以看出,X和Y互相独立,则说明X和Y一定不相关;X和Y不相关,只有在正态分布的情况下才能说明X和Y相互独立。

1.7 随机变量的特征函数

注:教材中使用 $ C $ 表示特征函数,而其他地方多使用 $ \varphi $,此文中使用前者。

  • 特征函数的定义 \(C_X(u)=E[e^{juX}]\)

  • 对于连续型变量,它的特征函数是概率密度函数的傅里叶变换。 \(C_X(u)=\int_{-\infty}^{\infty}{e^{juX}f_{X}(x)}dx\)

  • 特征函数的性质
    • $ C_X(u)\leq C_X(0)=1 $
    • 若$ Y=aX+b $,则$ C_Y(u)=e^{jub}C_X(au) $
    • 若$Z=X_1+X_2$,且$ X_1 $和$ X_2 $相互独立,则$ C_Z(u)=C_{X_2}(u)C_{X_1}(u) $
  • 方法:利用特征函数求$ f_Y(y) $,利用下面两个式子进行对比可得$ h(y)=f_Y(y) $
    • $ C_Y(u)=\int_{-\infty}^{\infty}{e^{jug(X)}f_{X}(x)}dx $
    • $ C_Y(u)=\int_{-\infty}^{\infty}{e^{juy}h(y)}dy $
  • 特征函数与矩的关系 \(E[X^n]=(j)^{-n}\frac{\mathrm{d}^n{C_X(u)}}{\mathrm{d}u^n}{\Big|}_{u=0}\)

    \[C_X(u)=\sum_{n=1}^{\infty}{\frac{(ju)^n}{n!}E[X^n]}\]
  • $ C_{X_1X_2}(u_1,u_2)=\iint_{-\infty}^{\infty}{e^{ju_1X_1+ju_2X_2}f_{X_1X_2}(x_1,x_2)}dx_1dx_2 $

  • $ C_{X_1X_2}(u_1,u_2) $的基本性质

    • $ X_1 $与$ X_2 $统计独立$ \Leftrightarrow $ $ C_{X_1X_2}(u_1,u_2)=C_{X_1}(u_1)C_{X_2}(u_2) $

    • $ C_{X_1X_2}(u_1,u_2) $在实平面上连续一致

    • $ C_{X_1X_2}(u_1,0)=C_{X_1}(u_1),C_{X_1X_2}(0,u_2)=C_{X_2}(u_2) $

      $ \Rightarrow $二维正态分布的边沿分布也是正态分布

  • 对于零均值的正态变量$ X_1,X_2,X_3,X_4 $,有:

    注:很重要的公式

    \[E[X_1X_2X_3X_4]=E[X_1X_2]E[X_3X_4]+E[X_1X_3]E[X_2X_4]+E[X_1X_4]E[X_2X_3]\]

1.8 极限定理

注:本节不是重点内容,不再展开叙述。

  • 切比雪夫不等式
  • 中心极限定理
  • ……

1.9 各种概率分布的参数和特征汇编

注:见课本P91,重点掌握均匀分布、指数分布、正态分布。

第二章 随机过程

2.1 随机过程的基本概念及其统计特性

  • 随机过程(RP)的定义

    认真理解以下两个定义

    1. 随机试验E的样本空间是$ S={\zeta} $,若对于每个$ \zeta\in S $,总有一个确知的时间函数$ X(t,\zeta), t\in T $与它对应,这样对于所有的$ \zeta\in S $就可以得到一族时间t的函数,将其称之为随机过程。
    2. 若对于每个特定的时间$ t_i(i=1,2,…) $,$ X(t_i,\zeta) $都是随机变量,则称$ X(t,\zeta) $为随机过程($ t $包含所有$ t_i $,即随机过程看作是依赖于时间t的一族随机变量。
  • $ X(t,\zeta) $可以简写为$ X(t) $

  • 随机过程的分类

      变量取值:连续 变量取值:离散
    时间取值:连续 连续型随机过程 离散型随机过程
    时间取值:离散 连续随机序列 离散随机序列
  • 随机过程的概率分布

    注:由于连续型的公式较麻烦(哈哈哈哈),只打了离散型。

    \[F_X(x;t)=P\{X(t)\leq x\}\\ F_X(x_1,x_2;t_1,t_2)=P\{X(t_1)\leq x_1,X(t_2)\leq x_2\}\\ F_X(x_1,...,x_n;t_1,...,t_n)=P\{X(t_1)\leq x_1,...,X(t_n)\leq x_n\}\]
  • 如果$ X(t_1),X(t_2),…,X(t_n) $统计独立,则有: \(f_X(x_1,...,x_n;t_1,...,t_n)=f_X(x_1;t_1)...f_X(x_n;t_n)\)

  • 随机过程的特征
    • 数学期望 $ m_X(t)=E[X(t)]=\int_{-\infty}^{\infty}{xf_X(x;t)}dx $
    • 均方值 $ \Psi^2X(t)=E[X^2(t)]=\int{-\infty}^{\infty}{x^2f_X(x;t)}dx $
    • 方差 $ \sigma^2_X(t)=D[X(t)]=E[(X(t)-m_X(t))^2] $
    • 标准差(均方差) $ \sigma_X(t)=\sqrt{\sigma^2_X(t)} $
    • 自相关函数 $ R_X(t_1,t_2)=E[X(t_1)X(t_2)] $
    • 自协方差函数 $ K_X(t_1,t_2)=E[\mathring X(t_1)\mathring X(t_2)] $
    • 中心化随机变量 $ \mathring X(t)=X(t)-E[X(t)] $
  • 随机过程的特征函数 \(C_X(u;t)=E[e^{juX(t)}]=\int_{-\infty}^{\infty}{e^{juX(t)}f_X(x;t)}dx\)

    \[f_X(x;t)=\frac{1}{2\pi}\int_{-\infty}^{\infty}{C_X(u,t)e^{-jux}}du\]

    推论: \(E[X^n(t)]=(j)^{-n}\frac{\partial^n{C_X(u;t)}}{\partial u^n}{\Big|}_{u=0}\)

2.2 随机过程的微分与积分

  • 均方连续:略 \(\lim_{\Delta t\rightarrow 0}E[X(t+\Delta t)]=E[\lim_{\Delta t\rightarrow 0}X(t+\Delta t)]\)

  • 均方导数 \(\dot{X}(t)=\frac{\mathrm{d}{X(t)}}{\mathrm{d}t}=\lim_{\Delta t\rightarrow 0}\frac{X(t+\Delta t)-X(t)}{\Delta t}\) 在均方意义下存在

  • 均方可微:略

    充分条件为下式存在 \(\frac{\partial^2{R_X(t_1,t_2)}}{\partial t_1\partial t_2}{\Big|}_{t_1=t_2}\)

  • 导数与期望的关系 \(E[\frac{\mathrm{d}{X(t)}}{\mathrm{d}t}]=\frac{\mathrm{d}}{\mathrm{d}t}E[X(t)]\) 在随机过程平稳时,上式为0。 \(R_{\dot X}(t_1,t_2)=\frac{\partial^2{R_X(t_1,t_2)}}{\partial t_1\partial t_2}\)

  • 均方积分 \(Y=\int_a^b X(t)dt\\ Y(t)=\int_a^b X(\lambda)h(\lambda ,t)d\lambda\)

  • 均方可积:略

    充分条件为下式成立 \(\int_a^b\int_a^b|R_X(t_1,t_2)|dt_1dt_2 < \infty\)

  • 积分与期望的关系 \(E[\int_a^b X(t)dt]=\int_a^b E[X(t)]dt \\ m_Y(t)=E[\int_a^b X(\lambda)h(\lambda ,t)d\lambda]=\int_a^b m_X(\lambda)h(\lambda ,t)d\lambda\)

  • 推论 \(E[Y^2]=\int_a^b\int_a^bR_X(t_1,t_2)dt_1dt_2\)

    \[\sigma_Y^2=\int_a^b\int_a^bK_X(t_1,t_2)dt_1dt_2\]
  • 对于$ Y(t)=\int_0^tX(\lambda)d\lambda $,相关函数满足: \(R_Y(t_1,t_2)=\int_0^{t_1}\int_0^{t_2}R_X(\lambda,\lambda')d\lambda d\lambda'\)

2.3 平稳RP与遍历性RP

注:

本节是考察重点!

公式中所有$ (x_1,x_2,…,x_n) $简写为$ (x_1,…,x_n) $,认为二者含义相同。

  • 严平稳随机过程SSS \(f_X(x_1,...,x_n;t_1,...,t_n)=f_X(x_1,...,x_n;t_1+\varepsilon,...,t_n+\varepsilon)\) 有以下特性:

    • $ f_X(x_1;t_1)=f_X(x_1) $
    • $ E[X(t)]=m_X $
    • $ E[X^2(t)]=\psi_X^2 $
    • $ D[X(t)]=\sigma_X^2 $
    • $ f_X(x_1,x_2;t_1,t_2)=f_X(x_1,x_2;t_2-t_1)=f_X(x_1,x_2;\tau) $
    • $ R_X(t_1,t_2)=R(t_2-t_1)=R(\tau) $
    • $ K_X(t_1,t_2)=K(\tau)=R(\tau)-m_X^2 $
    • $ K(0)=R(0)-m_X^2 \Leftrightarrow \sigma_X^2=\psi_X^2-m_X^2$
  • 宽平稳随机过程WSS

    满足三个条件:

    • $ E[X(t)]=m_X $
    • $ R_X(t_1,t_2)=R(\tau) $
    • $ E[X^2(t)]<\infty $
  • 平稳随机过程的关键在于:一阶矩与时间无关,二阶矩只与时间差有关。

  • SSS和WSS没有必然关系
    • SSS是WSS的条件:均方值有界
    • WSS是SSS的条件:是正态随机过程
  • 时间均值 \(A\left \langle X(t) \right \rangle=\overline{X(t)}=\lim_{T\rightarrow \infty}\frac{1}{2T}\int_{-T}^{T}X(t)dt\)

  • 时间相关函数 \(\mathscr R_X(t,t+\tau)=\overline{X(t)X(t+\tau)}=\lim_{T\rightarrow \infty}\frac{1}{2T}\int_{-T}^{T}X(t)X(t+\tau)dt\)

  • 严遍历性随机过程:略

  • 宽遍历性随机过程:对于一个平稳RP X(t),它的均值遍历性、自相关函数遍历性均成立,则成为宽遍历性RP。

    • 均值遍历性:$ A\left \langle X(t) \right \rangle=E[X(t)] $
    • 自相关函数遍历性:$ \mathscr R_X(t,t+\tau)=E[X(t)X(t+\tau)] $

    特别地,在电路中,其二阶矩有着特殊含义:

    • $ R_X(0) $代表噪声电压/电流消耗在1欧电阻上的总平均功率
    • $ \sigma_X^2 $代表噪声电压/电流消耗在1欧电阻上的交流平均功率
  • 平稳随机过程$ X(t) $的均值具有遍历性,充要条件是: \(\lim_{T\rightarrow \infty}\frac{1}{T}\int_{0}^{2T}(1-\frac{\tau}{2T})[R_X(\tau)-m_X^2]d\tau=0\)

  • 平稳随机过程的性质

    非常重要!

    1. $ R_X(0)=E[X^2(t)]=\psi_X^2\geq0 \ K_X(0)=\sigma_X^2=R_X(0)-m_X^2$

    2. $ R_X(\tau)=R_X(-\tau) $ 偶函数

    3. $ \mid R_X(\tau)\mid \leq R_X(0) $

    4. $ R_X(\tau) $ 是非负定的

      $ \int_{-\infty}^\infty R_X(\tau)e^{-j\omega\tau}d\tau\geq0 $

    5. 若X(t)满足$ X(t)=X(t+\tau) $,则称其为周期平稳随机过程,且$ R_X(t)=R_X(t+\tau) $。

    6. 若X(t)含有一周期平稳分量,则$ R_X(t) $也含有一周期平稳分量,且周期相同。

    7. 若X(t)为不包含任何周期分量的非周期WSS,则$ \lim_{\mid \tau\mid \rightarrow \infty}R_X(\tau)=m_X^2 $

    8. 若X(t)的$ R_X(\tau) $中含有常数项C,则$ m_X^2=C $。

  • 相关系数 \(r_X(\tau)=\frac{K_X(\tau)}{K_X(0)}=\frac{R_X(\tau)-m_X^2}{\sigma_X^2}\)

  • 相关时间 \(\tau_0=\int_0^\infty r_X(\tau)d\tau\)

2.4 RP的联合概率分布和互相关函数

  • $ F_{XY}(x_1,…,x_n;y_1,…,y_n;t_1,…,t_n;t_1’,…,t_n’) $
  • X(t)与Y(t)的关系(会判断):
    • 互相独立
    • 互为正交过程
    • 互不相关
    • 联合严平稳
    • 联合宽平稳
  • $ R_{XY}(\tau) $的性质
    1. $ R_{XY}(\tau)=R_{YX}(-\tau) $ (注意不是偶函数)
    2. $ \mid R_{XY}(\tau)\mid ^2\leq R_X(0)R_Y(0) $
    3. $ \mid R_{XY}(\tau)\mid \leq\frac{1}{2}[R_X(0)+R_Y(0)] $
    4. $ r_{XY}(\tau)=\frac{K_{XY}(\tau)}{\sqrt{K_X(0)K_X(0)}} $

2.5 复随机过程

较为简略。

  • 复随机变量$ Z=X+jY $
    • $ m_Z=m_X+jm_Y $
    • $ D_Z=D_X+D_Y $
    • $ K_{Z_1Z_2}=E[\mathring Z_1^* \mathring Z_2] $
  • 复随机过程$ Z(t)=X(t)+jY(t) $
    • $ m_{Z(t)}=m_{X(t)}+jm_{Y(t)} $
    • $ D_{Z(t)}=D_{X(t)}+D_{Y(t)} $
    • $R_Z(t,t+\tau)=E[Z^*(t)Z(t+\tau)] $
  • 若Z(t)满足$ m_{Z(t)}=m_Z=m_X+jm_Y,R_Z(t,t+\tau)=R_Z(\tau) $,则Z(t)宽平稳。

2.6 离散时间随机过程

注:不是重点考察内容,主要掌握概念。

  • 如果参量t取离散值$ t_1,t_2,…,t_n $时,这种随机过程称为离散时间随机过程,可记作$ X(n) $。

2.7 正态随机过程

  • 如果X(t)的任意n维概率分布都是正态分布,则称它为正态(随机)过程。

  • 平稳正态随机过程

    注:有能力的可以背过。

    • 一维概率密度函数
    • 二维概率密度函数
    • 一维特征函数
    • 二维特征函数
  • 正态过程的性质

    注:非常非常重要!

    • 正态过程的n维概率分布仅取决于其一、二阶矩函数。
    • 对于正态过程,广义平稳和狭义平稳等价。
    • 对于一个或多个正态过程,不相关和独立等价。
    • 平稳正态随机过程X(t)与确定信号S(t)之和的概率分布仍为正态分布,但不一定平稳。
    • 正态随机过程X(t)在T上均方可微,则其导数也是正态随机过程。
    • 正态随机过程X(t)在T上均方可积,则其积分(两种)也是正态随机过程。
  • $ X~N(m_k,\sigma_X^2) \ \mu_k=E[(X-m_k)^2]=\begin{cases} 0& \text{k为奇数}
    1\times3\times5\times…\times(k-1)\sigma_X^k& \text{k为不小于2的偶数} \end{cases}$

第三章 平稳随机过程的谱分析

3.1 随机过程的功率谱密度

  • 几个基本概念

    用x(t)表示一个时间信号,$ X_x(\omega) $表示它的能谱密度。

    • 信号的能量 \(E=\int_{-\infty}^\infty|x(t)|^2dt\)

    • 平均功率 \(P=\lim_{T\rightarrow \infty}\frac{1}{2T}\int_{-T}^{T}x^2(t)dt\)

    • Parseval不等式 \(\int_{-\infty}^\infty x^2(t)dt=\frac{1}{2\pi}\int_{-\infty}^\infty|X_x(\omega)|^2d\omega\)

      \[\int_{-\infty}^\infty x(t)h(t)dt=\frac{1}{2\pi}\int_{-\infty}^\infty X_x(\omega)X_h(\omega)d\omega\]
    • 能量型/功率型信号

  • 随机过程:一般能量无限大,功率有限。

    • 平均功率
    \[Q=\lim_{T\rightarrow \infty}\frac{1}{2T}\int_{-T}^{T}E[X^2(t)]dt=\frac{1}{2\pi}\int_{-\infty}^\infty S_X(\omega)d\omega\] \[Q=A\left \langle E[X^2(t)] \right \rangle\]

    ​ 若其平稳,则上式化为 \(Q=E[X^2(t)]=R_X(0)\)

    • 功率谱密度:功率在频域上的分布 \(S_X(\omega)=\lim_{T\rightarrow \infty}\frac{1}{2T}E[|X_x(T,\omega)|^2]\) 平稳随机过程的功率谱密度与自相关函数互为傅里叶变换。 \(R_X(\tau)=\frac{1}{2\pi}\int_{-\infty}^{\infty}S_X(\omega)e^{j\omega\tau}d\omega \\ S_X(\omega)=\int_{-\infty}^{\infty}R_X(\tau)e^{-j\omega\tau}d\tau\)
  • 单边PSD \(G(\omega)=\begin{cases} 2S_X(\omega)& \omega\geq0 \\ 0& \text{其他} \end{cases}\)

  • X(t)和它的$ R_X(\tau)、S_X(\omega) $之间的对应关系

    注:见书上表3.2

    • $ aX(t) $
    • $ \frac{dX(t)}{dt} $
    • $ \frac{d^nX(t)}{dt^n} $
    • $ X(t)e^{\pm j\omega_0t} $
  • 几种常用的$ R_X(\tau)、S_X(\omega) $对照表

    注:见书上表3.3

3.2 有理功率谱密度分解定理

  • 确定信号 \(S(s)=\int_{0}^{\infty}s(t)e^{-st}dt \\ s(t)=\frac{1}{2\pi}\int_{-j\infty}^{j\infty}S(s)e^{st}ds\)

  • 随机信号 \(S_(s)=\int_{-\infty}^{\infty}R_X(\tau)e^{-s\tau}d\tau \\ R_X(\tau)=\frac{1}{2\pi j}\int_{-j\infty}^{j\infty}S_X(s)e^{s\tau}ds\)

  • 有理功率谱 \(S_X(\omega)=S_0\frac{\omega^{2M}+a_{2M-2}\omega^{2M-2}+...+a_2\omega^2+a_0}{\omega^{2N}+b_{2N-2}\omega^{2N-2}+...+b_2\omega^2+b_0}\) 其中$ S_0>0, N>M$,a、b都是实数。

    可以记作: \(S_X(\omega)=\frac{A(\omega^2)}{B(\omega^2)}\\ S_X(s)=\frac{A(-s^2)}{B(-s^2)}\)

  • $ S_X(\omega)\geq 0 $的性质:
    1. $ S_X(\omega)\geq 0 $ 非负
    2. $ S_X(\omega) $是$ \omega $的实函数
    3. 对于实随机过程,$ S_X(\omega) $是$ \omega $的偶函数
    4. $ S_X(\omega) $可积
  • $ S_X(s) $的性质
    1. $ S_X(s) $的所有虚部不为零的零点和极点都成复共轭出现
    2. $ S_X(s) $的所有零、极点都是偶重的
    3. 谱分解定理:略

3.3 联合WSS X(t)的功率谱密度

  • $ S_{XY}(\omega),S_{YX}(\omega) $的定义区分
  • $ S_{XY}(\omega)$ 的傅里叶变换是$ R_{XY}(\tau)$, $S_{YX}(\omega) $的傅里叶变换是$ R_{YX}(\tau)$
  • $ S_{XY}(\omega),S_{YX}(\omega) $的性质:
    1. $ S_{XY}(\omega),S_{YX}(\omega) $是$ \omega $的复函数,不再“正、偶、实”。
    2. $ S_{XY}(\omega)=S_{YX}^*(\omega)=S_{YX}(-\omega) $
    3. $ \mid S_{XY}(\omega)\mid ^2\leq S_{X}(\omega)S_{Y}(\omega) $
    4. 其实部为偶函数,虚部为奇函数
    5. 若X(t)和Y(t)正交,则$ S_{XY}(\omega)=S_{YX}(\omega)=0 $
    6. 若X(t)和Y(t)不相关,则$ S_{XY}(\omega)=S_{YX}(\omega)=2\pi m_Xm_YS(\omega) $
  • 特殊公式 \(R_{X\dot X}(\tau)=\frac{dR_X(\tau)}{d\tau} \\ S_{X\dot X}(\omega)=j\omega S_X(\omega)\)

3.4 平稳复RP的功率谱密度

注:本节略,不是重点,可以自己看书了解概念。

3.5 离散时间RP的功率谱密度

  • 定义:对于一个实随机过程$ X(n) $ \(S_X(\omega)=\lim_{N\rightarrow \infty}\frac{1}{2N+1}E[|X_x(\omega,N,\xi)|^2]\)

  • 对于WSS随机过程: \(S_X(\omega)=S_X(e^{j\omega T})=\sum_{m=-\infty}^{\infty}R_X(m)e^{-jmT\omega}\) T为间隔,周期为$ 2\omega_q=2\pi/T $,$ \omega_q $为Nyquist频率。 \(R_X(m)=\frac{1}{2\omega_q}\int_{2\omega_q}^{2\omega_q}S_X(m)e^{jmT\omega}d\omega\) T=1时: \(R_X(m)=\frac{1}{2\pi}\int_{2\pi}^{2\pi}S_X(m)e^{jm\omega}d\omega\)

  • Z变换表示 \(S_X(z)=\sum_{m=-\infty}^{\infty}R_X(m)z^{-m} \\ R_X(m)=\frac{1}{2\pi j}\oint_{|z|=1}S_X(z)z^{m-1}dz\)

  • 有理功率谱分解定理

    注:不是不重要,而是打公式有点累了。。

  • X(n)、Y(n)各自且联合WSS时,$ R_{XY}(m), R_{YX}(m), S_{XY}(e^{j\omega T}), S_{YX}(e^{j\omega T}) $的关系

  • 香农采样定理

    在采样周期小于等于 $ 1/2f_c $ 时,可以把s(t)展开为: \(s(t)=\sum_{n=-\infty}^{\infty}s(nT)\frac{sin(\omega_ct-n\pi)}{\omega_ct-n\pi}\) 其中s(nT)为在t=nT时对s(t)的振幅采样。

  • 若X(t)为一个WSS随机过程,具有零均值,功率谱密度 $ S_X(\omega) $限于$ (-\omega_c,\omega_c) $之间,对其采样,则下列式子成立:

    \[X(t)=\sum_{n=-N}^{N}X(n)\frac{sin(\omega_ct-n\pi)}{\omega_ct-n\pi}\]
    \[R_X(\tau)=\sum_{m=-\infty}^{\infty}R_X(m)\frac{sin(\omega_ct-m\pi)}{\omega_ct-m\pi}\]
    1. 若连续时间$ S_X(\omega)=S_c(\omega) $,

      则离散时间$ S_X(\omega)=\frac{1}{T}\sum_{n=-\infty}^{\infty}S_c(\omega+2\omega_qn) ,R(m)=R_c(mT)$

3.6 白噪声、限带白噪声与热噪声

  • 白噪声:N(t)为一个具有零均值的平稳随机过程,其功率谱密度均匀分布在$ (-\infty,\infty) $的整个频率区间,即$ S_N(\omega)=\frac{N_0}{2}, -\infty<\omega<\infty $。 \(R_X(\tau)=\frac{N_0}{2}\delta(\tau)\) $ \tau \ne0 $时,$ N(t) $与$ N(t+\tau) $不相关

  • 限带白噪声:功率谱密度仅在某频率范围内为常数,其余范围内为0.

    • 低通型 \(R_X(\tau)=\frac{S_0\omega_0}{\pi}\frac{sin\omega_0\pi}{\omega_0\pi}\)

    • 带通型 \(R_X(\tau)=\frac{S_0\omega_0}{\pi}\frac{sin(\omega\pi/2)}{\omega\pi/2}cos(\omega_0\pi)\)

  • 热噪声

  • 色噪声
  • 白噪声序列

第四章 随机信号通过线性系统的分析

  • 设随机过程X(t)通过线性系统,输出为Y(t)
  • 假定线性系统是时不变、因果、稳定的
  • 描述方法:常微分方程,$ h(t)、H(\omega)、H(s) $,状态方程、状态变量

4.1 随机信号通过连续时间线性系统的分析

先时域分析

  • 对Y(t)的描述 \(m_Y(t)=m_X(t)*h(t)\)

    \[R_{XY}(t_1,t_2)=R_X(t_1,t_2)*h(t_2) \\ R_{YX}(t_1,t_2)=R_X(t_1,t_2)*h(t_1) \\ R_{Y}(t_1,t_2)=R_X(t_1,t_2)*h(t_1)*h(t_2)\]

    注:

    上面三个公式用一个框图表示最容易理解、记忆,可以自己画一下。

    *表示卷积,具体积分式略去。

    另外: \(E[Y(t_1)...Y(t_n)]=E[X(t_1)...X(t_n)]*h(t_1)*...*h(t_n)\)

  • 输入X(t)平稳的情况(双侧随机信号) \(m_Y=m_Y(t)=m_X(t)*h(t) \\ R_{XY}(\tau)=R_X(\tau)*h(\tau) \\ R_{YX}(\tau)=R_X(\tau)*h(-\tau) \\ R_{Y}(\tau)=R_X(\tau)*h(\tau)*h(-\tau)\) 性质:

    1. $ X(t) WSS\to Y(t) WSS $且二者联合WSS
    2. $ X(t) SSS\to Y(t) SSS $
    3. $ X(t) \text{宽遍历}\to Y(t) $ 宽遍历且二者联合宽遍历
    4. 即时输入$ X(t) WSS $(单侧随机信号)$\to Y(t) \text{非}WSS $,但是时间趋于无穷时,$Y(t)\to WSS $

再频域分析

  • 频域分析 \(m_Y=m_XH(0) \\ S_Y(\omega)=S_X(\omega)H(\omega)H(-\omega)=S_X(\omega)|H(\omega)|^2 \\ S_{XY}(\omega)=S_X(\omega)H(\omega) \\ S_{YX}(\omega)=S_X(\omega)H(-\omega) \\ S_{Y}(s)=S_X(s)H(s)H(-s) \\ \varphi_H(\omega)=\theta_{XY}(\omega)\)

4.2 随机信号通过离散时间系统的分析

注:连续时间系统、离散时间系统之间要能对应起来。

  • 对Y(t)的描述 \(Y(n)=\sum_{k=0}^{\infty}h(k)X(n-k)=h(n)*X(n) \\ m_Y(n)=\sum_{k=0}^{\infty}h(k)E[X(n-k)]=h(n)*m_X(n) \\ R_{XY}(n,n+m)=\sum_{k=0}^{\infty}h(k)R_X(n,n+m-k) \\ R_{Y}(n,n+m)=\sum_{k=0}^{\infty}\sum_{j=0}^{\infty}h(k)h(j)R_X(n-k,n+m-j)\)

  • 平稳随机信号输入的情况 \(m_Y=m_XH(1) \\ R_{XY}(m)=h(-m)*R_X(m) \\ R_{YX}(m)=h(m)*R_X(m) \\ R_{Y}(m)=h(m)*h(-m)*R_X(m) \\ S_{XY}(z)=S_X(z)H(z) \\ S_{YX}(z)=S_X(z)H(z^{-1}) \\ S_{Y}(z)=S_X(z)H(z)H(z^{-1})\)

\[R_Y(m)=\frac{1}{2\pi}\oint_lS_Y(z)z^{m-1}dz \\ S_{XY}(\omega)=H(e^{j\omega})S_X(\omega) \\ S_{YX}(\omega)=H(e^{-j\omega})S_X(\omega) \\ S_{XY}(\omega)=H(e^{j\omega})H(e^{-j\omega})S_X(\omega)=|H(e^{-j\omega})|^2S_X(\omega) \\ R_Y(m)=\frac{1}{2\pi}\int_{-\infty}^{\infty}|H(e^{j\omega})|^2S_X(\omega)d\omega\]
  • 平均功率 \(E[Y^2(n)]=\frac{1}{2\pi j}\oint_lH(z)H(z^{-1})z^{-1}dz \\ =\frac{1}{2\pi}\int_{-\pi}^{\pi}|H(e^{j\omega})|^2S_X(\omega)d\omega\)

  • 序列信号模型
  • 自回归-滑动平均模型,滑动平均模型,自回归模型

注:了解即可

4.3 白噪声通过线性系统的分析与等效噪声带宽

  • 输入$ S_X(\omega) $,输出$ S_Y(\omega) $ \(S_X(\omega)=N_0/2 \\ S_X(\omega)=H^*(\omega)H(\omega)S_X(\omega)=|H(\omega)|^2\frac{N_0}{2}\)

  • 平均功率 \(\begin{align*} Q&=E[Y^2(t)]\\ &=\frac{1}{2\pi}\int_{-\infty}^{\infty}|H(\omega)|^2\frac{N_0}{2}d\omega\\ &=\frac{N_0}{2\pi}\int_{0}^{\infty}|H(\omega)|^2d\omega\\ &=\frac{N_0}{2}\int_{0}^{\infty}h^2(t)dt \end{align*}\)

  • 等效噪声带宽

    为了计算上述平均功率Q而引出。

    • 等效原则:理想系统与实际线性系统在同一白噪声源激励下,输出功率相等;理想系统的增益等于实际系统的最大增益。 \(\begin{align*} Q&=E[Y^2(t)]\\ &=\frac{N_0}{2\pi}\int_{\omega_0-\Delta\omega_e/2}^{\omega_0+\Delta\omega_e/2}|H(\omega)|^2d\omega\\ &=\frac{N_0}{2\pi}|H(\omega)|_{max}^2\Delta\omega_e \end{align*}\)
  • 计算公式 \(\Delta\omega_e=\frac{1}{|H(\omega)|_{max}^2}\int_0^{\infty}|H(\omega)|^2d\omega \\ Q=\frac{N_0}{2\pi}|H(\omega)|_{max}^2\Delta\omega_e\)

  • 注意区分低通/带通系统

  • $ \Delta\omega_e $与$ \Delta\omega_{3dB} $的关系

    • $ \Delta\omega_e $仅与$ H(\omega) $的参数有关
    • $ \Delta\omega_e $与$ \Delta\omega_{3dB} $成线性关系
    • $ \tau_0 $与$ \Delta\omega_e $成反比
  • 平稳RP X(t)功率谱密度的等效噪声带宽

    将X(t)看作带限白噪声,可引申出此定义。 \(\Delta\omega_e=\frac{1}{\frac{N_0}{2}|H(\omega)|_{max}^2}\int_0^{\infty}|H(\omega)|^2\frac{N_0}{2}d\omega=\frac{1}{[S_X(\omega)]_{max}}\int_0^{\infty}S_X(\omega)d\omega \\ Q=\frac{1}{\pi}[S_X(\omega)]_{max}\Delta\omega_e\)

4.4 线性系统输出的概率密度

  • 若输入X(t)为高斯过程,则输出也为高斯过程,因此只需找出均值、自相关函数即可确定输出的概率密度函数。

  • 若输入平稳随机过程X(t)非高斯分布,只要输入过程的等效噪声带宽远大于系统的通频带时,则系统输出端便能得到接近于高斯分布的随机过程。

    注:分析较为繁琐,懂思路即可,见书P180。

第五章 窄带随机过程

5.0 几个基本概念

  • 确定带通信号 \(\omega_0\gg\Delta\omega \\ s(t)=a(t)cos\omega_0t \\ S(\omega)=\frac{1}{2}[A(\omega-\omega_0)+A(\omega+\omega_0)]\)

  • 线性窄带系统

    宽带信号通过窄带系统后成为窄带信号。

  • 带通随机过程:X(t) SSS,$ S_X(\omega) $是带通的
  • 窄带随机过程:$ \omega_0\gg\Delta\omega $

5.1 解析信号、希尔伯特变换及解析过程

  • 解析信号 \(\widetilde{S}(\omega)=\begin{cases} 2S(\omega),& \omega\geq0\\ 0,& \omega<0 \end{cases} =2S(\omega)U(\omega)\)

    \[\widetilde{s}(t)=2\{s(t)*\frac{1}{2}[\delta(t)+j\frac{1}{\pi t}]\}=s(t)+j\widehat s(t)\]

    因此 \(s(t)=Re[\widetilde{s}(t)]\)

  • 希尔伯特变换

    此系统的表达式为: \(h(t)=\frac{1}{\pi t} \\ H(\omega)=-jsgn(\omega)\) 将传递函数重写可发现,相当于一个正交滤波器: \(H(\omega)=|H(\omega)|e^{j\varphi_H(\omega)} \\ |H(\omega)|=1 \\ \varphi_H(\omega)=\begin{cases} -\pi/2,& \omega\geq0\\ \pi/2,& \omega<0 \end{cases}\)

    输出为: \(\widehat s(t)=H[s(t)]=s(t)*j\frac{1}{\pi t}=\frac{1}{\pi}\int_{-\infty}^{\infty}\frac{s(\tau)}{t-\tau}d\tau\)

  • 希尔伯特反变换 \(h(t)=-\frac{1}{\pi t} \\ H(\omega)=-sgn(\omega)\)

  • 解析过程

    \(\widetilde{X}(t)=X(t)+j\widehat X(t) \\ X(t)=Re[\widetilde{X}(t)]\) 其中$ \widehat X(t)=\frac{1}{\pi}\int_{-\infty}^{\infty}\frac{X(\tau)}{t-\tau}d\tau $

  • 解析过程的性质

    1. 若X(t) WSS,则$ \widehat X(t) $ WSS,且二者联合WSS。

    2. $ S_{\widehat X}(\omega)=\mid H(\omega)\mid^2 S_X(\omega)=S_X(\omega) $

    3. $ R_{\widehat X}(\tau)=R_X(\tau) $

    4. $ S_{X\widehat X}(\omega)=H(\omega)S_X(\omega)=-jsgn(\omega)S_X(\omega) $

      $ S_{\widehat XX}(\omega)=H^*(\omega)S_X(\omega)=jsgn(\omega)S_X(\omega) $

    5. $ R_{X\widehat X}(\tau)=\widehat R_X(\tau) $

      $ R_{\widehat XX}(\tau)=-\widehat R_X(\tau) $

    6. $ R_{X\widehat X}(\tau)=-R_{X\widehat X}(-\tau) $ 奇函数

      $ \Rightarrow R_{X\widehat X}(0)=0 $

      $ \Rightarrow E[X(t)\widehat X(t)]=0 $ 在同一时刻,$ X(t) $和$ \widehat X(t) $是相互正交的随机变量,但不是相互正交的随机过程!

    7. $ R_{\widetilde X}(\tau)=E[\widetilde{X}^*(t)\widetilde{X}(t+\tau)]=2[R_X(\tau)+jR_{X\widetilde X}(\tau)] $
    8. $ S_{\widetilde X}(\omega)=\begin{cases} 4S_X(\omega),& \omega\geq0
      0,& \omega<0 \end{cases} $

5.2 窄带随机过程的表达式

设X(t)是零均值、$ \sigma_X^2 $方差的实宽平稳窄带随机过程。

  • Rice表达式 \(X(t)=a(t)cos\omega_0t-b(t)sin\omega_0t \\ a(t)=X(t)cos\omega_0t+\widehat X(t)sin\omega_0t \\ b(t)=X(t)cos\omega_0t-\widehat X(t)sin\omega_0t \\\) a(t)、b(t)相对于cos、sin是慢变化的;若X(t)不是窄带RP,只是限带RP,则不是慢变化的。

  • 准正弦振荡表达式 \(X(t)=Re[\widetilde X(t)]=A(t)cos[\omega_0t+\Phi(t)]\\ A(t)=\sqrt{a^2(t)+b^2(t)} \\ \Phi(t)=tan^{-1}\frac{b(t)}{a(t)}\) 因此可得两个表达式间的关系: \(a(t)=A(t)cos\Phi(t) \\ b(t)=A(t)sin\Phi(t)\)

  • a(t)、b(t)的统计特性

    注:特别特别重要!

    1. a(t)、b(t)都是实随机过程、各自宽平稳且联合宽平稳。
    1. $ E[a(t)]=E[b(t)]=0 $

    2. $ R_a(\tau)=R_b(\tau)=R_X(\tau)cos\omega_0\tau+R_{X\widehat X}(\tau)sin\omega_0\tau $

    3. $ E[a^2(t)]=E[b^2(t)]=E[X^2(t)]=\sigma_X^2 $

    4. $ R_{ab}(\tau)=-R_X(\tau)sin\omega_0\tau+\widehat R_{X}(\tau)cos\omega_0\tau $

      $ R_{ab}(\tau)=-R_{ab}(-\tau) $ 奇函数

    5. $ R_{ab}(0)=E[a(t)b(t)]=0 $

      a(t)、b(t)在同一时刻正交(正交随机变量)。

      若$ S_X(\omega) $在正/负频域上的波形关于$ \omega=\omega_0 $或$ \omega=-\omega_0 $偶对称,则$ R_{ab}(\tau)=0 $,此时为a(t)、b(t)正交随机过程。

    6. $ R_X(\tau)=R_z(\tau)cos\omega_0\tau+R_{ba}(\tau)sin\omega_0\tau $

    7. $ S_a(\omega)=S_b(\omega)=Lp[S_X(\omega-\omega_0)+S_X(\omega+\omega_0)] $ 取低频部分

    8. $ S_{ab}(\omega)=-jLp[S_X(\omega+\omega_0)-S_X(\omega-\omega_0)] $

    9. 若X(t)为零均值、$ \sigma_X^2 $方差的实宽平稳窄带高斯随机过程,

      则a(t)、b(t)是零均值的宽平稳高斯RP,且二者联合分布;

      a(t)、b(t)在同一时刻是正交、不相关、独立的高斯随机变量。

5.3 窄带高斯RP的包络、相位的概率分布

  • 包络$ A(t) $和相位$ \varphi(t) $

    见书上P204 图5.15

    • $ E[A(t)]=\sqrt{\frac{\pi}{2}}\sigma_X $
    • $ E[A(t)]=2\sigma_X^2 $
    • $ \sigma_A^2=(2-\frac{\pi}{2})\sigma_X^2 $
  • 随机变量$ A_t, \varphi_t $

    • 由$ A(t),\varphi(t) $采样得到

    • 需要掌握二者的概率密度函数、联合概率密度函数,并且会推导
    • $ A_t $服从瑞利分布
    • $ \varphi_t $服从均与分布
    • $ A_t, \varphi_t $相互独立
  • $ a_t,b_t $的性质

    1. $ a(t),b(t) $是高斯RP,$ a_t,b_t $是高斯RV
    2. $ E[a_t]=E[b_t]=0 $
    3. $ E[a_t^2]=E[b_t^2]=E[X_t^2]=\sigma_X^2 $
    4. $ a_t,b_t $互相独立
    5. 联合概率密度

5.4 正弦型信号加窄带高斯随机过程之包络和相位的概率分布

注:本节公式过于繁琐,因此只写出重点内容,具体请自己看书理解。

  • $ X(t)=s(t)+N(t) $

  • Rice表达式,准正弦振荡表达式

  • 求解$ A_t, \varphi_t,a_t’,b_t’ $

    注:写得简单,不代表不重要。

  • $ A_t $服从Rice分布;在$ \rho $很小时趋于瑞利分布,在$ \rho $很大时趋于高斯分布。

  • 若窄带高斯噪声通过平方律包络检波器,$ u_t=A_t^2 $是指数密度函数,独立取样后再累加则服从$ \chi^2 $分布。

  • 若$ X(t)=s(t)+N(t) $通过平方律包络检波器,独立取样后再累加则服从非中心$ \chi^2 $分布。

第六章 随机信号通过非线性系统的分析

注:注意与第四章进行对比。

6.0 问题

  • 设随机过程X(t)通过非线性系统,输出为Y(t)

  • 无记忆的非线性系统:对于一个非线性系统,若其在t时刻的输出仅与t时刻的输入有关,而与t时刻之前或之后无关。

    x(t)通过传输特性为g(x)的系统,则输出为 \(y(t)=g[x(t)]\)

  • 例子(y=g(x))

    • 二极管伏安特性
    • 半波线性器件
    • 平方器件
    • 限幅器
    • 电压比较器

6.1 无记忆非线性系统的输出概率密度

  1. 已知x(t)的概率密度函数$ f_X(x,t) $,求$ f_Y(y,t) $
\[f_Y(y,t)=\begin{cases} |\frac{dx}{dy}|f_X(x,t),& \text{y=g(x)单调}\\ |\sum_i\frac{dx_i}{dy}|f_X(x_i,t),& \text{y=g(x)非单调} \end{cases}\]
  1. 求$ f_Y(y_1,y_2;t_1,t_2) $

    在y=g(x)单调时, \(J=\frac{\partial{(x_1,x_2)}}{\partial{(y_1,y_2)}}=\frac{1}{|g'(x_1)g'(x_2)|}\)

    \[f_Y(y_1,y_2;t_1,t_2)=\frac{f_X(x_1,x_2;t_1,t_2)}{|g'(x_1)g'(x_2)|}\]
  2. 输出N维概率密度

\[f_Y(y_1,...,y_n;t_1,...,t_n)=\frac{f_X(x_1,...,x_n;t_1,...,t_n)}{|g'(x_1)...g'(x_n)|}\]
  • 无记忆线性系统的输入为高斯RP时,输出为非高斯RP。

  • 若输入X(t)严平稳,则输出Y(t)严平稳;若输入X(t)宽平稳,则输出Y(t)不一定宽平稳(但若输入是高斯RP则输出宽平稳)。

  • 求$ m_Y(t), R_Y(t_1,t_2) $

    1. 直接法 \(m_Y(t)=E[Y(t)]=\int_{-\infty}^{\infty}g(x)f_X(x,t)dx \\ R_Y(t_1,t_2)=\iint_{-\infty}^{\infty}g(x_1)g(x_2)f_X(x_1,x_2;t_1,t_2)dx_1dx_2\)

    2. 特征函数法(变换法) \(F(\omega)=\int_{-\infty}^{\infty}g(x)e^{-j\omega x}dx \text{(转移函数)} \\ g(x)=\frac{1}{2\pi}\int_{-\infty}^{\infty}F(\omega)e^{j\omega x}d\omega \text{(二者互为傅里叶变换)}\)

      \[\begin{align*} m_Y(t)&=E[Y(t)]\\ &=E[\frac{1}{2\pi}\int_{-\infty}^{\infty}F(\omega)e^{j\omega X(t)}d\omega]\\ &=\frac{1}{2\pi}\int_{-\infty}^{\infty}F(\omega)E[e^{j\omega X(t)}]d\omega\\ &=\frac{1}{2\pi}\int_{-\infty}^{\infty}F(\omega)C_X(\omega,t)d\omega\\ &=\frac{1}{2\pi}\int_{-\infty}^{\infty}F(u)C_X(u,t)du \end{align*}\] \[\begin{align*} R_Y(t_1,t_2)&=E[Y(t_1)Y(t_2)]\\ &=\frac{1}{4\pi ^2}\iint_{-\infty}^{\infty}F(u)F(v)R_YC_X(u,v;t_1,t_2)dudv \end{align*}\]
    3. Price定理

      设$ X(t_1) $和$ X(t_2) $是具有零均值、单位方差的平稳正态随机过程的两个状态,则 \(\frac{\partial^k{R_Y(\tau)}}{\partial{r^k(\tau)}}=\iint_{-\infty}^{\infty}\frac{g^{(k)}(x_1)g^{(k)}(x_2)exp\{-\frac{1}{2(1-r^2(\tau))}[x_1^2+x_2^2-2r(\tau)x_1x_2]\}}{2\pi \sqrt{1-r^2(\tau)}}dx_1dx_2\) 证明过程略,但是证明过程也很重要!

    4. 级数法(多项式矩函数法)

      设y=g(x)在原点处存在各阶导数,则 \(y=g(x)=\sum_{n=0}^{\infty}b_nx^n, b_n=\frac{1}{n!}g^{(n)}{\Big|}_{x=0}\) 因此有 \(Y(t)=g[X(t)]=\sum_{n=0}^{\infty}b_nX^n(t) \\ m_Y(t)=E[Y(t)]=\sum_{n=0}^{\infty}b_nE[X^n(t)] \\ R_Y(t_1,t_2)=E[Y(t_1)Y(t_2)]=\sum_{n=0}^{\infty}\sum_{k=0}^{\infty}b_nb_kE[X^n(t_1)X^k(t_1)]\) 其中 \(E[X^n(t)]=\int_{-\infty}^{\infty}x^nf_X(x,t)dx \\ E[X^n(t_1)X^k(t_1)]=\iint_{-\infty}^{\infty}x_1^nx_2^kf_X(x_1,x_2;t_1,t_2)dx_1dx_2\) 一般可使用$ y=g(x)=b_0+b_1x^1+b_2x^2 $近似计算

    5. 包线法

      针对输入为窄带高斯RP的情况

      注:分析部分略去,自己看书吧~

      研究低频分量 \(I_0=g_0(A_t) \\ E[I_0]=E[g_0(A_t)]=\int_{-\infty}^{\infty}g_0(A_t)f_A(A_t)dA_t=\int_{0}^{\infty}g_0(A_t)\frac{A_t}{\sigma_X^2}exp[-\frac{A_t}{2\sigma_X^2}]dA_t \\ E[I_0^2]=\iint_{-\infty}^{\infty}g_0^2(A_t)\frac{A_t}{\sigma_X^2}exp[-\frac{A_t}{2\sigma_X^2}]dA_t \\ R_{I_0}(t,t+\tau)=\iint_{-\infty}^{\infty}g_0(A_t)g_0(A_{t+\tau})f_A(A_t,A_{t+\tau})dA_tdA_{t+\tau}\)

6.2 随机信号通过有记忆非线性系统的分析实例——包络检波器

  • 输入为X(t),包络为A(t)

  • 大信号:输出为$ Y(t)=k_dA(t) $ \(E[Y(t)]=k_dE[A(t)]=k_d\sqrt{\frac{\pi}{2}}\sigma_X \\ E[Y(t)]=k_d^2E[A^2(t)]\)

  • 小信号:输出为$ Y(t)=k_dA^2(t) $ \(E[Y(t)]=k_dE[A^2(t)]=k_d2\sigma_X^2 \\ E[Y(t)]=k_d^2E[A^4(t)]=k_d^28\sigma_X^2\)

6.3 非线性系统的输出信噪比

  • 线性系统

    对于输入$ X(t)=s(t)+n(t) $,输出为入$ Y(t)=s_0(t)+n_0(t) $ \(E[Y^2(t)]=E[s_0^2(t)]+2E[s_0(t)n_0(t)]+E[n_0^2(t)]\) 在信号与噪声独立时,$ E[s_0(t)][n_0(t)]=0 $

  • 非线性系统,如$ y=g(x)=x^2 $ \(Y(t)=X^2(t)=[S(t)+N(t)]^2\) 设S(t)是零均值WSS,N(t)是0均值,二者互相独立。 \(\begin{align*} R_Y(t,t+\tau)&=E[Y(t)Y(t+\tau)] \\ &=E\{[S(t)+N(t)]^2[S(t+\tau)+N(t+\tau)]^2\}\\ &=E[S^2(t)S^2(t+\tau)]+E[N^2(t)N^2(t+\tau)]+\\ &E[N^2(t)S^2(t+\tau)]+4E[S(t)N(t)S(t+\tau)N(t+\tau)]+E[S^2(t)N^2(t+\tau)]\\ &=R_{S^2}(\tau)+R_{S\times N}(\tau)+R_{N^2}(\tau) \end{align*}\)

    \[\begin{align*} E[Y^2(t)]&=R_{S^2}(0)+R_{S\times N}(0)+R_{N^2}(0)\\ &=[Q_{S^2}]_0+[Q_{S\times N}]_0+[Q_{N^2}]_0 \end{align*}\]

    对于通信系统, \((SNR)_0=\frac{[Q_{S^2}]_0}{[Q_{S\times N}]_0+[Q_{N^2}]_0}\) 对于雷达系统, \((SNR)_0=\frac{[Q_{S^2}]_0+[Q_{S\times N}]_0}{[Q_{N^2}]_0}\)

  • 四种常用器件的输出统计特性

    图源:《随机信号分析解题指南》(李永庆等编著)

第七章 马尔可夫过程

7.1 定义

  • 简单来说,具有无后效性的随机过程称为马尔可夫过程

    注:具体定义请查看课本。

  • 分类

      状态:连续 状态:离散
    时间取值:连续 马尔可夫随机过程 可列马尔可夫随机过程
    时间取值:离散 马尔可夫随机序列 马尔可夫链

7.3 马尔可夫序列

  • $ X(t_1),…,X(t_n) $简写为$ X_1,…,X_n $

  • 定义

    对于任意的整数n($ n\geq 3 $),若 \(P[X_n\leq x_n|X_{n-1}=x_{n-1},X_{n-2}=x_{n-2},...,X_{1}=x_{1}]=P[X_n\leq x_n|X_{n-1}=x_{n-1}]\) 则称为马尔可夫序列(一重)

  • 转移分布 \(F_X(x_n|x_{n-1},...x_1)=F_X(x_n|x_{n-1})\\ f_X(x_n|x_{n-1},...x_1)=f_X(x_n|x_{n-1})\)

  • 性质

    1. $ f_X(x_1,…,x_n)=f_X(x_n\mid x_{n-1})f_X(x_{n-1}\mid x_{n-2})…f_X(x_1) $

    2. 马尔可夫序列的子序列是马尔可夫序列。

    3. 马尔可夫序列的逆序列是马尔可夫序列。

    4. 条件均值$ E[X_n\mid X_{n-1},…,X_1]=E[X_n\mid X_{n-1}] $

    5. 若$ n>r>s $,则在假定$ X_r $下,随机变量$ X_n $和$ X_s $是独立的,即 \(f_X(x_n,x_s|x_r)=f_X(x_n|x_r)f_X(x_s|x_r)\)

    6. 切普曼方程 \(f_X(x_n|x_s)=\int_{-\infty}^{\infty}f_X(x_n|x_r)f_X(x_r|x_s),n>r>s\)

7.3 马尔可夫链

  • 定义:文字略 \(P[X_{m+k}=a_{i_{m+k}}|X_{m}=a_{i_{m}},X_{m+k}=a_{i_{m}-1},...,X_{1}=a_{i_{1}}]=P[X_{m+k}=a_{i_{m+k}}+X_{m}=a_{i_{m}}]\)

  • 转移概率 \(p_{ij}(m,m+k)=P[X_{m+k}=a_j|X_m=a_i], i,j=1,...,N\) 如果$ p_{ij}(m,m+k) $与m无关,称为齐次马尔可夫链。

  • 一次转移概率及转移概率矩阵

    当k=1时,$ p_{ij}(m,m+k) $记作$ p_{ij} $(一次转移概率)

    转移概率矩阵略。

  • n步转移概率及转移概率矩阵

    当k=n时,$ p_{ij}(m,m+k) $记作$ p_{ij} (n)$(一次转移概率)

    转移概率矩阵略。

  • 规定$ p_{ij}(0)=p_{ij}(m,m)=\begin{cases}1&,i=j \0&,i\neq j \end{cases}$

  • 对于n步转移概率,有切普曼方程的离散形式 \(p_{ij}(n)=p_{ij}(l+k)=\sum_{r=1}^Np_{ir}(l)p_{rj}(k)\)

    注:含义略,自行翻阅课本理解。

后记

  • 终于打完了,打公式累死了!!!
  • 祝大家学习进步,身体健康!告辞!