过程的概念

随机过程

随机过程 引言 第十章 随机过程及统计描述 随机变量是一个与时间无关的量，随机变量的某个 结果，是一个确定的数值。例如，骰子的6 面，点数总是 1～6，假设A面点数为1，那么无论你何时投掷成A 面， 它的点数都是1，不会出现其它的结果，即结果具有同一 性。 但生活中，许多参量是随时间变化的，如测量接收 机的电压，它是一个随时间变化的曲线；又如频率源的 输出频率，它随温度变化，所以有个频率稳定度范围的 概念（即偏离标称频率的最大范围）。这些随时间变化 的随机变量就称为随机过程。 显然，随机过程是由随机变量构成，又与时间相关。 一、随机过程的定义 1.定义1 设E是一随机实验,样本空间为Ω={ω}，参数 定义2：设E是一随机实验，样本空间为Ω={ω}，参数 T?(-∞,+∞),如果对任意t ∈T ，有一定义在Ω上的随机变 量X(ω,t)与之对应,则称{X(ω,t),t ∈T}为随机过程，简记 为{X(t),t ∈T }或{X(t)},也可记为X(t). T?(-∞,+∞),如果对每个ω∈Ω ,总有一个确定的时间函数 X(ω,t)与之对应,这样对于所有的ω∈Ω ,就得到一族时间t的 函数,我们称此族时间t的函数为随机过程,而族中每一个函数 称为这个随机过程的样本函数。 定义2把随机过程看成依赖于t的一族随机变量 注释：(1) 随机过程{X(t),t ∈T}是定义在Ω×T上 的二元函数，因此可以从两个角度去理解, 因而有如上 的两个定义。 定义1 把随机过程看成一族样本函数 对于每一个固定的时刻 t 0 ∈ T ， X (t0 ) 是一个随机变量， 定义的理解 ： 上面两种随机过程的定义，从两个角度描 述了随机过程。具体的说，作观测时，常用定 义1，这样通过观测的试验样本来得到随机过 程的统计特性； 对随机过程作理论分析时，常用定义2，这 样可以把随机过程看成为n 维随机变量，n越 大，采样时间越小，所得到的统计特性越准 确。 并称作随机过程 X (t ) 在 t = t 0 时的一个状态， 它 反 映 了 X (t ) 的 “ 随 机 ” 性 ； 对于每一个 ω 0 ∈ Ω ， X (t ) 是一个确定的样本函数， 它反映了 X (t) 的变化“过程” 。 1 可从以下四个方面对定义进行理解： 1 一个时间函数族（ t 和 ω 都是变量） 2 一个确知的时间函数（ t 是变量而 ω 固定） 3 一个随机变量（ t 固定而 ω 是变量） 4 一个确定值（ t 和 ω 都固定） (2)通常将随机过程{X(t),t ∈T }解释为一个物理系统， X(t)表示系统在时刻t所处的状态,X(t)的所有可能状 态所构成的集合称为状态空间，记为I，对于给定的 t0 ∈T，及x ∈I,X(t0)=x 说成是在时刻t0，系统处于状态 x. (3)从定义2的角度上看，随机过程是有限维随机变量的 推广. 2.随机过程的例 例1: 考虑

随机过程

抛掷一颗骰子的试验， (i)设Xn是第n次（n≥1）抛掷的点数，对于n=1,2……的 不同值,Xn是不同的随机变量，因而{Xn, n ≥1}构成一随 机过程，称为贝努利过程或贝努利随机序列； (ii)设Xn是前n次抛掷中出现的最大点数，{Xn,n≥1}也是 一随机过程。 随机过程{Xn,t∈T}中参数t通常解释为时间集， 便于理解，符合实际。但参数t还可以表示为其它的 量，例如序号，距离等等. 例2: 某寻呼台在时间段[0,t]内接到的呼唤次数是与t有 关的随机变量X(t )，对于固定的t, X(t )是一个取非 负整数的随机变量，故{X(t ),t≥0}是随机过程。 例3:(热噪声电压)电子元件或器件由于内部微观粒子 （如电子）的随机热骚动所引起的端电压称为热噪声电 压，在无线电通讯技术中，接收机在接收信号时，机内 的热噪声电压要对信号产生持续的干扰，为要消除这种 干扰（假设没有其他干扰因素），就必须考虑热噪声电 压随时间变化的过程，现以电阻的热噪声电压为例说明 这种变化过程的描述方法: 我们通过某种装置对电阻两端的热噪声电压进行长 时间的测量，并把结果记录下来，作为一次试验结果， 便得到一个电压-时间函数（即电压关于时间t的函数） x1(t),如图. 当对接收机的噪声电压作“单次”观察时，可 以得到波形 x1 ( t ) ，也可能得到波形 x 2 ( t )，x 3 ( t ) 等 等，每次观测的波形的具体形状，虽然事先不知 道，但肯定为所有可能的波形中的一个。而这些 x 3 ( t ) ，…， 所有可能的波形集合 x1 ( t ) ，x 2 ( t ) ， xn ( t ) ，…..，就构成了随机过程 X ( t ) 。 2 二、随机过程的分类 1．按状态空间I和时间是可列集还是连续集分 类： (1). 连续型随机过程:T是连续集,且?t∈T,X(t)是连续型 随机变量,则称过程{X(t),t∈T}为连续型随机过程. (2).离散型随机过程:T是连续集，且?t∈T,X(t)是离散型 随机变量，则称过程{X(t),t∈T}为离散型随机过程。 (3).连续型随机序列: T是可列集,且?t∈T,X(t)是连续型 随机变量，则称过程{X(t),t∈T}为连续型随机序列. (4).离散型随机序列:T是可列集, 且?t∈T, X(t)为离 散型随机变量, 则称过程{X(t),t∈T}为离散型随机 序列。通常T取为T ={0,1,2…}或T ={0, ± 1， ±2…},此时随机序列常记成{Xn,n=0,1,…}或 {Xn,n≥0}。 2．按分布特性分类： 依照过程在不同时刻状态的统计依赖关系分类。 例如：独立增量过程，马尔可夫过程，平稳过程等。 三、随机过程的概率分布 1．n维分布函数： 设{X(t),t∈T}是随机过程，对于任意整数n≥1及T 中任意n个不同的参数t1,t2，…，tn，称随机向量 （X(t1),X(t2),…,X(tn)）的分布函数 变化n及t1,t2，…，tn所得到的有限维分布函数的 全体 ? F { x 1

随机过程

, x 2 , " , x n ; t 1 , t 2 , " , t n }, ? F =? ? ∈ ∈ ≥ 1 t , t , " , t T , t T , n 1 2 n ? ? 称为{X(t),t∈T}的有限维分布函数族。 当n=1时,得到一维分布函数 F(x;t)=P{X(t)≤x},一维分布函数的全体 {F(x;t), t∈T}称为一维分布函数族. F { x1 , x 2 , ", x n ; t 1 , t 2 , ", t n } = P{ X ( t 1 ) ≤ x 1 , X ( t 2 ) ≤ x 2 , " , X ( t n ) ≤ x n } 为随机过程{X(t),t∈T}的n维分布函数. 2．随机过程的数字特征 ① 函数 μ X (t ) = E[ X (t )], t ∈ T 为{X(t),t∈T}的均值函数. ⑤ Rx(s,t)=E[X(s)X(t)]为{X(t),t∈T}的自相关函数， 简称相关函数 3.诸数字特征的关系： 2 ψX (t ) = R X (t , t ), ② 2 ψX (t) = E[ X 2 (t )] 为{X(t),t∈T}的均方值函数. 2 ③ σX (t ) = D X (t ) = D[ X (t )] C X ( s, t ) = R X ( s, t ) ? μ X ( s ) ? μ X ( t ) 为{X(t),t∈T}的方差函数. ④ C X ( s, t ) = Cov ( X ( s), X (t )) 2 2 2 σX (t ) = C X (t , t ) = ψ X (t ) ? μ X (t ) = E {[ X ( s) ? μ X ( s)][ X (t ) ? μ X (t )]} 为{X(t),t∈T}的协方差函数. 3 1 数学期望 μ X (t ) = E[ X (t )] = ∫ xfX ( x; t )dx ?∞ ∞ 2 均方值和方差 随机过程 X ( t ) 在任一时刻t的取值是一个 随机变量 X ( t )。我们把X ( t )二阶原点矩称为随 机过程的均方值，把二阶中心矩记作随机过 程的方差。即： 2 ΨX (t ) = E[ X 2 (t )] = ∫ x 2 f X ( x; t )dx ?∞ 2 σX (t ) = D[ X (t )] = E[ X 2 (t )] = E[( X (t ) ? μ X (t )) 2 ] D μ X (t ) 是某一个平均函数，随机过程 显然， 的诸样本在它的附近起伏变化，如图所示： 物理意义：如果随 机过程表示接收机 的输出电压，那么 它的数学期望就是 输出电压的瞬时统 计平均值。 ∞ 且 2 σX (t ) = E[ X 2 (t )] ? μ X (t ) 2 3 自相关函数 先比较具有相同数学期望和方差的两个 随机过程。 物理意义：如果 X ( t ) 表示噪声电压，则 2 均方值 E[ X ( t )]和方差 D[ X ( t )]分别表示消耗在单 位电阻上的瞬时功率统计平均值和瞬时交流 功率统计平均值。 标准差或均方差： D[ X ( t )]＝σ X ( t ) 4 自协方差函数 自相关函数用来描述随机过程任意两个时刻的 状态之间的内在联系，通常用 RX ( t1 , t 2 )描述。 若用随机过程的两个不同时刻之间的二阶 混合中心矩来定义相关函数，我们称之为自协 方差。用 C (t , t ) 表示，它反映了任意两个时 刻的起伏值之间相关程度。 X 1 2 R X (t1 , t 2 ) = E[ X (t1 ) X (t 2 )] =∫ ∞ ?∞ ?∞ ∫ ∞ x1 x2 fX ( x1 , x2 ; t1 , t2 )dx1dx2 C X (t1 , t2 ) = E[ X (t1 ) X (t2 )] D D = E[( X (t1 ) ? μ X (t1 ))( X (t2 ) ? μ X (t2 ))] = 当t1=t2 时，自相关函数就是均方值。 ∫ ∫ ?∞ ∞ ∞ ?∞ [ x 1 ? μ X ( t1 )][ x 2 ? μ X ( t 2 )] f ( x 1 , x 2 ; t 1 , t 2 ) d x 1 d x 2 4 比较自协方差和自相关函数的关系 Cx (t1 , t2 ) = E[( X (t1 ) ?

随机过程

μ X (t1 ))( X (t2 ) ? μ X (t2 ))] = E[ X (t1 ) X (t2 )] ? μ X (t1 ) E[ X (t2 )] ? μ X (t2 ) E[ X (t1 )] + μ X (t1 ) μ X (t2 ) = RX (t1 , t2 ) ? μ X (t1 ) μ X (t2 ) 例: 设随机过程 X(t)=Ycosωt+Zsinωt,t≥0,其中 Y,Z是相互独立的随机变量，且E(Y)=E(Z)=0, D(Y)=D(Z)=σ 2，求{X(t),t≥0}均值函数 μx(t)和自 相关函数Rx(s,t)。 比较自协方差和方差的关系 令 t1 = t 2 = t 则 2 = D[ X (t )] = σ X (t ) C X (t1 , t2 ) = K X (t , t ) = E[( X (t ) ? μ X (t )) 2 ] 解: μx(t)=E[X(t)]=E[Ycosωt+Zsinωt] =cosωt?E(Y)+sinωt ?E(Z)=0, 因为Y与Z相互独立,于是 二阶矩过程：若随机过程X(t)各时刻的均值和 方差存在（总功率存在）则称为二阶矩过程。 R X ( s, t ) = E[ X ( s) X (t )] = E {[Y cos ω s + Z sin ω s][Y cos ω t + Z sin ω t ]} 解: Θ的概率密度为 = cos ω s ? cos ω t ? E (Y 2 ) + sin ω s ? sin ω t ? E ( Z 2 ) = σ 2 cos ω ( t ? s ) ? 1 ? f (θ ) = ? 2π ? ?0 = θ ∈ (0,2π ) θ ? (0,2π ) 1 dθ = 0 2π 于是 μ X (t ) = E[ X ( t )] = E[a cos(ω t + Θ )] 例2: 考虑随机过程 X(t)=acos(ωt+Θ),t∈(-∞,+∞) 其中a和ω是常数，Θ是在（0，2π）上服从均匀分布的 随机变量，通常称此随机过程为随机相位正弦波，求随机 相位正弦波的均值函数，方差函数和自相关函数. = a2 ∫ = 2π 0 ∫ 2π 0 a cos(ω t + θ ) ? R X ( s , t ) = E[ X ( s ) X ( t )] = E [a 2 cos(ω s + Θ ) cos(ω t + Θ )] cos(ω s + θ ) ? cos(ω t + θ ) ? 1 dθ 2π { } a2 cos ω (t ? s ) 2 2 2 σX (t ) = R X (t , t ) ? μ X (t ) = a2 . 2 所以一维概率密度为 f ( x, t ) = 1 2π (1 + t 2 ) e ? x2 2 ( 1+ t 2 ) 例3: 设随机过程X(t)=Y+Zt, t∈T=(-∞,+∞),其中 Y，Z是相互独立的服从N(0,1)的随机变量，求 又由正态分布的性质知，对于任意 s,t∈T， (X(s),X(t))服从二维正态分布而 E[X(s)]= E[X(t)]=0；D[X(s)]=1+s2 ,D[X(t)]=1+t2 {X(t),-∞<t<+∞}的一，二维概率密度。 解: ?t∈T，由正态分布的性质知X(t)服从正态分布: E[X(t)]=E(Y)+tE(Z)=0, D[X(t)]=D(Y)+t 2 =1+t 2 C X ( s , t ) = R X ( s, t ) = E[(Y + Zs )(Y + Zt )] = 1 + s t ρ X (s , t ) = (1 + s )(1 + t ) 2 2 1+ st 5 四、二维随机过程 所以二维概率密度为 f ( x1 , x 2 ; t 1 , t 2 ) = 1 2 2π (1 + t 12 ) + (1 + t 2 ) 1? ρ2 1．定义： X(t)、Y(t)为定义在同一样本空间Ω和同一参数集T 上的随机过程，对于任意t∈T，若(X(t),Y(t))是二维随机 变量，则称{(X(t),Y(t)),t∈T}为二维随机过程。 2 ?? ? ? 1 ? x2 x1 x 2 x2 ?? ? 1 exp? + 2 ? ? 2(1 ? t 2 ) ? 1 + t 2 ? 2 ρ 2 2 1 t2 + ? ( 1 t )( 1 t ) + + 1 1 ? 1 2 ? ? ? 2．有限维分布函数和独立性 (1) {(X(t),Y(t)),t∈T}为二维随机过程,对于任意的正整数n 和m，以及任意的t1,t2,…,tn；t′1, t′2,…,t′m∈T ，称 其中ρ=ρx(t1, t2). n+m元函数 F(x1,x2,…,xn；y1

随机过程

,y2,…,ym；t1,t2,…,tn；t′1,t′2,…,t′m) =P{X(t1)≤x1,…, X(tn) ≤xn；Y(t′1) ≤y1,…,Y(t′m) ≤ym} 为{(X(t),Y(t)),t∈T}的n+m维分布函数，类似的可定义 有限维分布函数族。 （2）若对于任意的正整数n和m，以及任意的t1,t2,…,tn； 称{X(t)}与{Y(t)}相互独立，其中FX，FY分别为 {X(t)}，{Y(t)}的有限维分布函数. 3．二维随机过程的数字特征 (1) 互相关函数: 称 RXY(s,t)=E[X(s)Y(t)] 为{(X(t),Y(t)),t∈T}的互相关函数. 若对于任意的s,t∈T, RXY(s,t)=0,称{X(t)}与 {Y(t)}正交. t′1, t′2,…,t′m∈T，任意的x1,x2,…,xn；y1,y2,…,ym ∈R, 有 F(x1,x2,…,xn；y1,y2,…,ym；t1,t2,…,tn；t′1,t′2,…,t′m) =FX{X(t1)≤x1,…, X(tn) ≤xn} FY{Y(t′1) ≤y1,…,Y(t′m) ≤ym} (2)互协方差函数： 称 C XY ( s , t ) = E {[ X ( s ) ? μ X ( s )][Y (t ) ? μY (t )]} 为{(X(t),Y(t)),t∈T}的互协方差函数. 显然 例1: 设X(t)为信号过程,Y(t)为噪声过程，令 W(t)=X(t)+Y(t)，则 (1) W(t)的均值函数为 μW(t)= μX(t)+ μY(t). (2) 其自相关函数为 RW(s,t)=E{[X(s)+Y(s)][X(t)+Y(t)]} =RX(s,t)+RXY(s,t)+RYX(s,t)+RY(s,t) 两个随机过程之和的自相关函数为各个随机过程的 相关函数与它们的互相关函数之和。若两个随机过程的 均值函数均恒为零，且互不相关时，有 RW(s,t)= Rx(s,t)+RY(s,t) C XY ( s, t ) = R XY ( s, t ) ? μ X ( t )μ Y ( t ) 若对于任意的s,t∈T,有CXY(s,t)=0, 称{X(t)}, {Y(t)}不相关. 若{X(t)},{Y(t)}相互独立，且二阶矩存在， 则{X(t)},{Y(t)}不相关. 6 工程应用实例——相关测速 1、已知距离测时间 电涡流传感器 随皮带一起运动的锡箔纸 （其表面的随机凹凸作为 电涡流传感器的信号源） 电机及变频 调速控制器 相关测速实验装置 工程应用实例——相关测速 1、已知距离测时间 工程应用实例——相关测速 工程应用实例——相关测速 当R(τ)取极值时,对应τ的取值τ0应等于t0,故 可以通过相关计算求得τ0,进而获得目标运行速 度v: 一般用有限时间的积分代替上式，有 R(τ ) = 1 T x(t ) y(t + τ )dt T ∫0 7 工程应用实例——相关测速 已知距离测时间的相关技术测量运动物 体速度的基本原理:对运动物体的相同部位 在相隔很短的时间间隔内进行两次信号采 集,并对两次采集的信号进行相关运算找出 两路采集信号的间隔时间,进而计算出运动 物体的速度. 工程应用实例——相关测速 2、已知时间测距离 工程应用实例——相关测速 已知时间测距离利用相关算法测速的原理:在 时刻t0时取得运动物体的灰度信号,把它存入内存, 称为x,在时刻t0+T再取一次运动物体的灰度信号, 存入内存,称为y,在y中取一个子区域y1,与x中相 同大小的子区域进行相关运算,当x中所有的区域 都与该区域进行相关运算后,如果某一次的相