随机过程知识点汇总.docx

《随机过程知识点汇总.docx》由会员分享，可在线阅读，更多相关《随机过程知识点汇总.docx（15页珍藏版）》请在第一文库网上搜索。

1、第章随机过程的基本概念与基本类型一.随机变量及其分布1 .随机变量X,分布函数/(X)=P(Xx)离散型随机变量X的概率分布用分布列Pk=P(X=Xk)分布函数/(%)=Z”连续型随机变量X的概率分布用概率密度f(x)分布函数F(x)=17)力2 .n维随机变量X=(X,Xz,，X.)其联合分布函数尸(X)=尸(和2,，怎)=P(X1X1,X2工2,，XHWX”，)离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望：离散型随机变量XEX=ZXm连续型随机变量XEX=xf(x)dx方差：DX=E(X-EX)2=EX2-(EX)2反映随机变量取值的离散程度协方差(两个随机变量X,y

2、)：Bx=E(X-EX)(Y-EY)=E(XY)-EX-EY独立=不相关Op=04 .特征函数g()=E(eX)离散gQ)=e呵Pk连续g(t)=ei,xf(x)dx重要性质：g(0)=1,g1,g()=丽，g0)二产EX人5 .常见随机变量的分布列或概率密度、期望、方差01分布P(X=I)=P,P(X=0)=qEX=pDX=pq二项分布P(X=k)=C：PkqiEX=npDX=npq泊松分布P(X=k)=e-EX=DX=A均匀分布略女!1疗正态分布NS,。)=2MEX=aDX=2y2指数分布f(x)=12e为元20EX=2DX,xO26. N维正态随机变量X=(X,Xz,X)的联合概率密度X

3、N(a,3)/(x,x2,x,f)=7e邛一g(x-Q)/B-x(x-a)1 2炉I。二(。,。2一,。)，X=(X”与，X”)，8=(%)“X正定协方差阵二.随机过程的基本概念2 .随机过程的一般定义设(C,P)是概率空间，7是给定的参数集，若对每个，T,都有一个随机变量X与之对应,则称随机变量族X(f,e),fw7是(C,P)上的随机过程。简记为XQ),fTo含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规律性。另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。当，固定时，X(f,e)是随机变量。当e固定时，Xae)时普通函数，称为随机过程

4、的一个样本函数或轨道。分类：根据参数集7和状态空间/是否可列，分四类。也可以根据X(f)之间的概率关系分类,如独立增量过程，马尔可夫过程，平稳过程等。3 .随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。随机过程XQ),f7的一维分布，二维分布，维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征的完整描述。在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。(1)均值函数m(f)=EX(f)表示随机过程XQ),fT在时刻，的平均值。(2)方差函数O)=EXQ)-n(f)2表示随机过程在时刻f对均值的偏离程度。B

5、X(Sj)=E(X(S)TnX(S)(Xm*)(3)协方差函数Bx(t,t)=Dx(Z)=EX(s)X(t)InX(S)InX(Z)(4)相关函数RX(Sj)=EX(s)X(f)(3)和(4)表示随机过程在时刻s,/时的线性相关程度。(5)互相关函数：X(f),T,y(f),fT是两个二阶距过程，则下式称为它们的互协方差函数。BX(SM=E(X-mx(S)XY(t)-m(t),那么RXy(Sj)二aX(S)丫(切，称为互相关函数。=EX(s)Y(t)-mx(s)rn(t)若EX(s)Y(f)=mG)my(f),则称两个随机过程不相关。4 .复随机过程Zz=x,+rf均值函数mz(t)=EXt+

6、jEY1方差函数DZQ)=EZz-mz(t)|2=EZt-mzt)Zt-z(r)BZ(s,t)=E(Z-mz(S)(Z,-mz(O)_协方差函数_相关函数RZ(SJ)=az$z/=EZsZ1-mz(s)mz(t)5 .常用的随机过程(1)二阶距过程：实(或复)随机过程XQ)T,若对每一个fsT,都有目X(1)f8(二阶距存在)，则称该随机过程为二阶距过程。(2)正交增量过程：设X(f)T是零均值的二阶距过程，对任意的Gv2G1gT,有E(X(t2)-XG)X(r4)-X(r3)=0,则称该随机过程为正交增量过程。其协方差函数BX(5)=RXGQ=j(min(s,r)(3)独立增量过程:随机过程

7、X。),f7,若对任意正整数2,以及任意的弓V乙/，随机变量x2)-xg),(q)-x&)，Xg)-XgT)是相互独立的，则称Q)ve是独立增量过程。进一步，如X(),fT是独立增量过程，对任意SV，随机变量X。)X(S)的分布仅依赖于，-S,则称XQ),t7是平稳独立增量过程。(4)马尔可夫过程：如果随机过程),具有马尔可夫性，即对任意正整数及r2,都有px(GXJX(G=M,X(%)=K=px区)xx(%)=/J则则称x),fr是马尔可夫过程。(5)正态过程：随机过程X(f)T,若对任意正整数及小小4WT，(XG),X2)XQ)是n维正态随机变量，其联合分布函数是n维正态分布函数，则称X(

8、07是正态过程或高斯过程。(6)维纳过程：是正态过程的一种特殊情形。设皿),-00，0。则称W(1-8foo为维纳过程，或布朗运动过程。另外：它是一个MarkoV过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。它在任何有限时间上的变化服从正态分布，其方差随时间区间的长度呈线性增加。(7)平稳过程：严(狭义)平稳过程：XQ),ZT,如果对任意常数r和正整数及f2，J”丁，Z1+r,2+,+T,(X(Z1),X(t2)X(tn)与(X(t1+),X(Z2+r)X(fn+)有相同的联合分布

9、，则称X(f),ET是严(狭义)平稳过程。广义平稳过程：随机过程x(f),f,如果XQ),z是二阶距过程；对任意的rT,)=EX(F)=常数；对任意s,r,HXCM)=EX(S)X)=RXa-S),或仅与时间差f-s有关。则满足这三个条件的随机过程就称为广义平稳过程，或宽平稳过程，简称平稳过程。第三章泊松过程一.泊松过程的定义(两种定义方法)1,设随机计数过程X(e)jo,其状态仅取非负整数值，若满足以下三个条件，则称：x(f),r是具有参数4的泊松过程。X(O)=0；独立增量过程，对任意正整数，以及任意的ti2o的的泊松分布，即(2fn对任意E,sO,有PXQ+S)-X(s)=e*-n=0,

10、1,EX(t)=t,4=23迎，表示单位时间内时间A发生的平均个数，也称速率或强度。t2,设随机计数过程X(f),f0,其状态仅取非负整数值,若满足以下三个条件，则称：X(f)J0是具有参数4的泊松过程。X(O)=O；独立、平稳增量过程；PX(+)-X(O=1=A+o(h)PX(t+h)-X(t)2=o(h)第三个条件说明，在充分小的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同时发生，也称为单跳性。二.基本性质s(t-V)st1,数字特征mxt=EX(t)=t=DXtRxsJ)=t(s+1)stBX(s,)=KY(Sj)-mx(s)mx(Z)=min(s,f)推导过程要非常熟

11、悉2,7；表示第事件A发生到第次事件发生的时间间隔，北,是时间序列，随机变量服从参数为；1的指数分布。概率密度为/)=均值0,t000,分布函数)=为期二证明过程也要很熟悉到达时间的分布略三.非齐次泊松过程到达强度是，的函数X(O)=0；独立增量过程；,PX(t+h)-X(t)=1(t)h+o()PX(r+)-X()2=o()性。均值函数用X(Z)=EX(t)=(s)ds定理：X(f)J0是具有均值为%H)=J()(s)ds的非齐次泊松过程，则有PX(1+s)Xa)=【期+s叫ep2*(力四.复合泊松过程设N(f),f0是强度为；I的泊松过程，匕,4=1,2,.是一列独立同分布的随机变量，且与

12、NU)N(f),E0独立，令X(f)=W则称*(E)/0为复合泊松过程。k=重要结论：X()J0是独立增量过程；若E(K2)8,则EX(f)二;UE(K),DX(t)=tE(Y)第四章马尔可夫链泊松过程是时间连续状态离散的马氏过程，维纳过程是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为马尔可夫链。马尔可夫过程的特性：马尔可夫性或无后效性。即：在过程时刻4所处的状态为已知的条件下，过程在时刻，fo所处状态的条件分布与过程在时刻f0之前所处的状态无关。也就是说，将来只与现在有关，而与过去无关。表示为pxg)Z1X(G=4,x(*)=px(tn)工x(*)=一.马尔可夫链的概念及转移

13、概率1 .定义：设随机过程X”,r,对任意的整数r和任意的,i用/,条件概率满足PXN=n+1X0=,X1=p,Xt=in=PXn+i=in+1X1tin,则称x“、nT为马尔可夫链。马尔可夫链的统计特性完全由条件概率px,+=iT1X“所决定。2 .转移概率px向=jXn=i相当于随机游动的质点在时刻处于状态i的条件下，下一步转移到j的概率。记为pijMo则pij(n)=PXzj+1=，|X=称为马尔可夫链在时刻的一步转移概率。若齐次马尔可夫链，则Pu5)与无关，记为p*P=piji,/=1,2,称为系统的一步转移矩阵。性质：每个元素p*0,每行的和为U3 .步转移概率PJ)=PX,i=/IX1；X)=%()i,je1/=1,2,称为步转移矩阵。重要性质：Pjo=ZPPJ称为C-K方程，证明中用到条件概率的乘法公式、马尔可夫Jte/性、齐次性。n(W)_pViiPXnt-Xfn+n_jPij-m+n-J