概率论与随机过程

这篇是概率论与数理统计的公式速查版,参考桌面 PDF 与课程资料整理。目标不是重写教材,而是把考试里最常用、最容易混的公式集中放在一处,方便最后几天查漏补缺。

零、常用记号

  • 分布函数: F(x)=P{X≤x} 。
  • 密度函数: f(x)=F′(x) 。
  • 期望: E(X) 。
  • 方差: D(X)=Var(X) 。
  • 协方差: Cov(X,Y) 。
  • 相关系数: ρXY 。
  • 样本均值: X¯ 。
  • 样本方差: S2 。

Gamma 函数常用值:

Γ(α)=∫0∞xα−1e−xdx,Γ(α+1)=αΓ(α) Γ(1)=1,Γ(12)=π,Γ(n+1)=n!

一、概率公式

1.0 做概率题的第一步

先判断题型,再选公式:

  1. 等可能、有限样本空间:用古典概型,把概率转成计数问题。
  2. 有"已经发生"或"已知":用条件概率。
  3. 先分情况再求概率:用全概率公式。
  4. 已知结果反推原因:用贝叶斯公式。
  5. 重复独立试验:考虑二项分布、几何分布、泊松近似。

古典概型:

P(A)=A 包含的基本事件数S 包含的基本事件数

计数时常用:

Ank=n!(n−k)!,Cnk=n!k!(n−k)!

把 n 个相异物品分成 k 堆,各堆数量为 r1,…,rk :

n!r1!r2!⋯rk!

1.1 加法、减法、乘法

P(A∪B)=P(A)+P(B)−P(AB) P(A−B)=P(AB¯)=P(A)−P(AB)

条件概率:

P(B|A)=P(AB)P(A),P(AB)=P(B|A)P(A)

乘法公式:

P(A1A2⋯An)=P(A1)P(A2|A1)⋯P(An|A1A2⋯An−1)

1.2 全概率与贝叶斯

若 B1,…,Bn 构成样本空间的一组划分,则:

P(A)=∑i=1nP(Bi)P(A|Bi) P(Bk|A)=P(Bk)P(A|Bk)∑i=1nP(Bi)P(A|Bi)

使用方法:

  • 全概率:从"原因/情况" Bi 出发,合成"结果" A 。
  • 贝叶斯:已经观察到"结果" A ,反推某个"原因" Bk 的概率。
  • P(Bk) 是先验概率, P(Bk|A) 是后验概率。

1.3 独立性

两个事件独立:

P(AB)=P(A)P(B)

多个事件相互独立:

P(⋂i=1nAi)=∏i=1nP(Ai)

三个事件相互独立需要同时满足:

P(AB)=P(A)P(B),P(AC)=P(A)P(C),P(BC)=P(B)P(C) P(ABC)=P(A)P(B)P(C)

注意:

  • 两两独立不一定相互独立。
  • 若 P(A)>0,P(B)>0 ,则独立与互斥不能同时成立。
  • "至少一个发生"常用逆事件: 1−P(A¯B¯C¯) 。

1.4 真题精练(全概率与贝叶斯)

真题(2019 卷三 / 色盲问题,10 分):已知男人中有 5% 是色盲患者,女人中有 0.25% 是色盲患者。从男女人数相等的人群中随机挑选一人。(A) 求此人恰好是色盲患者的概率;(B) 已知此人是色盲患者,求其是男性的概率。

解析:设 A1={男人} , A2={女人} , B={色盲} 。由人数相等 P(A1)=P(A2)=12 ,且 P(B∣A1)=5% , P(B∣A2)=0.25% 。

(A) 全概率公式:

P(B)=P(A1)P(B∣A1)+P(A2)P(B∣A2)=12⋅5100+12⋅2510000=2.625%

(B) 贝叶斯公式:

P(A1∣B)=P(A1)P(B∣A1)P(B)=12⋅510012⋅5100+12⋅2510000=2021

要点:看到"已知结果反推原因"就用贝叶斯;分母正是全概率。先列出 Ai 的划分、写清各条件概率是关键。


二、一维随机变量

2.1 分布函数

P{a<X≤b}=F(b)−F(a) P{X>a}=1−F(a) P{X=a}=F(a)−F(a−)

连续型随机变量中:

P{X=a}=0,P{a<X<b}=P{a≤X≤b}

2.2 离散型随机变量

分布律:

P{X=xk}=pk,∑kpk=1

分布函数:

F(x)=∑xk≤xpk

2.3 连续型随机变量

密度函数:

f(x)≥0,∫−∞+∞f(x)dx=1 F(x)=∫−∞xf(t)dt,P{a<X≤b}=∫abf(x)dx

2.4 常见分布

0-1 分布

P{X=k}=pk(1−p)1−k,k=0,1

二项分布 X∼B(n,p)

P{X=k}=Cnkpk(1−p)n−k,k=0,1,…,n

泊松分布 X∼π(λ)

P{X=k}=λkk!e−λ,k=0,1,…

泊松定理:

limn→∞Cnkpnk(1−pn)n−k=λkk!e−λ,npn→λ

超几何分布

N 件产品中有 D 件次品,不放回取 n 件,取到 k 件次品:

P{X=k}=CDkCN−Dn−kCNn

不放回抽样一般不独立;当总体很大、抽样比例很小时,可近似看作放回抽样,转为二项分布。

几何分布

若 X 表示第一次成功所需试验次数:

P{X=k}=(1−p)k−1p,k=1,2,… E(X)=1p,D(X)=1−pp2

若 Y 表示第一次成功前失败的次数:

P{Y=y}=(1−p)yp,y=0,1,2,…

均匀分布 X∼U(a,b)

f(x)={1b−a,a<x<b,0,else. F(x)={0,x<a,x−ab−a,a≤x<b,1,x≥b.

指数分布 X∼E(λ)

f(x)={λe−λx,x>0,0,x≤0. F(x)={1−e−λx,x>0,0,x≤0.

无记忆性:

P{X>s+t|X>s}=P{X>t}

指数分布常用于"等待时间 / 寿命 / 时间间隔"。遇到"已经工作了 s 小时,还能继续工作 t 小时"这类表述,优先想无记忆性。

正态分布 X∼N(μ,σ2)

f(x)=12πσexp⁡[−(x−μ)22σ2]

标准化:

Z=X−μσ∼N(0,1) P{a<X<b}=Φ(b−μσ)−Φ(a−μσ)

3σ 法则:

P{μ−3σ<X<μ+3σ}≈0.9973

Gamma 分布

若 X∼Γ(α,θ) :

f(x)={1θαΓ(α)xα−1e−x/θ,x>0,0,x≤0. E(X)=αθ,D(X)=αθ2

若 Xi 独立同分布且 Xi∼E(λ) ,则:

∑i=1nXi∼Γ(n,1λ)

瑞利分布

若 X,Y 独立且都服从 N(0,σ2) ,令 Z=X2+Y2 ,则:

fZ(z)={zσ2e−z2/(2σ2),z>0,0,z≤0. FZ(z)={1−e−z2/(2σ2),z>0,0,z≤0.

2.5 分布选择速查

题目特征 常用分布
一次试验只有成功/失败 0-1 分布
n 次独立重复试验中成功次数 二项分布
大量小概率事件发生次数 泊松分布
有限总体不放回抽样 超几何分布
第一次成功前/时的等待次数 几何分布
区间内等可能取值 均匀分布
等待时间、寿命、时间间隔 指数分布
大量独立小影响叠加 正态分布

2.6 一维函数分布

若 Y=g(X) 严格单调,反函数为 x=h(y) ,则:

fY(y)=fX[h(y)]|h′(y)|

使用方法:

  1. 先写 Y=g(X) 的取值范围。
  2. 若 g 单调,反解 x=h(y) ,套上式。
  3. 若 g 不单调,用分布函数法:
FY(y)=P{Y≤y}=P{g(X)≤y}

再对 y 求导得到 fY(y) 。

常见易错点:不要忘记定义域。反函数 h(y) 必须落在 X 的取值范围内。

2.7 真题精练(一维随机变量函数的分布)

真题 1(绝对值变换,高频):设 X∼N(0,1) ,求 Y=|X| 的概率密度。

解析: Y=|X|≥0 ,用分布函数法, y>0 时

FY(y)=P{|X|≤y}=P{−y≤X≤y}=2Φ(y)−1

求导得 fY(y)=2φ(y)=22πe−y2/2 (y>0) , y≤0 时为 0(半正态分布)。

真题 2(线性变换,高频):设 X∼N(−1,1) ,求 Y=2X+1 的密度。

解析:单调线性变换用公式法 fY(y)=fX(h(y))|h′(y)| , x=h(y)=y−12 , |h′(y)|=12 :

fY(y)=122πexp[−(y+1)28]

即 Y∼N(−1,4) ( EY=2(−1)+1=−1 , DY=22⋅1=4 )。

要点:① |X| 、 max 、 min 这类非单调变换先写分布函数再求导最稳; X 对称时 P{|X|≤y}=2Φ(y)−1 。②正态的线性变换仍正态,直接写 N(aEX+b, a2DX) 最快;只有非单调(如 X2 )才要分段或分布函数法。


三、二维随机变量

3.1 联合分布与边缘分布

二维连续型随机变量联合密度 f(x,y) :

fX(x)=∫−∞+∞f(x,y)dy,fY(y)=∫−∞+∞f(x,y)dx

条件密度:

fX|Y(x|y)=f(x,y)fY(y),fY|X(y|x)=f(x,y)fX(x)

独立性:

F(x,y)=FX(x)FY(y),f(x,y)=fX(x)fY(y)

使用方法:

  • 给联合密度求边缘:对另一个变量积分。
  • 给联合分布函数求边缘: FX(x)=F(x,+∞) , FY(y)=F(+∞,y) 。
  • 求条件密度:先求边缘,再用"联合 / 边缘"。
  • 判断独立:连续型看 f(x,y) 能否拆成 fX(x)fY(y) ;离散型看 pij=pi⋅p⋅j 。
  • 求边缘、条件、函数分布时必须写清取值范围,很多扣分都在定义域。

3.2 二维正态分布

若 (X,Y)∼N(μ1,μ2,σ12,σ22,ρ) ,则:

f(x,y)=12πσ1σ21−ρ2exp⁡{−12(1−ρ2)[(x−μ1)2σ12−2ρ(x−μ1)(y−μ2)σ1σ2+(y−μ2)2σ22]}

二维正态中, X,Y 独立的充要条件:

ρ=0

3.3 随机变量函数

和 U=X+Y :

fU(u)=∫−∞+∞f(x,u−x)dx=∫−∞+∞f(u−y,y)dy

若 X,Y 独立:

fU(u)=∫−∞+∞fX(x)fY(u−x)dx

最大值、最小值( X1,…,Xn 独立同分布,分布函数为 F ):

Fmax(z)=[F(z)]n,Fmin(z)=1−[1−F(z)]n

商 U=Y/X 与积 V=XY :

fU(u)=∫−∞+∞|x|f(x,xu)dx fV(v)=∫−∞+∞1|x|f(x,vx)dx

函数分布的通用做法:

  1. 先画区域:把 (X,Y) 的取值区域画出来。
  2. 再写事件:例如 P{X+Y≤u} 、 P{XY≤v} 。
  3. 最后积分:按区域拆积分,必要时换元。

如果只求 E[g(X,Y)] ,通常不必先求 Z=g(X,Y) 的分布,直接用:

E[g(X,Y)]=∬g(x,y)f(x,y)dxdy

这比先求 Z 的密度省很多。

3.4 真题精练(边缘分布与条件密度)

真题(2019 卷二 / 边缘与条件密度,15 分):设 (X,Y) 的概率密度为 f(x,y)={1,|y|<x, 0<x<10,其他 。求:(1) 关于 X 和 Y 的边缘概率密度;(2) 条件密度 fY∣X(y∣x) , fX∣Y(x∣y) 。

解析:积分区域是 0<x<1 、 −x<y<x 的三角形。

(1) fX(x)=∫−xx1dy=2x ( 0<x<1 ),其余为 0。

fY(y) 要分 y 正负讨论(固定 y 时 x 从 |y| 积到 1):

fY(y)=∫|y|11dx=1−|y|={1+y,−1<y<01−y,0≤y<10,其他

(2) 条件密度 = 联合 / 边缘:

fY∣X(y∣x)=f(x,y)fX(x)=12x (|y|<x);fX∣Y(x∣y)=f(x,y)fY(y)=11−|y| (|y|<x<1)

要点:①先画区域定积分限是最易错的一步;②求 fY(y) 时 y 的正负对应不同 x 下限,必须分段;③条件密度就是"联合除以边缘",注意写清成立的区间。

3.5 真题精练(曲线区域上的二维均匀分布)

真题(2020 卷二,10 分): D 是由曲线 xy=1 与直线 x=1 、 y=0 、 x=e2 围成的平面区域, (X,Y) 在 D 上服从均匀分布。(1) 写出 (X,Y) 的概率密度;(2) 求关于 X 的边缘密度,并求其在 x=2 处的值。

解析:

(1) 区域 D : 1<x<e2 , 0<y<1x (上边界是曲线 y=1/x ,下边界 y=0 )。先求面积:

SD=∫1e21xdx=ln⁡x|1e2=2

均匀分布密度 = 面积的倒数:

f(x,y)={12,1<x<e2, 0<y<1x0,其他

(2) 边缘密度对 y 积分(注意上限是 1/x ,不是常数):

fX(x)=∫01/x12dy=12x,1<x<e2

在 x=2 处: fX(2)=12×2=14 。

要点:①曲线围成的区域,面积要用定积分( ∫1/xdx=ln⁡x 是常客);②均匀分布密度 = 1/面积;③求边缘时积分上限随 x 变化,别当成常数。

3.6 真题精练(二维连续型综合:边缘与和的密度)

真题(几乎每年,10–15 分):设 (X,Y) 联合密度 f(x,y)=a(x+y) , x>0,y>0,x+y<1 ,其余为 0。求 (1) 常数 a ;(2) 边缘密度 fX(x) ;(3) Z=X+Y 的密度。

解析:区域是顶点为 (0,0),(1,0),(0,1) 的三角形。

(1) 归一化(先对 y 积, ∫01−x(x+y)dy=1−x22 ):

∫01∫01−xa(x+y)dydx=a∫011−x22dx=a⋅13=1⇒a=3

(2) 边缘密度:

fX(x)=∫01−x3(x+y)dy=32(1−x2),0<x<1

由对称性 fY(y)=32(1−y2) 。

(3) Z=X+Y∈(0,1) ,在直线 x+y=z 上 f=3z 为常数, x 从 0 到 z :

fZ(z)=∫0z3(x+(z−x))dx=∫0z3zdx=3z2,0<z<1

要点:①三角形区域的积分限 0<x<1, 0<y<1−x 是第一关;②求 fZ 用卷积 fZ(z)=∫f(x,z−x)dx ,被积式里 x+y=z 是常数、化简极快;③用 ∫013z2dz=1 自检。


四、数字特征

4.1 数学期望

离散型:

E(X)=∑kxkpk

连续型:

E(X)=∫−∞+∞xf(x)dx

函数期望:

E[g(X)]=∑kg(xk)pk,E[g(X)]=∫−∞+∞g(x)f(x)dx

二维函数期望:

E[g(X,Y)]=∬−∞+∞g(x,y)f(x,y)dxdy

性质:

E(C)=C,E(aX+bY)=aE(X)+bE(Y)

若 X,Y 独立:

E(XY)=E(X)E(Y)

4.2 方差

D(X)=E{[X−E(X)]2}=E(X2)−[E(X)]2

性质:

D(C)=0,D(aX+b)=a2D(X) D(X±Y)=D(X)+D(Y)±2Cov(X,Y)

若 X,Y 独立:

D(X±Y)=D(X)+D(Y)

4.3 常见分布的期望与方差

分布 E(X) D(X)
0-1 分布 p p(1−p)
B(n,p) np np(1−p)
π(λ) λ λ
几何分布 1p 1−pp2
U(a,b) a+b2 (b−a)212
E(λ) 1λ 1λ2
Γ(α,θ) αθ αθ2
N(μ,σ2) μ σ2

实际算方差时,最常用的是:

D(X)=E(X2)−[E(X)]2

所以通常先算 E(X) ,再算 E(X2) ,最后相减。别直接展开 E[(X−E(X))2] ,容易算复杂。

4.4 协方差与相关系数

Cov(X,Y)=E{[X−E(X)][Y−E(Y)]}=E(XY)−E(X)E(Y)

性质:

Cov(X,Y)=Cov(Y,X),Cov(X,X)=D(X) Cov(aX,bY)=abCov(X,Y) Cov(aX+bY,Z)=aCov(X,Z)+bCov(Y,Z)

相关系数:

ρXY=Cov(X,Y)D(X)D(Y) |ρXY|≤1

|ρXY|=1 的充要条件是 X,Y 几乎处处线性相关:

P{Y=aX+b}=1

使用提醒:

  • Cov(X,Y)=0 表示不相关,只说明没有线性相关,不一定独立。
  • 独立 ⇒ 不相关;不相关 ⇏ 独立。
  • 对二维正态分布, ρ=0 才能推出 X,Y 独立,这是正态分布的特殊好性质。
  • 若要求 E(XY) ,常用反推:
E(XY)=Cov(X,Y)+E(X)E(Y)

4.5 矩与协方差矩阵

k 阶原点矩:

E(Xk)

k 阶中心矩:

E{[X−E(X)]k}

二维或多维随机变量的协方差矩阵:

Σ=(cij),cij=Cov(Xi,Xj)

二维情形:

Σ=(D(X)Cov(X,Y)Cov(X,Y)D(Y))

4.6 真题精练(相关系数)

真题(2020 卷三 / 线性组合的相关系数,10 分):设 (X,Y)∼N(1,2,8,4,−0.5) (即 EX=1, EY=2, DX=8, DY=4, ρXY=−0.5 ),令 ξ=X+Y , η=X−Y 。求:(1) (ξ,η) 的相关系数;(2) E(η) 和 E(ξ) 。

解析:先由 ρXY=−0.5 算出 Cov(X,Y)=ρXYDXDY=−0.5×8×4=−0.5×32=−22 。

(1) 用协方差的双线性展开:

Cov(ξ,η)=Cov(X+Y,X−Y)=DX−DY=8−4=4 Dξ=DX+DY+2Cov(X,Y)=8+4+2(−22)=12−42 Dη=DX+DY−2Cov(X,Y)=8+4−2(−22)=12+42 ρξη=Cov(ξ,η)DξDη=4(12−42)(12+42)=4144−32=4112=17≈0.378

(2) 期望线性可加: E(ξ)=EX+EY=3 , E(η)=EX−EY=−1 。

要点:① Cov(X+Y,X−Y)=DX−DY 是个好用的二级结论;②算 Dξ,Dη 别漏交叉项 ±2Cov ;③期望永远线性可加,与是否独立无关。

4.7 真题精练(二维离散示性变量:分布律·相关系数·函数分布)

真题(几乎每年,2018-2019 二,15 分):事件 A,B 满足 P(A)=14 , P(B∣A)=13 , P(A∣B)=12 。令 X=1{A} 、 Y=1{B} (发生取 1、否则取 0)。求 (1) (X,Y) 分布律;(2) 相关系数 ρXY ;(3) Z=X2+Y2 的分布律。

解析:先求两个基本量: P(AB)=P(A)P(B∣A)=14⋅13=112 , P(B)=P(AB)P(A∣B)=1/121/2=16 。

(1) 四格联合分布律:

Y=0 Y=1
X=0 2/3 1/12
X=1 1/6 1/12

( P(X=1,Y=1)=P(AB)=112 ; P(X=1,Y=0)=P(A)−P(AB)=16 ; P(X=0,Y=1)=P(B)−P(AB)=112 ; P(X=0,Y=0)=1−P(A∪B)=23 。)

(2) 示性变量满足 EX=P(A)=14 , EY=P(B)=16 , E(XY)=P(AB)=112 :

Cov(X,Y)=112−14⋅16=124

DX=EX−(EX)2=14−116=316 , DY=16−136=536 ,故

ρXY=1/24316⋅536=1/2415/24=115

(3) X,Y 取 0/1,故 X2=X , Z=X+Y∈{0,1,2} : P(Z=0)=23 , P(Z=1)=16+112=14 , P(Z=2)=112 。

要点:①示性变量三连 EX=EX2=P(A) 、 DX=P(A)(1−P(A)) 、 E(XY)=P(AB) 让整题秒算;②补全四格分布常借 P(A¯B¯)=1−P(A∪B) ;③ Z=X2+Y2 因 0/1 退化成 X+Y 。


五、大数定律与中心极限定理

5.1 马尔科夫与切比雪夫不等式

马尔科夫不等式( Y≥0 ):

P{Y≥a}≤E(Y)a

令 Y=[X−E(X)]2 、 a=ε2 ,即可得到切比雪夫不等式:

P{|X−E(X)|≥ε}≤D(X)ε2

等价地:

P{|X−E(X)|<ε}≥1−D(X)ε2

使用方法:题目问"偏离均值超过某个量的概率不超过多少"或"至少有多大概率落在均值附近",优先套切比雪夫。

5.2 辛钦大数定律

若 X1,X2,…,Xn,… 独立同分布, E(Xk)=μ ,则对任意 ε>0 :

limn→∞P{|1n∑i=1nXi−μ|<ε}=1

也就是:

X¯→Pμ

伯努利大数定律:若 fA 是 n 次独立重复试验中事件 A 发生的次数, P(A)=p ,则:

fAn→Pp

这说明频率会依概率收敛到概率。

5.3 中心极限定理

若 X1,X2,… 独立同分布, E(Xk)=μ , D(Xk)=σ2 ,则:

limn→∞P{∑i=1nXi−nμnσ≤x}=Φ(x)

二项分布正态近似:

若 ηn∼B(n,p) ,则:

ηn−npnp(1−p)≈N(0,1)

使用方法:

  1. 看清楚随机变量是不是"很多个独立小变量的和"。
  2. 写出总和的均值 nμ 和方差 nσ2 。
  3. 标准化:
Z=∑Xi−nμnσ
  1. 用标准正态分布函数 Φ(x) 查概率。

二项分布正态近似常用在 n 大、 p 不太接近 0 或 1 的时候。若题目要求更精确,可对离散到连续的区间做连续性修正,例如:

P{a≤X≤b}≈P{a−12<Y<b+12}

5.4 真题精练(中心极限定理)

真题(2019 卷一第 7 空 / 种子发芽,4 分):某种子发芽率为 0.2 ,现播种 400 粒,求超过 90 粒发芽的概率。(用中心极限定理近似计算, Φ(1.25)=0.8944 , Φ(1)=0.8413 。)

解析:发芽粒数 η∼B(n,p) , n=400 , p=0.2 。均值 np=80 ,标准差 np(1−p)=400×0.2×0.8=64=8 。标准化:

P{η>90}=P{η−808>90−808}=P{Z>1.25}=1−Φ(1.25)=1−0.8944=0.1056

要点:识别" n 重伯努利之和" → 用二项的正态近似;标准化后查 Φ ;"超过"是单侧 1−Φ 。题目给哪个 Φ 值,标准化结果就该凑到那个分位点(这里恰好 1.25 )。

5.5 真题精练(中心极限定理·二项区间近似)

真题(保险索赔,多年,2009-2010 二):某险种被盗索赔占 20% ,独立抽查 100 户,记被盗索赔户数 X 。用中心极限定理近似 P{14≤X≤30} 。( Φ(2.5)=0.9938, Φ(1.5)=0.9332 )

解析: X∼B(100,0.2) , EX=np=20 , DX=np(1−p)=16 , σ=4 。标准化后两端代入:

P{14≤X≤30}≈Φ(30−204)−Φ(14−204)=Φ(2.5)−Φ(−1.5)=Φ(2.5)+Φ(1.5)−1=0.927

要点:① n 重伯努利计数 →B(n,p) 用正态近似,均值 np 、方差 np(1−p) ;②双侧用 Φ(上)−Φ(下) ,负分位 Φ(−a)=1−Φ(a) ;③题目给出的 Φ 值就是凑分位点的提示(这里恰好 2.5 与 1.5 )。


六、随机过程的基本概念

6.1 定义与两种理解视角

设随机试验 E 的样本空间为 S={e} ,若对每个 e∈S 都有一个时间函数 X(e,t) ( t∈T )与之对应,则这一族函数称为随机过程,记作 {X(t),t∈T} 。 T 称为参数集(通常表示时间)。

理解随机过程有两个互补视角:

  • 一族随机变量(横看):固定时刻 t=t0 , X(t0) 是一个随机变量。
  • 一族样本函数(纵看):固定样本点 e=e0 , X(e0,t) 是 t 的确定函数,称为一条样本函数。

过程在 t 时刻的取值称为状态,全体可能取值称为状态空间 I 。

6.2 四种分类

按参数集 T (时间)与状态空间 I (状态)的连续 / 离散组合:

类型 时间 T 状态 I 例子
连续型随机过程 连续 连续 热噪声电压
离散型随机过程 连续 离散 累计呼叫次数
连续型随机序列 离散 连续 每天正午气温
离散型随机序列 离散 离散 每天废品数

参数(时间)离散的随机过程也称随机序列或时间序列。

6.3 有限维分布族

  • 一维分布: FX(x,t)=P{X(t)≤x}
  • 二维分布: FX(x1,x2;t1,t2)=P{X(t1)≤x1,X(t2)≤x2}
  • n 维分布: FX(x1,…,xn;t1,…,tn)=P{X(t1)≤x1,…,X(tn)≤xn}

所有有限维分布的全体称为有限维分布族。柯尔莫哥洛夫定理:满足对称性与相容性的有限维分布族唯一决定一个随机过程。


七、随机过程的数字特征

设过程 {X(t)} :

均值函数(摆动中心)

mX(t)=E[X(t)]=∫−∞∞xfX(x,t)dx

均方值函数 ΨX2(t)=E[X2(t)] ,方差函数

DX(t)=σX2(t)=E{[X(t)−mX(t)]2}=ΨX2(t)−mX2(t)

自相关函数(核心,描述两时刻关联)

RX(t1,t2)=E[X(t1)X(t2)]

自协方差函数(核心)

CX(t1,t2)=E{[X(t1)−mX(t1)][X(t2)−mX(t2)]}=RX(t1,t2)−mX(t1)mX(t2)

7.1 必记的换算关系

DX(t)=ΨX2(t)−mX2(t)CX(t1,t2)=RX(t1,t2)−mX(t1)mX(t2)RX(t,t)=ΨX2(t)=E[X2(t)](自相关退化为均方值)CX(t,t)=DX(t)=σX2(t)(自协方差退化为方差)

均值函数 mX(t) 与自相关函数 RX(t1,t2) 是两个最基本的数字特征,其余都可由它们导出。

7.2 两个随机过程的关系

互相关 RXY(t1,t2)=E[X(t1)Y(t2)] ,互协方差 CXY=RXY−mXmY 。

  • 互不相关: CXY=0 ,即 RXY=mXmY ;
  • 互正交: RXY=0 ;
  • 相互独立:联合分布等于各自分布之积。

强弱关系:相互独立 ⇒ 互不相关(反之不一定)。两过程之和 W=X+Y 的自相关:

RW(s,t)=RX(s,t)+RXY(s,t)+RYX(s,t)+RY(s,t)

(中间两个互相关项不可遗漏;若正交或均值为零且互不相关,则只剩 RX+RY 。)

7.3 真题精练(随机过程的均值与自相关)

真题(高频填空 / 平稳过程引子,多年):设 X(t)=Acos⁡ωt+Bsin⁡ωt ,其中 A,B 相互独立、 EA=EB=0 、 DA=DB=σ2 。求均值函数 μX(t) 与自相关函数 RX(t,t+τ) ,并判断平稳性。

解析: μX(t)=EAcos⁡ωt+EBsin⁡ωt=0 。用 EA2=EB2=σ2 、 E(AB)=EAEB=0 :

RX(t,t+τ)=E[(Acos⁡ωt+Bsin⁡ωt)(Acos⁡ω(t+τ)+Bsin⁡ω(t+τ))] =σ2[cos⁡ωtcos⁡ω(t+τ)+sin⁡ωtsin⁡ω(t+τ)]=σ2cos⁡ωτ

均值为常数、自相关只依赖 τ 、二阶矩有限 ⇒ X(t) 是宽平稳过程。

要点:①交叉项 E(AB)=0 直接消去;②用两角差公式 cos⁡αcos⁡β+sin⁡αsin⁡β=cos⁡(α−β) 一步得 cos⁡ωτ ;③这是"证平稳"大题的头号标准模型,记住结论 RX(τ)=σ2cos⁡ωτ 。


八、独立增量过程

对 0≤s<t ,称 X(t)−X(s) 为过程在 (s,t] 上的增量。

  • 独立增量过程:任意互不重叠区间上的增量相互独立。
  • 平稳(齐次)增量:增量分布只依赖时间差 t−s 。
  • 平稳独立增量过程:兼具两者,泊松过程与维纳过程都属此类。

重要定理(设 X(0)=0 ):独立增量过程的自协方差由方差函数决定,

mX(t)=mX(1)⋅t,DX(t)=σX2(1)⋅t,CX(s,t)=DX[min(s,t)]

即"记住方差函数即可写出协方差函数"。


九、泊松过程

计数过程 {N(t),t≥0} : N(t) 表示到时刻 t 为止事件发生的总次数(非负整数、不减)。

泊松过程定义:强度为 λ>0 的计数过程,满足 ① N(0)=0 ;② 独立增量;③ 增量服从泊松分布:

P{N(t)−N(s)=k}=[λ(t−s)]kk!e−λ(t−s),k=0,1,2,…

λ 表示单位时间内事件平均发生的次数。

9.1 数字特征(设 0 ≤ s ≤ t)

mN(t)=λt,σN2(t)=λtCN(s,t)=λmin(s,t)RN(s,t)=λmin(s,t)+λ2st

化简利器: min(s,t)=s+t−|s−t|2 。注意 mN≠0 ,故 RN≠CN ,要加上 λ2st 。

9.2 时间间隔与等待时间

  • 相邻事件时间间隔 Tn 独立同分布,服从参数 λ 的指数分布, E[Tn]=1/λ (无记忆性):
fT(t)=λe−λt (t≥0)
  • 第 n 次事件的等待时间 Wn=∑i=1nTi 服从 Γ(n,λ) , E[Wn]=n/λ 。

十、维纳过程(布朗运动)

定义(参数 σ2 ): {W(t),t≥0} 满足 ① W(0)=0 ;② 独立增量;③ 增量服从正态分布:

W(t)−W(s)∼N(0,σ2(t−s)),0≤s<t

10.1 数字特征(设 0 ≤ s ≤ t)

mW(t)=0,D[W(t)]=σ2t,CW(s,t)=RW(s,t)=σ2min(s,t)

因 mW=0 ,自相关与自协方差相等。一维密度 W(t)∼N(0,σ2t) :

fW(t)(x)=12πσ2texp(−x22σ2t)

10.2 泊松过程 vs 维纳过程

特征 泊松过程 N(t) 维纳过程 W(t)
状态空间 离散(非负整数) 连续(实数)
增量分布 泊松 P(λ(t−s)) 正态 N(0,σ2(t−s))
均值函数 λt 0
方差函数 λt σ2t
协方差 C(s,t) λmin(s,t) σ2min(s,t)
平稳独立增量 是 是

注意: W(t) 本身不是平稳过程(方差随 t 增大),但其增量平稳。

10.3 真题速练(维纳过程与泊松过程数字特征)

这两类过程的数字特征是每年必抽的填空,核心一律先用独立增量拆成不相交区间。

1. 维纳协方差:参数 σ2 的维纳过程 W(t) ,因均值为 0, CW(s,t)=E[W(s)W(t)]=σ2min(s,t) 。

2. 维纳变换的相关函数: X(t)=e−tW(e2t) ,设 s<t ,

RX(s,t)=e−(s+t)σ2min(e2s,e2t)=e−(s+t)σ2e2s=σ2e−(t−s)=σ2e−|t−s|

——经此变换得到的过程反而是平稳的(自相关只依赖 |t−s| )。

3. 维纳增量乘积:求 E[(W(3)−W(1))(W(4)−W(1))] 。把 W(4)−W(1)=(W(4)−W(3))+(W(3)−W(1)) ,前一增量与后者不相交、独立且均值 0:

E[(W(3)−W(1))(W(4)−W(1))]=E[(W(3)−W(1))2]=σ2(3−1)=2σ2

4. 泊松有限维分布:强度 λ 、 N(0)=0 ,用独立增量

P{N(1)=1,N(2)=2,N(3)=3}=[λe−λ]3=λ3e−3λ

(三个不相交单位区间各增加 1,每个增量 ∼π(λ) 、取 1 的概率 λe−λ 。)

要点:协方差都是 (⋅)min(s,t) 型;增量乘积先配成"同一增量的平方 + 独立项(期望为 0)";有限维联合概率拆成各不相交增量概率之积。


十一、平稳随机过程

11.1 严平稳与宽平稳

严平稳(狭义平稳):任意有限维分布关于时间平移不变。即对任意 n,t1,…,tn 及任意 τ ,

(X(t1),…,X(tn)) 与 (X(t1+τ),…,X(tn+τ)) 同分布

宽平稳(广义平稳 / 二阶矩平稳):① 二阶矩存在 E[X2(t)]<∞ ;② 均值为常数 mX(t)=mX ;③ 自相关只依赖时间差 RX(t1,t2)=RX(τ) , τ=t2−t1 。

两者关系:严平稳 + 二阶矩存在 ⇒ 宽平稳;反之一般不成立;正态(高斯)过程下两者等价。

11.2 各态历经性(遍历性)

样本函数的时间平均:

⟨X(t)⟩=limT→∞12T∫−TTX(t)dt

若时间均值(以概率 1)等于统计均值 mX ,称均值遍历;时间相关函数等于 RX(τ) ,称自相关遍历;两者皆满足则各态历经。意义:用一条样本函数的长时间平均即可代替集平均。

11.3 自相关函数的性质(重点)

设实平稳过程 RX(τ)=E[X(t)X(t+τ)] :

  1. 平均功率非负: RX(0)=E[X2(t)]≥0 ;
  2. 偶函数: RX(−τ)=RX(τ) ;
  3. 有界: |RX(τ)|≤RX(0) ;
  4. 非负定性: ∑i∑jaiajRX(tj−ti)≥0 (能否作相关函数的充要条件);
  5. 周期性:周期过程的 RX(τ) 同周期;
  6. 极限(无周期成分): RX(∞)=mX2 。

由相关函数反求数字特征:

CX(τ)=RX(τ)−mX2,mX2=RX(∞),σX2=RX(0)−RX(∞),DX=CX(0)

互相关性质: RXY(−τ)=RYX(τ) , |RXY(τ)|≤RX(0)RY(0)≤12[RX(0)+RY(0)] 。


十二、功率谱密度与维纳-辛钦定理

平稳过程一般不绝对可积,用功率谱密度描述功率在频率上的分布。

维纳-辛钦定理(核心):功率谱密度 SX(ω) 与自相关函数 RX(τ) 构成傅里叶变换对:

SX(ω)=∫−∞∞RX(τ)e−jωτdτ,RX(τ)=12π∫−∞∞SX(ω)ejωτdω

因 RX(τ) 为实偶函数,也可写成余弦变换 SX(ω)=2∫0∞RX(τ)cos⁡(ωτ)dτ 。

性质:① SX(ω)≥0 ;② 实偶函数;③ 全频域积分得平均功率:

ΨX2=RX(0)=12π∫−∞∞SX(ω)dω=E[X2(t)]

常用变换对:

RX(τ) SX(ω)
δ(τ) 1 (白噪声)
e−a|τ| (a>0) 2aa2+ω2
A22cos⁡(ω0τ) πA22[δ(ω−ω0)+δ(ω+ω0)]

提示:本部分依配套教材补充;若所用课件未涵盖功率谱,可略过本节。

12.1 真题精练(平稳过程 + 功率谱)

真题 1(2020 卷六 / 随机相位余弦波过线性系统,10 分):随机过程 X(t)=Acos⁡(t+θ) ,其中 θ∼U(0,2π) , A∼N(0,3) ,且 θ 与 A 相互独立。(1) 证明 X(t) 为平稳过程,求均值函数 μX 与自相关函数 RX(τ) ;(2) 将 X(t) 输入冲激响应 h(t)=e−t (t>0) 的线性系统,求输出 Y(t) 的自相关函数与谱密度。

解析:

(1) θ∼U(0,2π) 故 E[cos⁡(t+θ)]=0 ,又 A 与 θ 独立、 E[A]=0 :

μX(t)=E[A]E[cos⁡(t+θ)]=0 (常数)

自相关(用 E[A2]=D[A]=3 ,积化和差, θ 均匀分布使含 θ 项期望为 0):

RX(t,t+τ)=E[A2]E[cos⁡(t+θ)cos⁡(t+τ+θ)]=3⋅12cos⁡τ=32cos⁡τ

只依赖 τ 、均值为常数、二阶矩有限,故 X(t) 宽平稳。

(2) 先求频响 H(ω)=∫0∞e−te−jωtdt=11+jω , |H(ω)|2=11+ω2 。输入谱(对 RX=32cos⁡τ 做变换) SX(ω)=3π2[δ(ω−1)+δ(ω+1)] 。输出谱:

SY(ω)=|H(ω)|2SX(ω)=11+ω2⋅3π2[δ(ω−1)+δ(ω+1)]=3π4[δ(ω−1)+δ(ω+1)]

(用 δ 的取样性,在 ω=±1 处 11+ω2=12 。)对应 RY(τ)=12π∫SYejωτdω=34cos⁡τ 。

要点:随机相位正弦/余弦波是平稳过程的头号考题——结论 RX(τ)=a22cos⁡ω0τ ( a 为幅度均方根)务必记牢;过线性系统用 SY=|H(ω)|2SX 是二级结论。

真题 2(2019 卷六 / 独立过程之和的平稳性,6 分):平稳过程 X1(t) 、 X2(t) 相互独立, E[X1(t)]=0 ,功率谱分别为 S1(ω)=4ω2+4 、 S2(ω)=ω2ω2+4 。(1) 证明 X(t)=X1(t)+X2(t) 是平稳过程;(2) 求 X(t) 的平均功率。

解析:(1) 二阶矩存在;因 X1 、 X2 独立且 E[X1]=0 ,互相关 E[X1(t)X2(t+τ)]=E[X1]E[X2] 只与 τ 有关(实为常数),故 X(t) 的均值为常数、自相关只依赖 τ ,是平稳过程。(2) 独立 → 谱可加:

SX(ω)=S1(ω)+S2(ω)=4ω2+4+ω2ω2+4=ω2+4ω2+4=1

谱恒为 1 即白噪声,平均功率 ΨX2=12π∫−∞∞1dω=+∞ 。

要点:独立过程之和的谱可加;谱为常数 = 白噪声、平均功率发散。

12.2 真题精练(平稳过程过线性系统·互谱密度)

真题(线性系统输入输出谱,几乎每年):平稳过程 X(t) 输入冲激响应 h(t)=e−t (t>0) 的线性系统,输出 Y(t) 的功率谱 SY(ω)=11+ω2 。求 (1) 输入谱 SX(ω) 与自相关 RX(τ) ;(2) 互谱密度 SXY(ω) 。

解析:频响 H(ω)=∫0∞e−te−jωtdt=11+jω , |H(ω)|2=H(ω)H(ω)―=11+ω2 。

(1) 由 SY(ω)=|H(ω)|2SX(ω) : 11+ω2=11+ω2SX(ω)⇒SX(ω)=1 (白噪声),故

RX(τ)=12π∫−∞∞1⋅ejωτdω=δ(τ)

(2) 由 RXY(τ)=h(τ)∗RX(τ) 得 SXY(ω)=H(ω)SX(ω)=11+jω 。

要点:①三条主线—— SY=|H(ω)|2SX 、 RXY=h∗RX⇒SXY=HSX 、 R 与 S 互为傅氏变换;② SX= 常数 ⇔ 白噪声 ⇔RX∝δ(τ) ;③ |H|2=1(1+jω)(1−jω) 。


十三、马尔可夫链

13.1 马尔可夫性与定义

马尔可夫性(无后效性):已知"现在",则"将来"与"过去"无关:

P{Xn+1=j∣Xn=i,Xn−1=in−1,…,X0=i0}=P{Xn+1=j∣Xn=i}

参数集与状态空间均离散的马尔可夫过程称为马尔可夫链。

13.2 转移概率与转移矩阵

一步转移概率 pij=P{Xn+1=j∣Xn=i} (与 n 无关时称齐次)。一步转移矩阵

P=(pij)=(p11p12⋯p21p22⋯⋮⋮⋱)

随机矩阵性质: pij≥0 ,且每行行和为 1, ∑jpij=1 。

13.3 C-K 方程与 n 步转移

切普曼–柯尔莫哥洛夫(C-K)方程:

pij(m+n)=∑kpik(m)pkj(n)⟺P(n)=Pn

即 n 步转移矩阵等于一步转移矩阵的 n 次方。

13.4 初始分布与绝对分布

初始分布 pj(0)=P{X0=j} ,时刻 n 的绝对(边缘)分布:

pj(n)=∑ipi(0)pij(n)⟺p(n)=p(0)Pn

任意有限维分布 P{X0=i0,…,Xn=in}=pi0(0)pi0i1⋯pin−1in 。

13.5 平稳分布与遍历性

平稳分布 π 满足

π=πP,πj=∑iπipij,∑jπj=1,πj≥0

遍历性充分条件:若存在正整数 m 使 Pm 所有元素都 >0 ,则链遍历,极限分布 limn→∞pij(n)=πj 由 π=πP 与 ∑jπj=1 唯一确定。

易错:转移矩阵是行随机矩阵(行和为 1);分布行向量 p(n)=p(0)Pn 左乘矩阵;平稳方程是 π=πP (别写成 Pπ ),且必须补归一化条件。周期振荡(如 Pn 在奇偶步之间摆动)则不遍历。

13.6 真题精练(马尔可夫链)

真题 1(2019 卷四 / 转移概率与分布,15 分):齐次马氏链 {Xn,n≥0} 状态空间 E={a,b,c,d} ,一步转移矩阵每个元素都是 14 (即各行各列全为 14 ),初始分布 P(X0=a)=⋯=P(X0=d)=14 。求:(1) P(X2=a) ;(2) P(X2=a,X4=b,X5=b∣X1=d) ;(3) P(Xn=a) , n=3,4,5,… 。

解析:转移矩阵每元素均 14 ,则 P(n)=Pn=P (自乘不变),即任意步转移概率都是 14 。

(1) P(X2=a)=∑ipi(0)pia(2)=∑i14⋅14=4×116=14=0.25 。

(2) 用马氏性逐段相乘 P(X2=a,X4=b,X5=b∣X1=d)=pda(1)pab(2)pbb(1)=14⋅14⋅14=164 。

(3) 由对称性 P(Xn=a)=0.25 (任意 n≥1 都是均匀分布,与 n 无关)。

要点:转移矩阵所有元素相等时 Pn=P ,各步转移概率不变;有限维联合概率用马氏性拆成"初始 × 各段转移"之积。

真题 2(2019 卷五 / 醉汉随机游走,8 分):质点在 {1,2,3,4,5} 上游动, 1<i<5 时下一刻以 13 向左、 13 向右、 13 留原处;在 1 或 5 (反射壁)时以概率 1 移到 2 或 4 。设 X(n) 为第 n 秒位置。(1) 证 X(n) 是马氏链并写一步转移矩阵;(2) 状态分类(周期性、常返性、遍历性);(3) 求极限 limn→∞P(X(n)=i) , i=1,…,5 。

解析:

(1) 下一刻位置只依赖当前位置,满足马氏性。一步转移矩阵:

P=(0100013131300013131300013131300010)

(2) {1,2,3,4,5} 构成一个互通类,所有状态非周期、正常返、遍历(中间状态有自环 pii=13>0 保证非周期)。

(3) 遍历不可约链,极限分布 = 唯一平稳分布,解 π=πP 配 ∑πi=1 :

π1=π5=111,π2=π3=π4=311

即 limn→∞P(X(n)=i) 分别为 111,311,311,311,111 。

要点:反射壁 → 边界行 p12=p54=1 ;先按互通关系判状态类型,遍历链的极限分布就是平稳分布,解 π=πP 即可。

13.7 真题精练(联合概率·分布律·可分链的全部平稳分布)

真题 3(2020 卷四 / 联合概率与分布律,10 分):齐次马氏链 {Xn} , E={0,1,2} ,一步转移矩阵见解析,初始分布 P{X0=0}=P{X0=1}=P{X0=2}=13 。求 (1) P{X1=1,X2=1,X4=2} 及其在 X0=0 条件下的值;(2) X2 的分布律。

解析:转移矩阵(行、列均按状态 0,1,2 )

P=(1/21/41/42/301/33/52/50)

(1) 先扫一遍路径里的每一步转移:要求 X1=1→X2=1 ,而 p11=0 (第 2 行第 2 列),即"从状态 1 一步回到状态 1"不可能。所以两个概率都为 0:

P{X1=1,X2=1,X4=2}=0,P{X1=1,X2=1,X4=2∣X0=0}=0

只要路径中有任一单步转移概率为 0,整个联合概率就是 0,不必再算。

(2) X2 分布用 p(2)=p(0)P2 ,逐步乘。先算 p(1)=p(0)P ( p(0)=(13,13,13) ):

p(1)=(5390, 1360, 736)

再算 p(2)=p(1)P :

P{X2=0}=59,P{X2=1}=940,P{X2=2}=79360

(通分为 200360,81360,79360 ,和为 1,可自检。)

要点:联合概率先扫路径找"0 转移";求某时刻分布用行向量左乘 p(n)=p(0)Pn ,逐步乘比硬求 P2 稳。

真题 4(2020 卷五 / 可分性·状态分类·全部平稳分布,10 分):马氏链 E={1,2,3,4,5} ,一步转移矩阵见解析。(1) 是否可分?若可分给出全部不可分闭集;(2) 状态分类及各状态周期;(3) 求全部平稳分布。

解析:一步转移矩阵

P=(010001/41/21/40001000000101/51/51/51/51/5)

(1) 看每个状态往哪走: 1→2 ; 2→{1,2,3} ; 3→2 ; 4→4 ; 5→{1,2,3,4,5} 。

  • {1,2,3} 互通( 1↔2↔3 )且不往外跑 ⇒ 闭集。
  • 4 自环 p44=1 ⇒ 吸收态, {4} 闭集。
  • 5 能出去到 {1,2,3} 或 {4} ,但没有任何状态回到 5(只有它自己以 15 留下)⇒ 出去就回不来。

所以链可分,两个不可分(不可约)闭集: C1={1,2,3} , C2={4} 。

(2) 状态分类与周期:

  • {1,2,3} :有限闭互通类 ⇒ 正常返; p22=12>0 ⇒ 非周期(周期 1)。
  • 4 :吸收态 ⇒ 正常返、周期 1。
  • 5 :出去回不来 ⇒ 非常返(瞬过态); p55=15>0 ,周期 1。

(3) 平稳分布只分布在常返闭集上( π5=0 )。

  • 在 {4} 上: π(2)=(0,0,0,1,0) 。
  • 在 {1,2,3} 上解 π=πP (令 π4=π5=0 ):得 π1=π3=16 , π2=23 ,即 π(1)=(16,23,16,0,0) 。

全部平稳分布是这两者的凸组合( α∈[0,1] ):

π=α(16,23,16,0,0)+(1−α)(0,0,0,1,0)=(α6, 2α3, α6, 1−α, 0)

要点:可约链有多个闭集时平稳分布不唯一——每个常返闭集给一个,全体平稳分布是它们的凸组合;瞬过态在平稳分布里恒为 0。判闭集就看"出得去、回不来"。

13.8 真题精练(马氏链建模·摸球模型)

真题(建模题,多年,2008-2009 等):两个黑球、两个白球分装两袋,每袋两球。每次从两袋中各随机取一球交换放回。记 Xn 为第 n 次交换后甲袋中的黑球数。(1) 说明 {Xn} 是齐次马氏链并写一步转移矩阵;(2) 判断遍历性并求极限(平稳)分布。

解析:

(1) 甲袋黑球数 ∈{0,1,2} ,下一步只依赖当前袋中配置 ⇒ 齐次马氏链。逐状态枚举交换结果:

  • 状态 0(甲 = 白白,乙 = 黑黑):必然换进一黑、换出一白 → 状态 1, p01=1 。
  • 状态 2(甲 = 黑黑,乙 = 白白):必然换出一黑、换进一白 → 状态 1, p21=1 。
  • 状态 1(甲 = 黑白,乙 = 黑白):甲取黑/白各 12 、乙取黑/白各 12 ,四种等概组合:甲白乙黑 → 2,甲黑乙白 → 0,另两种仍为 1。故 p10=p12=14 , p11=12 。
P=(010141214010)

(2) 三状态互通、 p11=12>0 非周期,有限不可约非周期 ⇒ 遍历。解 π=πP 配归一化: π0=14π1 、 π2=14π1 ,得

π=(16, 23, 16)

要点:①建模题的核心是把物理过程翻译成转移概率——逐状态枚举所有等概结果再按次态合并;②边界状态(全黑/全白)往往确定性地走向中间态;③遍历链的极限分布 = 唯一平稳分布,解 π=πP 即可。


十四、真题填空速练(2020 卷一·概率与随机过程 4 学分)

填空题占 40 分(每空 4 分),是性价比最高的部分。下面按考点速练,每道只给关键步与答案。

1. 泊松分布之和(独立可加性): X∼π(1) 、 Y∼π(2) 独立 ⇒ X+Y∼π(3) 。

P{X+Y=2}=e−3322!=92e−3≈0.224

关键:独立泊松之和仍是泊松,参数相加。

2. 贝叶斯(发报机):发 0、1 的先验为 0.7,0.3 ; P(收0∣发0)=0.8 , P(收0∣发1)=0.1 。收到 0 时发的是 0:

P(发0∣收0)=0.7×0.80.7×0.8+0.3×0.1=0.560.59=5659≈0.949

关键:先验 × 似然 / 全概率,贝叶斯标准套路。

3. 几何概率(二次方程有实根): (X,Y) 在 (−1,1)2 上均匀。 x2+2Xx+Y=0 有实根 ⇔ 判别式 4X2−4Y≥0⇔Y≤X2 。

P=14∫−11(x2+1)dx=14⋅83=23

关键:把"有实根"翻译成 Y≤X2 ,再化成面积比。

4. 随机变量函数的密度: fX(x)=1−|x| (−1<x<1) , Y=X2+1 。 y∈(1,2) 时 x=±y−1 ,两支都要加:

fY(y)=2[1−y−1]2y−1=1y−1−1,1<y<2

关键:双值反函数把两支密度相加,再除 |dy/dx|=2|x| 。

5. 指数分布的无记忆性: X∼ 指数, P(X>2)=P(X≤2)⇒e−2λ=12⇒λ=ln⁡22 。乙在甲通话中开始等,由无记忆性,剩余通话时间仍同分布:

P(等待>5)=e−5λ=2−5/2=28≈0.177

关键:指数无记忆 ⇒ "已通话时长"不影响剩余时间分布。

6. 维纳过程的相关函数:参数 σ2 的维纳过程 W(t) 有 E[W(s)W(t)]=σ2min(s,t) 。 X(t)=W(e−t) :

RX(1,2)=σ2min(e−1,e−2)=σ2e−2

关键:维纳协方差取 min ;时间变换后代入即可( e−2<e−1 )。

7. 功率谱求平均功率: SX(ω)=2ω2+5ω4+5ω2+4=1ω2+1+1ω2+4 。用 ∫−∞∞dωω2+a2=πa :

Q=12π∫−∞∞SX(ω)dω=12π(π+π2)=34

关键:分母因式分解 (ω2+1)(ω2+4) 后部分分式,再套 ∫=π/a 。

8. 双随机矩阵的平均返回时间:状态空间 {1,…,m} ,转移矩阵每行每列都是 1m (双随机)⇒ 平稳分布均匀 πi=1m ,故状态 1 的平均返回时间

μ1=1π1=m

关键:双随机矩阵 ⇒ 均匀平稳分布;平均返回时间 = 平稳概率的倒数。


十五、24-25-2 期末整卷精解(最新真题)

来源:BYR Docs 维基真题(2024–2025 学年第二学期,电子工程 / 物理科学与技术 / 集成电路学院)。下面给出全卷六道大题的完整解析,答案均已逐题复核。卷面结构:一、填空选择 40 分(10×4)+ 二~六 大题 60 分,概率论与随机过程各约一半。

15.1 填空选择题(10 小题速解)

  1. (古典概型) 把 {B,U,P,T} 四张卡片随机排成一列恰为 BUPT: P=14!=124 。
  2. (古典概型) 骰子掷两次,第一次点数是第二次的 2 倍: (2,1),(4,2),(6,3) 共 3 种, P=336=112 。
  3. (两两独立 ≠ 相互独立) P(A)=P(B)=P(C)=p<12 , ABC=∅ 。容斥 3p−3p2=916⇒p=14 (舍 34 )。坑: P(AB)=p2 用两两独立,但 P(ABC)=0≠p3 。
  4. (二维正态退化独立) N(1,0;1,1;0) 即 X∼N(1,1),Y∼N(0,1) 独立。 P{XY−Y<0}=P{Y(X−1)<0}=12 (两个对称且独立的因子异号)。
  5. (二项可加性) X,Y∼b(2,p) 独立 ⇒X+Y∼b(4,p) 。 (42)p2(1−p)2=827⇒p(1−p)=29⇒p=13 或 23 ,故 P{Y=0}=(1−p)2=49 或 19 (双解)。
  6. (顺序统计量) Xi∼U(0,1) 独立同分布: E[min]=1n+1 , E[max]=nn+1 。
  7. (德莫弗–拉普拉斯) 点数 6 的次数 ∼b(180,16) , np=30, σ=np(1−p)=5 。 P{X≤35}≈Φ(35−305)=Φ(1) 。
  8. (两态链极限) 转移阵 (a1−a1−bb) , p01(n)+p10(n)→π1+π0=1 。
  9. (平均功率) SX(ω)=4ω2(ω2+1)(ω2+4) ,平均功率 ψ2=12π∫−∞∞SX(ω)dω=23 。
  10. (泊松独立增量) P{N(2)=3,N(4)=4,N(5)=6}=e−2λ(2λ)33!⋅e−2λ(2λ)1!⋅e−λλ22!=43λ6e−5λ 。

15.2 第二题(贝叶斯:罕见病检测,10 分)

患病率 P(D)=0.03 ,真阳性率 P(+∣D)=0.95 ,假阳性率 P(+∣D¯)=0.10 。

全概率公式求阳性率:

P(+)=0.95×0.03+0.10×0.97=0.1255=12.55%

贝叶斯求逆概率(阳性者真患病):

P(D∣+)=P(+∣D)P(D)P(+)=0.95×0.030.1255=22.71%

要点:罕见病即使检测很准,因基数(患病率)极低,阳性者真患病的概率仍很低( 22.7% )——贝叶斯最经典的反直觉结论。

15.3 第三题(二维离散:相关与独立,15 分)

由 P{XY=0}=1 知 X≠0 时必有 Y=0 ,据此反推联合分布:

Y=0 Y=1
X=−1 1/4 0
X=0 0 1/2
X=1 1/4 0

(1) max(X,Y)=1 落在 (1,0) 与 (0,1) 两格: P=14+12=34 。

(2) E[X]=0 , E[Y]=12 ;三个非零格的 xy 都为 0⇒E[XY]=0⇒Cov(X,Y)=0 ,故 ρXY=0 ,不相关。

(3) P{X=0,Y=0}=0≠P{X=0}P{Y=0}=14 ,故 不独立。

要点:标准"不相关 ⇏ 独立"例题;先用约束 P{XY=0}=1 把联合分布表填出来,后面全是套公式。

15.4 第四题(二维连续:条件分布,15 分)

fX(x)=6x(1−x) (0<x<1) ,且 Y∣X=x∼U(x,1) ,即 fY∣X(y∣x)=11−x (x<y<1) 。

(1) 联合密度

f(x,y)=fX(x)fY∣X(y∣x)=6x(1−x)⋅11−x=6x,0<x<y<1

(2) 边缘密度 fY(y)=∫0y6xdx=3y2,0<y<1 。

(3) E[XY]=∬0<x<y<1xy⋅6xdxdy=∫01∫0y6x2ydxdy=∫012y4dy=25 。

要点:"已知 fX 与条件分布求联合"用 f(x,y)=fX(x)fY∣X(y∣x) ;定义域 0<x<y<1 一定写清楚,否则后面积分上下限就错。

15.5 第五题(马氏链:图上随机游动,15 分)

四节点游动,一步转移矩阵(初始在节点 2):

P=(1/31/31/301/31/31/301/41/41/41/4001/21/2)

(1) 下一时刻位置只依赖当前节点 ⇒ 时齐马氏链,转移矩阵如上。

(2) 用马氏性把路径拆段( X(0)=2 ):

P{X(2)=3,X(3)=4,X(5)=1}=(P2)2,3⋅P3,4⋅(P2)4,1=1136⋅14⋅18=111152

其中 (P2)2,3=19+19+112=1136 , (P2)4,1=12⋅14=18 。

(3) 遍历性:四节点互相可达(不可约)+ 对角元 pii>0 (周期为 1 ,非周期) ⇒ 遍历。

(4) 平稳分布 π=πP ,由节点 1、2 的行列对称得 π1=π2 ,解得

π=(14, 14, 13, 16) ⇒ limn→∞P{X(n)=1}=14

要点:有限维联合概率拆成"两步转移 × 一步转移 × 两步转移"之积;遍历性必须分别写不可约与非周期;遍历链的极限分布就是平稳分布,利用对称性可省一半计算。

15.6 第六题(平稳过程:线性组合,5 分)

Z(t)=aX(t)+bY(t) ,其中 X(t)⊥Y(t) 且均宽平稳,均值 μX,μY ,自相关 RX(τ),RY(τ) 。

  • 均值: E[Z(t)]=aμX+bμY 为常数;
  • 自相关(独立 ⇒E[X(t)Y(t+τ)]=μXμY ):
RZ(t,t+τ)=a2RX(τ)+b2RY(τ)+2abμXμY

只依赖时间差 τ ,且 RZ(0)<∞ 。故 Z(t) 是宽平稳过程。 ◼

要点:证宽平稳只需两条——均值为常数、自相关只依赖 τ ;独立性是把交叉项化为 μXμY 的关键。

15.7 这份卷子的出题思路

  • 前 40 分填空选择 = 全书扫雷:固定覆盖古典概型、独立性辨析、二维正态、分布可加性 / 顺序统计量、CLT 数值,再塞进 3 道随机过程(两态链极限、功率谱平均功率、泊松增量)——随机过程光填空就占 12 分,不能只盯大题。
  • 后 60 分大题 = 五个固定抽屉:贝叶斯、二维离散(相关+独立)、二维连续(条件分布→联合→边缘→期望)、马氏链(转移矩阵+有限维概率+遍历性+平稳分布)、平稳过程(平稳性证明)。马氏链是分值最大、最稳定的压轴。
  • 常驻题眼:两两独立 ≠ 相互独立、二维正态退化独立、可加性双解、用 P{XY=0}=1 反推联合分布、不相关 ≠ 独立、独立增量拆分、宽平稳两条件。套路重于技巧,失分多在流程漏步(马氏链遍历性、平稳性证明尤其要写全)。

十六、历年真题高频考点与题型地图

本节基于约 18 份北邮《概率论与随机过程》往年期末卷(约 2006–2020 年)通读统计而成。一个最有用的结论:这门课的卷面结构十年几乎不变,题型年年复用——同一道 E={0,1,2} 马氏链题(求 P(X1=1,X2=1,X4=2) )在 2018-2019 与 2019-2020 两年原样重现;随机相位余弦波 X(t)=Acos⁡(ωt+Θ) 在 2008-2009、2019-2020 都考过。所以直接刷往年卷的性价比极高,把下面这张地图覆盖到,基本锁定大部分分数。

16.1 卷面结构(十年稳定)

  • 一、填空 / 单选:40 分(10 空 × 4 分,或早期 15 空 × 3 分)——覆盖全书小考点,性价比最高。
  • 二 ~ 七(八)大题:60 分——二维随机变量、马尔可夫链、平稳过程三大块占绝对主力,几乎每份卷子都各有 1–2 道。
  • 4 学分卷随机过程(马氏链 + 平稳过程 + 线性系统)权重更大;3 学分 / 早期卷的概率前半部分更重,偶有 σ-代数、公理化等理论证明题。

16.2 大题题型频率榜(必考主力)

题型 频率 标准模型 / 套路 对应本文
马氏链·联合概率 + n 步转移 + 分布律 几乎每年 E={0,1,2}/{1,2,3,4} 给 P 和初始分布,求 P(X1,X2,X4) 、 P(Xk=i) 、条件概率 13.3–13.4、13.7
马氏链·状态分类 / 闭集 / 周期 / 平稳分布 几乎每年 5 状态或可列无穷状态,判可分、常返、周期、求全部平稳分布 13.5、13.7 真题4
马氏链·建模(随机游动 / 传球 / 摸球 / 掷骰最小值) 高频 证齐次马氏链 → 写转移阵 → 证遍历 → 极限分布 → E(Xn) 13.6 真题2
二维随机变量·边缘 + 条件密度 + 独立性 + Z 分布 几乎每年 f=a(x+y) 、 e−x(0<y<x) 、 kx 、圆域 等,求常数、边缘、条件、独立性、 Z=X+Y 密度(卷积) 3.1–3.5
二维离散(示性变量)·分布律 + 相关系数 + Z=X2+Y2 高频 P(A)=14,P(B∣A)=13,P(A∣B)=12 定义 X,Y 4.4
平稳过程·证平稳 + 自相关 + 功率谱 几乎每年 X(t)=Acos⁡t+Bsin⁡t 、 Acos⁡(ωt+Θ) 、 Ycos⁡t+Zsin⁡t 十一、12.1
平稳过程过线性系统·输出自相关 / 功率谱 / 互谱 几乎每年 h(t)=e−tu(t) , SY=|H|2SX ,互谱 SXY=H(ω)SX 12.1 真题1
几何概率·二次方程有实根 高频 a2+2aX+Y=0 , X∼U, Y∼exp⁡/U ,判别式 → 面积,用 Φ 表示 3.5、15 节·填空3
中心极限定理·应用 高频 索赔 / 发芽率 / 营业额, b(n,p) 用 CLT 求区间概率 5.3–5.4
随机过程平稳性判定(离散平稳 / 连续不平稳) 中频 X(t)=sin⁡(Yt) , Y∼U(0,2π) 11.1
微分器 / 导过程 中频 Y(t)=X′(t) , RX′ 、 SY=ω2SX 七

16.3 填空高频考点清单(40 分,覆盖全书)

按板块归纳——这些几乎每年都从中抽 8–15 个:

  • 概率基础:事件运算("恰有两个发生"的表示)、独立性、条件概率 / 贝叶斯、古典概型(不放回抽球)、几何概型。
  • 一维分布:泊松 E/D 、二项 D 、正态对称性 P(X<c) 、均匀反求参数、指数无记忆性、由分布函数定参数。
  • 随机变量函数密度: Y=2X 、 |X| 、 X 、 tan⁡X (柯西)、 eX ,公式法 / 分布函数法。
  • 数字特征:线性组合方差 D(aX+bY) 、二维正态 D(X+Y) 、相关系数(线性变换不变 / 木棒折两段 / 伯努利对偶 X 与 Y=A¯ 次数)、 E(XY) 。
  • 极限定理:中心极限定理标准化、大数定律 lim1n∑Xi 。
  • 随机过程数字特征: X(t)=Acos⁡ωt+Bsin⁡ωt 的 μX/RX 、一维正态密度。
  • 维纳过程: CW(s,t)=σ2min(s,t) 、变换后相关函数、增量乘积期望。
  • 泊松过程:自协方差、有限维分布 P(N=⋯) 、均值函数。
  • 平稳过程:自相关 RX(τ)↔ 功率谱 SX(ω) 互求、平均功率 12π∫SXdω 、平稳高斯一维密度。
  • 线性系统:频响 H(ω) 、白噪声输入的输出平均功率 / 功率谱。
  • 马氏链: 2×2 / 3×3 的 limpij(n) (即平稳分布分量)。

16.4 二十天冲刺优先级

  1. 死磕三大主力(各 15–20 分级,合计 40+ 分):二维随机变量综合、马氏链(联合概率 + 状态分类 / 平稳分布)、平稳过程(证平稳 + 过线性系统)。这三块练熟,过半分数到手。
  2. 扫填空清单(40 分):上面每个板块做 2–3 道,重点是随机变量函数密度、线性组合方差、维纳 / 泊松数字特征、 R↔S 互求——这些最稳、最不该丢分。
  3. 次重点补齐:几何概率(二次方程实根)、中心极限定理应用、随机过程平稳性判定。
  4. 理论证明题了解即可:σ-代数 / Borel 域、概率公理化定义、切比雪夫不等式证明、条件期望 / 条件方差——多见于早期 3 学分卷,4 学分近年卷较少,会推导思路即可。

用法建议:先按 15.4 的顺序,对照 15.2 的"标准模型"逐型找 2–3 道往年原题做透;做完回到本文相应章节(已标在表格右列)核对二级结论。三大主力 + 填空清单覆盖到位,应对期末足矣。


十七、考前抓重点

概率基础部分

  1. 先背分布表:二项、泊松、均匀、指数、正态的分布律/密度、期望、方差。
  2. 二维题先求边缘和条件:边缘密度靠积分,条件密度靠除法。
  3. 数字特征题少展开硬算:优先用 E(aX+bY) 、 D(X±Y) 、协方差公式。

随机过程部分

  1. 抓主线 mX(t) 与 RX(t1,t2) :均方值、方差、自协方差都能由这两个量导出, CX=RX−mXmX 、 RX(t,t)=ΨX2 。
  2. 判断宽平稳的标准四步:二阶矩有限 → 均值是否常数 → 自相关是否只依赖 τ → 满足即宽平稳。典型模型 X(t)=Acos⁡(ω0t+Θ) 、 Θ∼U(0,2π) 。
  3. 独立增量过程套路:泊松/维纳的协方差都用 CX(s,t)=DX[min(s,t)] ; min(s,t)=s+t−|s−t|2 是化简利器。注意泊松 mN=λt≠0 故 RN=CN+λ2st ,维纳 mW=0 故 RW=CW 。
  4. 维纳-辛钦: SX(ω) 与 RX(τ) 是傅里叶变换对,平均功率 RX(0)=12π∫SX(ω)dω 。
  5. 马尔可夫链:转移矩阵是行随机矩阵(行和为 1); n 步转移用 Pn (C-K 方程);绝对分布 p(n)=p(0)Pn 左乘;平稳分布解 π=πP 并配归一化 ∑πk=1 。

本文依课程课件与教材整理,如有笔误以老师讲义为准。祝考试顺利。


概率论与随机过程
https://liusuan110.github.io/2026/05/31/courses/probability/probability-formula-review/
作者
Lusu
发布于
2026年5月31日
许可协议