[1.x] 概率论的基本概念
样本空间与随机事件
随机试验(random experiment)的特点:
- 可以复现;
- 每次试验的结果不定,但事先可以知道试验的所有可能结果;
而随机试验的所有可能结果构成的集合为样本空间(sample space),记为 S,其中的每一个元素为样本点(sample point)。
而样本空间的任一子集成为随机事件(random event),简称事件。
事件的相互关系
从左到右分别:
包含 | 和事件 | 积事件 | 逆事件 | 差事件
- 两互逆事件又称对立事件。
- 若 AB=∅,则称两事件不相容(或互斥)
- 若 A⊂BandB⊂A,则称两事件相等
其中,和、交、逆事件有如下运算规律:
- 交换律:A∪B=B∪A,A∩B=B∩A;
- 结合律:A∪(B∪C)=(A∪B)∪C,A(BC)=(AB)C;
- 分配律:A(B∪C)=(AB)∪(AC),(AB)∪C=(A∪C)(B∪C);
- 对偶律 / 德摩根定律(De Morgan's law):j=1⋃nAj=j=1⋂nAj,j=1⋂nAj=j=1⋃nAj;
串联系统与并联系统:
- 串联系统:A=i=1⋂nAi
- 并联系统:A=i=1⋃nAi
频率与概率
频率 = 频数 / 试验总次数
若样本空间 S 中的任一事件 A,定义概率 P(A) 满足以下三条公理:
- 非负性 P(A)≥0;
- 规范性 / 正则性 P(S)=1;
- 可列可加性:对于 S 中不相容的事件 Ai,有 P(j=1⋃+∞Aj)=j=1∑+∞P(Aj);
由此得到如下几条概率的性质:
- 对于有限个两两不相容的事件的和事件,有 P(j=1⋃nAj)=j=1∑nP(Aj);
- P(A)=1−P(A);特别的,可以得到 P(∅)=0;
- 当 A⊃B 时,P(A−B)=P(A)−P(B) 且 P(A)≥P(B);
- 概率的加法公式:P(A∪B)=P(A)+P(B)−P(AB);推广即容斥原理;
- 加法公式的推论:P(A∪B)≤P(A)+P(B);
等可能概型
如果随机事件满足:
- S 中样本点数有限;
- ∀i,j∈{1,2,...,n},P(ei)=P(ej),即等可能;
则该试验问题为等可能概型(古典概型)
有如下性质:若总事件个数为 N,A 为 n 个基本事件的和事件,则 P(A)=Nn。
条件概率
如果 P(B)>0,那么定义在 B 发生的条件下 A 发生的条件概率(contidional probability)为:
P(A∣B)=P(B)P(AB)
条件概率是在新的样本空间下的概率度量,它满足概率的定义和性质。
定义完备事件组为 S 的一个划分 B1,B2,...,Bn,它满足如下性质:
- BiBj=∅,i,j,...,n,i=j;
- i=1⋃nBi=S;
设 S 为一样本空间,A 为该试验的事件,{Bi} 为 S 的一个划分,则有:
- 若 A1,...,An,... 互不相容,则 P(∪n=1∞An∣B)=n=1∑∞P(An∣B);
- 乘法公式:当 P(A)=0P(B)=0 时,有 P(AB)=P(A)∗P(B∣A)=P(B)∗P(A∣B);
- 全概率公式:P(A)=j=1∑nP(Bj)P(A∣Bj);
- 贝叶斯公式:P(Bk∣A)=P(A)P(BkA)=j=1∑nP(Bj)P(A∣Bj)P(Bk)P(A∣Bk);
- 其中,我们称 P(Bj) 这种事先知道的概率为先验概率;而 P(Bj∣A) 这种,当事件 A 发生后需要修正 Bj 的概率成为后验概率。
事件独立性与独立试验
设 A,B 为两个随机事件,若有 P(AB)=P(A)∗P(B),则 A,B 相互独立(independent)
其实际意义是,事件 A 的发生与事件 B 的发生互不影响。
那么就有结论:whileP(AB)=P(A)∗P(B),P(A∣B)=P(A);
当出现两个以上的随机事件时,如三个随机事件 A,B,C,当:
P(AB)=P(A)∗P(B),P(AC)=P(A)∗P(C),P(BC)=P(B)∗P(C)
都成立,则称事件 A,B,C 两两独立;
如果同时还满足:P(ABC)=P(A)P(B)P(C) 则称事件 A,B,C 相互独立。
- 显然有:相互独立 ⇒ 两两独立
更普遍的:
定义 {Ai} 相互独立当且仅当 ∀ij,P(∏j=1kAij)=∏j=1kP(Aij)
独立试验与重复试验:
- 独立试验各个试验结果互不影响;
- 重复试验的每一次子试验都在相同情况下进行;
最后更新:
2024年1月13日 19:00:24
创建日期:
2024年1月13日 19:00:24