跳转至

第一章 随机事件和概率

随机事件和运算

随机试验与随机事件

随机试验

  • 随机试验,简称 试验 \(E\)

  • 性质

    • 可在相同条件下重复进行

    • 所有可能结果不止一个,且在试验前已知

    • 每次试验结果应在已知所有可能结果中,且事先无法预知

随机事件

  • 试验的每个可能的结果为 随机事件,简称 事件

    • 用大写字母表示
  • 必然事件 \(\it\Omega\)

    • 每次试验必然出现的结果
  • 不可能事件 \(\it\Phi\)

    • 每次试验必然不出现的结果
  • 基本事件 / 样本点 \(\omega, \nu, \tau, \cdots\)

    • 一个试验中最简单的单一事件

    • 非无穷,无穷可数,无穷不可数

样本空间 \(\mathit\Omega/S\)

  • 所有样本点组成的集合

  • 随机事件是样本空间的子集

    • 样本点在事件 \(A\) 内,\(\omega\in A\),称事件 \(A\) 发生

    • 否则 \(\omega\not\in A\),称事件 \(A\) 不发生

  • 由于每次试验中 \(\it\Omega\) 必然发生,因此是必然事件

  • 空集 \(\it\Phi\) 不包含任何样本点,每次试验必不发生,因此是不可能事件

随机事件关系与运算

关系

  • 包含关系

    • 事件 \(B\) 发生,必然导致事件 \(A\) 发生,事件 \(B\) 包含于事件 \(A\),事件 \(A\) 包含事件 \(B\)

    • \(B\subset A, A\supset B\)

  • 相等关系

    • \(B\subset A\)\(A\supset B\),则称事件 \(A\)\(B\) 相等

    • \(A = B\)

运算

  • 事件的

    • 使得事件 A 与 B 中至少有一个发生的事件,这个事件称为 \(A\)\(B\)

    • \(A \cup B = \{\omega \mid \omega\in A \vee \omega \in B\}\)

  • 事件的

    • 使得事件 A 与 B 同时发生的事件,这个事件称为 \(A\)\(B\)

    • \(A\cap B = \{\omega \mid \omega\in A \wedge \omega \in B\}\)

    • 符号可省略,读作 A 乘 B

  • 事件的

    • 使得 A 发生而 B 不发生的事件,这个事件称为 \(A\)\(B\)

    • \(A - B = \{\omega \mid \omega \in A \wedge \omega \not\in B\}\)

  • 对立事件

    • 所有不属于事件 A 的基本事件组成的事件,称为事件 A 的对立事件

    • \(\overline{A} = \{\omega \mid \omega \in \mathit\Omega \wedge \omega \not\in A\}\)

    • 事件与对立事件

      • \(A\cup \overline{A} =\mathit\Omega\)

      • \(A\overline{A} = \varnothing\)

      • \(\overline{\overline{A}} = A\)

      • \(A - B = A \overline{B}\)

      • 必然事件与不可能事件互斥

  • 互不相容

    • \(A B = \varnothing\),称事件 \(A\)\(B\) 互不相容互斥

    • \(n\) 个事件两两交集为空,则 \(n\) 个事件互不相容

    • 互为对立的两事件必为互不相容,反之未必成立

    • 两事件互不相容,则两事件的并读作加,\(A\cup B = A + B\)

运算规律

  • 交换律

    \[ \begin{aligned} A\cup B &= B\cup A\\ AB&=BA \end{aligned} \]
  • 结合律

    \[ \begin{aligned} (A\cup B)\cup C &= A\cup(B\cup C)\\ (AB)C &= A(BC) \end{aligned} \]
  • 分配律

    \[ \begin{aligned} A\cup(BC) &= (A\cup B)(A\cup C)\\ A(B\cup C) &= (AB)\cup(AC) \end{aligned} \]
  • 对偶律 (De Morgan 定理)

    • 对于两事件

      \[ \begin{aligned} \overline{A \cup B} &= \overline{A} \overline{B}\\ \overline{AB} &= \overline{A}\cup\overline{B} \end{aligned} \]
    • 对于 \(n\) 个或无穷事件

      \[ \overline{\bigcup_{i=1}^nA_i} = \bigcap_{i=1}^n\overline{A_i},\quad \overline{\bigcap_{i=1}^nA_i} = \bigcup_{i=1}^n\overline{A_i} \]
  • 运算顺序:对立 > 交 > 并 & 差,括号优先

概率

概率的定义

  • 随机事件 \(A\) 发生可能性大小的数值度量,称为 \(A\)概率,记为 \(P(A)\)

  • \(E\) 是一个随机试验,\(\it \Omega\) 是它的样本空间,对于 \(E\) 的每个事件 \(A\) 赋予一个实数,记为 \(P(A)\),若 \(P( \cdot )\) 满足以下公理:

    1. 非负性:对于每一个事件 \(A\),有 \(P(A)\ge 0\)

    2. 规范性 对于必然事件 \(\it\Omega\),有 \(P(\it \Omega)=1\)

    3. 可列可加性 对于两两互不相容的事件 \(A_1, A_2, \cdots, A_n, \cdots\),即 \(A_iA_j=\varnothing,i\neq j,i,j=1,2,\cdots\),有

      \[ P\left(\bigcup_{i=1}^{+\infty}A_i\right)=\sum_{i=1}^{+\infty}P(A_i) \]

      则称 \(P(A)\) 为事件 \(A\)概率

频率的定义

  • 如果事件 \(A\)\(n\) 次重复试验中发生了 \(m\) 次,则称比值 \(\dfrac mn\) 为在这 \(n\) 次重复试验中事件 \(A\) 发生的 频率,记为

    \[ f_n(A)=\frac mn \]
  • 性质

    1. 对于任意事件 \(A\)\(0\le f_n(A)\le 1\)

    2. \(f_n(\mathit\Omega) = 1\)

    3. 若事件 \(A_1,A_2,\cdots,A_n\) 两两互不相容,则

      \[ f_n\left(\bigcup_{i=1}^{+\infty}A_i\right)=\sum_{i=1}^{+\infty}f_n(A_i) \]

统计概率

  • 设随机试验 \(A\)\(n\) 次重复试验中发生了 \(m\) 次. 当 \(n\) 很大时,频率 \(f_n(A) = \dfrac mn\) 稳定在某一数值 \(p (0<p<1)\) 附近波动,且随着次数增大,波动幅度越来越小,则称数值 \(p\) 为事件 \(A\)(统计) 概率

古典概率

  • 定义:满足以下条件:

    • 样本空间包含 有限个样本点\(\mathit\Omega = \{\omega_1,\omega_2,\cdots,\omega_N\}\)

    • 每个样本点的发生是 等可能 的,\(P(\omega_1)=P(\omega_2)=\cdots=P(\omega_N)\)

  • 样本空间为必然事件,\(P(\mathit\Omega)=1\),则有

    \[ P\{\omega_i\}=\frac1N \]
  • 事件 \(A=\{\omega_{i_1},\omega_{i_2},\cdots,\omega_{i_M}\}\) 的概率为

    \[ P(A)=\frac {M}{N} = \frac{A 包含样本点个数}{\mathit\Omega 中样本点的总数} \]

几何概型

  • 定义:满足以下条件:

    • 样本空间中每个样本点与一个测度有限的几何区域中的点一一对应;

    • 任意事件 \(A\) 与区域 \(S\) 的一个子区域 \(G\) 对应,\(A\) 的概率 \(P(A)\) 仅与 \(G\) 的测度成正比,与 \(G\) 的形状与在 \(S\) 中的位置无关,即

      \[ P(A)=\frac{m(G)}{m(S)} \]

      其中 \(m( \cdot )\) 表示区域的测度

概率基本性质

  1. \[ P(\varnothing) = 0 \]
  2. 有限可加性\(n\) 个事件 \(A_1, A_2, \cdots, A_n\) 满足 \(A_iA_j = \varnothing(i\neq j)\)

    \[ P\left(\bigcup_{i=1}^{n}A_i\right)=\sum_{i=1}^{n}P(A_i) \]
  3. 对立事件:对于任意事件,

    \[ P(\overline A)=1-P(A) \]
  4. 单调不减性:对于任意两个事件 \(A,B\),若 \(A\subset B\),则有

    \[ P(B-A) = P(B)-P(A), P(B)\ge P(A) \]
  5. 加法定理:对于任意两个事件 \(A,B\)

    \[ P(A\cup B) = P(A) + P(B) - P(AB) \]

    一般地,对于 \(n\) 个事件 \(A_1, A_2, \cdots, A_n\)

    \[ P\left(\bigcup_{i=1}^{n}A_i\right)=\sum_{i=1}^{n}P(A_i)-\sum_{1\le i<j\le n}P(A_iA_j)+\sum_{1\le i<j<k\le n}P(A_iA_jA_k)+\cdots+(-1)^{n-1}P(A_1A_2\cdots A_n) \]

    右侧共 \(\sum\limits_{k=1}^nC_n^k = 2^n-1\)

  6. 事件差

    \[ P(B-A) = P(B) - P(AB) \]

条件概率

  • 定义:设 A,B 为两事件,\(P(A)>0\),,则事件 A 发生的条件下事件 B 发生的条件概率为

    \[ P(B \mid A) = \frac{P(AB)}{P(A)} \]
  • \(B\subset A\) 时,

    \[ P(B \mid A) = \frac{P(AB)}{P(A)} = \frac{P(B)}{P(A)}\ge P(B) \]

乘法公式

\[ \begin{aligned} P(AB) &= P(A) P(B \mid A)\quad(P(A)>0)\\ &=P(B) P(A \mid B)\quad(P(B)>0) \end{aligned} \]

推广:

\[ P(A_1A_2\cdots A_n) = P(A_1) P(A_2 \mid A_1)\cdots P(A_n \mid A_1A_2\cdots A_{n-1})\quad(P(A_1A_2\cdots A_{n-1})>0) \]

全概率公式

若事件 \(B_1, B_2,\cdots, B_n\) 满足

\[ \bigcup_{i=1}^nB_i = \mathit \Omega,\quad B_iB_j = \varnothing (i\neq j) \]

称上述事件组为 完备事件组,或样本空间 \(\it \Omega\) 的一个 划分

若事件 \(A\) 落在样本空间内,与划分中的任意一个 \(B_i\) 都有可能有交集,则事件 \(A\) 的概率与划分有关

\[ A = \bigcup_{i=1}^nAB_i,\quad (AB_i)(AB_j) = \varnothing (i\neq j) \]

\(P(A)\) 的概率可由全概率公式给出

\[ P(A) = \sum_{i=1}^n P(AB_i) = \sum_{i=1}^n P(B_i)\cdot P(A \mid B_i) \]
  • 对于 \(A\) 的全体的概率被分解为多个部分之和

  • 事件 \(A\) 的发生由原因 \(B_i\) 引起,则 \(P(AB_i) = P(B_i) P(A \mid B_i)\),事件 \(A\) 的全体为所有原因的总和

Bayes 公式

在事件 \(A\) 已发生的条件下,求导致 \(A\) 发生的每个原因的概率,可由 Bayes 公式求出

\[ \begin{aligned} P(B_k \mid A) = \dfrac{P(AB_k)}{P(A)} &= \dfrac{P(B_k) P(A \mid B_k)}{P(A)} \\ &= \dfrac{P(B_k) P(A \mid B_k)}{\displaystyle\sum\limits_{i=1}^nP(B_i) P(A \mid B_i)} \end{aligned} \]
  • \(P(B_i)\) 先验概率:由以往经验得到

  • \(P(B_i \mid A)\) 后验概率:得到信息:\(A\) 发生的概率后,对 \(A\) 发生的原因的可能性大小进行修正

事件的独立性

  • 定义:任意两个事件 \(A, B\),若满足

    \[ P(AB) = P(A) P(B) \]

    则称事件 \(A\) 与事件 \(B\) 相互独⽴,简称 \(A\)\(B\) 独⽴,即

    \[ P(A \mid B) = P(A) = P(A \mid \overline B) \]
  • 推广:若事件 \(A_1,A_2,A_3\) 满足

    \[ \begin{aligned} &\begin{cases} P(A_1A_2) = P(A_1) P(A_2)\\ P(A_1A_3) = P(A_1) P(A_3)\\ P(A_2A_3) = P(A_2) P(A_3) \end{cases}\\ &P(A_1A_2A_3) = P(A_1) P(A_2) P(A_3) \end{aligned} \]

    则称三个事件 相互独立

  • 辨析两两独立相互独立

  • 性质

    • 对称性:两事件相互独立是相互对称的

    • \(P(A)>0\),则 \(P(B) = P(B \mid A)\)

    • \(P(B)>0\),则 \(P(A) = P(A \mid B)\)

    • \(P(A), P(B)>0\),则 “相互独立” 与 “互斥” 不能同时成立

      • 若互斥则一个发生另一个必不发生
    • 若四对事件 \(A,B;A,\overline B; \overline A, B;\overline A, \overline B\) 任意一对事件相互独立,则其余三对也分别相互独立

    • \(n\) 个事件相互独立,则将这 \(n\) 个事件任意分成 \(k\) 组,同一事件不能同时属于两个不同的组,则对 每组的事件进行求和、积、差、对立等运算 所得到的 \(k\) 个事件 也相互独立

利用独立事件的性质计算并事件的概率

\(A_1, A_2,\cdots, A_n\) 相互独立,则

\[ P\left(\bigcup_{i = 1}^nA_i\right) = 1 - \prod_{i = 1}^n(1 - P(A_i)) \]

\(P(A_i) = p\)

\[ P\left(\bigcup_{i = 1}^nA_i\right) = 1-(1-p)^n \]

伯努利试验概型

\(n\) 重伯努利试验概型:

  • 重复试验 \(n\)

  • 每次试验只有两种可能的结果 \(A,\overline A\)

  • 每次试验的结果与其它次试验无关:\(n\) 次试验是相互独立的

事件 \(A\) 出现 \(k\) 的概率,记为 \(P_n(k)\),若 \(P(A)= p, 0<p<1\)

\[ P_n(k) = \mathrm C_n^k p^k (1-p)^{n-k},\quad k=0,1,2,\cdots,n \]