跳转至

第一章 随机事件和概率

随机事件和运算

随机试验与随机事件

随机试验

  • 随机试验， 简称 试验 \(E\)
  • 性质：
    • 可在相同条件下重复进行
    • 所有可能结果不止一个， 且在试验前已知
    • 每次试验结果应在已知所有可能结果中， 且事先无法预知

随机事件

  • 试验的每个可能的结果为 随机事件， 简称 事件
    • 用大写字母表示
  • 必然事件 \(\it\Omega\)
    • 每次试验必然出现的结果
  • 不可能事件 \(\it\Phi\)
    • 每次试验必然不出现的结果
  • 基本事件 / 样本点 \(\omega, \nu, \tau, \cdots\)
    • 一个试验中最简单的单一事件
    • 非无穷， 无穷可数， 无穷不可数

样本空间 \(\mathit\Omega/S\)

  • 所有样本点组成的集合
  • 随机事件是样本空间的子集
    • 样本点在事件 \(A\) 内， \(\omega\in A\)， 称事件 \(A\) 发生
    • 否则 \(\omega\not\in A\)， 称事件 \(A\) 不发生
  • 由于每次试验中 \(\it\Omega\) 必然发生， 因此是必然事件
  • 空集 \(\it\Phi\) 不包含任何样本点， 每次试验必不发生，因此是不可能事件

随机事件关系与运算

关系

  • 包含关系
    • 事件 \(B\) 发生， 必然导致事件 \(A\) 发生， 事件 \(B\) 包含于事件 \(A\)， 事件 \(A\) 包含事件 \(B\)
    • \(B\subset A, A\supset B\)
  • 相等关系
    • 若 \(B\subset A\) 且 \(A\supset B\)， 则称事件 \(A\) 与 \(B\) 相等
    • \(A = B\)

运算

  • 事件的 并
    • 使得事件 A 与 B 中至少有一个发生的事件， 这个事件称为 \(A\) 与 \(B\) 的 并
    • \(A \cup B = \{\omega\ |\ \omega\in A \vee \omega \in B\}\)
  • 事件的 交
    • 使得事件 A 与 B 同时发生的事件， 这个事件称为 \(A\) 与 \(B\) 的 交
    • \(A\cap B = \{\omega\ |\ \omega\in A \wedge \omega \in B\}\)
    • 符号可省略， 读作 A 乘 B
  • 事件的 差
    • 使得 A 发生而 B 不发生的事件， 这个事件称为 \(A\) 与 \(B\) 的 差
    • \(A - B = \{\omega\ |\ \omega \in A \wedge \omega \not\in B\}\)
  • 对立事件
    • 所有不属于事件 A 的基本事件组成的事件， 称为事件 A 的对立事件
    • \(\overline{A} = \{\omega\ |\ \omega \in \mathit\Omega \wedge \omega \not\in A\}\)
    • 事件与对立事件
      • \(A\cup A=\mathit\Omega\)
      • \(A\overline{A} = \varnothing\)
      • \(\overline{\overline{A}} = A\)
      • \(A - B = A\ \overline{B}\)
      • 必然事件与不可能事件互斥
  • 互不相容
    • 若 \(A\ B = \varnothing\)， 称事件 \(A\) 与 \(B\) 互不相容 或 互斥
    • 若 \(n\) 个事件两两交集为空， 则 \(n\) 个事件互不相容
    • 互为对立的两事件必为互不相容， 反之未必成立
    • 两事件互不相容， 则两事件的并读作加， \(A\cup B = A + B\)

运算规律

  • 交换律

    \[ \begin{aligned} A\cup B &= B\cup A\\ AB&=BA \end{aligned} \]

  • 结合律

    \[ \begin{aligned} (A\cup B)\cup C &= A\cup(B\cup C)\\ (AB)C &= A(BC) \end{aligned} \]

  • 分配律

    \[ \begin{aligned} A\cup(BC) &= (A\cup B)(A\cup C)\\ A(B\cup C) &= (AB)\cup(AC) \end{aligned} \]

  • 对偶律 (De Morgan 定理)

    • 对于两事件

      \[ \begin{aligned} \overline{A \cup B} &= \overline{A}\ \overline{B}\\ \overline{AB} &= \overline{A}\cup\overline{B} \end{aligned} \]

    • 对于 \(n\) 个或无穷事件

      \[ \overline{\bigcup_{i=1}^nA_i} \]

  • 运算顺序：对立 > 交 > 并 & 差， 括号优先

概率

概率的定义

  • 随机事件 \(A\) 发生可能性大小的数值度量， 称为 \(A\) 的 概率，记为 \(P(A)\)
  • 设 \(E\) 是一个随机试验， \(\it \Omega\) 是它的样本空间， 对于 \(E\) 的每个事件 \(A\) 赋予一个实数， 记为 \(P(A)\)， 若 \(P(\ \cdot\ )\) 满足以下公理：
    1. 非负性：
      • 对于每一个事件 \(A\)， 有 \(P(A)\ge 0\)
    2. 规范性
      • 对于必然事件 \(\it\Omega\)， 有 \(P(\it \Omega)=1\)
    3. 可列可加性

      • 对于两两互不相容的事件 \(A_1, A_2, \cdots, A_n, \cdots\)， 即 \(A_iA_j=\varnothing,i\neq j,i,j=1,2,\cdots\)， 有

        \[ P\left(\bigcup_{i=1}^{+\infty}A_i\right)=\sum_{i=1}^{+\infty}P(A_i) \]

        则称 \(P(A)\) 为事件 \(A\) 的 概率

频率的定义

  • 如果事件 \(A\) 在 n 次重复试验中发生了 m 次， 则称比值 \(\dfrac mn\) 为在这 n 次重复试验中事件 A 发生的 频率， 记为

    \[ f_n(A)=\frac mn \]

  • 性质：

    1. 对于任意事件 A， \(0\le f_n(A)\le 1\)
    2. \(f_n(\mathit\Omega) = 1\)

    3. 若事件 \(A_1,A_2,\cdots,A_n\) 两两互不相容， 则

      \[ f_n\left(\bigcup_{i=1}^{+\infty}A_i\right)=\sum_{i=1}^{+\infty}f_n(A_i) \]

统计概率

  • 设随机试验 A 在 n 次重复试验中发生了 m 次. 当 n 很大时， 频率 \(f_n(A) = \dfrac mn\) 稳定在某一数值 \(p\ (0<p<1)\) 附近波动， 且随着次数增大， 波动幅度越来越小，则称数值 p 为事件 A 的 (统计) 概率

古典概率

  • 定义：满足以下条件：
    • 样本空间包含 有限个样本点， \(\mathit\Omega = \{\omega_1,\omega_2,\cdots,\omega_N\}\)
    • 每个样本点的发生是 等可能 的， \(P(\omega_1)=P(\omega_2)=\cdots=P(\omega_N)\)

  • 样本空间为必然事件， \(P(\mathit\Omega)=1\)， 则有

    \[ P\{\omega_i\}=\frac1N \]

  • 事件 \(A=\{\omega_{i_1},\omega_{i_2},\cdots,\omega_{i_M}\}\) 的概率为

    \[ P(A)=\frac {M}{N} = \frac{A\ 包含样本点个数}{\mathit\Omega\ 中样本点的总数} \]

几何概型

  • 定义：满足以下条件：
    • 样本空间中每个样本点与一个测度有限的几何区域中的点一一对应;

    • 任意事件 \(A\) 与区域 \(S\) 的一个子区域 \(G\) 对应， A 的概率 \(P(A)\) 仅与 G 的测度成正比， 与 G 的形状与在 S 中的位置无关，即

      \[ P(A)=\frac{m(G)}{m(S)} \]

      其中 \(m(\ \cdot\ )\) 表示区域的测度

概率基本性质

  1. \[ P(\varnothing) = 0 \]

  2. 有限可加性：\(n\) 个事件 \(A_1, A_2, \cdots, A_n\) 满足 \(A_iA_j = \varnothing\)，

    \[ P\left(\bigcup_{i=1}^{n}A_i\right)=\sum_{i=1}^{n}P(A_i) \]

  3. 对立事件：对于任意事件，

    \[ P(\overline A)=1-P(A) \]

  4. 单调不减性：对于任意两个事件 \(A,B\)， 若 \(A\subset B\)， 则有

    \[ P(B-A) = P(B)-P(A), P(B)\ge P(A) \]

  5. 加法定理：对于任意两个事件 \(A,B\)，

    \[ P(A\cup B) = P(A) + P(B) - P(AB) \]

    一般地， 对于 \(n\) 个事件 \(A_1, A_2, \cdots, A_n\)，

    \[ P\left(\bigcup_{i=1}^{n}A_i\right)=\sum_{i=1}^{n}P(A_i)-\sum_{1\le i<j\le n}P(A_iA_j)+\sum_{1\le i<j<k\le n}P(A_iA_jA_k)+\cdots+(-1)^{n-1}P(A_1A_2\cdots A_n) \]

    右侧共 \(\sum\limits_{k=1}^nC_k^n = 2^n-1\) 项

  6. 事件差：

    \[ P(B-A) = P(B) - P(AB) \]

条件概率

  • 定义：设 A， B 为两事件， \(P(A)>0\)， ，则事件 A 发生的条件下事件 B 发生的条件概率为

    \[ P(B\ |\ A) = \frac{P(AB)}{P(A)} \]

  • 当 \(B\subset A\) 时，

    \[ P(B\ |\ A) = \frac{P(AB)}{P(A)} = \frac{P(B)}{P(A)}\ge P(B) \]

乘法公式

\[ \begin{aligned} P(AB) &= P(A)\ P(B\ |\ A)\quad(P(A)>0)\\ &=P(B)\ P(A\ |\ B)\quad(P(B)>0) \end{aligned} \]

推广：

\[ P(A_1A_2\cdots A_n) = P(A_1)\ P(A_2\ |\ A_1)\cdots P(A_n\ |\ A_1A_2\cdots A_{n-1})\quad(P(A_1A_2\cdots A_{n-1})>0) \]

全概率公式

若事件 \(B_1, B_2,\cdots, B_n\) 满足

\[ \bigcup_{i=1}^nB_i = \mathit \Omega, B_iB_j = \varnothing \]

称上述事件组为 完备事件组， 或样本空间 \(\it \Omega\) 的一个 划分

若事件 \(A\) 落在样本空间内， 与划分中的任意一个 \(B_i\) 都有可能有交集， 则事件 \(A\) 的概率与划分有关

\[ A = \bigcup_{i=1}^nAB_i,(AB_i)(AB_j) = \varnothing \]

则 \(P(A)\) 的概率可由全概率公式给出

\[ P(A) = \sum_{i=1}^n P(AB_i) = \sum_{i=1}^n P(B_i)\cdot P(A\ |\ B_i) \]
  • 对于 \(A\) 的全体的概率被分解为多个部分之和
  • 事件 \(A\) 的发生由原因 \(B_i\) 引起， 则 \(P(AB_i) = P(B_i)\ P(A\ |\ B_i)\)， 事件 \(A\) 的全体为所有原因的总和

Bayes 公式

在事件 \(A\) 已发生的条件下， 求导致 \(A\) 发生的每个原因的概率， 可由 Bayes 公式求出

\[ \begin{aligned} P(B_k\ |\ A) = \dfrac{P(AB_k)}{P(A)} &= \dfrac{P(B_k)\ P(A\ |\ B_k)}{P(A)} \\ &= \dfrac{P(B_k)\ P(A\ |\ B_k)}{\displaystyle\sum\limits_{i=1}^nP(B_i)\ P(A\ |\ B_i)} \end{aligned} \]
  • \(P(B_i)\) 先验概率
    • 由以往经验得到
  • \(P(B_i\ |\ A)\) 后验概率
    • 得到信息：\(A\) 发生的概率后， 对 \(A\) 发生的原因的可能性大小进行修正

事件的独立性

  • 定义：任意两个事件 \(A, B\)， 若满足

    \[ P(AB) = P(A)\ P(B) \]

    则称事件 A 与事件 B 相互独⽴， 简称 A 与 B 独⽴，即

    \[ P(A\ |\ B) = P(A) = P(A\ |\ \overline B) \]

  • 推广：若事件 \(A_1,A_2,A_3\) 满足

    \[ \begin{aligned} &\begin{cases} P(A_1A_2) = P(A_1)\ P(A_2)\\ P(A_1A_3) = P(A_1)\ P(A_3)\\ P(A_2A_3) = P(A_2)\ P(A_3) \end{cases}\\ &P(A_1A_2A_3) = P(A_1)\ P(A_2)\ P(A_3) \end{aligned} \]

    则称三个事件 相互独立

  • 辨析：两两独立 与 相互独立

  • 性质

    • 对称性：两事件相互独立是相互对称的
    • \(P(A)>0\)， 则 \(P(B) = P(B\ |\ A)\)
    • \(P(B)>0\)， 则 \(P(A) = P(A\ |\ B)\)
    • 若 \(P(A), P(B)>0\)， 则 “相互独立” 与 “互斥” 不能同时成立
      • 若互斥则一个发生另一个必不发生
    • 若四对事件 \(A,B;A,\overline B; \overline A, B;\overline A, \overline B\) 任意一对事件相互独立， 则其余三对也分别相互独立
    • 若 \(n\) 个事件相互独立， 则将这 \(n\) 个事件任意分成 \(k\) 组， 同一事件不能同时属于两个不同的组， 则对 每组的事件进行求和、积、差、对立等运算 所得到的 \(k\) 个事件 也相互独立

利用独立事件的性质计算并事件的概率

若 \(A_1, A_2,\cdots, A_n\) 相互独立， 则

\[ P\left(\bigcup_{i = 1}^nA_i\right) = 1 - \prod_{i = 1}^n(1 - P(A_i)) \]

当 \(P(A_i) = p\)，

\[ P\left(\bigcup_{i = 1}^nA_i\right) = 1-(1-p)^n \]

伯努利试验概型

\(n\) 重伯努利试验概型：

  • 重复试验 \(n\) 次
  • 每次试验只有两种可能的结果 \(A,\overline A\)
  • 每次试验的结果与其它次试验无关：\(n\) 次试验是相互独立的

事件 \(A\) 出现 \(k\) 的概率， 记为 \(P_n(k)\)，若 \(P(A)= p, 0<p<1\)

\[ P_n(k) = \mathrm C_n^k\ p^k\ (1-p)^{n-k},\quad k=0,1,2,\cdots,n \]