概率论符号和公式整理

原创已于 2025-06-29 16:50:06 修改 · 588 阅读

5 ·

CC 4.0 BY-SA版权

文章标签：

#概率论

于 2025-06-29 10:46:27 首次发布

机器学习同时被 2 个专栏收录

3 篇文章

订阅专栏

数学

1 篇文章

订阅专栏

本文是由AI生成后，经作者优化整理的文章。个人总结，仅限参考！

以下整理了概率论中的常用符号和公式表格，覆盖基础知识、关键定理和常用分布：

一、基础集合与事件符号

符号	名称	含义/公式	说明
$S$	样本空间	所有可能结果的集合	全集
$ω\omega$	样本点	$S$ 中的元素	基本事件
$A, B$	事件	$S$ 的子集	可能发生的结果集合
$A^c$	补事件	$S - A$	$A$ 不发生
$\cap B$	事件交	$A$ 与 $B$ 同时发生	$\cap B)$ 即联合概率
$\cup B$	事件并	$A$ 或 $B$ 发生	加法公式核心
$\setminus B$	事件差	$A$ 发生但 $B$ 不发生	$\cap B^c$
$∅\emptyset$	空事件	不可能事件	$P(∅)=0P(\emptyset) = 0$
$\subseteq B$	事件包含	$A$ 发生则 $B$ 必然发生	蕴含关系
$\perp B$	事件独立	$\cap B) = P(A)P(B)$	统计独立性定义

二、概率函数与公理

公理

公理	名称	数学表述	说明
公理 1	非负性	对于任意事件 $A$ (即 $\subseteq S$ )， $\geq 0$	任何事件发生的概率都不能小于零。
公理 2	规范性	$P (S) = 1$	整个样本空间 $S$ (包含所有可能结果) 发生的概率等于 1。意味着某种结果必然发生。
公理 3	可列可加性	对于任意可数个 (有限个或可数无穷个) 两两互斥的事件 $A_1, A_2, A_3, ...$ (即 $\neq j$ 时 $Ai∩Aj=∅A_i \cap A_j = \emptyset$ )， $P(⋃i=1∞Ai)=∑i=1∞P(Ai)P\left( \bigcup_{i=1}^{\infty} A_i \right) = \sum_{i=1}^{\infty} P(A_i)$	互斥事件并的概率等于各事件概率之和。如果一个事件可以分解成一些互不重叠的子事件，那么该事件的概率就是这些子事件概率的总和。

符号	名称	公式/定义	说明
$\mid B)$	条件概率	$P(A∩B)P(B)\dfrac{P(A \cap B)}{P(B)}$	$B$ 发生下 $A$ 的概率
公式	乘法公式	$\cap B) = P(A \mid B) P(B)$	联合概率计算
公式	全概率公式	$\sum_i P(A \mid B_i) P(B_i)$	${B_i\}$ 为分割
公式	贝叶斯定理	$P(Bj∣A)=P(A∣Bj)P(Bj)∑iP(A∣Bi)P(Bi)P(B_j \mid A) = \dfrac{P(A \mid B_j) P(B_j)}{\sum_i P(A \mid B_i) P(B_i)}$	后验概率计算

对偶公式

符号/名称	公式	说明
德摩根律 (事件逆运算法则)	$\cup B)^c = A^c \cap B^c$	并集的补集 = 补集的交集（推广： $(⋃iAi)c=⋂iAic\left( \bigcup_{i} A_i \right)^c = \bigcap_{i} A_i^c$ ）
	$\cap B)^c = A^c \cup B^c$	交集的补集 = 补集的并集（推广： $(⋂iAi)c=⋃iAic\left( \bigcap_{i} A_i \right)^c = \bigcup_{i} A_i^c$ ）
加法公式的对偶形式	$\cup B) = P(A) + P(B) - P(A \cap B)$	事件并的概率 = 概率和减交集概率（消除重复计算）
	$\cap B^c) = P(A) - P(A \cap B)$	$A$ 发生但 $B$ 不发生的概率
互斥事件的对偶性质	若 $\cap B = \emptyset$ ，则 $\cup B) = P(A) + P(B)$	互斥时：并集概率 = 概率之和
	若 $\cup B) = P(A) + P(B)$ ，则 $\cap B = \emptyset$	逆关系：概率可加性蕴含事件互斥
Borel-Cantelli 引理的对偶	$sup⁡An)=0\sum_{n=1}^{\infty} P(A_n) < \infty \implies P\left(\limsup A_n\right) = 0$	事件列若概率和收敛，则“无限发生”概率为 0
	$sup⁡An)=1\sum_{n=1}^{\infty} P(A_n) = \infty \text{ 且独立} \implies P\left(\limsup A_n\right) = 1$	事件列若独立且概率和发散，则“无限发生”概率为 1（对偶结论）
独立性的对偶条件	$\cap B) = P(A)P(B) \implies A, B \text{ 独立}$	独立性的基础定义形式
	$\mid B) = P(A) \quad \text{（当 } P(B)>0\text{）}$	对偶表达：条件概率 = 无条件概率（独立性在条件概率中的体现）
	$\mid B) = P(A \mid B^c)$	独立性等价于： $B$ 发生与否不影响 $A$ 的条件概率

对偶性在概率论中的意义：
对偶公式揭示了概率运算中互补结构的对称性（如并/交、发生/不发生、独立/相关），是化简复杂概率问题和证明极限定理的核心工具。尤其当问题涉及补事件或互逆结论时（如“至少发生一次” vs. “永不发生”），对偶关系常提供简洁的转换路径。

三、随机变量与分布

符号	名称	公式/定义	说明
$X, Y$	随机变量	函数 $\to \mathbb{R}$	将结果映射为实数
$F_X(x)$	累积分布函数 (CDF)	$FX(x)=P(X≤x)F_X(x) = P(X \leq x)$	单调不减、右连续
离散型
$p_X(x)$	概率质量函数 (PMF)	$p_X(x) = P(X = x)$	离散随机变量概率
连续型
$f_X(x)$	概率密度函数 (PDF)	$\leq X \leq b) = \int_a^b f_X(x) \, dx$	$fX(x)≥0f_X(x) \geq 0$ , (\int_{-\infty}^{\infty} f_X(x) , dx = 1$
公式	CDF与PDF关系	$dtF_X(x) = \int_{-\infty}^{x} f_X(t) \, dt$	$fX(x)=ddxFX(x)f_X(x) = \frac{d}{dx} F_X(x)$

四、重要数字特征

符号	名称	公式	说明
$E [X]$	期望	离散： $∑xip(xi)\sum x_i p(x_i)$ 连续： $dx\int x f(x) \, dx$	随机变量平均值
$Var(X)\text{Var}(X)$	方差	$E[(X−E[X])2]=E[X2]−(E[X])2E\left[(X - E[X])^2\right] = E[X^2] - (E[X])^2$	度量离散程度
$σX\sigma_X$	标准差	$Var(X)\sqrt{\text{Var}(X)}$	方差的平方根
$Cov(X,Y)\text{Cov}(X,Y)$	协方差	$E [(X - E [X]) (Y - E [Y])] = E [X Y] - E [X] E [Y]$	衡量两变量线性相关性
$ρX,Y\rho_{X,Y}$	相关系数	$Cov(X,Y)σXσY\dfrac{\text{Cov}(X,Y)}{\sigma_X \sigma_Y}$	$
$Skew(X)\text{Skew}(X)$	偏度	$E[(X−μσ)3]E\left[\left(\frac{X-\mu}{\sigma}\right)^3\right]$	分布不对称性度量
$Kurt(X)\text{Kurt}(X)$	峰度	$E[(X−μσ)4]−3E\left[\left(\frac{X-\mu}{\sigma}\right)^4\right] - 3$	分布尖锐或平坦程度（减3后正态为0）

五、极限定理

以下是大数定律主要形式的结构化对比表格，包含核心公式、条件及收敛目标：

大数定律类型	条件	公式表达（收敛形式）	收敛目标	应用场景
伯努利大数定律	独立重复试验（ $n$ 次），固定事件概率 $p$	$lim⁡n→∞P(∣μnn−p∣<ε)=1\lim_{n \to \infty} P\left( \left\| \frac{\mu_n}{n} - p \right\| < \varepsilon \right) = 1$	频率 $μnn\frac{\mu_n}{n}$ → 概率 $p$	频率稳定性（抛硬币等）
切比雪夫大数定律	随机变量序列 ${X_n\}$ 两两不相关，方差一致有界（ $D(Xi)≤CD(X_i) \leq C$ ）	$lim⁡n→∞P(∣1n∑i=1nXi−1n∑i=1nE(Xi)∣<ε)=1\lim_{n \to \infty} P\left( \left\| \frac{1}{n} \sum_{i=1}^n X_i - \frac{1}{n} \sum_{i=1}^n E(X_i) \right\| < \varepsilon \right) = 1$	样本均值 → 期望均值 $1n∑E(Xi)\frac{1}{n} \sum E(X_i)$	异分布随机变量序列分析
辛钦大数定律	${X_n\}$ 独立同分布（i.i.d.），期望存在（ $E(Xi)=μE(X_i) = \mu$ ，方差可无）	$lim⁡n→∞P(∣1n∑i=1nXi−μ∣<ε)=1\lim_{n \to \infty} P\left( \left\| \frac{1}{n} \sum_{i=1}^n X_i - \mu \right\| < \varepsilon \right) = 1$	样本均值 $Xˉn\bar{X}_n$ → 总体均值 $μ\mu$	参数估计（抽样调查）
泊松大数定律	独立试验（ $n$ 次），第 $k$ 次事件概率为 $p_k$ （概率可变）	$lim⁡n→∞P(∣μnn−1n∑k=1npk∣<ε)=1\lim_{n \to \infty} P\left( \left\| \frac{\mu_n}{n} - \frac{1}{n} \sum_{k=1}^n p_k \right\| < \varepsilon \right) = 1$	频率 $μnn\frac{\mu_n}{n}$ → 平均概率 $pˉ\bar{p}$	变概率事件长期规律（如故障率）
马尔可夫大数定律	满足马尔可夫条件： $lim⁡n→∞1n2D(∑i=1nXi)=0\lim_{n \to \infty} \frac{1}{n^2} D\left( \sum_{i=1}^n X_i \right) = 0$	$lim⁡n→∞P(∣1n∑i=1nXi−1n∑i=1nE(Xi)∣<ε)=1\lim_{n \to \infty} P\left( \left\| \frac{1}{n} \sum_{i=1}^n X_i - \frac{1}{n} \sum_{i=1}^n E(X_i) \right\| < \varepsilon \right) = 1$	样本均值 → 期望均值 $1n∑E(Xi)\frac{1}{n} \sum E(X_i)$	广义随机序列（无相关性要求）

补充说明：

统一数学表达：
所有大数定律均可概括为：
$\frac{1}{n} \sum_{i=1}^n X_i \xrightarrow{P} \mu \quad (n \to \infty)$
其中 $μ\mu$ 是总体期望或期望的平均， $→P\xrightarrow{P}$ 表示依概率收敛。
符号：
- $μn\mu_n$ ：事件发生次数（伯努利/泊松）
- $Xˉn=1n∑Xi\bar{X}_n = \frac{1}{n} \sum X_i$ ：样本均值
- $ε\varepsilon$ ：任意小的正数（收敛精度）
- $D(⋅)D(\cdot)$ ：方差

💡 核心思想：大量独立重复试验下，随机现象的偶然性偏差被稀释，样本统计量稳定趋近于理论期望值。
⚠️ 注意：大数定律不消除单次试验的随机性，也不解释微小偏差的长期累积效应（如赌徒谬误）。

六、常见离散概率分布

分布	PMF	期望	方差	应用场景
伯努利 $Bern(p)\text{Bern}(p)$	$\, p(0)=1-p$	$p$	$p (1 - p)$	单次二元试验（如抛硬币）
二项 $Bin(n,p)\text{Bin}(n,p)$	$(nk)pk(1−p)n−k\binom{n}{k} p^k (1-p)^{n-k}$	$n p$	$n p (1 - p)$	$n$ 次独立伯努利试验成功次数
几何 $Geom(p)\text{Geom}(p)$	$1-p)^{k-1}p$	$1p\frac{1}{p}$	$1−pp2\frac{1-p}{p^2}$	首次成功所需试验次数
泊松 $Pois(λ)\text{Pois}(\lambda)$	$λke−λk!\frac{\lambda^k e^{-\lambda}}{k!}$	$λ\lambda$	$λ\lambda$	单位时间/空间内稀有事件发生次数

七、常见连续概率分布

分布	PDF	期望	方差	应用场景
均匀 $Unif(a,b)\text{Unif}(a,b)$	$x∈[a,b]\frac{1}{b-a}, \, x \in [a,b]$	$a+b2\frac{a+b}{2}$	$(b−a)212\frac{(b-a)^2}{12}$	区间内等可能取值
正态 $N(μ,σ2)\mathcal{N}(\mu,\sigma^2)$	$1σ2πe−(x−μ)22σ2\frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$	$μ\mu$	$σ2\sigma^2$	自然界广泛存在的分布
指数 $Exp(λ)\text{Exp}(\lambda)$	$x≥0\lambda e^{-\lambda x}, \, x \geq 0$	$1λ\frac{1}{\lambda}$	$1λ2\frac{1}{\lambda^2}$	无记忆性的等待时间分布
伽马 $Γ(α,β)\Gamma(\alpha,\beta)$	$βαxα−1e−βxΓ(α)\frac{\beta^\alpha x^{\alpha-1} e^{-\beta x}}{\Gamma(\alpha)}$	$αβ\frac{\alpha}{\beta}$	$αβ2\frac{\alpha}{\beta^2}$	多阶段等待时间、可靠性分析

说明：

符号体系差异：不同教材/文献可能存在符号差异（如方差 $D (X)$ 或 $σX2\sigma_X^2$ ）。
上下文依赖：符号含义需结合上下文理解（例如 $σ\sigma$ 可表示标准差或参数）。
分支领域扩展：信息论（熵 $H (X)$ )、随机过程（马尔可夫链 $P_{ij}$ ) 等有其专用符号。
测度论基础：严格定义中概率空间记为 $(Ω,F,P)(\Omega, \mathcal{F}, P)$ ，其中 $F\mathcal{F}$ 是 $σ\sigma$ -代数。