生成函数

CIE A-Level 进阶数学· 第4单元：进阶概率与统计，生成函数· 20 分钟阅读

1. 概率母函数：定义与核心性质★★☆☆☆⏱ 5 min

📘 定义

概率母函数

$G_{X} (t) = E (t^{X})$

对于任意非负整数值离散随机变量 $X$ ，PGF是 $t^{X}$ 的期望，在级数收敛的所有 $t$ 处有效。 $t^{x}$ 的系数等于 $P (X = x)$ 。

例:

若 $X \sim 伯努利 (p)$ ， $G_{X} (t) = (1 - p) + pt$

我们可以直接通过PGF的导数求期望和方差，无需对 $X$ 所有可能值求和：

G_X'(1) = \mathbb{E}(X) \\ G_X''(1) = \mathbb{E}[X(X-1)] = \mathbb{E}(X^2) - \mathbb{E}(X) \\ \text{Var}(X) = G_X''(1) + G_X'(1) - \left[G_X'(1)\right]^2

📐 例题

离散随机变量 $X$ 的PGF为 $G_{X} (t) = \frac{1}{2} t + \frac{1}{4} t^{2} + \frac{1}{4} t^{3}$ ，求 $E (X)$ 和 $Var (X)$ 。

1
计算一阶导数并在 $t = 1$ 处求值：
2
$G_X'(t) = \frac{1}{2} + \frac{1}{2}t + \frac{3}{4}t^2 \\ G_X'(1) = \frac{1}{2} + \frac{1}{2} + \frac{3}{4} = \frac{7}{4} \\ \mathbb{E}(X) = \frac{7}{4} = 1.75$
3
计算二阶导数并在 $t = 1$ 处求值：
4
$G_X''(t) = \frac{1}{2} + \frac{3}{2}t \\ G_X''(1) = \frac{1}{2} + \frac{3}{2} = 2$
5
代入方差公式：
6
$\text{Var}(X) = 2 + \frac{7}{4} - \left(\frac{7}{4}\right)^2 = \frac{32 + 28 - 49}{16} = \frac{11}{16} = 0.6875$

Exam tip:

求矩时一定要在 $t = 1$ 处计算PGF的导数，常见错误是误在 $t = 0$ 处求值。

2. 常见离散分布的概率母函数★★☆☆☆⏱ 6 min

CIE 9231要求你能够识别或推导所有标准离散分布的PGF，下表列出了标准结果：

分布	概率质量函数	概率母函数
二项( $n, p$ )	$(x n) p^{x} (1 - p)^{n - x}$	$(1 - p + pt)^{n}$
泊松( $λ$ )	$\frac{e ^{- λ} λ ^{x}}{x !}$	$e^{λ (t - 1)}$
几何( $p$ ) (首次成功前试验数)	$(1 - p)^{x - 1} p$	$\frac{pt}{1 - ( 1 - p ) t}$
负二项( $r, p$ )	$(r - 1 x - 1) p^{r} (1 - p)^{x - r}$	$(\frac{pt}{1 - ( 1 - p ) t})^{r}$

📐 例题

推导参数为 $λ$ 的泊松分布的PGF，然后根据PGF求 $E (X)$ 。

1
从PGF的定义出发：
2
$G_X(t) = \mathbb{E}(t^X) = \sum_{x=0}^\infty t^x \cdot \frac{e^{-\lambda} \lambda^x}{x!}$
3
提出常数项 $e^{- λ}$ ：
4
$G_X(t) = e^{-\lambda} \sum_{x=0}^\infty \frac{(\lambda t)^x}{x!}$
5
使用泰勒展开式 $e^{y} = \sum_{x = 0}^{\infty} \frac{y ^{x}}{x !}$ ：
6
$G_X(t) = e^{-\lambda} e^{\lambda t} = e^{\lambda(t-1)}$
7
求一阶导数并在 $t = 1$ 处求值：
8
$G_X'(t) = \lambda e^{\lambda(t-1)} \implies G_X'(1) = \lambda = \mathbb{E}(X)$

3. 独立随机变量的和★★★☆☆⏱ 7 min

PGF（和MGF）最有用的性质是：独立随机变量和的母函数等于各随机变量母函数的乘积。这避免了对概率质量函数进行繁琐的卷积计算。

📘 定义

独立和的乘积性质

若 $X_{1}, X_{2}, ..., X_{n}$ 是独立离散随机变量，则 $S = X_{1} + X_{2} + ... + X_{n}$ 的PGF为 $G_{S} (t) = \prod_{i = 1}^{n} G_{X_{i}} (t)$ 。该规则同样适用于MGF。

📐 例题

已知独立随机变量 $X \sim 泊松 (λ)$ ， $Y \sim 泊松 (μ)$ ，证明 $X + Y \sim 泊松 (λ + μ)$ 。

1
写出 $X$ 和 $Y$ 的PGF：
2
$G_X(t) = e^{\lambda(t-1)}, \quad G_Y(t) = e^{\mu(t-1)}$
3
对独立变量使用乘积性质：
4
$G_{X+Y}(t) = G_X(t) G_Y(t) = e^{\lambda(t-1)} e^{\mu(t-1)} = e^{(\lambda+\mu)(t-1)}$
5
该PGF与参数为 $λ + μ$ 的泊松分布的PGF一致。由于PGF唯一确定离散分布，因此 $X + Y \sim 泊松 (λ + μ)$ 。

Exam tip:

千万不要对相关随机变量使用乘积法则。该法则成立是因为独立性保证了 $E (A B) = E (A) E (B)$ ，这对相关变量不成立。

4. 矩母函数★★★☆☆⏱ 6 min

📘 定义

矩母函数

$M_{X} (t) = E (e^{tX})$

适用于离散和连续随机变量的母函数。在 $t = 0$ 处求值的 $n$ 阶导数给出 $n$ 阶矩 $E (X^{n})$ 。

MGF与PGF有相同的乘积性质：对于独立随机变量，和的MGF等于各MGF的乘积。与PGF类似，MGF唯一确定概率分布。

📐 例题

已知 $X \sim N (μ, σ^{2})$ ，求 $X$ 的MGF并以此验证 $E (X) = μ$ 。

1
从连续分布MGF的定义出发：
2
$M_X(t) = \int_{-\infty}^\infty e^{tx} \cdot \frac{1}{\sigma \sqrt{2\pi}} e^{-(x-\mu)^2/(2\sigma^2)} dx$
3
对指数配方后化简积分得到标准结果：
4
$M_X(t) = e^{\mu t + \frac{1}{2} \sigma^2 t^2}$
5
对 $t$ 求一阶导：
6
$M_X'(t) = (\mu + \sigma^2 t) e^{\mu t + \frac{1}{2} \sigma^2 t^2}$
7
在 $t = 0$ 处求值得到期望：
8
$M_X'(0) = (\mu + 0) e^0 = \mu = \mathbb{E}(X)$

5. 常见陷阱

错误做法:

求期望时在 $t = 0$ 而非 $t = 1$ 处计算PGF导数

原因:

PGF定义为 $G (t) = E (t^{X})$ ，因此只有在 $t = 1$ 处导数才给出矩。 $t = 0$ 处仅能得到 $P (X = 0)$ 。

正确做法:

求期望/方差时一定要在 $t = 1$ 处计算PGF导数。

错误做法:

对相关随机变量的PGF/MGF使用乘积法则

原因:

乘积法则依赖性质 $E (A B) = E (A) E (B)$ ，该性质仅对独立变量成立。

正确做法:

相乘母函数前先确认变量是独立的。

错误做法:

在PGF的方差公式中遗漏 $+ G^{'} (1)$ 项

原因:

$G^{''} (1) = E [X (X - 1)] = E (X^{2}) - E (X)$ ，因此必须加回 $E (X)$ 才能得到 $E (X^{2})$ 。

正确做法:

使用完整公式： $Var (X) = G^{''} (1) + G^{'} (1) - [G^{'} (1)]^{2}$ 。

错误做法:

仅因为两个分布期望和方差相等就声称分布相同

原因:

许多不同分布可以有相同的前两阶矩。只有PGF/MGF匹配才能证明分布相等。

正确做法:

始终需要证明完整PGF/MGF与目标分布匹配才能确认分布相同。

错误做法:

使用错误的几何分布PGF（参数化错误）

原因:

CIE使用'首次成功前的试验次数'参数化，而非'首次成功前的失败次数'版本。

正确做法:

记住CIE标准几何分布PGF： $G (t) = \frac{pt}{1 - ( 1 - p ) t}$ 。

6. 速查表

概念	公式	注释
PGF定义	$G_{X} (t) = E (t^{X})$	非负整数离散随机变量 $X$
由PGF求 $E (X)$	$E (X) = G_{X}^{'} (1)$
由PGF求Var $(X)$	$G_{X}^{''} (1) + G_{X}^{'} (1) - [G_{X}^{'} (1)]^{2}$
独立和的PGF	$G_{S} (t) = \prod G_{X_{i}} (t)$	仅适用于独立 $X_{i}$
二项分布PGF	$(1 - p + pt)^{n}$
泊松分布PGF	$e^{λ (t - 1)}$
几何分布PGF	$\frac{pt}{1 - ( 1 - p ) t}$	首次成功前的试验次数
MGF定义	$M_{X} (t) = E (e^{tX})$	离散或连续随机变量
由MGF求 $n$ 阶矩	$E (X^{n}) = M_{X}^{(n)} (0)$
独立和的MGF	$M_{S} (t) = \prod M_{X_{i}} (t)$	仅适用于独立 $X_{i}$
正态分布MGF	$e^{μ t + \frac{1}{2} σ^{2} t^{2}}$	$X \sim N (μ, σ^{2})$

深入阅读

syllabusCIE 9231 进阶数学大纲

下一步

生成函数是高等概率与统计的基础工具，是大学阶段几乎所有进阶统计主题的基础。掌握本子主题后，你可以应用生成函数技巧求解涉及递推关系和随机游走的问题，这是CIE 9231中常见的后续主题。生成函数也是理解抽样分布的基础，而独立随机变量和的性质是假设检验和置信区间计算的核心。本主题直接连接所有涉及组合多个独立观测信息的统计进阶主题。

→非参数检验