矩生成函数：公式和性质

概率论中的矩母函数：计算与性质

矩母函数（MGF）通过随机变量指数的期望值来定义其分布：$M_W(t) = E[e^{tW}]$。这种方法允许通过在 $t=0$ 处求导来提取分布的所有矩。如果积分在零附近某个邻域内收敛，则 MGF 存在，这排除了柯西分布等重尾分布。

矩 $E[W^r]$ 描述了分布的形状。第一矩是均值 $E[W]$，第二矩与方差相关 $Var(W) = E[W^2] - (E[W])^2$。直接计算高阶矩因尾部放大而困难，但 MGF 通过泰勒级数展开轻松处理。

数学展开与矩提取

将 $e^{tW}$ 展开为泰勒级数：

$$e^{tW} = 1 + tW + \frac{(tW)^2}{2!} + \frac{(tW)^3}{3!} + \dots$$

取期望得到：

$$M_W(t) = 1 + t E[W] + \frac{t^2 E[W^2]}{2!} + \frac{t^3 E[W^3]}{3!} + \dots$$

对 $t$ 求导并令 $t=0$ 可分离出矩：

• $M_W'(0) = E[W]$
• $M_W''(0) = E[W^2]$
• 一般地：$M_W^{(r)}(0) = E[W^r]$

这是因为 $t^r / r!$ 的系数等于 $E[W^r]$。MGF 存在的前提是 $E[e^{tW}] < \infty$ 在 $t=0$ 附近某个邻域内成立。

独立变量的加和性质

MGF 的一个关键优势是对于独立随机变量 $V$ 和 $W$ 的和具有乘积性：

$$M_{V+W}(t) = M_V(t) \cdot M_W(t)$$

证明：

$$M_{V+W}(t) = E[e^{t(V+W)}] = E[e^{tV} e^{tW}] = E[e^{tV}] E[e^{tW}] = M_V(t) M_W(t)$$

这大大简化了卷积分析，直接计算往往很繁琐。

示例：指数分布

考虑 $W \sim Exp(\lambda)$，密度函数 $f(x) = \lambda e^{-\lambda x}$，$x \geq 0$。其 MGF 为：

$$M_W(t) = E[e^{tW}] = \int_0^\infty e^{tx} \lambda e^{-\lambda x} dx = \lambda \int_0^\infty e^{-(\lambda - t)x} dx$$

当 $t < \lambda$ 时积分收敛，结果为 $\frac{\lambda}{\lambda - t}$：

$$M_W(t) = \frac{\lambda}{\lambda - t}, \quad t < \lambda$$

求导：

$$M_W'(t) = \frac{\lambda}{(\lambda - t)^2} \implies M_W'(0) = \frac{1}{\lambda}$$

$$M_W''(t) = \frac{2\lambda}{(\lambda - t)^3} \implies M_W''(0) = \frac{2}{\lambda^2}$$

方差：$Var(W) = \frac{2}{\lambda^2} - \left( \frac{1}{\lambda} \right)^2 = \frac{1}{\lambda^2}$。

分析中的实际应用

MGF 用于识别分布、假设检验和模拟。在数据科学和机器学习中，它们帮助分析模型误差和或生成合成数据。通过比较不同分布的 MGF，可简化收敛性证明。

例如，正态分布 $N(\mu, \sigma^2)$ 的 MGF 为：

$$M(t) = \exp\left( \mu t + \frac{\sigma^2 t^2}{2} \right)$$

这便于验证正态和的性质。

关键要点：

• MGF 通过 $t=0$ 处的导数编码所有矩。
• 独立和具有乘积性，简化卷积计算。
• 重尾分布（如柯西）无 MGF。
• 收敛域定义了 $t$ 的范围。
• 适合高阶矩的解析计算。

— Editorial Team