Momentotvorná funkce: vzorce a vlastnosti

Generující funkce momentů v teorii pravděpodobnosti: výpočet a vlastnosti

Generující funkce momentů (MGF) definuje rozdělení náhodné veličiny prostřednictvím očekávání exponenciály: $M_W(t) = E[e^{tW}]$. Tento přístup umožňuje extrahovat všechny momenty rozdělení derivací v bodě $t=0$. MGF existuje, pokud integrál konverguje v okolí nuly, což vylučuje rozdělení s těžkými ohony, jako je Cauchyho rozdělení.

Momenty $E[W^r]$ popisují tvar rozdělení. První moment je matematické očekávání $E[W]$, druhý souvisí s rozptylem $Var(W) = E[W^2] - (E[W])^2$. Přímý výpočet vyšších momentů je obtížný kvůli zesílení ohonů, ale MGF řeší tento problém pomocí rozvoje do Taylorovy řady.

Matematický rozvoj a extrakce momentů

Rozviňme $e^{tW}$ do Taylorovy řady:

$$e^{tW} = 1 + tW + \frac{(tW)^2}{2!} + \frac{(tW)^3}{3!} + \dots$$

Očekávání dává:

$$M_W(t) = 1 + t E[W] + \frac{t^2 E[W^2]}{2!} + \frac{t^3 E[W^3]}{3!} + \dots$$

Derivace podle $t$ a dosazení $t=0$ izoluje momenty:

• $M_W'(0) = E[W]$
• $M_W''(0) = E[W^2]$
• Obecně: $M_W^{(r)}(0) = E[W^r]$

To plyne z toho, že koeficient u $t^r / r!$ je $E[W^r]$. Pro existenci MGF je třeba $E[e^{tW}] < \infty$ v nějakém okolí $t=0$.

Vlastnost aditivity pro nezávislé veličiny

Klíčová výhoda MGF je multiplicativita pro součet nezávislých náhodných veličin $V$ a $W$:

$$M_{V+W}(t) = M_V(t) \cdot M_W(t)$$

Důkaz:

$$M_{V+W}(t) = E[e^{t(V+W)}] = E[e^{tV} e^{tW}] = E[e^{tV}] E[e^{tW}] = M_V(t) M_W(t)$$

To zjednodušuje analýzu konvolucí rozdělení, kde přímý výpočet je složitý.

Příklad: exponenciální rozdělení

Uvažujme $W \sim Exp(\lambda)$ s hustotou $f(x) = \lambda e^{-\lambda x}$, $x \geq 0$. MGF se vypočítá jako:

$$M_W(t) = E[e^{tW}] = \int_0^\infty e^{tx} \lambda e^{-\lambda x} dx = \lambda \int_0^\infty e^{-(\lambda - t)x} dx$$

Integrál konverguje pro $t < \lambda$ a je roven $\frac{\lambda}{\lambda - t}$:

$$M_W(t) = \frac{\lambda}{\lambda - t}, \quad t < \lambda$$

Derivace:

$$M_W'(t) = \frac{\lambda}{(\lambda - t)^2} \implies M_W'(0) = \frac{1}{\lambda}$$

$$M_W''(t) = \frac{2\lambda}{(\lambda - t)^3} \implies M_W''(0) = \frac{2}{\lambda^2}$$

Rozptyl: $Var(W) = \frac{2}{\lambda^2} - \left( \frac{1}{\lambda} \right)^2 = \frac{1}{\lambda^2}$.

Praktické využití v analýze

MGF se používá pro identifikaci rozdělení, testování hypotéz a simulace. V data science a ML pomáhá při analýze součtů chyb modelů nebo generování syntetických dat. Porovnání MGF různých rozdělení zjednodušuje důkazy konvergence.

Například pro normální rozdělení $N(\mu, \sigma^2)$:

$$M(t) = \exp\left( \mu t + \frac{\sigma^2 t^2}{2} \right)$$

To umožňuje rychle testovat vlastnosti součtů normálních veličin.

Co je důležité:

• MGF kóduje všechny momenty prostřednictvím derivací v $t=0$.
• Je multiplicativní pro nezávislé součty, což zjednodušuje konvoluce.
• Neexistuje pro rozdělení s těžkými ohony (Cauchy).
• Oblast konvergence určuje doménu $t$.
• Je užitečná pro analytické výpočty vyšších momentů.

— Editorial Team