Retour à l'accueil

Fonction génératrice des moments : formules et propriétés

La fonction génératrice des moments permet d'extraire les moments des variables aléatoires par différentiation. Sont décrites l'expansion en série de Taylor, la multiplicateivité pour les sommes et un exemple pour distribution exponentielle. Utile pour l'analyse en science des données et ML.

MGF : comment extraire les moments de la fonction exponentielle
Advertisement 728x90

Fonctions génératrices de moments en probabilités : calcul et propriétés

La fonction génératrice de moments (FGM) définit la loi d'une variable aléatoire par l'espérance d'une exponentielle : $M_W(t) = E[e^{tW}]$. Cette approche permet d'extraire tous les moments de la loi en dérivant par rapport à $t$ en $t=0$. La FGM existe si l'intégrale converge dans un voisinage de zéro, ce qui exclut les lois à queues lourdes comme celle de Cauchy.

Les moments $E[W^r]$ décrivent la forme de la loi. Le premier moment est l'espérance $E[W]$, et le second est lié à la variance $Var(W) = E[W^2] - (E[W])^2$. Le calcul direct des moments d'ordre supérieur est délicat en raison de l'amplification des queues, mais la FGM gère cela via le développement en série de Taylor.

Développement mathématique et extraction des moments

On développe $e^{tW}$ en série de Taylor :

Google AdInline article slot

$$e^{tW} = 1 + tW + \frac{(tW)^2}{2!} + \frac{(tW)^3}{3!} + \dots$$

En prenant l'espérance, on obtient :

$$M_W(t) = 1 + t E[W] + \frac{t^2 E[W^2]}{2!} + \frac{t^3 E[W^3]}{3!} + \dots$$

Google AdInline article slot

En dérivant par rapport à $t$ et en posant $t=0$, on isole les moments :

  • $M_W'(0) = E[W]$
  • $M_W''(0) = E[W^2]$
  • En général : $M_W^{(r)}(0) = E[W^r]$

Cela fonctionne car le coefficient de $t^r / r!$ vaut $E[W^r]$. Pour que la FGM existe, il faut que $E[e^{tW}] < \infty$ dans un voisinage de $t=0$.

Propriété d'additivité pour variables indépendantes

Un atout majeur des FGM est leur multiplicativité pour les sommes de variables aléatoires indépendantes $V$ et $W$ :

Google AdInline article slot

$$M_{V+W}(t) = M_V(t) \cdot M_W(t)$$

Preuve :

$$M_{V+W}(t) = E[e^{t(V+W)}] = E[e^{tV} e^{tW}] = E[e^{tV}] E[e^{tW}] = M_V(t) M_W(t)$$

Cela simplifie l'analyse des convolutions, souvent laborieuse en calcul direct.

Exemple : loi exponentielle

Soit $W \sim Exp(\lambda)$ de densité $f(x) = \lambda e^{-\lambda x}$, $x \geq 0$. La FGM est :

$$M_W(t) = E[e^{tW}] = \int_0^\infty e^{tx} \lambda e^{-\lambda x} dx = \lambda \int_0^\infty e^{-(\lambda - t)x} dx$$

L'intégrale converge pour $t < \lambda$ et vaut $\frac{\lambda}{\lambda - t}$ :

$$M_W(t) = \frac{\lambda}{\lambda - t}, \quad t < \lambda$$

Dérivées :

$$M_W'(t) = \frac{\lambda}{(\lambda - t)^2} \implies M_W'(0) = \frac{1}{\lambda}$$

$$M_W''(t) = \frac{2\lambda}{(\lambda - t)^3} \implies M_W''(0) = \frac{2}{\lambda^2}$$

Variance : $Var(W) = \frac{2}{\lambda^2} - \left( \frac{1}{\lambda} \right)^2 = \frac{1}{\lambda^2}$.

Applications pratiques en analyse

Les FGM servent à identifier les lois, tester des hypothèses et mener des simulations. En data science et machine learning, elles aident à analyser les sommes d'erreurs de modèles ou à générer des données synthétiques. Comparer les FGM entre lois facilite les preuves de convergence.

Par exemple, la loi normale $N(\mu, \sigma^2)$ a pour FGM :

$$M(t) = \exp\left( \mu t + \frac{\sigma^2 t^2}{2} \right)$$

Cela rend aisée la vérification des propriétés des sommes de normales.

Points clés :

  • Les FGM codent tous les moments via les dérivées en $t=0$.
  • Multiplicatives pour les sommes indépendantes, simplifiant les convolutions.
  • N'existent pas pour les lois à queues lourdes (Cauchy).
  • Le domaine de convergence définit l'intervalle de $t$.
  • Idéales pour le calcul analytique des moments d'ordre supérieur.

— Editorial Team

Advertisement 728x90

Lire ensuite