Fonctions génératrices et caractéristiques

Fonctions génératrices et caractéristiques

1. Fonction génératrice des moments

Pour une variable aléatoire $X$, la fonction génératrice des moments est $M_X(t)=E[e^{tX}]$, définie pour les $t$ tels que cette espérance existe. Elle permet de retrouver les moments par dérivation :

Exemple — loi exponentielle $\mathcal{E}(\lambda)$ : $M_X(t)=\dfrac{\lambda}{\lambda-t}$ pour $t<\lambda$. En dérivant : $M_X'(0)=1/\lambda=E[X]$, $M_X''(0)=2/\lambda^2=E[X^2]$, retrouvant $\text{Var}(X)=2/\lambda^2-1/\lambda^2=1/\lambda^2$.

2. Fonction génératrice des probabilités (variables discrètes à valeurs dans $\mathbb{N}$)

Pour $X$ à valeurs dans $\mathbb{N}$, on définit $G_X(s)=E[s^X]=\displaystyle\sum_{k=0}^{+\infty}P(X=k)\,s^k$ pour $|s|\leq1$.

Propriétés : $G_X(1)=1$ (normalisation), $E[X]=G_X'(1)$, $E[X(X-1)]=G_X''(1)$ (moment factoriel), d'où $\text{Var}(X)=G_X''(1)+G_X'(1)-G_X'(1)^2$.

Exemple — loi de Poisson $\mathcal{P}(\lambda)$ : $G_X(s)=e^{\lambda(s-1)}$. On vérifie $G_X'(s)=\lambda e^{\lambda(s-1)}$, donc $E[X]=G_X'(1)=\lambda$ ; $G_X''(s)=\lambda^2e^{\lambda(s-1)}$, donc $E[X(X-1)]=\lambda^2$, d'où $\text{Var}(X)=\lambda^2+\lambda-\lambda^2=\lambda$. On retrouve le résultat classique $E[X]=\text{Var}(X)=\lambda$.

3. Propriété fondamentale : somme de variables indépendantes

Théorème : si $X,Y$ sont indépendantes, $G_{X+Y}(s)=G_X(s)\cdot G_Y(s)$ (et de même pour $M_{X+Y}=M_X\cdot M_Y$).

Application — stabilité de Poisson : si $X\sim\mathcal{P}(\lambda_1)$, $Y\sim\mathcal{P}(\lambda_2)$ indépendantes, alors $G_{X+Y}(s)=e^{\lambda_1(s-1)}\cdot e^{\lambda_2(s-1)}=e^{(\lambda_1+\lambda_2)(s-1)}$, qui est exactement la fonction génératrice de $\mathcal{P}(\lambda_1+\lambda_2)$. Par unicité de la fonction génératrice (deux variables à valeurs dans $\mathbb{N}$ ayant la même fonction génératrice ont la même loi), on conclut $X+Y\sim\mathcal{P}(\lambda_1+\lambda_2)$.

4. Fonction caractéristique

Pour toute variable aléatoire réelle $X$ (sans condition d'intégrabilité), on définit la fonction caractéristique :

Elle existe toujours (car $|e^{itX}|=1$), contrairement à $M_X$. Propriétés : $\varphi_X(0)=1$, $|\varphi_X(t)|\leq1$, et le théorème d'unicité : deux variables ayant la même fonction caractéristique ont la même loi.

Exemple — loi normale $\mathcal{N}(0,1)$ : $\varphi_X(t)=e^{-t^2/2}$. Pour $\mathcal{N}(\mu,\sigma^2)$ : $\varphi_X(t)=e^{i\mu t-\sigma^2t^2/2}$.

5. Indépendance et somme : le rôle clé en analyse

Comme pour $G_X$, l'indépendance donne $\varphi_{X+Y}=\varphi_X\cdot\varphi_Y$. C'est l'outil principal pour démontrer le théorème central limite (leçon suivante) : la fonction caractéristique transforme une somme (compliquée à étudier directement) en un simple produit.

Exemple — stabilité de la loi normale : si $X\sim\mathcal{N}(\mu_1,\sigma_1^2)$, $Y\sim\mathcal{N}(\mu_2,\sigma_2^2)$ indépendantes :

qui est la fonction caractéristique de $\mathcal{N}(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)$ : la somme de deux gaussiennes indépendantes est encore gaussienne.

6. Récapitulatif

|---|---|---|