Fonctions génératrices et caractéristiques

Quelle est la définition de la fonction génératrice des moments $M_X(t)$ ?

La fonction génératrice des moments est définie par $M_X(t)=E[e^{tX}]$ (à ne pas confondre avec la fonction caractéristique $\varphi_X(t)=E[e^{itX}]$, qui utilise l'exponentielle imaginaire).

Vrai ou faux : la fonction caractéristique $\varphi_X(t)=E[e^{itX}]$ est toujours bien définie pour tout $t\in\mathbb{R}$, quelle que soit la loi de $X$.

Vrai. Comme $|e^{itX}|=1$ pour tout $t,X$ réels, l'espérance $E[e^{itX}]$ existe toujours (l'intégrande est borné), contrairement à $M_X(t)=E[e^{tX}]$ qui peut diverger pour certaines lois à queue lourde.

Pour $X\sim\mathcal{P}(\lambda)$ (Poisson), quelle est la fonction génératrice $G_X(s)$ ?

$G_X(s)=\displaystyle\sum_{k=0}^{+\infty}\dfrac{\lambda^ke^{-\lambda}}{k!}s^k=e^{-\lambda}\displaystyle\sum_{k=0}^{+\infty}\dfrac{(\lambda s)^k}{k!}=e^{-\lambda}e^{\lambda s}=e^{\lambda(s-1)}$.

Si $X,Y$ sont indépendantes, comment s'exprime $\varphi_{X+Y}(t)$ en fonction de $\varphi_X$ et $\varphi_Y$ ?

Par indépendance, $E[e^{it(X+Y)}]=E[e^{itX}e^{itY}]=E[e^{itX}]E[e^{itY}]=\varphi_X(t)\varphi_Y(t)$.

Vrai ou faux : la somme de deux variables gaussiennes indépendantes est encore gaussienne.

Vrai. La loi normale est dite stable : la fonction caractéristique de $X+Y$ se calcule comme le produit des deux fonctions caractéristiques gaussiennes, ce qui redonne exactement la forme caractéristique d'une nouvelle gaussienne $\mathcal{N}(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)$.

Pour $X\sim\mathcal{E}(\lambda)$, $M_X(t)=\dfrac{\lambda}{\lambda-t}$ pour $t<\lambda$. Calculer $E[X]$ via $M_X'(0)$.

$M_X(t)=\lambda(\lambda-t)^{-1}$, donc $M_X'(t)=\lambda(\lambda-t)^{-2}$, et $M_X'(0)=\lambda/\lambda^2=1/\lambda$, ce qui correspond bien à $E[X]=1/\lambda$ pour $\mathcal{E}(\lambda)$.

Pour $X\sim\mathcal{P}(3)$ et $Y\sim\mathcal{P}(5)$ indépendantes, quelle est la loi de $X+Y$ ?

Par la propriété de stabilité (produit des fonctions génératrices), $G_{X+Y}(s)=e^{3(s-1)}e^{5(s-1)}=e^{8(s-1)}$, donc $X+Y\sim\mathcal{P}(3+5)=\mathcal{P}(8)$.

Vrai ou faux : si deux variables aléatoires ont la même fonction caractéristique, elles ont nécessairement la même loi.

Vrai, c'est le théorème d'unicité (ou d'inversion) de la fonction caractéristique — l'application $X\mapsto\varphi_X$ est injective sur l'ensemble des lois de probabilité, ce qui justifie son usage pour identifier des lois (comme à l'exercice 7).

Soit $X$ une variable de Bernoulli de paramètre $p$. Quelle est sa fonction génératrice $G_X(s)$ ?

$G_X(s)=P(X=0)s^0+P(X=1)s^1=(1-p)+ps$.

Si $X\sim\text{Bin}(n,p)$ (binomiale), justifier que $G_X(s)=\big((1-p)+ps\big)^n$ à partir de la décomposition en somme de $n$ Bernoulli indépendantes.

Une variable $\text{Bin}(n,p)$ se représente comme $X=X_1+\cdots+X_n$ où les $X_i$ sont des variables de Bernoulli($p$) indépendantes (par exemple, le nombre de succès en $n$ répétitions indépendantes d'une expérience de probabilité de succès $p$).

Par la propriété de multiplicativité de la fonction génératrice sous indépendance :

À partir de $G_X(s)=\big((1-p)+ps\big)^n$ pour $X\sim\text{Bin}(n,p)$, retrouver $E[X]=np$ en calculant $G_X'(1)$.

On dérive $G_X(s)=\big((1-p)+ps\big)^n$ par la règle de la chaîne :

En évaluant en $s=1$ : $(1-p)+p\cdot1=1$, donc :

On retrouve bien $E[X]=G_X'(1)=np$, conforme à la formule connue de l'espérance binomiale. $\square$

Démontrer, en utilisant les fonctions caractéristiques, que si $X\sim\mathcal{N}(0,1)$ et $Y=aX+b$ ($a\neq0$, $b\in\mathbb{R}$), alors $Y\sim\mathcal{N}(b,a^2)$.

Calcul direct :

Comme $X\sim\mathcal{N}(0,1)$, on a $\varphi_X(u)=e^{-u^2/2}$, donc en substituant $u=at$ :

C'est exactement la forme générale $\varphi_{\mathcal{N}(\mu,\sigma^2)}(t)=e^{i\mu t-\sigma^2t^2/2}$ avec $\mu=b$ et $\sigma^2=a^2$. Par le théorème d'unicité de la fonction caractéristique, $Y$ suit donc la loi $\mathcal{N}(b,a^2)$. $\square$ Ce résultat justifie la standardisation $Z=(X-\mu)/\sigma$ utilisée systématiquement en pratique.

Soit $X$ une variable géométrique sur $\mathbb{N}^*$ de paramètre $p$ ($P(X=k)=(1-p)^{k-1}p$). Calculer $G_X(s)=E[s^X]$ pour $|s|<1/(1-p)$.

C'est une série géométrique de raison $(1-p)s$, convergente si $|(1-p)s|<1$, c'est-à-dire $|s|<1/(1-p)$. Sa somme est $\dfrac{1}{1-(1-p)s}$, donc :

Vrai ou faux : pour deux variables $X,Y$ indépendantes à valeurs dans $\mathbb{N}$, la fonction génératrice de $\max(X,Y)$ est égale au produit $G_X(s)\cdot G_Y(s)$.

Faux. La propriété $G_{X+Y}=G_XG_Y$ ne concerne que la somme $X+Y$, pas le maximum. Pour $\max(X,Y)$, on utilise plutôt la fonction de répartition : $P(\max(X,Y)\leq k)=P(X\leq k)P(Y\leq k)$ (par indépendance), ce qui ne se traduit pas simplement en un produit de fonctions génératrices.

On considère $N\sim\mathcal{P}(\lambda)$ et, conditionnellement à $N=n$, $X=\sum_{i=1}^n B_i$ où les $B_i$ sont des Bernoulli($p$) i.i.d. indépendantes de $N$ (modèle de Poisson composé / amincissement). Montrer que $X\sim\mathcal{P}(\lambda p)$ en utilisant les fonctions génératrices.

Étape 1 — conditionnement. Sachant $N=n$, $X$ est une somme de $n$ Bernoulli($p$) indépendantes, donc $G_{X|N=n}(s)=\big((1-p)+ps\big)^n$ (résultat de l'exercice 10 généralisé).

Étape 2 — espérance totale. Par la formule de l'espérance conditionnelle :

On reconnaît à droite $G_N$ évaluée en $(1-p)+ps$ (puisque $G_N(u)=E[u^N]$) :

Étape 3 — substitution. Comme $N\sim\mathcal{P}(\lambda)$, $G_N(u)=e^{\lambda(u-1)}$. En posant $u=(1-p)+ps$ :

C'est exactement la fonction génératrice de $\mathcal{P}(\lambda p)$. Par unicité, $X\sim\mathcal{P}(\lambda p)$. $\square$ Ce résultat (« amincissement de Poisson ») est très utilisé en théorie des files d'attente et en statistique des événements rares.