Mathématiques universitaires — Licence 3 · Bachelor Year 3

23Fonctions caractéristiques et théorème central limite

La loi des grands nombres dit que les moyennes convergent ; le théorème central limite dit comment elles fluctuent : l’erreur, amplifiée par $\sqrt n$ , est asymptotiquement gaussienne — quelle que soit la loi de départ. Cette universalité est le fait le plus profond des probabilités élémentaires, et sa preuve naturelle est fourier-analytique : la fonction caractéristique (la transformée de Fourier d’une loi) convertit les sommes indépendantes en produits, et la machinerie du Chapitre 14 — injectivité, points fixes gaussiens — convertit la convergence ponctuelle de ces produits en convergence des lois (théorème de Lévy, prouvé en entier). Le chapitre s’achève sur les vecteurs gaussiens et la dérivation honnête des intervalles de confiance utilisés partout en statistique ; le problème de week-end donne la seconde preuve de Lindeberg du TCL, avec un taux d’erreur explicite.

23.1 Fonctions caractéristiques

Définition 23.1

La fonction caractéristique d’une variable aléatoire réelle $X$ est

\varphi_X(\xi) = \E\bigl[\eu^{\iu\xi X}\bigr] = \int_\R \eu^{\iu\xi x}\,\dd\P_X(x) \qquad (\xi \in \R)

(le théorème de transfert la calcule depuis la loi ; pour une densité $f$ , $\varphi_X(\xi) = \hat f(-\xi)$ dans la convention du Chapitre 14).

Proposition 23.2

(a) $\varphi_X(0) = 1$ , $\abs{\varphi_X} \leq 1$ , et $\varphi_X$ est uniformément continue ; $\varphi_{aX + b}(\xi) = \eu^{\iu b\xi}\varphi_X(a\xi)$ . (b) Si $X, Y$ sont indépendantes : $\varphi_{X+Y} = \varphi_X\,\varphi_Y$ . (c) Si $\E\abs X^k < \infty$ , alors $\varphi_X \in \mathcal C^k$ avec $\varphi_X^{(j)}(0) = \iu^j\,\E[X^j]$ pour $j \leq k$ ; en particulier, pour $X$ centrée dans $L^2$ de variance $\sigma^2$ :

\varphi_X(\xi) = 1 - \frac{\sigma^2\xi^2}{2} + o(\xi^2) \qquad (\xi \to 0).

(d) Gaussienne : $X \sim \mathcal N(m, \sigma^2)$ a $\varphi_X(\xi) = \eu^{\iu m\xi - \sigma^2\xi^2/2}$ .

Démonstration. (a) Les bornes sont immédiates ; continuité : $\abs{\varphi(\xi + h) - \varphi(\xi)} \leq \E\abs{\eu^{\iu hX} - 1} \to 0$ quand $h \to 0$ par convergence dominée, uniformément en $\xi$ . La règle affine est une substitution. (b) $\eu^{\iu\xi(X+Y)} = \eu^{\iu\xi X}\eu^{\iu\xi Y}$ , et les espérances de produits de variables indépendantes se factorisent (Théorème 22.5, appliqué aux parties réelles et imaginaires). (c) Dérivation sous l’espérance, dominée par $\E\abs X^j$ (Théorème 10.15) ; le développement de Taylor en $0$ est alors Taylor–Young pour la fonction $\mathcal C^2$ $\varphi$ . (d) Pour $\mathcal N(0,1)$ : la transformée gaussienne (Exemple 14.2 avec $a = \frac12$ ) donne $\int\eu^{\iu\xi x}\frac{\eu^{-x^2/2}}{\sqrt{2\pi}}\dd x = \eu^{-\xi^2/2}$ ; le cas général par la règle affine. ∎

Théorème 23.3 (Injectivité)

Si $\varphi_X = \varphi_Y$ , alors $X$ et $Y$ ont la même loi. Plus précisément, pour $N \sim \mathcal N(0,1)$ indépendante de $X$ et $\varepsilon > 0$ , la variable lissée $X + \varepsilon N$ a pour densité

p_\varepsilon(x) = \frac1{2\pi}\int_\R \varphi_X(-\xi)\,\eu^{-\varepsilon^2\xi^2/2}\, \eu^{\iu\xi x}\,\dd\xi ,

déterminée par $\varphi_X$ seule ; faire $\varepsilon \to 0$ récupère la loi de $X$ .

Démonstration. $X + \varepsilon N$ a pour densité $p_\varepsilon(x) = \E\bigl[g_\varepsilon(x - X)\bigr]$ , où $g_\varepsilon$ est la densité $\mathcal N(0, \varepsilon^2)$ : en effet pour $B$ borélien, l’indépendance et Tonelli donnent $\P(X + \varepsilon N \in B) = \int\!\!\int\mathbf 1_B(x + \varepsilon n)g_1(n)\,\dd n\,\dd\P_X(x) = \int_B\E[g_\varepsilon(t - X)]\dd t$ (substituer, puis Tonelli encore). Écrire $g_\varepsilon$ par inversion de Fourier de sa transformée (Exercice 14.4, rescalée) : $g_\varepsilon(u) = \frac1{2\pi}\int \eu^{-\varepsilon^2\xi^2/2}\eu^{\iu\xi u}\dd\xi$ , et Fubini (tout est dominé par le facteur gaussien) :

p_\varepsilon(x) = \frac1{2\pi}\int_\R \varphi_X(-\xi)\,\eu^{-\varepsilon^2\xi^2/2}\, \eu^{\iu\xi x}\,\dd\xi ,

une fonctionnelle de $\varphi_X$ seule. Si $\varphi_X = \varphi_Y$ : $X + \varepsilon N$ et $Y + \varepsilon N$ ont même loi pour tout $\varepsilon$ ; pour $f$ continue bornée, $\E f(X + \varepsilon N) \to \E f(X)$ quand $\varepsilon \to 0$ (convergence dominée, $X + \varepsilon N \to X$ pointwise sur l’espace produit), donc $\E f(X) = \E f(Y)$ pour toute telle $f$ — et cela détermine la loi : pour chaque $t$ , encadrer $\mathbf 1_{\intoc{-\infty}t}$ entre les rampes continues bornées $f_k^\pm$ (égales à $1$ sur $\intoc{-\infty}{t \mp \frac1k}$ , à $0$ au-delà de $t \pm \frac1k$ , affines entre) ; en passant à la limite dans $\E f_k^-(X) \leq F_X(t) \leq \E f_k^+(X)$ on obtient $F_X(t) = F_Y(t)$ en tout $t$ où les deux sont continues, donc partout par continuité à droite et densité des points de continuité communs (les deux $F$ ont dénombrablement beaucoup de sauts) ; des fonctions de répartition égales forcent des lois égales (Exercice 9.3, reposant sur le Théorème 9.7). ∎

23.2 Convergence en loi

Définition 23.4

$X_n$ converge en loi (ou en distribution) vers $X$ , noté $X_n \Rightarrow X$ , si

\E\bigl[f(X_n)\bigr] \longrightarrow \E\bigl[f(X)\bigr] \qquad\text{pour toute } f\colon\R\to\R \text{ continue bornée}.

Équivalemment (Exercice 23.4) : $F_{X_n}(t) \to F_X(t)$ en tout point de continuité $t$ de $F_X$ . Les $X_n$ n’ont pas besoin de vivre sur un espace probabilisé commun : seules les lois comptent.

Théorème 23.5 (Théorème de sélection de Helly)

Toute suite $(F_n)$ de fonctions de répartition admet une sous-suite convergeant pointwise, en tout point de continuité de la limite, vers une $G \colon \R \to \intcc01$ croissante et continue à droite — éventuellement avec $G(+\infty) - G(-\infty) < 1$ (de la masse peut s’échapper à l’infini).

Démonstration. L’extraction diagonale donne $F_{n_k}(q) \to \ell(q)$ pour tout rationnel $q$ (valeurs dans le compact $\intcc01$ ). Définir $G(t) = \inf\{\ell(q) : q \in \Q, q > t\}$ : croissante ; continue à droite (un infimum sur des voisinages rationnels rétrécissants depuis la droite). En un point de continuité $t$ de $G$ : pour des rationnels $q_1 < t < q_2$ ,

\ell(q_1) \leq \liminf F_{n_k}(t) \leq \limsup F_{n_k}(t) \leq \ell(q_2),

par monotonie de chaque $F_{n_k}$ . Depuis la définition de $G$ comme infimum et la monotonie de $\ell$ sur les rationnels : $G(s) \leq \ell(q) \leq G(q)$ dès que $s < q$ . Prendre $s < q_1 < t$ donne $\ell(q_1) \geq G(s)$ , et $\ell(q_2) \leq G(q_2)$ ; en faisant $s \uparrow t$ et $q_2 \downarrow t$ , la continuité de $G$ en $t$ force le $\liminf$ et le $\limsup$ vers $G(t)$ . ∎

Lemme 23.6 (Tension depuis la fonction caractéristique)

Pour toute variable aléatoire $X$ et $u > 0$ :

\P\Bigl(\abs X \geq \frac2u\Bigr) \;\leq\; \frac1u\int_{-u}^{u}\bigl(1 - \operatorname{Re}\varphi_X(\xi)\bigr)\,\dd\xi .

Démonstration. Par Tonelli–Fubini (intégrande bornée, région finie en $\xi$ ) :

\frac1u\int_{-u}^u\bigl(1 - \operatorname{Re}\varphi_X(\xi)\bigr)\dd\xi = \E\Bigl[\frac1u\int_{-u}^u(1 - \cos(\xi X))\,\dd\xi\Bigr] = 2\,\E\Bigl[1 - \frac{\sin(uX)}{uX}\Bigr]

(interpréter le crochet comme sa limite $0$ en $X = 0$ ). L’intégrande est positive ( $\abs{\sin t} \leq \abs t$ ), et pour $\abs{uX} \geq 2$ : $1 - \frac{\sin(uX)}{uX} \geq 1 - \frac1{\abs{uX}} \geq \frac12$ . En ne gardant que l’événement $\{\abs{uX} \geq 2\}$ dans l’espérance, on laisse au moins $2 \cdot \frac12\,\P(\abs X \geq \frac2u)$ , qui est l’affirmation. ∎

Théorème 23.7 (Théorème de continuité de Lévy)

Soient $(X_n)$ des variables aléatoires dont les fonctions caractéristiques convergent pointwise : $\varphi_{X_n}(\xi) \to \varphi(\xi)$ pour tout $\xi$ , où $\varphi = \varphi_X$ est la fonction caractéristique d’une certaine variable aléatoire $X$ . Alors $X_n \Rightarrow X$ .

Démonstration. Tension. Fixer $\varepsilon > 0$ . Comme $\varphi$ est continue en $0$ avec $\varphi(0) = 1$ , choisir $u > 0$ avec $\frac1u\int_{-u}^u(1 - \operatorname{Re}\varphi) < \varepsilon$ ; par convergence dominée (intégrande bornée par $2$ sur le $[-u,u]$ fixe), la même intégrale pour $\varphi_{X_n}$ est $< 2\varepsilon$ pour $n$ grand : le Lemme 23.6 donne $\P(\abs{X_n} \geq \frac2u) \leq 2\varepsilon$ pour $n$ grand, et élargir la constante gère les finiment beaucoup d’autres : les lois sont tendues — aucune masse ne s’échappe.

Sous-suites. Soit $(F_{n_k})$ une sous-suite quelconque ; par Helly (Théorème 23.5) extraire $F_{n_{k_j}} \to G$ aux points de continuité. La tension force $G(-\infty) = 0$ , $G(+\infty) = 1$ ( $G(\frac2u) - G(-\frac2u) \geq 1 - 2\varepsilon$ aux points de continuité) : $G$ est une vraie fonction de répartition, d’une certaine variable $Y$ . Alors $X_{n_{k_j}} \Rightarrow Y$ (Exercice 23.4, convergence en loi depuis les $F$ ), donc $\varphi_{X_{n_{k_j}}} \to \varphi_Y$ pointwise ( $x \mapsto \eu^{\iu\xi x}$ est continue bornée, parties réelle et imaginaire séparément) ; en comparant avec l’hypothèse : $\varphi_Y = \varphi = \varphi_X$ , et l’injectivité (Théorème 23.3) donne $Y \sim X$ , c’est-à-dire $G = F_X$ .

Conclusion. Toute sous-suite de $(F_n)$ a une sous-sous-suite convergeant vers la même $F_X$ (en ses points de continuité) ; donc $F_n(t) \to F_X(t)$ en tout point de continuité $t$ (une suite réelle dont toutes les sous-suites ont des sous-sous-suites de même limite converge) : $X_n \Rightarrow X$ . ∎

23.3 Le théorème central limite

Théorème 23.8 (Théorème central limite)

Soient $(X_n)$ i.i.d. avec $\E X_1 = m$ et $\V(X_1) = \sigma^2 \in \intoo0\infty$ . Alors

\frac{S_n - nm}{\sigma\sqrt n} \;\Longrightarrow\; \mathcal N(0, 1) : \qquad \P\Bigl(a \leq \frac{S_n - nm}{\sigma\sqrt n} \leq b\Bigr) \longrightarrow \frac{1}{\sqrt{2\pi}}\int_a^b\eu^{-x^2/2}\,\dd x

pour tous $a < b$ .

Démonstration. Centrer et normaliser : $Z_i = \frac{X_i - m}{\sigma}$ (i.i.d., moyenne $0$ , variance $1$ ) et $T_n = \frac1{\sqrt n}\sum_{i\leq n}Z_i$ . Par indépendance et la règle affine (Proposition 23.2) :

\varphi_{T_n}(\xi) = \varphi_{Z}\Bigl(\frac{\xi}{\sqrt n}\Bigr)^{n}, \qquad \varphi_Z(\eta) = 1 - \frac{\eta^2}2 + \eta^2\rho(\eta),\quad \rho(\eta)\to0 .

Fixer $\xi$ et poser $a_n = \varphi_Z(\xi/\sqrt n)$ , $b_n = 1 - \frac{\xi^2}{2n}$ : tous deux ont un module $\leq 1$ pour $n$ grand ( $\abs{b_n} \leq 1$ dès que $\xi^2 \leq 4n$ ; $\abs{a_n} \leq 1$ toujours). L’inégalité élémentaire $\abs{a^n - b^n} \leq n\abs{a - b}$ pour $\abs a, \abs b \leq 1$ (télescopage $a^n - b^n = \sum a^k(a - b)b^{n-1-k}$ ) donne

\Bigl|\varphi_{T_n}(\xi) - \Bigl(1 - \frac{\xi^2}{2n}\Bigr)^{n}\Bigr| \leq n\,\Bigl|\varphi_Z\Bigl(\frac\xi{\sqrt n}\Bigr) - 1 + \frac{\xi^2}{2n}\Bigr| = \xi^2\,\Bigl|\rho\Bigl(\frac{\xi}{\sqrt n}\Bigr)\Bigr| \longrightarrow 0,

tandis que $\bigl(1 - \frac{\xi^2}{2n}\bigr)^n \to \eu^{-\xi^2/2}$ (logarithme réel). Donc $\varphi_{T_n}(\xi) \to \eu^{-\xi^2/2} = \varphi_{\mathcal N(0,1)}(\xi)$ (Proposition 23.2(d)) pour tout $\xi$ : Lévy (Théorème 23.7) conclut $T_n \Rightarrow \mathcal N(0,1)$ . Les probabilités d’intervalles suivent car $F_{\mathcal N}$ est continue partout. ∎

Exemple 23.9 (Intervalles de confiance, honnêtement dérivés)

Sonder $n$ électeurs indépendants ; $\hat p_n = S_n/n$ estime le vrai $p$ , avec $\sigma^2 = p(1-p) \leq \frac14$ . Le TCL donne, pour $n$ grand,

\P\Bigl(\abs{\hat p_n - p} \leq \frac{z}{2\sqrt n}\Bigr) \;\geq\; \P\Bigl(\Bigl|\frac{S_n - np}{\sigma\sqrt n}\Bigr| \leq z\Bigr) \longrightarrow \Phi(z) - \Phi(-z),

où $\Phi$ est la fonction de répartition gaussienne standard. Avec $z = 1.96$ : confiance asymptotique $95\%$ , et une marge $\frac{1.96}{2\sqrt n} \leq 3\%$ exige $n \geq \bigl(\frac{1.96}{0.06}\bigr)^2 \approx 1068$ — le nombre derrière chaque << $\pm3$ points, $95\%$ >> qu’on lit ; comparer aux $5556$ de Bienaymé–Tchebychev (Exercice 22.7). Le $\sqrt n$ est universel : pour diviser l’erreur par deux, quadrupler l’échantillon — la même loi qui fixe le coût du Monte-Carlo (Exercice 23.7).

23.4 Vecteurs gaussiens

Définition 23.10

Un vecteur aléatoire $X = (X_1, \dots, X_d)$ est gaussien si toute combinaison linéaire $\langle t, X\rangle = \sum t_iX_i$ est une variable gaussienne réelle (éventuellement dégénérée). Sa loi est déterminée par le vecteur moyen $m = (\E X_i)$ et la matrice de covariance $\Sigma = \bigl(\operatorname{Cov}(X_i, X_j)\bigr)$ : en effet la fonction caractéristique du vecteur, $\varphi_X(t) = \E\eu^{\iu\langle t, X\rangle}$ , est la valeur en $1$ de la fc de $\langle t, X\rangle$ :

\varphi_X(t) = \exp\Bigl(\iu\langle t, m\rangle - \tfrac12\,t^{\mathsf T}\Sigma\,t\Bigr),

et les fonctions caractéristiques $d$ -dimensionnelles sont injectives (même preuve de lissage que le Théorème 23.3, gaussiennes coordonnée par coordonnée).

Théorème 23.11

Soit $X$ un vecteur gaussien.

Toute image affine $AX + b$ est un vecteur gaussien.
Les composantes $X_i$ sont indépendantes si et seulement si $\Sigma$ est diagonale : pour des variables conjointement gaussiennes, non corrélées $=$ indépendantes.
Si $\Sigma$ est inversible, $X$ a pour densité $\frac{1}{(2\pi)^{d/2}\sqrt{\det\Sigma}} \exp\bigl(-\frac12(x - m)^{\mathsf T}\Sigma^{-1}(x - m)\bigr)$ .

Démonstration. (1) Les combinaisons linéaires des composantes de $AX + b$ sont des fonctions affines de combinaisons linéaires de $X$ : gaussiennes (l’image affine d’une variable gaussienne est gaussienne). (2) Si $\Sigma$ est diagonale, la fonction caractéristique se factorise : $\varphi_X(t) = \prod_i\exp(\iu t_im_i - \frac12\Sigma_{ii}t_i^2) = \prod\varphi_{X_i}(t_i)$ , qui est la fonction caractéristique de la loi produit (Théorème 22.5 lue via l’injectivité $d$ -dimensionnelle) : les composantes sont indépendantes. La réciproque est l’annulation des covariances de variables $L^2$ indépendantes. (3) Diagonaliser $\Sigma = P D P^{\mathsf T}$ ( $P$ orthogonal, $D > 0$ diagonale — Exercice 20.8) ; le vecteur $Y = P^{\mathsf T}(X - m)$ est gaussien de covariance $D$ : par (2) ses composantes sont indépendantes $\mathcal N(0, d_i)$ , donc $Y$ a la densité produit ; pousser en avant par le $x = m + PY$ préservant le volume (Théorème 11.10, $\abs{\det P} = 1$ ) et réécrire l’exposant de façon invariante. ∎

Théorème 23.12 (TCL multidimensionnel)

Soient $(X_n)$ des vecteurs aléatoires i.i.d. de $\R^d$ de carré intégrable, d’espérance $m$ et de matrice de covariance $\Sigma$ . Alors $\frac{S_n - nm}{\sqrt n}$ converge en loi vers le vecteur gaussien $\mathcal N(0, \Sigma)$ .

Démonstration. Admis à ce niveau. ∎

Remarque 23.13

Presque tout est déjà entre nos mains. Pour chaque direction $t \in \R^d$ , la variable réelle $\langle t, \frac{S_n - nm}{\sqrt n}\rangle$ est une somme normalisée de variables réelles i.i.d. de variance $t^{\mathsf T}\Sigma t$ , donc le calcul du Théorème 23.8 donne la convergence ponctuelle des fonctions caractéristiques $d$ -dimensionnelles vers $\eu^{-t^{\mathsf T}\Sigma t/2}$ , la fonction caractéristique de $\mathcal N(0, \Sigma)$ (Définition 23.10). Ce que nous n’avons pas reprouvé est le théorème de continuité de Lévy dans $\R^d$ : la sélection de Helly et l’estimée de tension se généralisent routinièrement (coordonnée par coordonnée), et cette réduction de Cramér–Wold est menée honnêtement dans tout cours de probabilités de master ; rien au-delà des méthodes de ce chapitre n’est nécessaire.

Méthode 23.14

Pour identifier une loi limite : calculer les fonctions caractéristiques, prendre la limite ponctuelle, la reconnaître (gaussienne $\eu^{-\sigma^2\xi^2/2}$ , Poisson $\eu^{\lambda(\eu^{\iu\xi}-1)}$ , exponentielle $\frac{\lambda}{\lambda - \iu\xi}$ , $\dots$ ) et invoquer Lévy. Le rituel en trois étapes (indépendance $\to$ produit ; Taylor en $0$ $\to$ limite exponentielle ; Lévy $\to$ convergence en loi) prouve le TCL, la loi de Poisson des événements rares (Exercice 23.5), et tout théorème limite classique de ce cours. Pour les énoncés p.s., revenir à la boîte à outils du Chapitre 22 : les deux chapitres répondent à des questions différentes sur le même $S_n$ .

23.5 Exercices

Exercice 23.1 ★

Calculer les fonctions caractéristiques : uniforme sur $\intcc{-1}1$ ; exponentielle $\mathcal E(\lambda)$ ; Poisson $\mathcal P(\lambda)$ ; binomiale $\mathcal B(n, p)$ . En déduire via le Théorème 23.3 que la somme de variables de Poisson indépendantes ( $\lambda, \mu$ ) est Poisson $(\lambda + \mu)$ .

Solution

Solution de Exercice 23.1.

Uniforme sur $\intcc{-1}1$ : $\varphi(\xi) = \frac12\int_{-1}^1\eu^{\iu\xi x}\dd x = \frac{\sin\xi}{\xi}$ (égale à $1$ en $\xi = 0$ ). Exponentielle $\mathcal E(\lambda)$ : $\varphi(\xi) = \lambda\int_0^\infty\eu^{(\iu\xi - \lambda)x}\dd x = \frac{\lambda}{\lambda - \iu\xi}$ (la primitive s’annule en $+\infty$ car $\operatorname{Re}(\iu\xi - \lambda) < 0$ ). Poisson $\mathcal P(\lambda)$ : par le théorème de transfert pour les lois discrètes,

\varphi(\xi) = \sum_{k\geq0}\eu^{\iu\xi k}\,\eu^{-\lambda}\frac{\lambda^k}{k!} = \eu^{-\lambda}\exp\bigl(\lambda\eu^{\iu\xi}\bigr) = \exp\bigl(\lambda(\eu^{\iu\xi} - 1)\bigr).

Binomiale $\mathcal B(n, p)$ : somme de $n$ Bernoulli indépendantes, chacune de f.c. $1 - p + p\eu^{\iu\xi}$ , donc $\varphi(\xi) = \bigl(1 - p + p\eu^{\iu\xi}\bigr)^n$ (Proposition 23.2(b)). Additivité de Poisson : si $X \sim \mathcal P(\lambda)$ , $Y \sim \mathcal P(\mu)$ indépendantes,

\varphi_{X+Y}(\xi) = \eu^{\lambda(\eu^{\iu\xi}-1)} \eu^{\mu(\eu^{\iu\xi}-1)} = \eu{(\lambda+\mu)(\eu^{\iu\xi}-1)},

la f.c. de $\mathcal P(\lambda + \mu)$ ; l’injectivité (Théorème 23.3) identifie la loi.

Exercice 23.2 ★★

(a) Montrer que $\varphi_X$ est à valeurs réelles si et seulement si $X$ et $-X$ ont la même loi (une variable symétrique). (b) Supposer $\abs{\varphi_X(\xi_0)} = 1$ pour un $\xi_0 \neq 0$ . Montrer que $X$ est presque sûrement supportée sur une progression arithmétique $a + \frac{2\pi}{\xi_0}\Z$ (écrire $\varphi_X(\xi_0) = \eu^{\iu\theta}$ et calculer $\E[1 - \cos(\xi_0X - \theta)]$ ). En déduire que si $X$ a une densité, alors $\abs{\varphi_X(\xi)} < 1$ pour tout $\xi \neq 0$ .

Solution

Solution de Exercice 23.2.

(a) $\overline{\varphi_X(\xi)} = \E\eu^{-\iu\xi X} = \varphi_{-X}(\xi)$ . Donc $\varphi_X$ est réelle si et seulement si $\varphi_X = \varphi_{-X}$ , si et seulement si (injectivité, Théorème 23.3) $X$ et $-X$ ont la même loi. (b) Écrire $\varphi_X(\xi_0) = \eu^{\iu\theta}$ . Alors

\E\bigl[1 - \cos(\xi_0X - \theta)\bigr] = 1 - \operatorname{Re}\bigl(\eu^{-\iu\theta} \varphi_X(\xi_0)\bigr) = 1 - 1 = 0 .

L’intégrande est positive, donc $\cos(\xi_0X - \theta) = 1$ presque sûrement (une variable positive d’espérance nulle s’annule p.s.), i.e. $\xi_0X - \theta \in 2\pi\Z$ p.s. : $X$ prend ses valeurs dans la progression arithmétique $\frac{\theta}{\xi_0} + \frac{2\pi}{\xi_0}\Z$ presque sûrement. Si $X$ a une densité, cet ensemble dénombrable est négligeable pour Lebesgue, donc porte une probabilité $0$ — contradiction ; par conséquent $\abs{\varphi_X(\xi)} < 1$ pour tout $\xi \neq 0$ .

Exercice 23.3 ★★

Soient $X \sim \mathcal N(m_1, \sigma_1^2)$ et $Y \sim \mathcal N(m_2, \sigma_2^2)$ indépendantes. Montrer $X + Y \sim \mathcal N(m_1 + m_2, \sigma_1^2 + \sigma_2^2)$ , et plus généralement que la famille gaussienne est stable sous sommes indépendantes et applications affines. Contraste : la somme de deux gaussiennes dépendantes est-elle toujours gaussienne ? (Exercice 23.9.)

Solution

Solution de Exercice 23.3.

Par indépendance et Proposition 23.2 :

\varphi_{X+Y}(\xi) = \eu^{\iu m_1\xi - \sigma_1^2\xi^2/2}\, \eu^{\iu m_2\xi - \sigma_2^2\xi^2/2} = \eu^{\iu(m_1+m_2)\xi - (\sigma_1^2+\sigma_2^2)\xi^2/2},

la f.c. de $\mathcal N(m_1 + m_2, \sigma_1^2 + \sigma_2^2)$ ; l’injectivité conclut. La stabilité sous les applications affines est la règle affine ( $aX + b \sim \mathcal N(am_1 + b, a^2\sigma_1^2)$ , en autorisant le cas dégénéré $a = 0$ ), et la stabilité sous les sommes indépendantes suit par récurrence sur le calcul ci-dessus. Pour des gaussiennes dépendantes, la somme n’est pas forcément gaussienne : dans Exercice 23.9, $X$ et $Y = \varepsilon X$ sont chacune standard gaussienne mais $X + Y$ s’annule avec probabilité $\frac12$ sans être p.s. nulle, donc n’est pas gaussienne.

Exercice 23.4 ★★

(a) Prouver l’équivalence dans la Définition 23.4 : si $\E f(X_n) \to \E f(X)$ pour toute $f$ continue bornée, alors $F_{X_n}(t) \to F_X(t)$ aux points de continuité (encadrer $\mathbf 1_{\intoc{-\infty}t}$ entre deux rampes en escalier continues) ; et réciproquement (approximer une $f$ continue bornée par des sommes de fonctions en rampe, ou conditionner sur une grille fine de points de continuité) — la réciproque peut être traitée d’abord pour $f$ uniformément continue, puis en général. (b) Montrer que $X_n \Rightarrow c$ (une constante) implique $X_n \to c$ en probabilité.

Solution

Solution de Exercice 23.4.

(a) Implication directe. Soit $t$ un point de continuité de $F_X$ et $\delta > 0$ . Prendre les rampes continues $f^-$ ( $= 1$ sur $\intoc{-\infty}{t-\delta}$ , $0$ à partir de $t$ , affine entre) et $f^+$ ( $= 1$ sur $\intoc{-\infty}t$ , $0$ à partir de $t + \delta$ , affine entre) ; alors $f^- \leq \mathbf 1_{\intoc{-\infty}t} \leq f^+$ , donc

\E f^-(X_n) \leq F_{X_n}(t) \leq \E f^+(X_n),

et les termes extrêmes convergent vers $\E f^\pm(X)$ , eux-mêmes encadrés entre $F_X(t - \delta)$ et $F_X(t + \delta)$ . En laissant $n \to \infty$ puis $\delta \to 0$ et en utilisant la continuité de $F_X$ en $t$ : $F_{X_n}(t) \to F_X(t)$ .

Réciproque. Soit $f$ continue bornée, $M = \sup\abs f$ , $\varepsilon > 0$ . Les points de continuité de $F_X$ sont denses ( $F_X$ a au plus dénombrablement beaucoup de sauts), donc choisir des points de continuité $a < b$ avec $F_X(a) < \varepsilon$ et $1 - F_X(b) < \varepsilon$ . Sur le compact $\intcc ab$ la fonction $f$ est uniformément continue : choisir des points de continuité $a = t_0 < t_1 < \dots < t_m = b$ de $F_X$ avec oscillation de $f$ au plus $\varepsilon$ sur chaque $\intoc{t_{j-1}}{t_j}$ , et poser $g = \sum_j f(t_j)\,\mathbf 1_{\intoc{t_{j-1}}{t_j}}$ . Alors $\abs{f - g} \leq \varepsilon$ sur $\intoc ab$ , $\abs g \leq M$ , et pour $T = X_n$ ou $X$ :

\bigl|\E f(T) - \E g(T)\bigr| \leq \varepsilon + 2M\bigl(F_T(a) + 1 - F_T(b)\bigr).

De plus $\E g(X_n) = \sum_j f(t_j)\bigl(F_{X_n}(t_j) - F_{X_n}(t_{j-1})\bigr) \to \E g(X)$ (somme finie de termes convergents, tous les $t_j$ étant des points de continuité), et $F_{X_n}(a) \to F_X(a) < \varepsilon$ , $1 - F_{X_n}(b) \to 1 - F_X(b) < \varepsilon$ . En assemblant : $\limsup_n\abs{\E f(X_n) - \E f(X)} \leq 2\varepsilon + 8M\varepsilon$ ; laisser $\varepsilon \to 0$ .

(b) La fonction de répartition de la constante $c$ est $\mathbf 1_{\intco c\infty}$ , continue sauf en $c$ . Pour $\varepsilon > 0$ , les points $c - \varepsilon$ et $c + \frac\varepsilon2$ sont des points de continuité, donc

\P(\abs{X_n - c} > \varepsilon) \leq F_{X_n}(c - \varepsilon) + 1 - F_{X_n}\bigl(c + \tfrac\varepsilon2\bigr) \to 0 + 0 = 0.

Exercice 23.5 ★★

(Loi des événements rares) Soit $X_n \sim \mathcal B(n, p_n)$ avec $np_n \to \lambda > 0$ . Montrer, via les fonctions caractéristiques et le Théorème 23.7, que $X_n \Rightarrow \mathcal P(\lambda)$ . Vérification numérique : comparer $\P(X = 0)$ pour $\mathcal B(100, 0.02)$ et $\mathcal P(2)$ .

Solution

Solution de Exercice 23.5.

Poser $z_n = p_n(\eu^{\iu\xi} - 1)$ , donc $\varphi_{X_n}(\xi) = (1 + z_n)^n$ (Exercice 23.1) et $\abs{z_n} \leq 2p_n \to 0$ (noter $p_n = \frac{np_n}n \to 0$ ). Les deux $1 + z_n$ et $\eu^{z_n}$ ont module au plus $1$ : $\abs{1 + z_n} = \abs{(1 - p_n) + p_n\eu^{\iu\xi}} \leq 1$ par l’inégalité triangulaire, et $\abs{\eu^{z_n}} = \eu^{p_n(\cos\xi - 1)} \leq 1$ . L’inégalité de télescopage $\abs{a^n - b^n} \leq n\abs{a - b}$ (preuve de Théorème 23.8) et la borne de série entière $\abs{\eu^z - 1 - z} \leq \abs z^2\eu^{\abs z}$ donnent

\bigl|(1 + z_n)^n - \eu^{nz_n}\bigr| \leq n\bigl|1 + z_n - \eu^{z_n}\bigr| \leq n\,\abs{z_n}^2\,\eu^{\abs{z_n}} \leq 4\eu^2\,np_n^2 = 4\eu^2\,(np_n)\,p_n \longrightarrow 0 .

Comme $nz_n = np_n(\eu^{\iu\xi} - 1) \to \lambda(\eu^{\iu\xi} - 1)$ , on conclut $\varphi_{X_n}(\xi) \to \exp\bigl(\lambda(\eu^{\iu\xi} - 1)\bigr)$ pour tout $\xi$ : la f.c. de $\mathcal P(\lambda)$ , et Lévy (Théorème 23.7) donne $X_n \Rightarrow \mathcal P(\lambda)$ . Numériquement : $\P\bigl(\mathcal B(100, 0.02) = 0\bigr) = 0{,}98^{100} = \eu^{100\ln 0{,}98} \approx \eu^{-2{,}020} \approx 0{,}1326$ , tandis que $\P\bigl(\mathcal P(2) = 0\bigr) = \eu^{-2} \approx 0{,}1353$ : deux pour cent d’écart déjà à ce $n$ grossier.

Exercice 23.6 ★★

(a) Un dé équitable est lancé $n = 1000$ fois ; approximer la probabilité que le total dépasse $3600$ (moyenne $3500$ , variance par lancer $\frac{35}{12}$ ). (b) Pour $S \sim \mathcal B(100, \frac12)$ , approximer $\P(45 \leq S \leq 55)$ par le TCL avec la correction de continuité ( $\pm\frac12$ ), et commenter l’effet de la correction.

Solution

Solution de Exercice 23.6.

(a) Un lancer a moyenne $\frac72$ et variance $\frac{35}{12}$ , donc $S$ a moyenne $3500$ , variance $\frac{35000}{12} \approx 2916{,}7$ et écart-type $\approx 54{,}0$ . Par le TCL,

\P(S > 3600) = \P\Bigl(\frac{S - 3500}{54{,}0} > 1{,}85\Bigr) \approx 1 - \Phi(1{,}85) \approx 0{,}032 :

environ $3\%$ de chance. (b) $S \sim \mathcal B(100, \frac12)$ : moyenne $50$ , écart-type $5$ . Avec la correction de continuité,

\P(45 \leq S \leq 55) \approx \Phi\Bigl(\frac{55{,}5 - 50}{5}\Bigr) - \Phi\Bigl(\frac{44{,}5 - 50}{5}\Bigr) = 2\Phi(1{,}1) - 1 \approx 0{,}729,

contre la valeur exacte $0{,}7287$ ; sans la correction, $2\Phi(1) - 1 \approx 0{,}683$ , à presque cinq points. La correction compte parce que $S$ est une variable de réseau : l’atome $\P(S = k)$ est bien approché par la masse gaussienne de $\intcc{k - \frac12}{k + \frac12}$ , et tronquer l’intervalle aux entiers $45$ et $55$ jette un demi-atome à chaque extrémité.

Exercice 23.7 ★★

(Erreur de Monte-Carlo) Dans le cadre du Problème 22.1, question 11, avec $g \in L^2(\intcc01^d)$ , soit $\sigma^2 = \V(g(U_1))$ et $I = \int g$ . Montrer

\sqrt n\,\Bigl(\frac1n\sum_{k\leq n}g(U_k) - I\Bigr) \Longrightarrow \mathcal N(0, \sigma^2),

et en déduire la barre d’erreur asymptotique $95\%$ $\pm 1.96\,\sigma/\sqrt n$ — indépendante de la dimension $d$ . Comparer avec la règle du point milieu déterministe en dimension $d$ (erreur $\sim n^{-2/d}$ pour des intégrandes $\mathcal C^2$ ) : à partir de quelle dimension l’échantillonnage aléatoire l’emporte-t-il ?

Solution

Solution de Exercice 23.7.

Les variables $g(U_k)$ sont i.i.d. (images mesurables de variables i.i.d.), de carré intégrable, de moyenne $I$ (théorème de transfert, Exercice 11.9) et de variance $\sigma^2$ . Si $\sigma > 0$ , le Théorème 23.8 appliqué à elles est exactement la convergence indiquée

\sqrt n\,\Bigl(\frac1n\sum_{k\leq n}g(U_k) - I\Bigr) = \frac{\sum_{k\leq n}\bigl(g(U_k) - I\bigr)}{\sqrt n} \Longrightarrow \mathcal N(0, \sigma^2)

(si $\sigma = 0$ , $g$ est p.s. constante et le premier membre s’annule identiquement). D’où $\P\bigl(\abs{\frac1n\sum g(U_k) - I} \leq 1{,}96\,\sigma/\sqrt n\bigr) \to 0{,}95$ : la barre d’erreur $\pm 1{,}96\,\sigma/\sqrt n$ ne voit la dimension $d$ qu’à travers la constante $\sigma$ , jamais à travers le taux en $n$ . La règle du point milieu à $n$ nœuds en dimension $d$ a pour maille $n^{-1/d}$ et une erreur d’ordre $n^{-2/d}$ pour des intégrandes $\mathcal C^2$ . Le $n^{-1/2}$ de Monte-Carlo décroît plus vite que $n^{-2/d}$ exactement quand $\frac12 > \frac2d$ , i.e. $d > 4$ : à partir de la dimension $5$ , l’échantillonnage aléatoire bat asymptotiquement la grille — la malédiction de la dimensionnalité épargne les méthodes probabilistes, ce qui explique pourquoi Monte-Carlo domine l’intégration en grande dimension.

Exercice 23.8 ★★★

(Slutsky) Supposer $X_n \Rightarrow X$ et $Y_n \to c$ en probabilité ( $c$ constante). Montrer $X_n + Y_n \Rightarrow X + c$ et $Y_nX_n \Rightarrow cX$ . (Travailler avec les fonctions caractéristiques et la borne $\abs{\E\eu^{\iu\xi(X_n+Y_n)} - \eu^{\iu\xi c}\E\eu^{\iu\xi X_n}} \leq \E\abs{\eu^{\iu\xi(Y_n - c)} - 1}$ , scinder sur $\abs{Y_n - c} \leq \delta$ .) Application : dans l’Exemple 23.9, justifier le remplacement de l’inconnue $\sigma = \sqrt{p(1-p)}$ par $\sqrt{\hat p_n(1 - \hat p_n)}$ .

Solution

Solution de Exercice 23.8.

Somme. Pour $\xi$ fixé :

\bigl|\E\eu^{\iu\xi(X_n+Y_n)} - \eu^{\iu\xi c}\,\E\eu^{\iu\xi X_n}\bigr| = \bigl|\E\bigl[\eu^{\iu\xi X_n}\bigl(\eu^{\iu\xi Y_n} - \eu^{\iu\xi c}\bigr)\bigr]\bigr| \leq \E\bigl|\eu^{\iu\xi(Y_n - c)} - 1\bigr| .

Scinder sur l’événement $\{\abs{Y_n - c} \leq \delta\}$ : là, $\abs{\eu^{\iu\xi(Y_n-c)} - 1} \leq \abs\xi\,\delta$ (la corde est plus courte que l’arc) ; le complémentaire contribue au plus $2\,\P(\abs{Y_n - c} > \delta) \to 0$ . Donc le $\limsup$ est $\leq \abs\xi\,\delta$ pour tout $\delta > 0$ : la différence tend vers $0$ . Comme $\E\eu^{\iu\xi X_n} \to \varphi_X(\xi)$ , on obtient $\varphi_{X_n+Y_n}(\xi) \to \eu^{\iu\xi c}\varphi_X(\xi) = \varphi_{X+c}(\xi)$ , et Lévy (Théorème 23.7) donne $X_n + Y_n \Rightarrow X + c$ .

Produit. D’abord, $cX_n \Rightarrow cX$ : $\varphi_{cX_n}(\xi) = \varphi_{X_n}(c\xi) \to \varphi_X(c\xi) = \varphi_{cX}(\xi)$ . Ensuite, $(Y_n - c)X_n \to 0$ en probabilité : les lois des $X_n$ sont tendues (leurs f.c. convergent vers une f.c. ; voir l’étape de tension de Théorème 23.7), donc étant donné $\varepsilon > 0$ choisir $M$ avec $\P(\abs{X_n} > M) \leq \varepsilon$ pour tout $n$ ; alors

\P\bigl(\abs{(Y_n - c)X_n} > \varepsilon\bigr) \leq \P(\abs{X_n} > M) + \P\Bigl(\abs{Y_n - c} > \frac{\varepsilon}{M}\Bigr) \leq \varepsilon + o(1) .

Écrire $Y_nX_n = cX_n + (Y_n - c)X_n$ et appliquer la partie somme (dont la preuve n’utilisait que $Y_n' := (Y_n - c)X_n \to 0$ en probabilité, avec constante $0$ ) : $Y_nX_n \Rightarrow cX$ .

Application. Par la loi forte des grands nombres (Théorème 22.13), $\hat p_n \to p$ p.s., donc par continuité $\hat\sigma_n = \sqrt{\hat p_n(1 - \hat p_n)} \to \sigma = \sqrt{p(1 - p)} > 0$ p.s., d’où $\frac{\sigma}{\hat\sigma_n} \to 1$ en probabilité. La règle produit de Slutsky promeut $\frac{S_n - np}{\sigma\sqrt n} \Rightarrow \mathcal N(0,1)$ en $\frac{S_n - np}{\hat\sigma_n\sqrt n} = \frac{\sigma}{\hat\sigma_n}\cdot \frac{S_n - np}{\sigma\sqrt n} \Rightarrow \mathcal N(0,1)$ : l’intervalle de confiance utilisable $\hat p_n \pm 1.96\,\hat\sigma_n/\sqrt n$ , construit à partir des données seules, conserve son niveau asymptotique $95\%$ .

Exercice 23.9 ★★★

Soit $X \sim \mathcal N(0,1)$ et $\varepsilon$ indépendante avec $\P(\varepsilon = \pm1) = \frac12$ ; poser $Y = \varepsilon X$ . (a) Montrer $Y \sim \mathcal N(0,1)$ et $\operatorname{Cov}(X, Y) = 0$ . (b) Montrer que $X$ et $Y$ ne sont pas indépendantes, et que $(X, Y)$ n’est pas un vecteur gaussien (calculer $\P(X + Y = 0)$ ). (c) Morale : le Théorème 23.11(2) exige la gaussianité conjointe — << gaussiennes non corrélées >> seules ne prouvent rien.

Solution

Solution de Exercice 23.9.

(a) En scindant l’espérance sur les deux valeurs de $\varepsilon$ (indépendance) : pour $B$ borélien, $\P(Y \in B) = \frac12\P(X \in B) + \frac12\P(-X \in B) = \P(X \in B)$ , car $-X \sim X$ ( $\mathcal N(0,1)$ est symétrique) : $Y \sim \mathcal N(0,1)$ . Et $\operatorname{Cov}(X, Y) = \E[\varepsilon X^2] = \E[\varepsilon]\,\E[X^2] = 0 \cdot 1 = 0$ . (b) $\abs Y = \abs X$ , donc $\P(\abs X \leq 1,\ \abs Y \geq 2) = 0$ tandis que $\P(\abs X \leq 1)\,\P(\abs Y \geq 2) > 0$ : pas indépendantes. Si $(X, Y)$ était un vecteur gaussien, $X + Y = (1 + \varepsilon)X$ serait une variable gaussienne réelle (Définition 23.10 avec $t = (1,1)$ ) ; mais $\P(X + Y = 0) = \P(\varepsilon = -1) = \frac12$ , alors qu’une variable gaussienne n’a d’atome que si elle est p.s. constante — et $X + Y$ égale $2X \neq 0$ p.s. sur $\{\varepsilon = 1\}$ . Contradiction : $(X, Y)$ n’est pas gaussien. (c) Chaque marginale est gaussienne et la covariance s’annule, pourtant l’indépendance échoue — parce que la paire n’est pas conjointement gaussienne. Le Théorème 23.11(2) ne peut pas être affaibli en « marginales gaussiennes ».

Exercice 23.10 ★★

La loi de Cauchy a pour densité $\frac1{\pi(1 + x^2)}$ . (a) Montrer que sa fonction caractéristique est $\eu^{-\abs\xi}$ (Exercice 14.1 et inversion). (b) Montrer que si $X_1, \dots, X_n$ sont i.i.d. Cauchy, alors $\frac{S_n}n$ est encore Cauchy — la même loi : la moyenne ne se concentre jamais. (c) Réconcilier avec les lois des grands nombres et le TCL : quelles hypothèses échouent ? (Calculer $\E\abs{X_1}$ .)

Solution

Solution de Exercice 23.10.

(a) Exercice 14.1 calcule $\widehat{\eu^{-\abs\cdot}}(\xi) = \frac{2}{1 + \xi^2}$ ; les deux membres étant intégrables, l’inversion de Fourier (Théorème 14.5) retourne ce résultat :

\int_\R\eu^{\iu\xi x}\,\frac{\dd x}{\pi(1 + x^2)} = \eu^{-\abs\xi},

qui est exactement $\varphi_X(\xi)$ pour une variable de Cauchy $X$ . (b) Par indépendance, $\varphi_{S_n}(\xi) = \bigl(\eu^{-\abs\xi}\bigr)^n = \eu^{-n\abs\xi}$ , donc $\varphi_{S_n/n}(\xi) = \varphi_{S_n}(\xi/n) = \eu^{-\abs\xi}$ : la moyenne empirique $\frac{S_n}n$ est encore Cauchy standard pour tout $n$ (injectivité). La moyenne ne se concentre jamais : ses fluctuations au temps $10^6$ sont celles d’une seule observation. (c) $\E\abs{X_1} = \frac2\pi\int_0^\infty\frac{x\,\dd x}{1 + x^2} = +\infty$ : la loi de Cauchy n’est pas intégrable, donc la loi forte des grands nombres (Théorème 22.13) ne s’applique pas, et le TCL (qui demande une variance finie) encore moins. Ici leurs conclusions échouent vraiment, pas seulement leurs preuves. Contrôle de cohérence : $\varphi(\xi) = \eu^{-\abs\xi}$ n’est pas différentiable en $0$ , comme Proposition 23.2(c) le prédit par contraposée pour une variable non intégrable.

Exercice 23.11 ★★

(Lois stables en germe) Soient $(X_n)$ i.i.d. Cauchy standard (Exercice 23.10). (a) Montrer que pour tous $a, b > 0$ , $aX_1 + bX_2$ a la loi de $(a + b)X_1$ : la famille de Cauchy est strictement stable d’indice $1$ . (b) Montrer que la famille gaussienne est strictement stable d’indice $2$ : $aX_1 + bX_2 \sim \sqrt{a^2 + b^2}\,X_1$ pour $X_i$ i.i.d. $\mathcal N(0,1)$ . (c) Expliquer, via les fonctions caractéristiques de la forme $\eu^{-c\abs\xi^\alpha}$ , pourquoi la stabilité d’indice $\alpha$ force la normalisation $n^{1/\alpha}$ pour les sommes, et ce que cela dit sur les bassins d’attraction du TCL : quelles sommes i.i.d. peuvent converger, après normalisation affine, vers une loi de Cauchy plutôt qu’une gaussienne ?

Solution

Solution de Exercice 23.11.

(a) $\varphi_{aX_1 + bX_2}(\xi) = \eu^{-a\abs\xi}\eu^{-b\abs\xi} = \eu^{-(a+b)\abs\xi} = \varphi_{(a+b)X_1}(\xi)$ (indépendance et Exercice 23.10) ; l’injectivité identifie les lois.

(b) $\varphi_{aX_1+bX_2}(\xi) = \eu^{-a^2\xi^2/2} \eu^{-b^2\xi^2/2} = \eu^{-(a^2+b^2)\xi^2/2}$ : la loi de $\sqrt{a^2+b^2}\,X_1$ .

(c) Si $\varphi_X(\xi) = \eu^{-c\abs\xi^\alpha}$ , alors $S_n = X_1 + \dots + X_n$ a $\varphi_{S_n} = \eu^{-cn\abs\xi^\alpha}$ , et $S_n/n^{1/\alpha}$ a $\varphi(\xi) = \eu^{-c\abs\xi^\alpha}$ de nouveau : auto-reproduction exacte sous l’échelle $n^{1/\alpha}$ — $\sqrt n$ pour la gaussienne ( $\alpha = 2$ ), $n$ lui-même pour Cauchy ( $\alpha = 1$ , Exercice 23.10(b)). Une somme de variables i.i.d. ne peut converger (après normalisation affine) que vers une loi stable sous de telles convolutions ; le TCL dit qu’une variance finie force le bassin gaussien, et le bassin de Cauchy est réservé aux lois à queues si lourdes que $\E X^2 = \infty$ et même $\E\abs X = \infty$ — p.ex. des sommes de variables de Cauchy elles-mêmes. L’universalité a plusieurs îles, indexées par l’exposant de queue $\alpha \in \intoc02$ .

Exercice 23.12 ★★

(La fonction de répartition empirique) Soient $(X_n)$ i.i.d. de fonction de répartition $F$ , et $F_n(t) = \frac1n\#\{k \leq n : X_k \leq t\}$ . (a) Fixer $t$ . Montrer que $n F_n(t) \sim \mathcal B(n, F(t))$ , que $F_n(t) \to F(t)$ p.s. (Théorème 22.13), et que

\sqrt n\,\bigl(F_n(t) - F(t)\bigr) \Longrightarrow \mathcal N\bigl(0,\ F(t)(1 - F(t))\bigr) .

(b) En quel $t$ la variance asymptotique est-elle maximale ? Interpréter : la médiane est l’endroit où une répartition empirique est le plus difficile à épingler. (c) Pour $F$ continue, montrer que la loi de $\sup_t\abs{F_n(t) - F(t)}$ ne dépend pas de $F$ (se ramener à des variables uniformes via l’Exercice 22.1) — le miracle sans distribution derrière le test de Kolmogorov–Smirnov ; aucun calcul de cette loi n’est demandé.

Solution

Solution de Exercice 23.12.

(a) Les indicateurs $\mathbf 1_{X_k \leq t}$ sont i.i.d. Bernoulli de paramètre $p = F(t)$ : leur somme $nF_n(t)$ est binomiale $\mathcal B(n, p)$ ; la loi forte donne $F_n(t) \to p$ p.s., et le TCL (Théorème 23.8) appliqué aux mêmes indicateurs (variance $p(1-p)$ ) donne la limite gaussienne indiquée.

(b) $p(1 - p)$ est maximal en $p = \frac12$ , i.e. où $F(t) = \frac12$ : à la médiane. Estimer des probabilités de queue est asymptotiquement facile (variance $\to 0$ quand $p \to 0, 1$ ) ; la région médiane porte le plus grand bruit statistique — la courbe empirique oscille le plus au milieu.

(c) Pour $F$ continue, les variables $U_k = F(X_k)$ sont i.i.d. uniformes sur $\intoo01$ (Exercice 22.1), et la monotonie de $F$ donne, en notant $G_n$ la fonction de répartition empirique des $U_k$ :

\sup_{t\in\R}\,\abs{F_n(t) - F(t)} = \sup_{u \in \operatorname{im}F}\,\abs{G_n(u) - u} = \sup_{u\in\intcc01}\abs{G_n(u) - u} :

la première égalité car $\{X_k \leq t\} = \{U_k \leq F(t)\}$ à des événements négligeables près (monotonie ; l’inégalité stricte ne peut échouer que sur les parties plates de $F$ , où les deux membres sont inchangés), et la seconde car une $F$ continue, allant de $0$ à $1$ , atteint toute valeur de $\intoo01$ (théorème des valeurs intermédiaires), et les extrémités n’ajoutent rien ( $G_n(0) - 0 = 0$ et $G_n(1) - 1 = 0$ ). Le second membre n’implique que des uniformes : une seule loi pour toutes les $F$ continues.

23.6 Problème : la preuve de Lindeberg du TCL, avec un taux

Problème 23.1

Problème de week-end — la méthode de remplacement

Lindeberg (1922) a prouvé le théorème central limite par une idée d’une simplicité désarmante : échanger les summands un par un contre des gaussiennes et contrôler chaque échange par un développement de Taylor. La méthode n’a besoin d’aucune analyse de Fourier, produit un taux d’erreur explicite, et alimente aujourd’hui les preuves d’universalité à travers la théorie des probabilités. Soient $(X_i)$ i.i.d., centrées, $\V(X_1) = 1$ , avec $\beta = \E\abs{X_1}^3 < \infty$ ; soient $(N_i)$ i.i.d. $\mathcal N(0,1)$ , indépendantes des $X_i$ (existence : Théorème 22.6). Poser

T_n = \frac{X_1 + \dots + X_n}{\sqrt n}, \qquad G_n = \frac{N_1 + \dots + N_n}{\sqrt n} \sim \mathcal N(0,1).

Partie I — L’identité d’échange. Fixer $f \in \mathcal C^3_b(\R)$ (trois dérivées continues bornées ; $M_3 = \sup\abs{f'''}$ ). Pour $0 \leq i \leq n$ définir les sommes hybrides

H_i = \frac{X_1 + \dots + X_i + N_{i+1} + \dots + N_n}{\sqrt n},

donc $H_n = T_n$ et $H_0 = G_n$ .

Écrire $H_i = W_i + \frac{X_i}{\sqrt n}$ et $H_{i-1} = W_i + \frac{N_i}{\sqrt n}$ avec $W_i = \frac{1}{\sqrt n}\bigl(\sum_{j<i}X_j + \sum_{j>i}N_j\bigr)$ , et noter que $W_i$ est indépendante de la paire $(X_i, N_i)$ . Justifier.
Taylor avec reste intégral ou de Lagrange : pour tous réels $w, h$ :

$\Bigl|f(w + h) - f(w) - f'(w)h - \tfrac12f''(w)h^2\Bigr| \leq \frac{M_3\,\abs h^3}{6} .$
Appliquer la question 2 deux fois ( $h = \frac{X_i}{\sqrt n}$ et $h = \frac{N_i}{\sqrt n}$ en $w = W_i$ ), prendre les espérances, et utiliser l’indépendance plus l’égalité des deux premiers moments de $X_i$ et $N_i$ pour montrer

$\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{M_3}{6}\cdot \frac{\beta + \gamma}{n^{3/2}}, \qquad \gamma = \E\abs{N_1}^3 = \frac{2\sqrt2}{\sqrt\pi} .$
Télescoper sur $i$ et conclure la borne de Lindeberg :

$\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{M_3\,(\beta + \gamma)}{6\,\sqrt n} .$

Partie II — Des $f$ lisses au TCL.

Montrer que $\E f(T_n) \to \E f(N)$ pour toute $f \in \mathcal C_b^3$ , et monter à toutes les $f$ continues bornées : étant donnés une telle $f$ et $\varepsilon$ , construire $f_\varepsilon \in \mathcal C^3_b$ avec $\norm{f - f_\varepsilon}_\infty \leq \varepsilon$ sur un grand intervalle — p.ex. convoler $f$ avec une bosse $\mathcal C^\infty$ (Théorème 12.9) — et traiter les queues par la tension ( $\V(T_n) = 1$ et Bienaymé–Tchebychev). Conclure $T_n \Rightarrow \mathcal N(0, 1)$ : le théorème central limite, reprouvé.
Où la preuve a-t-elle utilisé que les $X_i$ sont identiquement distribuées ? Montrer que c’est à peine le cas : énoncer et prouver la version pour des $X_i$ indépendantes, centrées, non identiques avec $\sum_i\V(X_i) = s_n^2$ et moments d’ordre trois, obtenant l’erreur $\frac{M_3}{6s_n^3}\sum_i\bigl(\E\abs{X_i}^3 + \V(X_i)^{3/2}\gamma\bigr)$ — le vrai théorème de Lindeberg sous sa forme de Lyapunov.

Partie III — Dividendes quantitatifs.

(Fonctions de répartition) Soit $t \in \R$ et approximer $\mathbf 1_{\intoc{-\infty}t}$ par dessus et par dessous par des rampes $\mathcal C^3_b$ de largeur $\delta$ (les construire, avec $M_3 = O(\delta^{-3})$ ). En combinant avec la Partie I, dériver la borne à deux termes

$\sup_{t\in\R}\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \;\leq\; \frac{C_1(\beta + \gamma)}{\delta^3\sqrt n} + C_2\,\delta \qquad (\text{tout } \delta > 0),$

avec des constantes explicites (le terme $C_2\delta$ utilise que $\Phi$ a une densité bornée par $\frac1{\sqrt{2\pi}}$ ), et optimiser $\delta \sim n^{-1/8}$ pour obtenir un taux uniforme d’ordre $n^{-1/8}$ . (L’optimal $n^{-1/2}$ — Berry–Esseen — demande des outils plus fins ; le point est un taux explicite par échange élémentaire.)
(De Moivre–Laplace, quantifié) Spécialiser à $X_i = 2B_i - 1$ (signes de pièces équitables) : comparer la conclusion avec l’estimée locale du Problème 11.1, question 7 — que donne chaque méthode que l’autre ne donne pas ?
(Universalité) Expliquer en un paragraphe pourquoi la méthode de remplacement montre plus que le TCL : toute statistique de la forme $\E f(\text{somme})$ avec $f$ lisse est insensible, à l’ordre $n^{-1/2}$ , à la loi entière des summands au-delà de ses deux premiers moments — le « principe d’invariance » qui sous-tend les résultats modernes d’universalité (matrices aléatoires, polynômes aléatoires), dont le TCL est la première instance.

Partie IV — Lissage poussé : meilleurs taux. La perte de $n^{-1/2}$ ( $f$ lisse) à $n^{-1/8}$ (fonctions de répartition) venait de facturer $f'''$ en norme sup. Les hybrides peuvent en réparer une partie : ils contiennent des summands gaussiens, et les gaussiennes lissent.

(Une gaussienne cachée) Pour $1 \leq i \leq n - 1$ , $h = \frac{X_i}{\sqrt n}$ ou $\frac{N_i}{\sqrt n}$ , et $\theta \in \intcc01$ , écrire $W_i + \theta h = A + Z$ avec $Z = \frac{N_{i+1} + \dots + N_n}{\sqrt n}$ . Montrer que $Z \sim \mathcal N\bigl(0, \frac{n-i}n\bigr)$ est indépendante de la paire $(A, h)$ , et en déduire, pour toute $g$ continue dans $L^1(\R)$ ,

$\E\bigl[\abs h^3\,\abs{g(W_i + \theta h)}\bigr] \;\leq\; \sqrt{\frac{n}{2\pi(n - i)}}\; \norm{g}_{L^1}\;\E\abs h^3 .$
Combiner la question 10 avec la forme intégrale du reste de Taylor,

$f(w + h) = f(w) + f'(w)h + \tfrac12f''(w)h^2 + \int_0^1\frac{(1 - \theta)^2}2\,f'''(w + \theta h)\,h^3\,\dd\theta,$

pour refaire les questions 3–4 : pour $f \in \mathcal C^3_b$ avec de plus $f''' \in L^1(\R)$ ,

$\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta + \gamma}{3\sqrt{2\pi}}\cdot \frac{\norm{f'''}_{L^1}}{\sqrt n} + \frac{M_3(\beta + \gamma)}{6\,n^{3/2}}$

(la question 10 traite les échanges $i \leq n - 1$ — utiliser $\sum_{m=1}^{n-1}m^{-1/2} \leq 2\sqrt n$ — et la borne grossière de la question 3 traite le dernier). Vérifier que les rampes de la question 7 satisfont $\norm{\psi_\delta'''}_{L^1} = K_1\delta^{-2}$ tandis que $M_3 = K\delta^{-3}$ , les injecter, et optimiser $\delta$ : le taux uniforme de fonction de répartition s’améliore en $O(n^{-1/6})$ .
(Apparier un moment de plus) Supposer de plus $\E X_1^3 = 0$ et $\beta_4 = \E X_1^4 < \infty$ . Calculer $\E N_1^3$ et $\E N_1^4$ , développer à l’ordre quatre, et prouver le long des mêmes lignes que le taux de fonction de répartition devient $O(n^{-1/4})$ (maintenant $\norm{\psi_\delta^{(4)}}_{L^1} = K_2\delta^{-3}$ et $M_4 = K'\delta^{-4}$ ; choisir $\delta = n^{-1/4}$ ).
(L’obstruction) Supposer que les $k$ premiers moments de $X_1$ coïncident avec les gaussiens ( $k = 2$ toujours ; $k = 3$ exactement quand $\E X_1^3 = 0$ ; $k \geq 4$ essentiellement jamais, car $\E N_1^4 = 3$ ). Vérifier que le schéma des questions 10–12 délivre le taux de fonction de répartition $n^{-(k-1)/(2k+2)}$ , en équilibrant $\delta^{-k}n^{-(k-1)/2}$ contre $\delta$ , et observer que l’exposant n’approche la valeur de Berry–Esseen $\frac12$ que quand $k \to \infty$ . Expliquer en quelques phrases pourquoi la méthode d’échange sature : chaque échange est facturé en valeur absolue, tandis que la voie de Fourier (inégalité de lissage d’Esseen) exploite l’oscillation de la différence des fonctions caractéristiques et atteint $C\beta n^{-1/2}$ avec seulement trois moments.

Partie V — Deux dimensions : le TCL multidimensionnel, par échange. Soient maintenant les $X_i$ des vecteurs aléatoires i.i.d. centrés de $\R^2$ de matrice de covariance $\Sigma$ et $\beta' = \E\norm{X_1}^3 < \infty$ (norme euclidienne).

(Vecteurs gaussiens, en ordre) Diagonaliser $\Sigma = PDP^{\mathsf T}$ (Exercice 20.8) et poser $C = P\sqrt DP^{\mathsf T}$ . Pour $Z = (Z^1, Z^2)$ une paire de gaussiennes standard indépendantes (Théorème 22.6), montrer que $N = CZ$ est un vecteur gaussien (Définition 23.10) d’espérance $0$ , de covariance $\Sigma$ , avec $\gamma' = \E\norm N^3 < \infty$ ; et que $G_n = \frac{N_1 + \dots + N_n}{\sqrt n}$ a pour loi $\mathcal N(0, \Sigma)$ exactement pour des copies i.i.d. $N_i$ .
(Taylor en deux variables) Pour $f \colon \R^2 \to \R$ de classe $\mathcal C^3$ avec $M_3 = \max_{\abs\alpha = 3}\sup\abs{\partial^\alpha f} < \infty$ , prouver

$\Bigl|f(w + h) - f(w) - \langle\nabla f(w), h\rangle - \tfrac12\langle h, D^2f(w)\,h\rangle \Bigr| \leq \frac{M_3}6\,\bigl(\abs{h_1} + \abs{h_2}\bigr)^3 \leq \frac{\sqrt2\,M_3}3\, \norm h^3$

(étudier $t \mapsto f(w + th)$ sur $\intcc01$ ).
(Le TCL dans $\R^2$ ) Faire tourner le schéma de remplacement sur les hybrides vectoriels $H_i$ : montrer que les termes d’ordre un et deux s’annulent (moyennes et covariances coïncident), télescoper, et monter comme à la question 5 (tension depuis $\E\norm{T_n}^2 = \operatorname{tr}\Sigma$ ; mollification maintenant dans $\R^2$ , Théorème 12.9) pour conclure : pour toute $f \colon \R^2 \to \R$ continue bornée,

$\E\,f\Bigl(\frac{X_1 + \dots + X_n}{\sqrt n}\Bigr) \longrightarrow \E\,f(N), \qquad N \sim \mathcal N(0, \Sigma) :$

le Théorème 23.12 en dimension $2$ , avec un taux pour les $f$ lisses et sans analyse de Fourier.
(Cramér–Wold, et une fluctuation jointe) En déduire que $\langle t, \frac{S_n}{\sqrt n}\rangle \Rightarrow \mathcal N(0, t^{\mathsf T}\Sigma t)$ pour tout $t \in \R^2$ fixé. Application : pour des $(\xi_i)$ réels i.i.d., centrés, $\E\xi_1^2 = 1$ , $\E\xi_1^6 < \infty$ (de sorte que la Partie V s’applique à $V_i = (\xi_i, \xi_i^2 - 1)$ ), montrer

$\frac1{\sqrt n}\Bigl(\sum_{i\leq n}\xi_i,\ \sum_{i\leq n}(\xi_i^2 - 1)\Bigr) \Longrightarrow \mathcal N\Bigl(0, \begin{pmatrix} 1 & \E\xi_1^3\\ \E\xi_1^3 & \E\xi_1^4 - 1\end{pmatrix}\Bigr) :$

moyenne empirique et second moment empirique fluctuent conjointement de façon gaussienne — indépendamment à la limite si et seulement si $\E\xi_1^3 = 0$ (Théorème 23.11).

Partie VI — La méthode delta.

Soient $(\hat\theta_n)$ des variables aléatoires avec $\sqrt n(\hat\theta_n - \theta) \Rightarrow \mathcal N(0, \sigma^2)$ pour un paramètre réel $\theta$ , et $g$ différentiable en $\theta$ . Prouver la méthode delta :

$\sqrt n\bigl(g(\hat\theta_n) - g(\theta)\bigr) \Longrightarrow \mathcal N\bigl(0, g'(\theta)^2\sigma^2\bigr)$

(écrire $g(x) - g(\theta) = (g'(\theta) + \eta(x))(x - \theta)$ avec $\eta \to 0$ en $\theta$ ; montrer $\hat\theta_n \to \theta$ , puis $\eta(\hat\theta_n) \to 0$ , en probabilité ; conclure avec Slutsky, Exercice 23.8, et Exercice 23.4(b)).
Applications. (a) Pour des $(\xi_i)$ réels i.i.d. d’espérance $\mu$ et de variance $\sigma^2$ , et $\bar X_n = \frac1n\sum_{i\leq n}\xi_i$ : montrer $\sqrt n(\bar X_n^2 - \mu^2) \Rightarrow \mathcal N(0, 4\mu^2\sigma^2)$ quand $\mu \neq 0$ , et que pour $\mu = 0$ l’énoncé correct vit à une autre échelle : $n\bar X_n^2 \Rightarrow \sigma^2N^2$ avec $N \sim \mathcal N(0,1)$ (identifier la fonction de répartition de la limite). (b) (Stabilisation de la variance) Pour $\hat p_n$ la fréquence de succès d’un échantillon $\mathcal B(1, p)$ , $p \in \intoo01$ : montrer que $g(p) = \arcsin\sqrt p$ satisfait

$\sqrt n\,\bigl(g(\hat p_n) - g(p)\bigr) \Longrightarrow \mathcal N\Bigl(0, \frac14\Bigr)$

quel que soit $p$ — une barre d’erreur asymptotique libre du paramètre inconnu ; comparer avec l’Exemple 23.9.

Partie VII — Poisson, par la même méthode : le théorème de Le Cam. Le remplacement connaît une seconde classe d’universalité : les sommes de beaucoup d’événements indépendants rares. Pour les lois sur $\N$ la bonne distance est la variation totale,

d_{\mathrm{TV}}(\mu, \nu) = \sup_{A\subseteq\N}\, \abs{\mu(A) - \nu(A)} .

Montrer que $d_{\mathrm{TV}}(\mu, \nu) = \frac12\sum_{k\geq0}\abs{\mu(\{k\}) - \nu(\{k\})}$ , et prouver la borne de couplage : pour toute paire $(X, Y)$ de variables aléatoires de lois $\mu$ et $\nu$ sur le même espace, $d_{\mathrm{TV}}(\mu, \nu) \leq \P(X \neq Y)$ .
Calculer exactement, pour $p \in \intoo01$ :

$d_{\mathrm{TV}}\bigl(\mathcal B(1, p), \mathcal P(p)\bigr) = p\bigl(1 - \eu^{-p}\bigr) \leq p^2 .$
(Le Cam, par échange) Soient $X_i \sim \mathcal B(1, p_i)$ et $Y_i \sim \mathcal P(p_i)$ , les $2n$ variables indépendantes ; $S = X_1 + \dots + X_n$ , et rappeler $Y_1 + \dots + Y_n \sim \mathcal P(\lambda)$ avec $\lambda = \sum_ip_i$ (Exercice 23.1). Échanger une coordonnée à la fois dans les hybrides entiers $H_i = Y_1 + \dots + Y_i + X_{i+1} + \dots + X_n$ : montrer, pour tout $A \subseteq \N$ ,

$\abs{\P(H_{i-1} \in A) - \P(H_i \in A)} \leq d_{\mathrm{TV}}\bigl(\mathcal B(1, p_i), \mathcal P(p_i)\bigr),$

et conclure l’inégalité de Le Cam :

$d_{\mathrm{TV}}\bigl(\text{loi de } S,\ \mathcal P(\lambda)\bigr) \leq \sum_{i=1}^np_i^2 .$
Dividendes. (a) Pour $p_i = \frac\lambda n$ : la borne est $\frac{\lambda^2}n$ — la loi des événements rares (Exercice 23.5) montée à un taux explicite, uniforme sur tous les événements, et valable pour des $p_i$ inégaux aussi. (b) $500$ lettres sont livrées, chacune s’égarant indépendamment avec probabilité $\frac1{500}$ : borner l’erreur du modèle de Poisson de paramètre $1$ , et estimer la probabilité qu’aucune lettre ne s’égare. (c) Clore le problème : comparer les deux classes d’universalité rencontrées ici — gaussienne (beaucoup de petites contributions étalées ; deux moments appariés ; Taylor) et Poisson (beaucoup de contributions rares ; une moyenne appariée ; un couplage exact en variation totale) — et la seule méthode de remplacement derrière les deux.
(Erreur relative et transformée log) Soient $(X_n)$ i.i.d., positives, d’espérance $\mu > 0$ , de variance $\sigma^2$ , et $\bar X_n$ la moyenne empirique. Montrer par la méthode delta que

$\sqrt n\,\bigl(\ln\bar X_n - \ln\mu\bigr) \Longrightarrow \mathcal N\Bigl(0,\ \frac{\sigma^2}{\mu^2}\Bigr) :$

le paramètre asymptotique de $\ln\bar X_n$ est le coefficient de variation $\sigma/\mu$ — erreur relative, sans échelle. En déduire un intervalle de confiance $95\%$ pour $\mu$ de la forme multiplicative $\bar X_n\cdot\eu^{\pm1.96\,\sigma/(\mu\sqrt n)}$ , et expliquer quand il est préférable à l’additif.
(Le troisième moment oriente l’erreur) Pour $X \sim$ Bernoulli( $p$ ) centrée, calculer $\E\bigl[(X - p)^3\bigr] = p(1-p)(1-2p)$ . En utilisant l’analyse de la Partie IV (l’erreur d’échange est pilotée par les moments d’ordre trois), expliquer pourquoi l’approximation normale de $\mathcal B(n, p)$ est asymétrique pour $p \neq \frac12$ — dépassant d’un côté, sous-estimant de l’autre — et pourquoi $p = \frac12$ bénéficie du taux plus rapide à moments appariés. Vérifier le signe de l’asymétrie numériquement sur $\mathcal B(20, 0.1)$ contre $\mathcal N(2, 1.8)$ : comparer $\P(S = 0) = 0.9^{20}$ avec la masse gaussienne de $\intoo{-\infty}{0.5}$ .

Solution

Solution de Problème 23.1.

1. La famille $(X_1, \dots, X_n, N_1, \dots, N_n)$ est indépendante : les deux blocs sont indépendants l’un de l’autre par construction et chaque bloc est i.i.d. $W_i$ est une fonction mesurable des seules variables $(X_j)_{j<i}$ et $(N_j)_{j>i}$ , toutes distinctes de $X_i$ et $N_i$ : par le principe de coalition (Théorème 22.5), $W_i$ est indépendante de la paire $(X_i, N_i)$ . Les décompositions $H_i = W_i + \frac{X_i}{\sqrt n}$ et $H_{i-1} = W_i + \frac{N_i}{\sqrt n}$ sont immédiates d’après les définitions : passer de $H_i$ à $H_{i-1}$ échange le seul terme $X_i$ pour $N_i$ .

2. Taylor–Lagrange à l’ordre $3$ : il existe $c$ entre $w$ et $w + h$ tel que

f(w + h) = f(w) + f'(w)h + \tfrac12 f''(w)h^2 + \tfrac16 f'''(c)h^3,

et $\abs{f'''(c)} \leq M_3$ donne la borne.

3. En soustrayant les deux développements au point de base commun $w = W_i$ :

f(H_i) - f(H_{i-1}) = f'(W_i)\,\frac{X_i - N_i}{\sqrt n} + \frac{f''(W_i)}{2}\,\frac{X_i^2 - N_i^2}{n} + R_i, \qquad \abs{R_i} \leq \frac{M_3}{6}\cdot \frac{\abs{X_i}^3 + \abs{N_i}^3}{n^{3/2}} .

Passer aux espérances. Par la question 1, $f'(W_i)$ et $f''(W_i)$ sont indépendantes de $(X_i, N_i)$ , donc les espérances mixtes se factorisent :

\begin{align*} \E\Bigl[f'(W_i)\,\frac{X_i - N_i}{\sqrt n}\Bigr] &= \E\bigl[f'(W_i)\bigr]\,\frac{\E X_i - \E N_i}{\sqrt n} = 0, \\ \E\Bigl[f''(W_i)\,\frac{X_i^2 - N_i^2}{n}\Bigr] &= \E\bigl[f''(W_i)\bigr]\,\frac{1 - 1}{n} = 0 : \end{align*}

les deux premiers moments de $X_i$ et $N_i$ coïncident, et seul le reste survit :

\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \E\abs{R_i} \leq \frac{M_3}{6}\cdot\frac{\beta + \gamma}{n^{3/2}} .

Le moment d’ordre trois gaussien : $\gamma = \E\abs{N_1}^3 = 2\int_0^\infty x^3\,\frac{\eu^{-x^2/2}}{\sqrt{2\pi}}\,\dd x = \frac{2}{\sqrt{2\pi}}\int_0^\infty 2u\,\eu^{-u}\dd u = \frac{4}{\sqrt{2\pi}} = \frac{2\sqrt2}{\sqrt\pi}$ (substitution $u = x^2/2$ , puis $\Gamma(2) = 1$ ).

4. Télescopage $\E f(T_n) - \E f(G_n) = \sum_{i=1}^n\bigl(\E f(H_i) - \E f(H_{i-1})\bigr)$ et application de la question 3 à chacun des $n$ termes :

\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq n \cdot \frac{M_3(\beta + \gamma)}{6\,n^{3/2}} = \frac{M_3\,(\beta + \gamma)}{6\,\sqrt n} .

5. $G_n$ est $\mathcal N(0,1)$ exactement pour tout $n$ (somme normalisée de gaussiennes standards indépendantes, Exercice 23.3), donc $\E f(G_n) = \E f(N)$ et la question 4 se lit $\abs{\E f(T_n) - \E f(N)} \leq \frac{M_3(\beta+\gamma)}{6\sqrt n} \to 0$ pour $f \in \mathcal C^3_b$ . Passage au cas général. Soit $f$ continue bornée, $M = \sup\abs f$ , $\varepsilon > 0$ . Choisir $A \geq 1$ avec $\frac1{A^2} \leq \varepsilon$ : Tchebychev avec $\V(T_n) = 1$ donne $\P(\abs{T_n} > A) \leq \varepsilon$ pour tout $n$ , et de même $\P(\abs N > A) \leq \varepsilon$ . Soit $\chi$ de classe $\mathcal C^\infty$ avec $\mathbf 1_{\intcc{-A}A} \leq \chi \leq \mathbf 1_{\intcc{-A-1}{A+1}}$ (plateau lisse, obtenu en régularisant $\mathbf 1_{\intcc{-A-\frac12}{A+\frac12}}$ , Théorème 12.9) ; $g = f\chi$ est continue à support compact, donc uniformément continue, et sa régularisée $g_\eta = g * \rho_\eta$ est $\mathcal C^\infty$ à dérivées de tous ordres bornées avec $\norm{g - g_\eta}_\infty \leq \varepsilon$ pour $\eta$ assez petit. Pour $T = T_n$ ou $N$ , comme $f = g$ sur $\intcc{-A}A$ et $\abs{f - g} \leq 2M$ partout :

\bigl|\E f(T) - \E g_\eta(T)\bigr| \leq \E\abs{(f - g)(T)} + \norm{g - g_\eta}_\infty \leq 2M\,\P(\abs T > A) + \varepsilon \leq (2M + 1)\,\varepsilon .

En combinant avec $\E g_\eta(T_n) \to \E g_\eta(N)$ (la question 4 s’applique : $g_\eta \in \mathcal C^3_b$ ) :

\limsup_n\;\bigl|\E f(T_n) - \E f(N)\bigr| \leq 2(2M + 1)\,\varepsilon ,

et $\varepsilon$ était arbitraire : $\E f(T_n) \to \E f(N)$ pour toute $f$ continue bornée, i.e. $T_n \Rightarrow \mathcal N(0,1)$ .

6. L’équidistribution n’entrait que par une phrase : « $X_i$ et $N_i$ ont les mêmes deux premiers moments ». Soient donc $X_1, \dots, X_n$ indépendantes, centrées, de variances $\sigma_i^2$ et moments d’ordre trois finis, $s_n^2 = \sum_i\sigma_i^2 > 0$ , et $N_i \sim \mathcal N(0, \sigma_i^2)$ indépendantes de tout le reste. Définir les hybrides avec la normalisation $s_n$ : $H_i = \frac1{s_n}(\sum_{j\leq i}X_j + \sum_{j>i}N_j)$ . Au $i$ -ième échange, $\E X_i = \E N_i = 0$ et $\E X_i^2 = \E N_i^2 = \sigma_i^2$ tuent encore les termes en $f'$ et $f''$ , et le reste donne (en utilisant $\E\abs{N_i}^3 = \sigma_i^3\gamma$ par homothétie) :

\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{M_3}{6\,s_n^3}\bigl(\E\abs{X_i}^3 + \sigma_i^3\gamma\bigr) .

Télescopage :

\Bigl|\E f\Bigl(\frac{X_1 + \dots + X_n}{s_n}\Bigr) - \E f(N)\Bigr| \leq \frac{M_3}{6\,s_n^3}\sum_{i=1}^n \Bigl(\E\abs{X_i}^3 + \V(X_i)^{3/2}\,\gamma\Bigr) .

Comme $\sigma_i^3 = (\E X_i^2)^{3/2} \leq \E\abs{X_i}^3$ (inégalité des moyennes de puissance, i.e. Jensen pour $t \mapsto t^{3/2}$ appliqué à $X_i^2$ ), le second membre est au plus $\frac{M_3(1 + \gamma)}{6}\cdot \frac{\sum_i\E\abs{X_i}^3}{s_n^3}$ : sous la condition de Lyapunov $\frac1{s_n^3}\sum_i\E\abs{X_i}^3 \to 0$ , les sommes normalisées convergent en loi vers $\mathcal N(0,1)$ — le TCL sans équidistribution.

7. Soit $\rho \in \mathcal C^\infty_c(\intoo01)$ avec $\int\rho = 1$ et posons $\psi(x) = \int_x^1\rho(s)\dd s$ : $\psi$ est $\mathcal C^\infty$ , décroissante, $\psi = 1$ sur $\R_-$ , $\psi = 0$ sur $\intco1\infty$ ; soit $K = \norm{\psi'''}_\infty$ . Pour $t \in \R$ et $\delta > 0$ définir $\psi_\delta(x) = \psi\bigl(\frac{x - t}\delta\bigr)$ et $\tilde\psi_\delta(x) = \psi\bigl(\frac{x - t}\delta + 1\bigr)$ : ce sont des fonctions $\mathcal C^3_b$ de dérivée tierce bornée par $K/\delta^3$ , et

\mathbf 1_{\intoc{-\infty}{t-\delta}} \leq \tilde\psi_\delta \leq \mathbf 1_{\intoc{-\infty}t} \leq \psi_\delta \leq \mathbf 1_{\intoc{-\infty}{t+\delta}} .

Borne supérieure : par la question 4 appliquée à $\psi_\delta$ (avec $M_3 = K/\delta^3$ ),

\P(T_n \leq t) \leq \E\psi_\delta(T_n) \leq \E\psi_\delta(N) + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n} \leq \Phi(t + \delta) + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n} \leq \Phi(t) + \frac{\delta}{\sqrt{2\pi}} + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n},

car $\Phi$ est lipschitzienne de constante $\frac1{\sqrt{2\pi}}$ (sa densité est bornée par $\frac1{\sqrt{2\pi}}$ ). La borne inférieure symétrique via $\tilde\psi_\delta$ donne l’estimation à deux termes

\sup_{t\in\R}\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \leq \frac{K(\beta + \gamma)}{6}\cdot\frac{1}{\delta^3\sqrt n} + \frac{\delta}{\sqrt{2\pi}} \qquad(\delta > 0\ \text{arbitraire}).

Les deux termes s’équilibrent lorsque $\delta^{-3}n^{-1/2} \asymp \delta$ , i.e. $\delta = n^{-1/8}$ : tous deux sont alors $O(n^{-1/8})$ , un taux uniforme explicite valable pour tout $n$ . (Le taux optimal de Berry–Esseen $C\beta/\sqrt n$ demande l’inégalité de lissage de Fourier ; l’échange troque la netteté contre une élémentaire complète.)

8. Pour $X_i = 2B_i - 1$ (signes équitables) : centrées, variance $1$ , et $\abs{X_i} = 1$ donc $\beta = 1$ . La question 7 borne alors $\sup_t\abs{\P(\frac{S_n}{\sqrt n} \leq t) - \Phi(t)}$ explicitement et uniformément pour tout $n$ fini — un énoncé global, non asymptotique, sur la fonction de répartition. L’estimation locale de Problème 11.1, question 7, donne au contraire l’asymptotique exacte d’un atome individuel, $\P(S_{2n} = 2k) \sim \frac{\eu^{-k^2/n}}{\sqrt{\pi n}}$ : elle résout des probabilités de taille $n^{-1/2}$ , bien en dessous de la résolution $n^{-1/8}$ de la question 7, mais elle est ponctuelle, asymptotique (pas d’erreur explicite à $n$ fixe) et liée à cette loi de réseau particulière. Précision locale contre uniformité globale : les deux méthodes sont complémentaires, et sommer l’estimation locale sur $k \in \intint{a\sqrt n}{b\sqrt n}$ retrouve de Moivre–Laplace sur des intervalles — avec un taux plus fin, mais seulement pour cette loi.

9. L’argument d’échange n’utilisait rien sur la loi des $X_i$ au-delà de $\E X_i = 0$ , $\E X_i^2 = 1$ et la finitude de $\E\abs{X_i}^3$ : si l’on remplaçait les gaussiennes $N_i$ par toute autre famille i.i.d. de mêmes deux premiers moments et de moment d’ordre trois fini, le même télescopage bornerait $\abs{\E f(\mathrm{somme}_X) - \E f(\mathrm{somme}_Y)}$ par $O(n^{-1/2})$ pour toute $f$ lisse. Les statistiques lisses de grandes sommes indépendantes sont donc universelles : à une erreur quantifiée près, elles ne dépendent de la loi des termes de la somme que par deux nombres. C’est le principe d’invariance : prouver un théorème limite pour la loi la plus calculable (la gaussienne, où tout est exact), puis le transférer à toutes les lois par échange. Le même schéma — avec des sommes remplacées par des fonctionnelles plus élaborées — guide la loi du demi-cercle de Wigner pour les matrices aléatoires, l’universalité des racines de polynômes aléatoires, et une grande part de la probabilité moderne ; le théorème central limite en est la première et la plus simple instance.

10. $Z$ est une fonction borélienne des seules $(N_{i+1}, \dots, N_n)$ , tandis que $A = W_i + \theta h - Z$ et $h$ sont des fonctions des variables restantes de la famille indépendante $(X_1, \dots, X_n, N_1, \dots, N_n)$ : par le principe de coalition (Théorème 22.5), $Z$ est indépendante de $(A, h)$ . Comme somme des $N_j/\sqrt n \sim \mathcal N(0, \frac1n)$ indépendantes, $Z \sim \mathcal N(0, s^2)$ avec $s^2 = \frac{n-i}n$ (Exercice 23.3), de densité bornée par $\frac1{s\sqrt{2\pi}}$ . La loi de $((A, h), Z)$ est le produit des deux lois marginales, donc Tonelli (transfert) fige le premier bloc : avec $G(a) = \E\abs{g(a + Z)} = \int\abs{g(a + z)}\,\varphi_s(z)\,\dd z \leq \frac{\norm g_{L^1}}{s\sqrt{2\pi}}$ pour tout $a$ ,

\E\bigl[\abs h^3\abs{g(A + Z)}\bigr] = \E\bigl[\abs h^3\,G(A)\bigr] \leq \frac{\norm g_{L^1}}{s\sqrt{2\pi}}\,\E\abs h^3 = \sqrt{\frac{n}{2\pi(n-i)}}\,\norm g_{L^1}\,\E\abs h^3 .

11. La forme intégrale de Taylor s’obtient en intégrant $f(w + h) - f(w) = h\int_0^1f'(w + \theta h)\,\dd\theta$ par parties deux fois en $\theta$ . En prenant les espérances dans le $i$ -ième échange, les ordres $0$ , $1$ , $2$ s’annulent exactement comme à la question 3, et les deux restes (pour $h = X_i/\sqrt n$ et $N_i/\sqrt n$ ) sont bornés, pour $i \leq n - 1$ , par la question 10 avec $g = f'''$ :

\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \int_0^1\frac{(1-\theta)^2}2\,\dd\theta\; \sqrt{\frac{n}{2\pi(n-i)}}\,\norm{f'''}_{L^1} \frac{\beta + \gamma}{n^{3/2}} = \frac{\beta + \gamma}{6\,n^{3/2}} \sqrt{\frac{n}{2\pi(n-i)}}\,\norm{f'''}_{L^1} .

En sommant, avec $\sum_{i=1}^{n-1}\sqrt{\frac n{n-i}} = \sqrt n\sum_{m=1}^{n-1}m^{-1/2} \leq 2n$ , et en ajoutant la borne de la question 3 pour le dernier échange ( $i = n$ , plus aucune gaussienne) :

\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta + \gamma}{3\sqrt{2\pi}}\cdot \frac{\norm{f'''}_{L^1}}{\sqrt n} + \frac{M_3(\beta + \gamma)}{6\,n^{3/2}} .

Rampes : $\psi_\delta'''(x) = \delta^{-3}\psi'''\bigl(\frac{x - t}\delta\bigr)$ , donc $M_3 = K\delta^{-3}$ avec $K = \norm{\psi'''}_\infty$ et $\norm{\psi_\delta'''}_{L^1} = \delta^{-2} \norm{\psi'''}_{L^1} = K_1\delta^{-2}$ (substitution). Le sandwich de la question 7 donne alors

\sup_t\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \leq \frac{K_1(\beta + \gamma)}{3\sqrt{2\pi}}\cdot \frac1{\delta^2\sqrt n} + \frac{K(\beta + \gamma)}{6}\cdot \frac1{\delta^3n^{3/2}} + \frac\delta{\sqrt{2\pi}} .

En $\delta = n^{-1/6}$ les premier et troisième termes sont $O(n^{-1/6})$ et le médian $O(n^{-1})$ : un taux uniforme $O(n^{-1/6})$ , strictement meilleur que le $n^{-1/8}$ de la question 7 — la moitié gaussienne de l’hybride a fait le lissage supplémentaire.

12. $\E N_1^3 = 0$ (intégrande impaire), et une intégration par parties donne $\E N_1^4 = 3\,\E N_1^2 = 3$ ( $\int x^3\cdot x\varphi(x)\dd x = 3\int x^2\varphi$ ). Pour $f$ de classe $\mathcal C^4$ à dérivées bornées, développer chaque échange à l’ordre quatre : les termes d’ordre trois portent le facteur $\E X_i^3 - \E N_i^3 = 0$ (l’indépendance les factorise comme à la question 3), donc seul le reste d’ordre quatre $\int_0^1\frac{(1-\theta)^3}6f^{(4)}(w + \theta h)h^4\dd\theta$ survit, avec $\int_0^1 \frac{(1-\theta)^3}6\dd\theta = \frac1{24}$ et $\E h^4 = \beta_4n^{-2}$ ou $3n^{-2}$ . La question 10 (avec $g = f^{(4)}$ ) borne les échanges $i \leq n - 1$ , et en sommant comme à la question 11 :

\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta_4 + 3}{12\sqrt{2\pi}}\cdot \frac{\norm{f^{(4)}}_{L^1}}{n} + \frac{M_4(\beta_4 + 3)}{24\,n^2} .

Avec $\norm{\psi_\delta^{(4)}}_{L^1} = K_2\delta^{-3}$ et $M_4 = K'\delta^{-4}$ , la borne de fonction de répartition devient $C\delta^{-3}n^{-1} + C'\delta^{-4}n^{-2} + \frac\delta{\sqrt{2\pi}}$ ; en $\delta = n^{-1/4}$ les termes extrêmes sont $O(n^{-1/4})$ et le médian $O(n^{-1})$ : taux $O(n^{-1/4})$ .

13. Avec $k$ moments appariés le reste survivant par échange est d’ordre $\E\abs h^{k+1} \asymp n^{-(k+1)/2}$ ; la borne gaussienne cachée charge $\norm{f^{(k+1)}}_{L^1}$ et la somme sur les échanges contribue le facteur $2n$ , donnant $\asymp \norm{f^{(k+1)}}_{L^1}\, n^{-(k-1)/2}$ pour $f$ lisse. Les rampes coûtent $\norm{\psi_\delta^{(k+1)}}_{L^1} \asymp \delta^{-k}$ , donc l’erreur de fonction de répartition est $\asymp \delta^{-k}n^{-(k-1)/2} + \delta$ , équilibrée en $\delta = n^{-(k-1)/(2k+2)}$ : taux $n^{-(k-1)/(2k+2)}$ , qui vaut $n^{-1/6}$ pour $k = 2$ , $n^{-1/4}$ pour $k = 3$ , et ne tend vers $n^{-1/2}$ que lorsque $k \to \infty$ — mais $k \geq 4$ forcerait $\E X_1^4 = 3$ et au-delà, i.e. une loi qui imite déjà la gaussienne. La saturation est structurelle : l’échange ajoute $n$ erreurs d’échange en valeur absolue, renonçant à toute annulation entre échanges. La preuve de Fourier compare les fonctions caractéristiques, où les erreurs apparaissent avec leurs phases oscillantes ; l’inégalité de lissage d’Esseen convertit $\abs{\varphi_{T_n} - \varphi_N}$ , intégrée contre $\frac{\dd\xi}{\abs\xi}$ , en une borne de fonction de répartition au seul coût logarithmique, et livre le $C\beta n^{-1/2}$ de Berry–Esseen à partir de trois moments. Le remplacement troque l’optimalité contre la robustesse — et, comme le montre la Partie VII, contre la portabilité.

14. $\Sigma$ est symétrique semi-définie positive ; avec $\Sigma = PDP^{\mathsf T}$ ( $P$ orthogonale, $D \geq 0$ diagonale, Exercice 20.8), la symétrique $C = P\sqrt DP^{\mathsf T}$ vérifie $C^2 = \Sigma$ . Pour tout $t \in \R^2$ , $\langle t, CZ\rangle = \langle Ct, Z\rangle = (Ct)_1Z^1 + (Ct)_2Z^2$ est une combinaison linéaire de gaussiennes indépendantes, donc gaussienne (Exercice 23.3) : $N = CZ$ est un vecteur gaussien ; sa moyenne est $0$ et sa covariance $\E[NN^{\mathsf T}] = C\,\E[ZZ^{\mathsf T}]\,C^{\mathsf T} = CC^{\mathsf T} = \Sigma$ . Moments : $\norm N^3 \leq (\abs{N_1} + \abs{N_2})^3 \leq 4(\abs{N_1}^3 + \abs{N_2}^3)$ (convexité de $x^3$ sur $\R_+$ ), et chaque coordonnée est une gaussienne réelle à moments de tous ordres (Exercice 11.10) : $\gamma' < \infty$ . Enfin chaque $\langle t, G_n\rangle = \frac1{\sqrt n}\sum_i\langle t, N_i\rangle$ est une somme normalisée de $\mathcal N(0, t^{\mathsf T}\Sigma t)$ i.i.d., donc exactement $\mathcal N(0, t^{\mathsf T}\Sigma t)$ : $G_n$ est un vecteur gaussien de moyenne $0$ et covariance $\Sigma$ , et sa loi est $\mathcal N(0, \Sigma)$ (Définition 23.10 : la loi est déterminée par ces données).

15. Posons $\phi(t) = f(w + th)$ , $t \in \intcc01$ : $\phi$ est $\mathcal C^3$ avec

\phi'''(t) = \sum_{j,k,l\in\{1,2\}}\partial_{jkl}f(w + th)\,h_jh_kh_l, \qquad \abs{\phi'''(t)} \leq M_3\Bigl(\sum_j\abs{h_j}\Bigr)^3 = M_3(\abs{h_1} + \abs{h_2})^3 .

Taylor–Lagrange à l’ordre $3$ pour $\phi$ entre $0$ et $1$ donne la première inégalité ; Cauchy–Schwarz donne $\abs{h_1} + \abs{h_2} \leq \sqrt2\norm h$ , d’où la constante $\frac{2\sqrt2M_3}6 = \frac{\sqrt2M_3}3$ .

16. Définir $H_i$ et $W_i$ comme à la question 1, maintenant dans $\R^2$ ; l’argument de coalition est inchangé. Au $i$ -ième échange, les termes d’ordre un donnent $\sum_j\E[\partial_jf(W_i)]\,(\E X_{i,j} - \E N_{i,j})/ \sqrt n = 0$ et les termes d’ordre deux donnent $\frac1{2n}\sum_{j,k}\E[\partial_{jk}f(W_i)]\,(\Sigma_{jk} - \Sigma_{jk}) = 0$ : moyennes et covariances coïncident. La question 15 borne les deux restes :

\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{\sqrt2M_3}3\cdot\frac{\E\norm{X_i}^3 + \E\norm{N_i}^3}{n^{3/2}} = \frac{\sqrt2M_3(\beta' + \gamma')}{3\,n^{3/2}},

et le télescopage sur les $n$ échanges :

\Bigl|\E f\Bigl(\frac{S_n}{\sqrt n}\Bigr) - \E f(G_n)\Bigr| \leq \frac{\sqrt2\,M_3(\beta' + \gamma')}{3\sqrt n}, \qquad G_n \sim \mathcal N(0, \Sigma)\ \text{exactement} .

Passage au cas général : $\E\norm{T_n}^2 = \E\norm{X_1}^2 = \operatorname{tr}\Sigma$ (les termes croisés s’annulent par indépendance et centrage), donc $\P(\norm{T_n} > A) \leq \operatorname{tr}\Sigma/A^2$ , et de même pour $N$ : tension. Étant donnée $f$ continue bornée et $\varepsilon > 0$ , multiplier par un plateau lisse $\chi$ égal à $1$ sur la boule de rayon $A$ et supporté dans le rayon $A + 1$ (régulariser un indicateur dans $\R^2$ , Théorème 12.9) ; $g = f\chi$ est uniformément continue à support compact, donc sa régularisée bidimensionnelle $g_\eta$ est $\mathcal C^\infty$ à dérivées de tous ordres bornées avec $\norm{g - g_\eta}_\infty \leq \varepsilon$ pour $\eta$ petit. La chaîne à trois $\varepsilon$ de la question 5 se transporte mot pour mot : $\E f(T_n) \to \E f(N)$ pour toute $f$ continue bornée $\R^2 \to \R$ . C’est Théorème 23.12 pour $d = 2$ , maintenant prouvé — l’échange contourne le théorème de Lévy bidimensionnel que le chapitre avait laissé admis.

17. Pour $g \colon \R \to \R$ continue bornée, la carte $x \mapsto g(\langle t, x\rangle)$ est continue bornée sur $\R^2$ , donc la question 16 donne $\E g(\langle t, T_n\rangle) \to \E g(\langle t, N\rangle)$ : toute projection converge en loi, et $\langle t, N\rangle \sim \mathcal N(0, t^{\mathsf T}\Sigma t)$ . (C’est le sens facile de Cramér–Wold : la convergence jointe implique la convergence de toutes les images linéaires.) Application : $V_i = (\xi_i, \xi_i^2 - 1)$ sont des vecteurs i.i.d. centrés ( $\E\xi_1^2 = 1$ ), avec entrées de covariance $\V(\xi_1) = 1$ , $\operatorname{Cov}(\xi_1, \xi_1^2 - 1) = \E\xi_1^3$ et $\V(\xi_1^2 - 1) = \E\xi_1^4 - 1$ ; le moment d’ordre trois $\E\norm{V_1}^3 \leq 4\bigl(\E\abs{\xi_1}^3 + \E\abs{\xi_1^2 - 1}^3\bigr)$ est fini dès que $\xi_1 \in L^6$ . La question 16 livre la limite gaussienne jointe affichée, et Théorème 23.11(2) : les deux coordonnées limites sont indépendantes exactement lorsque la covariance $\E\xi_1^3$ s’annule — pour les lois symétriques, moyenne empirique et variance empirique se découplent asymptotiquement.

18. Écrire $g(x) - g(\theta) = (g'(\theta) + \eta(x))(x - \theta)$ où $\eta(x) = \frac{g(x) - g(\theta)}{x - \theta} - g'(\theta)$ pour $x \neq \theta$ et $\eta(\theta) = 0$ : la différentiabilité en $\theta$ signifie précisément $\eta(x) \to 0$ lorsque $x \to \theta$ . Étape 1 : $\hat\theta_n \to \theta$ en probabilité : pour $\varepsilon > 0$ et tout $A > 0$ , éventuellement $\varepsilon\sqrt n \geq A$ , donc $\P(\abs{\hat\theta_n - \theta} > \varepsilon) \leq \P(\abs{\sqrt n(\hat\theta_n - \theta)} > A) \to \P(\sigma\abs N > A)$ (les fonctions de répartition convergent aux points de continuité $\pm A$ ), et le second membre tend vers $0$ lorsque $A \to \infty$ . Étape 2 : $\eta(\hat\theta_n) \to 0$ en probabilité : étant donné $\varepsilon' > 0$ , choisir $\delta$ avec $\abs\eta \leq \varepsilon'$ sur $\abs{x - \theta} \leq \delta$ ; alors $\P(\abs{\eta(\hat\theta_n)} > \varepsilon') \leq \P(\abs{\hat\theta_n - \theta} > \delta) \to 0$ . Étape 3 :

\sqrt n\bigl(g(\hat\theta_n) - g(\theta)\bigr) = g'(\theta)\,\sqrt n(\hat\theta_n - \theta) + \eta(\hat\theta_n)\cdot\sqrt n(\hat\theta_n - \theta) .

Par la règle produit de Slutsky (Exercice 23.8, avec la suite $\eta(\hat\theta_n) \to 0$ en probabilité et $\sqrt n(\hat\theta_n - \theta)$ convergente en loi), le second terme converge en loi vers $0\cdot\mathcal N(0, \sigma^2) = 0$ , donc vers $0$ en probabilité (Exercice 23.4(b)) ; le premier converge en loi vers $g'(\theta)\mathcal N(0, \sigma^2)$ (Slutsky encore, ou la règle affine pour les fonctions caractéristiques) ; la règle somme de Slutsky les assemble : la limite est $\mathcal N(0, g'(\theta)^2\sigma^2)$ .

19. (a) Le TCL donne $\sqrt n(\bar X_n - \mu) \Rightarrow \mathcal N(0, \sigma^2)$ ; la méthode delta avec $g(x) = x^2$ , $g'(\mu) = 2\mu$ , donne $\sqrt n(\bar X_n^2 - \mu^2) \Rightarrow \mathcal N(0, 4\mu^2\sigma^2)$ — dégénérée (limite $0$ ) lorsque $\mu = 0$ . Dans ce cas la fluctuation vit une échelle au-dessus : $n\bar X_n^2 = (\sqrt n\,\bar X_n)^2$ , et pour $t > 0$

\P\bigl(n\bar X_n^2 \leq t\bigr) = \P\bigl(-\sqrt t \leq \sqrt n\,\bar X_n \leq \sqrt t\bigr) \longrightarrow \Phi\Bigl(\frac{\sqrt t}\sigma\Bigr) - \Phi\Bigl(-\frac{\sqrt t}\sigma\Bigr) = \P(\sigma^2N^2 \leq t) :

$n\bar X_n^2 \Rightarrow \sigma^2N^2$ , le carré d’une gaussienne (loi du « khi-deux ») — lorsque la dérivée première meurt, le terme d’ordre deux de Taylor dicte une limite non gaussienne. (b) Ici $\sqrt n(\hat p_n - p) \Rightarrow \mathcal N(0, p(1 - p))$ et $g(p) = \arcsin\sqrt p$ a $g'(p) = \frac1{2\sqrt{p(1 - p)}}$ , donc $g'(p)^2\,p(1 - p) = \frac14$ : la limite est $\mathcal N(0, \frac14)$ pour tout $p \in \intoo01$ . Sur l’échelle $\arcsin$ la barre d’erreur asymptotique à $95\%$ est $\pm \frac{0{,}98}{\sqrt n}$ , connue à l’avance — alors que dans Exemple 23.9 la largeur impliquait le $\sigma = \sqrt{p(1-p)}$ inconnu, à majorer par $\frac12$ ou à estimer : la transformation stabilise la variance.

20. Soit $A^* = \{k : \mu(\{k\}) > \nu(\{k\})\}$ et $\Delta_k = \mu(\{k\}) - \nu(\{k\})$ , de sorte que $\sum_k\Delta_k = 0$ . Pour tout $A \subseteq \N$ : $\mu(A) - \nu(A) = \sum_{k\in A}\Delta_k \leq \sum_{k\in A^*}\Delta_k$ , avec égalité en $A = A^*$ ; et comme les parties positive et négative de $(\Delta_k)$ ont même masse totale, $\sum_{A^*}\Delta_k = \frac12\sum_k\abs{\Delta_k}$ . Échanger $\mu, \nu$ traite le signe : $d_{\mathrm{TV}}(\mu, \nu) = \frac12\sum_k\abs{\Delta_k}$ . Couplage : pour tout $A$ ,

\mu(A) - \nu(A) = \E\bigl[\mathbf 1_A(X) - \mathbf 1_A(Y)\bigr] = \E\bigl[(\mathbf 1_A(X) - \mathbf 1_A(Y))\,\mathbf 1_{X\neq Y}\bigr] \leq \P(X \neq Y),

et prendre le supremum sur $A$ .

21. Les deux lois chargent : $k = 0$ : $1 - p$ contre $\eu^{-p}$ , avec $\eu^{-p} > 1 - p$ ; $k = 1$ : $p$ contre $p\,\eu^{-p} < p$ ; $k \geq 2$ : $0$ contre le reste Poisson $1 - \eu^{-p} - p\eu^{-p} \geq 0$ . D’où

d_{\mathrm{TV}} = \tfrac12\bigl[(\eu^{-p} - 1 + p) + (p - p\eu^{-p}) + (1 - \eu^{-p} - p\eu^{-p})\bigr] = \tfrac12\bigl(2p - 2p\eu^{-p}\bigr) = p(1 - \eu^{-p}),

et $1 - \eu^{-p} \leq p$ donne la borne $p^2$ .

22. Écrire $H_{i-1} = W_i + X_i$ et $H_i = W_i + Y_i$ avec $W_i = \sum_{j<i}Y_j + \sum_{j>i}X_j$ , indépendante de la paire $(X_i, Y_i)$ (coalitions). Pour $A \subseteq \N$ , en conditionnant sur les valeurs dénombrables par indépendance,

\P(H_{i-1} \in A) = \sum_{k\geq0}\P(X_i = k)\,\P(W_i + k \in A),

et de même pour $H_i$ avec $Y_i$ . En soustrayant, avec $c_k = \P(W_i + k \in A) \in \intcc01$ et $\Delta_k = \P(X_i = k) - \P(Y_i = k)$ de somme nulle :

\abs{\P(H_{i-1} \in A) - \P(H_i \in A)} = \Bigl|\sum_k\Delta_k\bigl(c_k - \tfrac12\bigr)\Bigr| \leq \tfrac12\sum_k\abs{\Delta_k} = d_{\mathrm{TV}}\bigl(\mathcal B(1, p_i), \mathcal P(p_i)\bigr) .

Télescopage de $H_0 = S$ à $H_n = \sum_iY_i \sim \mathcal P(\lambda)$ (Exercice 23.1, itéré) et question 21 :

\abs{\P(S \in A) - \P(\mathcal P(\lambda) \in A)} \leq \sum_{i=1}^np_i\bigl(1 - \eu^{-p_i}\bigr) \leq \sum_{i=1}^np_i^2 \qquad\text{pour tout } A :

l’inégalité de Le Cam. (La borne de couplage de la question 20 offre une voie alternative : coupler chaque paire sur une seule uniforme de sorte que $\P(X_i \neq Y_i) \leq p_i^2$ et borner $\P(S \neq \sum Y_i)$ ; l’échange n’exige aucune construction.)

23. (a) Avec $p_i = \frac\lambda n$ : $d_{\mathrm{TV}}(\text{loi de }S, \mathcal P(\lambda)) \leq \frac{\lambda^2}n$ . Cela affine Exercice 23.5 trois fois : une erreur explicite à chaque $n$ fini, l’uniformité sur tous les événements $A$ à la fois (pas un intervalle à la fois), et pas besoin de $p_i$ égaux — seulement $\sum_ip_i^2$ petit, p.ex. $\sum p_i^2 \leq \lambda\max_ip_i$ : beaucoup d’événements rares, aucun dominant. (b) Ici $n = 500$ , $p_i = \frac1{500}$ , $\lambda = 1$ : le modèle de Poisson se trompe d’au plus $500\cdot\frac1{500^2} = 0{,}002$ sur tout événement ; en particulier, en prenant $A = \{0\}$ ,

\P(\text{aucune lettre égarée}) = \Bigl(1 - \frac1{500}\Bigr)^{500}, \qquad \Bigl|\P(\text{aucune lettre égarée}) - \eu^{-1}\Bigr| \leq 0{,}002,

donc la réponse est $\eu^{-1} \approx 0{,}368$ à $0{,}002$ garanti près (le vrai écart est d’environ $4\cdot10^{-4}$ ). (c) Le problème se referme sur une méthode à deux régimes. Lorsque $n$ contributions comparables portent chacune une variance $\frac1n$ , apparier deux moments contre la gaussienne rend les erreurs d’échange $o(\frac1n)$ chacune : les sommes deviennent gaussiennes — avec Taylor comme outil de comparaison locale. Lorsque $n$ contributions sont des indicateurs de probabilité $p_i$ , apparier la moyenne contre un atome de Poisson fait coûter $p_i^2$ chaque échange : les comptages d’événements rares deviennent Poisson — avec la variation totale comme comparaison locale exacte. Mêmes hybrides, même télescope, estimation locale différente : le remplacement est une stratégie, pas un théorème, et les limites gaussienne et Poisson en sont les deux plus anciens dividendes.

24. Le TCL donne $\sqrt n(\bar X_n - \mu) \Rightarrow \mathcal N(0, \sigma^2)$ , et $g(x) = \ln x$ est différentiable en $\mu > 0$ avec $g'(\mu) = \frac1\mu$ : la méthode delta (Partie VI) livre $\sqrt n(\ln\bar X_n - \ln\mu) \Rightarrow \mathcal N(0, \sigma^2/\mu^2)$ . En dépliants l’intervalle $\abs{\ln\bar X_n - \ln\mu} \leq \frac{1{,}96\,\sigma}{\mu\sqrt n}$ par exponentiation :

\mu \in \bar X_n\cdot \eu^{\pm1{,}96\,\sigma/(\mu\sqrt n)} \qquad\text{avec probabilité asymptotique } 95\%

(en pratique $\sigma/\mu$ est remplacé par sa version empirique, Slutsky comme dans Exercice 23.8). L’intervalle multiplicatif est le naturel lorsque les données sont positives avec des erreurs proportionnelles à leur taille — revenus, concentrations, demi-vies : quantités qui vivent sur une échelle logarithmique, où des intervalles additifs symétriques pourraient même traverser zéro.

25. $\E[(X - p)^3] = (1-p)^3p + (-p)^3(1 - p) = p(1-p)\bigl[(1-p)^2 - p^2\bigr] = p(1-p)(1 - 2p)$ . Dans l’analyse d’échange (Partie IV), le terme d’erreur principal après appariement de deux moments porte le moment d’ordre trois signé : pour $p < \frac12$ il est positif (la loi penche à droite : rares grandes excursions au-dessus de la moyenne), et l’approximation normale déplace systématiquement la masse — sous-estimant la queue gauche courte et surestimant la droite — avec une erreur d’ordre $n^{-1/2}$ ; en $p = \frac12$ le moment d’ordre trois s’annule, la Bernoulli imite la gaussienne à l’ordre trois, et le taux s’améliore (question des moments appariés de la Partie IV). Numériquement : $\P(S = 0) = 0{,}9^{20} = 0{,}1216$ , tandis que la gaussienne $\mathcal N(2, 1{,}8)$ donne $\Phi\bigl(\frac{0{,}5 - 2}{\sqrt{1{,}8}}\bigr) = \Phi(-1{,}118) \approx 0{,}132$ : la courbe normale, ignorante du mur en $0$ et de l’asymétrie vers la droite, met trop de masse en bas — le signe prédit de l’erreur, visible à $n = 20$ .