--- title: "Probabilités : fondements et loi des grands nombres" book: "Mathématiques universitaires — Licence 3" subject: math language: fr chapter: 22 exercises: 12 source: https://one-course.com/books/math/5/fr/chapter/22-probabilites-fondements-et-loi-des-grands-nombres --- # Chapitre 22 — Probabilités : fondements et loi des grands nombres L’année 2 a construit les probabilités sur les espaces dénombrables ; la théorie de la [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) lève maintenant toute restriction. Un [espace probabilisé](#def-b3-probability-space) est un espace mesuré de masse totale $1$, les [variables aléatoires](#def-b3-probability-space) sont des applications [mesurables](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-measurable), l’[espérance](#def-b3-probability-space) est l’intégrale de Lebesgue — et d’un coup tout l’arsenal analytique (Chapitres [9](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#ch-b3-measure), [10](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#ch-b3-lebesgue) et [11](https://one-course.com/books/math/5/fr/chapter/11-mesures-produit-fubini-changement-de-variables#ch-b3-product)) s’applique au hasard. Ce chapitre installe le dictionnaire, construit des suites infinies de [variables aléatoires](#def-b3-probability-space) [indépendantes](#def-b3-probability-independence) (sur $\intcc01$, à partir des chiffres binaires : le hasard se cache dans la [mesure de Lebesgue](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-lebesgueouter)), prouve les lemmes de Borel–Cantelli et la [loi du zéro-un](#thm-b3-probability-zeroone) de Kolmogorov, met de l’ordre dans les modes de convergence, et prouve la [loi](#def-b3-probability-space) des grands nombres — le théorème qui fait converger les fréquences vers les probabilités et rend la statistique possible. Le problème de week-end donne la preuve d’Etemadi de la [loi](#def-b3-probability-space) forte sous sa forme $L^1$ définitive. ## 22.1 Le dictionnaire **Définition 22.1.** Un *espace probabilisé* est un espace mesuré $(\Omega, \mathcal A, \P)$ avec $\P(\Omega) = 1$ ; les éléments de $\mathcal A$ sont les *événements*, et une propriété vaut *presque sûrement* (p.s.) si son événement a pour probabilité $1$. Une *variable aléatoire* est une application [mesurable](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-measurable) $X \colon \Omega \to \R$ (ou $\R^d$ : un vecteur aléatoire) ; sa *loi* est la [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) de probabilité image $\P_X = X_*\P$ sur $\R$ ([Exercice 11.9](https://one-course.com/books/math/5/fr/chapter/11-mesures-produit-fubini-changement-de-variables#exo-b3-product-9)), déterminée par la *fonction de répartition* $F_X(t) = \P(X \leq t)$ ([Exercice 9.3](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#exo-b3-measure-3)). $X$ a une *[densité](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#ex-b3-lebesgue-gamma)* $f$ si $\P_X = f\,\dd\lambda$ ; elle est *discrète* si $\P_X$ est une combinaison dénombrable de masses de Dirac. L’*espérance* est $$ \E[X] = \int_\Omega X\,\dd\P \qquad (X \geq 0 \text{ ou } X \in L^1(\P)), $$ et le *théorème de transfert* ([Exercice 11.9](https://one-course.com/books/math/5/fr/chapter/11-mesures-produit-fubini-changement-de-variables#exo-b3-product-9)) la calcule dans la loi : $\E[g(X)] = \int_\R g\,\dd\P_X$ — $= \sum g(x_k)p_k$ dans le cas discret, $= \int g(x)f(x)\dd x$ dans le cas à [densité](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#ex-b3-lebesgue-gamma) : les formules de l’année 2, désormais théorèmes d’une seule théorie. La *variance* est $\V(X) = \E[(X - \E X)^2] = \E[X^2] - (\E X)^2$ pour $X \in L^2$. **Exemple 22.2.** Les [lois](#def-b3-probability-space) standard et leurs transformées d’intérêt : Bernoulli $\mathcal B(p)$, binomiale $\mathcal B(n, p)$, géométrique, Poisson $\mathcal P(\lambda)$ (discrètes : les tables de l’année 2 restent valides) ; uniforme sur $\intcc01$ (la [mesure de Lebesgue](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-lebesgueouter) elle-même) ; exponentielle $\mathcal E(\lambda)$ ([densité](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#ex-b3-lebesgue-gamma) $\lambda\eu^{-\lambda x}\mathbf 1_{x>0}$) ; la *gaussienne* $\mathcal N(m, \sigma^2)$ de [densité](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#ex-b3-lebesgue-gamma) $\frac1{\sigma\sqrt{2\pi}}\exp\bigl(-\frac{(x - m)^2}{2\sigma^2}\bigr)$ — une [densité](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#ex-b3-lebesgue-gamma) de probabilité par le [Problème 10.1](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#pb-b3-lebesgue-1), d’[espérance](#def-b3-probability-space) $m$ et de variance $\sigma^2$ (moments gaussiens, [Exercice 11.10](https://one-course.com/books/math/5/fr/chapter/11-mesures-produit-fubini-changement-de-variables#exo-b3-product-10)). **Proposition 22.3 (Markov et Bienaymé–Tchebychev).** Pour $X \geq 0$ et $a > 0$ : $\P(X \geq a) \leq \frac{\E X}{a}$ ; pour $X \in L^2$ : $\P\bigl(\abs{X - \E X} \geq a\bigr) \leq \frac{\V(X)}{a^2}$. **Démonstration.** [Exercice 10.5](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#exo-b3-lebesgue-5)(a) ; Bienaymé–Tchebychev est Markov appliqué à $(X - \E X)^2$. ∎ ## 22.2 Indépendance **Définition 22.4.** Des sous-$\sigma$-algèbres $\mathcal A_1, \dots, \mathcal A_n \subseteq \mathcal A$ sont *indépendantes* si $\P(A_1\cap\dots\cap A_n) = \prod\P(A_i)$ pour tous $A_i \in \mathcal A_i$ ; des événements sont indépendants si les $\sigma$-algèbres $\{\varnothing, A_i, A_i^c, \Omega\}$ le sont ; des [variables aléatoires](#def-b3-probability-space) $X_1, \dots, X_n$ si les $\sigma$-algèbres $\sigma(X_i) = X_i^{-1}(\mathcal B(\R))$ le sont. Une famille infinie est indépendante si toute sous-famille finie l’est. **Théorème 22.5.** $X_1, \dots, X_n$ sont [indépendantes](#def-b3-probability-independence) ssi la [loi](#def-b3-probability-space) du vecteur $(X_1, \dots, X_n)$ est la [mesure produit](https://one-course.com/books/math/5/fr/chapter/11-mesures-produit-fubini-changement-de-variables#thm-b3-product-existence) $\P_{X_1}\otimes\cdots\otimes\P_{X_n}$. Dans ce cas, pour $g_i \geq 0$ (ou telles que les produits soient [intégrables](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-l1)) : $$ \E\Bigl[\prod_ig_i(X_i)\Bigr] = \prod_i\E[g_i(X_i)], $$ en particulier $\E[XY] = \E X\,\E Y$ et $\V(X_1 + \dots + X_n) = \sum\V(X_i)$ pour des variables $L^2$ [indépendantes](#def-b3-probability-independence). **Démonstration.** Si les $X_i$ sont [indépendantes](#def-b3-probability-independence), les deux [mesures](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) de probabilité $\P_{(X_1,\dots,X_n)}$ et $\bigotimes\P_{X_i}$ coïncident sur tous les produits $B_1\times\dots\times B_n$ d’ensembles boréliens — un $\pi$-système engendrant $\mathcal B(\R^n)$ ([Proposition 11.2](https://one-course.com/books/math/5/fr/chapter/11-mesures-produit-fubini-changement-de-variables#prop-b3-product-sections)(b)) — donc partout ([Théorème 9.7](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#thm-b3-measure-uniqueness)). Réciproquement, une [loi](#def-b3-probability-space) produit factorise tous les événements $\bigcap_iX_i^{-1}(B_i)$ : [indépendance](#def-b3-probability-independence). La formule d’[espérance](#def-b3-probability-space) est alors Tonelli/Fubini ([Théorème 11.5](https://one-course.com/books/math/5/fr/chapter/11-mesures-produit-fubini-changement-de-variables#thm-b3-product-tonelli)) via le théorème de transfert ; $\E[XY] = \E X\E Y$ est le cas $g_i = \mathrm{id}$, et développer le carré donne l’additivité des variances (termes croisés $\E[(X_i - \E X_i)(X_j - \E X_j)] = 0$). ∎ **Théorème 22.6 (Existence de suites indépendantes).** Sur $\bigl(\intcc01, \mathcal L, \lambda\bigr)$ il existe une suite $(U_n)_{n\geq1}$ de [variables aléatoires](#def-b3-probability-space) [indépendantes](#def-b3-probability-independence), chacune uniforme sur $\intcc01$. Par conséquent, pour toute suite de [lois](#def-b3-probability-space) prescrites $(\mu_n)$ sur $\R$ il existe des $(X_n)$ [indépendantes](#def-b3-probability-independence) avec $\P_{X_n} = \mu_n$. **Démonstration.** *Chiffres.* Pour $\omega \in \intcc01$, soit $(b_k(\omega))$ ses chiffres binaires ($\omega = \sum b_k2^{-k}$ ; choisir le développement ne se terminant pas par des $1$ — l’ambiguïté ne concerne qu’un ensemble dénombrable, donc négligeable). Chaque $b_k$ est une [variable aléatoire](#def-b3-probability-space) ($\{b_k = 1\}$ est une union finie d’intervalles dyadiques) et le vecteur $(b_1, \dots, b_m)$ prend chaque valeur de $\{0,1\}^m$ sur un intervalle dyadique de longueur $2^{-m}$ : les $b_k$ sont des Bernoulli$(\frac12)$ [indépendantes](#def-b3-probability-independence). *Regroupement.* Scinder $\N^*$ en une infinité d’ensembles infinis disjoints $(I_n)$ (p.ex. par puissances de premiers, ou diagonales) ; soit $(k^n_j)_j$ une énumération de $I_n$ et poser $$ U_n = \sum_{j\geq1} b_{k^n_j}\,2^{-j} . $$ Chaque $U_n$ est uniforme : ses chiffres binaires sont des bits équitables indépendants, donc $\P(U_n \in [l2^{-m}, (l+1)2^{-m})) = 2^{-m}$ pour tout intervalle dyadique, et les intervalles dyadiques déterminent la [loi](#def-b3-probability-space) ([Théorème 9.7](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#thm-b3-measure-uniqueness)). Les $U_n$ sont [indépendantes](#def-b3-probability-independence) : elles sont fonctions de blocs disjoints de la famille indépendante $(b_k)$ — formellement, les événements $\{U_n \in D_n\}$ pour $D_n$ dyadiques dépendent d’un nombre fini de chiffres de ensembles disjoints, et se factorisent ; l’argument de $\pi$-système monte à tous les boréliens. *[Lois](#def-b3-probability-space) arbitraires.* Soit $G_n(u) = \inf\{t : F_{\mu_n}(t) \geq u\}$ (la *fonction quantile* de la fonction de répartition $F_{\mu_n}$) ; l’équivalence clé $G_n(u) \leq t \iff u \leq F_{\mu_n}(t)$ (continuité à droite de $F$, monotonie) montre que $X_n = G_n(U_n)$ est [mesurable](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-measurable) avec $\P(X_n \leq t) = \P(U_n \leq F_{\mu_n}(t)) = F_{\mu_n}(t)$ : [loi](#def-b3-probability-space) $\mu_n$ ; l’[indépendance](#def-b3-probability-independence) est héritée (fonctions de variables [indépendantes](#def-b3-probability-independence), [Exercice 22.3](#exo-b3-probability-3)). ∎ **Exemple 22.7 (Le problème des anniversaires, honnêtement).** Parmi $n$ personnes d’anniversaires indépendants, uniformes sur $N = 365$ jours, la probabilité que tous les anniversaires diffèrent est $$ p_n = \prod_{k=1}^{n-1}\Bigl(1 - \frac kN\Bigr), $$ par conditionnement itéré (ou directement : les $N(N-1)\cdots(N - n + 1)$ favorables sur le total $N^n$, un argument de comptage que la formule produit de l’[indépendance](#def-b3-probability-independence) rend rigoureux). En prenant les logarithmes et en utilisant $-\ln(1 - x) = x + O(x^2)$ : $$ \ln p_n = -\frac{n(n-1)}{2N} + O\Bigl(\frac{n^3}{N^2}\Bigr), \qquad\text{donc}\qquad p_n \approx \eu^{-n^2/2N} . $$ Le point de bascule $p_n = \frac12$ se situe en $n \approx \sqrt{2N\ln2} \approx 1.18\sqrt N$ : pour $N = 365$, $n = 23$ ($p_{23} = 0.4927$). Deux morales. Premièrement, les collisions parmi $n$ items dans $N$ boîtes apparaissent à l’échelle $n \sim \sqrt N$, non $n \sim N$ — l’*échelle des anniversaires* qui gouverne les collisions de hachage et le coût $\sqrt N$ des attaques d’anniversaire en cryptographie. Deuxièmement, le calcul est un modèle : les $\binom n2$ événements de collision par paires ne sont pas indépendants, et pourtant la réponse se comporte comme s’ils l’étaient ($\eu^{-\binom n2/N}$ est exactement l’heuristique des paires [indépendantes](#def-b3-probability-independence)) — une première instance de l’approximation de Poisson rendue rigoureuse dans le problème de week-end du [Chapitre 23](https://one-course.com/books/math/5/fr/chapter/23-fonctions-caracteristiques-et-theoreme-central-limite#ch-b3-clt) (inégalité de Le Cam). ## 22.3 Borel–Cantelli et la loi du zéro-un **Théorème 22.8 (Borel–Cantelli).** Soient $(A_n)$ des événements et $\limsup A_n = \bigcap_N \bigcup_{n\geq N}A_n$ (« $A_n$ se produit infiniment souvent »). 1. Si $\sum\P(A_n) < \infty$ , alors $\P(\limsup A_n) = 0$ . 2. Si $\sum\P(A_n) = \infty$ *et les $A_n$ sont indépendants* , alors $\P(\limsup A_n) = 1$ . **Démonstration.** (1) est l’[Exercice 9.4](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#exo-b3-measure-4). (2) : pour $N \leq M$, l’[indépendance](#def-b3-probability-independence) des complémentaires ([Exercice 22.3](#exo-b3-probability-3)) donne $$ \P\Bigl(\bigcap_{n=N}^{M}A_n^c\Bigr) = \prod_{n=N}^M\bigl(1 - \P(A_n)\bigr) \leq \exp\Bigl(-\sum_{n=N}^M\P(A_n)\Bigr) \xrightarrow[M \to \infty]{} 0 $$ ($1 - x \leq \eu^{-x}$ ; la série diverge). Donc $\P\bigl(\bigcup_{n\geq N}A_n\bigr) = 1$ pour tout $N$, et l’intersection décroissante en $N$ a encore pour probabilité $1$ (continuité par le haut, [Proposition 9.6](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#prop-b3-measure-basics)). ∎ **Théorème 22.9 (Loi du zéro-un de Kolmogorov).** Soient $(X_n)$ [indépendantes](#def-b3-probability-independence) et $\mathcal T = \bigcap_N\sigma(X_N, X_{N+1}, \dots)$ la *$\sigma$-algèbre de queue* (événements insensibles à tout nombre fini des $X_n$ : convergence de $\sum X_n$, de $\frac{S_n}n$, valeurs des $\limsup$, …). Alors tout $T \in \mathcal T$ a $\P(T) \in \{0, 1\}$. **Démonstration.** Fixons $N$. Les $\sigma$-algèbres $\sigma(X_1, \dots, X_N)$ et $\sigma(X_{N+1}, \dots)$ sont [indépendantes](#def-b3-probability-independence) : les événements dépendant de blocs disjoints se factorisent sur les $\pi$-systèmes générateurs (cylindres $\bigcap_{i\leq N}\{X_i \in B_i\}$, resp. conditions finies sur les variables ultérieures), et Dynkin ([Théorème 9.4](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#thm-b3-measure-dynkin), appliqué deux fois, un côté à la fois) étend la factorisation. Un événement de queue $T$ est dans $\sigma(X_{N+1}, \dots)$ pour tout $N$ : $T$ est indépendant de toute $\sigma(X_1, \dots, X_N)$, donc de la $\sigma$-algèbre qu’elles engendrent, $\sigma(X_1, X_2, \dots)$ (Dynkin encore : l’union des $\sigma(X_1,\dots,X_N)$ est un $\pi$-système l’engendrant). Mais $T \in \sigma(X_1, X_2, \dots)$ aussi : $T$ est indépendant *de lui-même*, $\P(T) = \P(T\cap T) = \P(T)^2$ : $\P(T) \in \{0, 1\}$. ∎ ## 22.4 Modes de convergence **Définition 22.10.** $X_n \to X$ *presque sûrement* si $\P(X_n \to X) = 1$ ; *en probabilité* si $\P(\abs{X_n - X} \geq \varepsilon) \to 0$ pour tout $\varepsilon > 0$ ; *en $L^p$* si $\E\abs{X_n - X}^p \to 0$. **Proposition 22.11.** (a) la convergence p.s. implique la convergence en probabilité ; (b) la convergence $L^p$ implique la convergence en probabilité ; (c) la convergence en probabilité implique la convergence p.s. *le long d’une sous-suite* ; (d) aucune autre implication ne vaut en général. **Démonstration.** (a) $\P(\abs{X_n - X} \geq \varepsilon) \leq \P\bigl(\sup_{m\geq n}\abs{X_m - X} \geq \varepsilon\bigr) \downarrow \P\bigl(\limsup\{\abs{X_m - X} \geq \varepsilon\}\bigr) = 0$ sous convergence p.s. (continuité par le haut ; l’événement limsup exclut la convergence). (b) Markov : $\P(\abs{X_n - X} \geq \varepsilon) \leq \varepsilon^{-p}\,\E\abs{X_n - X}^p$. (c) Choisir $n_k$ avec $\P(\abs{X_{n_k} - X} \geq 2^{-k}) \leq 2^{-k}$ ; Borel–Cantelli (1) force $\abs{X_{n_k} - X} < 2^{-k}$ éventuellement, p.s. (d) La machine à écrire ([Exercice 12.3](https://one-course.com/books/math/5/fr/chapter/12-les-espaces-lp#exo-b3-lp-3)) sur $(\intcc01, \lambda)$ converge en $L^1$ et en probabilité mais nulle part point par point ; $n\mathbf 1_{\intoo0{1/n}} \to 0$ p.s. mais pas en $L^1$ ; détails et les contre-exemples restants dans l’[Exercice 22.6](#exo-b3-probability-6). ∎ ## 22.5 La loi des grands nombres Tout au long, $(X_n)$ sont [indépendantes](#def-b3-probability-independence) de même [loi](#def-b3-probability-space) (*i.i.d.*), $S_n = X_1 + \dots + X_n$. **Théorème 22.12 (Loi faible des grands nombres).** Si $X_1 \in L^2$, avec $m = \E X_1$ : $$ \P\Bigl(\Bigl|\frac{S_n}{n} - m\Bigr| \geq \varepsilon\Bigr) \leq \frac{\V(X_1)}{n\,\varepsilon^2} \xrightarrow[n\to\infty]{} 0 : $$ $\frac{S_n}n \to m$ en probabilité (et en $L^2$). **Démonstration.** $\E\frac{S_n}n = m$ et $\V\bigl(\frac{S_n}n\bigr) = \frac{n\V(X_1)}{n^2}$ ([Théorème 22.5](#thm-b3-probability-independence)) ; Bienaymé–Tchebychev. ∎ **Théorème 22.13 (Loi forte des grands nombres).** Si $X_1 \in L^1$, alors $$ \frac{S_n}{n} \xrightarrow[n\to\infty]{\text{p.s.}} \E[X_1]. $$ Nous la prouvons ici sous l’hypothèse plus forte $X_1 \in L^4$ ; le cas général ($L^1$ : preuve d’Etemadi) est le problème de week-end. **Preuve sous $\E X_1^4 < \infty$.** Centrage ($X_i \mapsto X_i - m$), on suppose $m = 0$. Développer : $$ \E[S_n^4] = \sum_{i,j,k,l}\E[X_iX_jX_kX_l] = n\,\E[X_1^4] + 3n(n-1)\,\bigl(\E[X_1^2]\bigr)^2 \leq C\,n^2 , $$ car l’[indépendance](#def-b3-probability-independence) et le centrage tuent tout terme contenant un facteur isolé ($\E[X_iX_jX_kX_l] = \E[X_i]\E[\cdots] = 0$ sauf si les [indices](https://one-course.com/books/math/5/fr/chapter/16-fonctions-holomorphes#def-b3-holomorphic-index) s’apparient : les seuls survivants sont les $n$ termes $i=j=k=l$ et les $3n(n-1)$ termes à deux paires distinctes). Markov : $$ \P\Bigl(\Bigl|\frac{S_n}n\Bigr| \geq \varepsilon\Bigr) = \P\bigl(S_n^4 \geq n^4\varepsilon^4\bigr) \leq \frac{Cn^2}{n^4\varepsilon^4} = \frac{C}{\varepsilon^4n^2}, $$ sommable : Borel–Cantelli (1) donne, pour chaque $\varepsilon$ rationnel, que $\abs{S_n/n} < \varepsilon$ éventuellement, p.s. ; en intersectant sur $\varepsilon \in \Q_+^*$ (dénombrablement beaucoup d’événements de probabilité $1$) : $S_n/n \to 0$ p.s. ∎ **Exemple 22.14 (Ce que la loi forte achète).** (a) *Fréquences* : pour des piles ou faces i.i.d., la fréquence observée de faces converge p.s. vers $p$ — la justification empirique de la probabilité elle-même. (b) *Monte-Carlo* : pour $g \in L^1(\intcc01)$ et $(U_n)$ i.i.d. uniformes ([Théorème 22.6](#thm-b3-probability-existence)), $\frac1n\sum_{k\leq n}g(U_k) \to \int_0^1g$ p.s. : intégrales par échantillonnage, en toute dimension, au taux indépendant de la dimension $\sim n^{-1/2}$ précisé au [Chapitre 23](https://one-course.com/books/math/5/fr/chapter/23-fonctions-caracteristiques-et-theoreme-central-limite#ch-b3-clt). (c) *Nombres normaux* : presque tout nombre réel a, dans son développement binaire, une fréquence asymptotique $\frac12$ de uns (appliquer la [loi](#def-b3-probability-space) forte aux variables chiffres du [Théorème 22.6](#thm-b3-probability-existence)) — le théorème de Borel, un énoncé sur les nombres de *tous* les jours prouvé par la [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) : le [Problème 22.1](#pb-b3-probability-1) le complète dans toutes les [bases](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-basis). **Méthode 22.15.** L’ordre de travail pour les énoncés asymptotiques sur les suites aléatoires : (1) *L’événement est-il un événement de queue ?* Alors sa probabilité vaut $0$ ou $1$ ([Théorème 22.9](#thm-b3-probability-zeroone)) et il ne reste qu’à décider laquelle. (2) *Pour prouver des énoncés p.s.* : Borel–Cantelli — probabilités sommables pour les « mauvais » événements, via des bornes de type Markov/Bienaymé–Tchebychev sur les moments existants ; l’[indépendance](#def-b3-probability-independence) n’est nécessaire que pour la direction réciproque. (3) *Sous-suite + sandwich* : prouver la convergence le long d’une sous-suite maniable, contrôler l’oscillation entre les deux par monotonie ou inégalités [maximales](https://one-course.com/books/math/5/fr/chapter/2-anneaux-et-arithmetique#def-b3-rings-primemaximal) — le squelette de la preuve d’Etemadi. (4) Pour les limites en [loi](#def-b3-probability-space), attendre le [Chapitre 23](https://one-course.com/books/math/5/fr/chapter/23-fonctions-caracteristiques-et-theoreme-central-limite#ch-b3-clt). ## 22.6 Exercices **Exercice 22.1 ★.** (a) Soit $X$ de fonction de répartition $F$ [continue](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-continuity) strictement croissante. Montrer que $F(X)$ est uniforme sur $\intcc01$, et que $G(U) \sim F$ pour $U$ uniforme, $G = F^{-1}$ : simulation par inversion. (b) Calculer la fonction de répartition et la [densité](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#ex-b3-lebesgue-gamma) de $X^2$ pour $X$ uniforme sur $\intcc{-1}1$, et de $-\frac1\lambda\ln U$ pour $U$ uniforme sur $\intoo01$. **Solution de Exercice 22.1.** (a) Pour $u \in \intoo01$ : $\P(F(X) \leq u) = \P(X \leq F^{-1}(u)) = F(F^{-1}(u)) = u$ (continuité et stricte monotonie font de $F$ une bijection sur $\intoo01$ avec $\{F(X) \leq u\} = \{X \leq F^{-1}(u)\}$) : $F(X)$ est uniforme. Réciproquement $\P(G(U) \leq t) = \P(U \leq F(t)) = F(t)$ : pour simuler une [loi](#def-b3-probability-space), appliquer la fonction de répartition inverse à un échantillon uniforme. (b) $Y = X^2$, $X$ uniforme sur $\intcc{-1}1$ : pour $t \in \intcc01$, $F_Y(t) = \P(-\sqrt t \leq X \leq \sqrt t) = \sqrt t$ : [densité](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#ex-b3-lebesgue-gamma) $\frac1{2\sqrt t}\mathbf 1_{\intoo01}$. Et $\P\bigl(-\frac1\lambda\ln U \leq t\bigr) = \P(U \geq \eu^{-\lambda t}) = 1 - \eu^{-\lambda t}$ : l’exponentielle $\mathcal E(\lambda)$ — l’inversion en [action](https://one-course.com/books/math/5/fr/chapter/1-theorie-des-groupes#def-b3-groups-action). **Exercice 22.2 ★.** (a) Calculer moyenne et variance des [lois](#def-b3-probability-space) de Poisson $\mathcal P(\lambda)$ et géométrique via le théorème de transfert. (b) Montrer qu’une [variable aléatoire](#def-b3-probability-space) positive $T$ avec $\P(T > t) > 0$ pour tout $t$ satisfait la propriété *sans mémoire* $\P(T > t + s \mid T > t) = \P(T > s)$ pour tous $s, t \geq 0$ ssi $T$ est exponentielle. *(La fonction de survie satisfait l’équation fonctionnelle de Cauchy ; la monotonie remplace la continuité.)* **Solution de Exercice 22.2.** (a) Poisson : $\E X = \sum_{k\geq0}k\,\eu^{-\lambda} \frac{\lambda^k}{k!} = \lambda$, $\E[X(X-1)] = \lambda^2$, donc $\V = \lambda^2 + \lambda - \lambda^2 = \lambda$. Géométrique ($\P(X = k) = p(1-p)^{k-1}$) : $\E X = \frac1p$, $\V = \frac{1-p}{p^2}$ (dériver deux fois la série géométrique). (b) $G(t) = \P(T > t)$ est décroissante avec $G \colon \intco0\infty \to \intoc01$ ; l’absence de mémoire se lit $G(t + s) = G(t)G(s)$. Alors $G(n t) = G(t)^n$ et $G(t/n) = G(t)^{1/n}$ : $G(q) = G(1)^q$ pour $q \geq 0$ rationnel ; en écrivant $G(1) = \eu^{-\lambda}$ ($\in \intoo01$ : $G(1) = 1$ forcerait $G \equiv 1$, impossible pour une variable finie ; $G(1) = 0$ est exclu par hypothèse) et en encadrant un $t$ arbitraire entre des rationnels (monotonie) : $G(t) = \eu^{-\lambda t}$ — la [loi](#def-b3-probability-space) exponentielle. La réciproque est un calcul. **Exercice 22.3 ★★.** (a) Montrer que si $X_1, \dots, X_n$ sont [indépendantes](#def-b3-probability-independence) et $f_i$ des fonctions boréliennes, les $f_i(X_i)$ sont [indépendantes](#def-b3-probability-independence). (b) Montrer que des événements $A_1, \dots, A_n$ sont indépendants ssi leurs complémentaires le sont, ssi les indicateurs $\mathbf 1_{A_i}$ sont des [variables aléatoires](#def-b3-probability-space) [indépendantes](#def-b3-probability-independence). (c) (Deux à deux est plus faible) Deux pièces équitables : $A =$ la première est face, $B =$ la seconde est face, $C =$ les deux coïncident. Montrer que $A, B, C$ sont deux à deux indépendants mais non indépendants. **Solution de Exercice 22.3.** (a) $\sigma(f_i(X_i)) = f_i(X_i)^{-1}(\mathcal B) \subseteq X_i^{-1}(\mathcal B) = \sigma(X_i)$ ($f_i$ borélienne), et des sous-$\sigma$-algèbres de $\sigma$-algèbres [indépendantes](#def-b3-probability-independence) sont [indépendantes](#def-b3-probability-independence) (l’identité définissante vaut a fortiori). (b) $\sigma(A_i) = \{\varnothing, A_i, A_i^c, \Omega\} = \sigma(A_i^c) = \sigma(\mathbf 1_{A_i})$ : les trois énoncés affirment l’[indépendance](#def-b3-probability-independence) des mêmes $\sigma$-algèbres. (Que la factorisation sur les $A_i$ se propage aux complémentaires est l’argument de $\lambda$-système dans l’équivalence de la [Définition 22.4](#def-b3-probability-independence) — ou l’inclusion-exclusion directe.) (c) $\P(A) = \P(B) = \P(C) = \frac12$ ; $A\cap B = A\cap C = B\cap C$ par paires : chaque intersection est « deux faces » ou analogue, de probabilité $\frac14$ : deux à deux indépendants. Mais $\P(A\cap B\cap C) = \P(\text{FF}) = \frac14 \neq \frac18$ : non indépendants — $C$ est déterminé par $A$ et $B$. **Exercice 22.4 ★★.** (a) (Singe infini) Une suite i.i.d. de frappes uniformes sur un alphabet fini contient p.s. tout texte fini infiniment souvent : le prouver avec Borel–Cantelli (2) sur des blocs disjoints. (b) (Séries) Pour des bits équitables i.i.d., soit $R_n$ la longueur de la série de uns commençant en position $n$. Montrer que p.s. $R_n \geq (1+\varepsilon)\log_2n$ un nombre fini de fois, et $R_n \geq \log_2 n$ infiniment souvent *(les deux moitiés de Borel–Cantelli ; pour la seconde, passer à des blocs disjoints pour gagner l’[indépendance](#def-b3-probability-independence))* : la plus longue série dans les $n$ premiers chiffres croît comme $\log_2n$. **Solution de Exercice 22.4.** (a) Soit le texte $T$ de longueur $L$ et $q = a^{-L}$ ($a$ la taille de l’alphabet). Les événements $E_k =$ {positions $kL+1, \dots, (k+1)L$ épellent $T$} sont indépendants (blocs disjoints de lettres i.i.d.), chacun de probabilité $q > 0$ : $\sum\P(E_k) = \infty$, et Borel–Cantelli (2) donne infiniment beaucoup d’occurrences p.s. (b) Haut : $\P\bigl(R_n \geq (1+\varepsilon)\log_2n\bigr) \leq 2^{-(1+\varepsilon)\log_2n} = n^{-(1+\varepsilon)}$, sommable : par Borel–Cantelli (1), p.s. seulement un nombre fini de tels $n$. Bas : empaqueter des blocs disjoints — le $j$-ème de longueur $\ell_j = \lceil\log_2s_j\rceil$ commençant en $s_j = \sum_{i 0\}$ dépend de $X_1$ : pour des signes i.i.d. ($\P(X_1 = \pm1) = \frac12$), sa probabilité est $\frac12 \notin \{0,1\}$ — pas de contradiction, ce n’est pas un événement de queue. **Exercice 22.6 ★★.** Sur $(\intcc01, \lambda)$, exhiber — avec preuves — des [variables aléatoires](#def-b3-probability-space) telles que : (a) $X_n \to 0$ en probabilité et dans tout $L^p$, mais nulle part p.s. ; (b) $X_n \to 0$ p.s. mais dans aucun $L^p$ ; (c) $X_n \to 0$ en $L^1$ mais pas en $L^2$ ; (d) et montrer : si $X_n \to X$ en probabilité et $\abs{X_n} \leq Y \in L^1$, alors $X_n \to X$ en $L^1$ *(sous-suites + convergence dominée + le truc de la sous-sous-suite)*. **Solution de Exercice 22.6.** On travaille sur $(\intcc01, \lambda)$. (a) La machine à écrire $\mathbf 1_{I_n}$ ([Exercice 12.3](https://one-course.com/books/math/5/fr/chapter/12-les-espaces-lp#exo-b3-lp-3)) : $\norm{X_n}_p^p = \lambda(I_n) \to 0$ (tous $p < \infty$), donc aussi en probabilité ; en tout $\omega$ les valeurs $0$ et $1$ reviennent toutes deux : pas de convergence point par point nulle part. (b) $X_n = n\mathbf 1_{\intoo0{1/n}} \to 0$ hors de $0$, mais $\norm{X_n}_p \geq n^{1 - 1/p} \geq 1$. (c) $X_n = \sqrt n\,\mathbf 1_{\intoo0{1/n}}$ : $\E\abs{X_n} = n^{-1/2} \to 0$, $\E X_n^2 = 1$. (d) De toute sous-suite extraire (convergence en probabilité) une sous-suite ultérieure convergeant p.s. ([Proposition 22.11](#prop-b3-probability-modes)(c)) ; la convergence dominée donne la convergence $L^1$ le long d’elle, avec la *même* limite $X$. Ainsi toute sous-suite de la suite numérique $\E\abs{X_n - X}$ a une sous-sous-suite tendant vers $0$ : la suite entière tend vers $0$. **Exercice 22.7 ★★.** Un sondage estime une proportion inconnue $p$ par la fréquence empirique $\hat p_n$ de $n$ tirages indépendants. (a) Bienaymé–Tchebychev : montrer $\P(\abs{\hat p_n - p} \geq \varepsilon) \leq \frac1{4n\varepsilon^2}$ (utiliser $p(1-p) \leq \frac14$). (b) Combien de tirages garantissent une erreur $\leq 3\%$ avec probabilité $\geq 95\%$ par cette borne ? (La vraie réponse, via le [Chapitre 23](https://one-course.com/books/math/5/fr/chapter/23-fonctions-caracteristiques-et-theoreme-central-limite#ch-b3-clt), est environ $1070$ : Bienaymé–Tchebychev est honnête mais grossier.) **Solution de Exercice 22.7.** (a) $\hat p_n = \frac{S_n}n$ avec $S_n$ binomiale : $\V(\hat p_n) = \frac{p(1-p)}n \leq \frac1{4n}$, et Bienaymé–Tchebychev ([Proposition 22.3](#prop-b3-probability-markov)) donne la borne. (b) Résoudre $\frac1{4n(0.03)^2} \leq 0.05$ : $n \geq \frac{1}{4\cdot0.0009\cdot0.05} \approx 5556$. Le théorème central limite justifiera $n \approx 1070$ pour la même garantie : Bienaymé–Tchebychev paie sa généralité d’un facteur $\approx 5$. **Exercice 22.8 ★★★.** (Bernstein) Pour $f \in \mathcal C(\intcc01)$ définir le polynôme de Bernstein $B_nf(x) = \sum_{k=0}^n\binom nkx^k(1-x)^{n-k}f\bigl(\frac kn\bigr)$. (a) Reconnaître $B_nf(x) = \E\bigl[f\bigl(\frac {S_n}n\bigr)\bigr]$ pour $S_n$ binomiale $\mathcal B(n, x)$. (b) Prouver $B_nf \to f$ *uniformément* sur $\intcc01$ : scinder sur $\{\abs{\frac{S_n}n - x} \leq \delta\}$ et son complémentaire, en utilisant la continuité uniforme et Bienaymé–Tchebychev avec la borne uniforme $\V(\frac{S_n}n) \leq \frac1{4n}$. (c) Conclure : une seconde preuve, probabiliste, du théorème d’approximation de Weierstrass ([Corollaire 7.16](https://one-course.com/books/math/5/fr/chapter/7-espaces-complets-baire-ascoli-stoneweierstrass#cor-b3-complete-weierstrass)), avec le taux explicite $\norm{B_nf - f}_\infty \leq \frac32\,\omega_f(n^{-1/2})$ pour le [module](https://one-course.com/books/math/5/fr/chapter/3-modules-sur-un-anneau-principal#def-b3-modules-module) de continuité $\omega_f$ — prouver au moins la forme $O(\omega_f(n^{-1/2}))$. **Solution de Exercice 22.8.** (a) Si $S_n \sim \mathcal B(n, x)$, le théorème de transfert donne $\E\bigl[f(\frac{S_n}n)\bigr] = \sum_k\binom nkx^k(1-x)^{n-k}f(\frac kn) = B_nf(x)$. (b)–(c) Soit $\omega = \omega_f$ le [module](https://one-course.com/books/math/5/fr/chapter/3-modules-sur-un-anneau-principal#def-b3-modules-module) de continuité ($\abs{f(u) - f(v)} \leq \omega(\abs{u - v})$, et $\omega(c \delta) \leq (1 + c)\,\omega(\delta)$ par enchaînement d’étapes). Alors, pour tout $\delta > 0$, $$ \abs{f(u) - f(x)} \leq \Bigl(1 + \frac{(u - x)^2}{\delta^2}\Bigr)\omega(\delta) $$ (si $\abs{u - x} \leq \delta$, clair ; sinon $\omega(\abs{u-x}) \leq (1 + \frac{\abs{u-x}}\delta) \omega(\delta) \leq (1 + \frac{(u-x)^2}{\delta^2}) \omega(\delta)$). Prendre les [espérances](#def-b3-probability-space) en $u = \frac{S_n}n$ : $$ \abs{B_nf(x) - f(x)} \leq \Bigl(1 + \frac{\V(S_n/n)}{\delta^2}\Bigr)\omega(\delta) \leq \Bigl(1 + \frac{1}{4n\delta^2}\Bigr)\omega(\delta) ; $$ avec $\delta = n^{-1/2}$ : $\norm{B_nf - f}_\infty \leq \frac54\,\omega\bigl(n^{-1/2}\bigr) \leq \frac32\,\omega\bigl(n^{-1/2}\bigr) \to 0$ (continuité uniforme sur le compact) : un théorème de Weierstrass probabiliste, avec un taux explicite et uniforme. **Exercice 22.9 ★★★.** (Collectionneur de coupons) Des cartes de $n$ types sont tirées uniformément avec remise ; soit $T_n$ le nombre de tirages jusqu’à ce que tous les types soient vus. (a) Écrire $T_n = \sum_{k=1}^{n}\tau_k$ avec $\tau_k$ géométrique de paramètre $\frac{n - k + 1}n$, les $\tau_k$ [indépendantes](#def-b3-probability-independence), et en déduire $\E T_n = n\,H_n \sim n\ln n$ ($H_n$ le nombre harmonique) et $\V(T_n) \leq \frac{\pi^2}6n^2$. (b) Bienaymé–Tchebychev : $\frac{T_n}{n\ln n} \to 1$ en probabilité. (c) Affiner avec Borel–Cantelli : montrer directement $\P(T_n > \beta n\ln n) \leq n^{1 - \beta}$ pour $\beta > 1$ *(borne d’union sur l’événement qu’un type est manqué après $\beta n\ln n$ tirages, via $1 - x \leq \eu^{-x}$)*, et en déduire que le long de $n = 2^m$, p.s. $T_n \leq \beta n\ln n$ éventuellement, pour tout $\beta > 2$. **Solution de Exercice 22.9.** (a) Après $k - 1$ types collectés, chaque tirage est nouveau avec probabilité $p_k = \frac{n-k+1}n$ : $\tau_k$ est géométrique $(p_k)$, et les $\tau_k$ sont [indépendantes](#def-b3-probability-independence) (les tirages le sont). Sommes : $\E T_n = \sum_k\frac n{n-k+1} = nH_n \sim n\ln n$ ; $\V(T_n) = \sum\frac{1 - p_k}{p_k^2} \leq n^2\sum_{j=1}^n\frac1{j^2} \leq \frac{\pi^2}6n^2$. (b) Bienaymé–Tchebychev : $\P\bigl(\abs{T_n - nH_n} \geq \varepsilon n\ln n\bigr) \leq \frac{\pi^2n^2/6}{\varepsilon^2n^2\ln^2n} \to 0$, et $\frac{nH_n}{n\ln n} \to 1$ : $\frac{T_n}{n\ln n} \to 1$ en probabilité. (c) Borne d’union : $T_n > t$ signifie qu’un type est non vu après $\lceil t\rceil$ tirages, donc $\P(T_n > t) \leq n(1 - \frac1n)^{t} \leq n\,\eu^{-t/n}$ ; en $t = \beta n\ln n$ : $\leq n^{1 - \beta}$. Pour $\beta > 1$, $\sum_m 2^{m(1-\beta)} < \infty$ : Borel–Cantelli donne, le long de $n = 2^m$, p.s. $T_n \leq \beta n\ln n$ éventuellement — en particulier pour tout $\beta > 2$ comme énoncé (tout $\beta > 1$ fonctionne le long de la sous-suite). **Exercice 22.10 ★★.** En utilisant la construction par chiffres ([Théorème 22.6](#thm-b3-probability-existence)) : (a) vérifier par calcul direct que $U = \sum b_{2k}2^{-k}$ (chiffres d’[indices](https://one-course.com/books/math/5/fr/chapter/16-fonctions-holomorphes#def-b3-holomorphic-index) pairs d’un $\omega$ uniforme) est uniforme et indépendante de $V = \sum b_{2k-1}2^{-k}$ ; (b) en déduire une bijection [mesurable](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-measurable) à ensembles négligeables près entre $\intcc01$ et $\intcc01^2$ préservant la [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure), et commenter : un nombre aléatoire uniforme en contient deux (et dénombrablement beaucoup) indépendants — comparer avec la courbe de Peano ([Problème 6.1](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#pb-b3-topology-1)), qui réalisait la surjectivité mais non la préservation de [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) ni l’injectivité. **Solution de Exercice 22.10.** (a) Les chiffres d’[indices](https://one-course.com/books/math/5/fr/chapter/16-fonctions-holomorphes#def-b3-holomorphic-index) pairs $(b_{2k})_k$ sont des bits équitables i.i.d. (une sous-famille de la famille de chiffres indépendante), donc $U = \sum_kb_{2k}2^{-k}$ donne à tout intervalle dyadique sa bonne probabilité (comme dans le [Théorème 22.6](#thm-b3-probability-existence)) : uniforme ; de même $V$ ; et $(U, V)$ dépendent de blocs de chiffres disjoints : indépendants (factorisation sur les rectangles dyadiques, puis Dynkin). (b) $\Phi(\omega) = (U(\omega), V(\omega))$ est [mesurable](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-measurable) avec $\Phi_*\lambda = \lambda\otimes\lambda = \lambda_2$ (accord sur les rectangles dyadiques + unicité). L’entrelacement des chiffres définit un inverse défini hors de l’ensemble (négligeable) des rationnels dyadiques dans chaque facteur : une bijection préservant la [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) entre sous-ensembles de [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) pleine de $\intcc01$ et $\intcc01^2$. Contraste avec Peano ([Problème 6.1](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#pb-b3-topology-1)) : la continuité forçait la surjectivité sans injectivité ; abandonner la continuité pour la seule mesurabilité achète un isomorphisme de [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) — la dimension est invisible à la théorie de la [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure), visible à la [topologie](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-topology). **Exercice 22.11 ★★.** (Records) Soit $(X_n)_{n\geq1}$ i.i.d. de fonction de répartition [continue](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-continuity), et disons qu’un *record* se produit au temps $n$ si $X_n > \max(X_1, \dots, X_{n-1})$ (le temps $1$ est un record). Soit $R_n$ l’indicateur de record. (a) Montrer $\P(R_n = 1) = \frac1n$ *(par symétrie, chacun des $n!$ ordres de $X_1, \dots, X_n$ est équiprobable et les égalités ont probabilité $0$)*. (b) Montrer que les $R_n$ sont *indépendants* *(compter les ordres compatibles avec des positions de records prescrites, ou argumenter que l’ordre relatif de $X_1, \dots, X_{n-1}$ est indépendant du rang de $X_n$ parmi eux)*. (c) Déduire de Borel–Cantelli ([Théorème 22.8](#thm-b3-probability-borelcantelli), les deux moitiés) que infiniment beaucoup de records se produisent p.s., mais que des records aux temps consécutifs $n, n+1$ se produisent infiniment souvent avec probabilité — décider laquelle ! — et calculer $\sum_n\P(R_n = 1, R_{n+1} = 1)$. **Solution de Exercice 22.11.** (a) La continuité de la répartition rend les égalités des événements nuls (comme dans les arguments d’ordre du chapitre), et les $n!$ ordres relatifs de $(X_1, \dots, X_n)$ sont échangeables, donc équiprobables. $R_n = 1$ signifie que le maximum siège en dernière position : probabilité $\frac{(n-1)!}{n!} = \frac1n$. (b) Fixer $n$ et conditionner sur l’ordre relatif de $X_1, \dots, X_{n-1}$ : l’insertion de $X_n$ dans les $n$ créneaux de rang possibles est uniforme et indépendante de cet ordre (échangeabilité du $n$-uplet). Donc $R_n$ (l’événement « $X_n$ prend le créneau du haut ») est indépendant de toute l’histoire des records $(R_1, \dots, R_{n-1})$, qui est une fonction de l’ordre relatif des $n - 1$ premières variables. La récurrence donne l’[indépendance](#def-b3-probability-independence) totale avec $\P(R_n = 1) = \frac1n$. (c) $\sum\P(R_n = 1) = \sum\frac1n = \infty$ avec [indépendance](#def-b3-probability-independence) : la seconde moitié de Borel–Cantelli donne des records infiniment souvent p.s. (les records ne s’arrêtent jamais — mais s’amenuisent logarithmiquement : $\E[\#\text{records} \leq n] = H_n \approx \ln n$). Records consécutifs : $\P(R_n = R_{n+1} = 1) = \frac1{n(n+1)}$ ([indépendance](#def-b3-probability-independence)), et $$ \sum_n\frac1{n(n+1)} = \sum_n\Bigl(\frac1n - \frac1{n+1}\Bigr) = 1 < \infty : $$ la première moitié de Borel–Cantelli s’applique — seulement un nombre fini de paires de records consécutifs se produisent, p.s. **Exercice 22.12 ★★.** (Plus longue série de faces) On lance une pièce équitable $n$ fois. Soit $L_n$ la longueur de la plus longue série de faces consécutives. Montrer que $$ \frac{L_n}{\log_2 n} \xrightarrow[n\to\infty]{\text{p.s.}} 1 $$ *(la moitié supérieure de l’[Exercice 22.4](#exo-b3-probability-4)(b) donne $\limsup \leq 1$ ; pour $\liminf \geq 1$, découper $[1, n]$ en blocs de longueur $\lfloor(1-\varepsilon)\log_2 n\rfloor$ et appliquer Borel–Cantelli (2) à des blocs disjoints)*. **Solution de Exercice 22.12.** (a) Une série de longueur $\ell$ commençant en position $i \leq n$ a pour probabilité $2^{-\ell}$ ; borne d’union : $\P(L_n \geq \ell) \leq n2^{-\ell}$. Avec $\ell_n = (1 + \varepsilon)\log_2n$ : $\P(L_n \geq \ell_n) \leq n^{-\varepsilon}$. Le long de $n = 2^k$ : $\sum_k2^{-k\varepsilon} < \infty$, donc p.s. $L_{2^k} < (1+\varepsilon)k$ éventuellement (Borel–Cantelli) ; pour $n$ général prendre $2^{k-1} < n \leq 2^k$ et utiliser la monotonie de $L_n$ plus $\log_22^{k-1} \leq \log_2n$ : $L_n \leq L_{2^k} < (1 + \varepsilon)k \leq (1 + \varepsilon)\frac{k}{k-1}\log_2n$, et le facteur supplémentaire s’absorbe en élargissant $\varepsilon$ légèrement. (b) Avec $\ell = \lceil(1 - \varepsilon)\log_2n\rceil$ et $m = \lfloor n/\ell\rfloor$ blocs disjoints : les blocs sont indépendants, chacun tout-faces avec probabilité $2^{-\ell} \geq n^{-(1-\varepsilon)}/2$, donc $$ \P(L_n < \ell) \leq \bigl(1 - 2^{-\ell}\bigr)^{m} \leq \exp\bigl(-m2^{-\ell}\bigr) \leq \exp\Bigl(-c\,\frac{n^{\varepsilon}}{\log_2n}\Bigr) $$ pour une constante $c > 0$ et $n$ grand. Ces probabilités sont sommables le long de $n = 2^k$ (et même le long de tous les $n$) : Borel–Cantelli donne p.s. $L_n \geq (1 - \varepsilon)\log_2n$ éventuellement (la monotonie remplit entre les $2^k$ comme en (a), sans dommage). (c) Les deux bornes le long d’une suite $\varepsilon = \frac1j$, en intersectant dénombrablement beaucoup d’événements de [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) pleine : $\frac{L_n}{\log_2n} \to 1$ p.s. Pour $n = 10^6$ : $\log_2n \approx 19.9$ — une série de $\approx 20$ faces n’est pas une anomalie suspecte mais une certitude mathématique, et son absence est une preuve qu’un humain a falsifié le « hasard » (les humains osent rarement écrire plus de $5$ ou $6$ faces de suite). ## 22.7 Problème : la preuve d’Etemadi de la loi forte **Problème 22.1.** Problème de week-end — la loi forte des grands nombres, version $L^1$ La [loi](#def-b3-probability-space) forte sous $L^4$ (preuve du chapitre) est un échantillon ; la version $L^1$ est le théorème. La preuve d’Etemadi (1981) est la plus propre connue : troncature, sous-suite $n_k = \lfloor\alpha^k\rfloor$, sandwich par monotonie, le tout avec seulement l’*[indépendance](#def-b3-probability-independence) deux à deux*. Tout au long, $(X_n)$ sont i.i.d. (ou seulement deux à deux [indépendantes](#def-b3-probability-independence), de même [loi](#def-b3-probability-space)) dans $L^1$, $m = \E X_1$, $S_n = X_1 + \dots + X_n$. **Partie I — Réduction à des variables positives.** 1. Montrer que si la [loi](#def-b3-probability-space) forte vaut pour les parties positives et négatives séparément, elle vaut pour $X_1$ . On peut donc supposer $X_n \geq 0$ (et $m < \infty$ ). 2. (Troncature) Poser $Y_n = X_n\mathbf 1_{\{X_n \leq n\}}$ et $T_n = Y_1 + \dots + Y_n$ . Montrer $\sum_n\P(X_n \neq Y_n) < \infty$ *(calculer : $\P(X_1 > n) = \P(X_1 > n)$ et $\sum_n\P(X_1 > n) = \E[X_1] < \infty$ pour $X_1 \geq 0$)* , et conclure par Borel–Cantelli (1) que p.s. $X_n = Y_n$ pour $n$ assez grand. 3. En déduire que $S_n/n \to m$ p.s. ssi $T_n/n \to m$ p.s. **Partie II — La sous-suite géométrique.** Fixer $\alpha > 1$ et poser $n_k = \lfloor\alpha^k\rfloor$. 4. Montrer $\E Y_n \to m$ (convergence dominée, ou monotone pour $X_1 \geq 0$ ), et en déduire $\E(T_{n_k}/n_k) \to m$ . 5. Estimer la variance : montrer $$\V(T_{n_k}) \leq \sum_{n\leq n_k}\E[Y_n^2] \leq n_k\sum_{j\geq0}(j+1)^2\P(j < X_1 \leq j+1)$$ en regroupant, et conclure $\sum_k\V(T_{n_k})/n_k^2 < \infty$ *(échanger les sommes ; le coefficient de $\P(j < X_1 \leq j+1)$ est $O(j)$ car $n_k \gtrsim j$ force $k \gtrsim \log j$)*. 6. Appliquer Bienaymé–Tchebychev et Borel–Cantelli (1) : p.s. $T_{n_k}/n_k - \E(T_{n_k}/n_k) \to 0$ . Conclure $T_{n_k}/n_k \to m$ p.s. **Partie III — Sandwich.** 7. Pour $n_k \leq n < n_{k+1}$ et $X_i \geq 0$ : $T_{n_k} \leq T_n \leq T_{n_{k+1}}$. En déduire $$\frac{n_k}{n_{k+1}}\cdot\frac{T_{n_k}}{n_k} \leq \frac{T_n}{n} \leq \frac{n_{k+1}}{n_k}\cdot \frac{T_{n_{k+1}}}{n_{k+1}} .$$ 8. Passer à la limite le long de $n \to \infty$ (donc $k \to \infty$ ) : $\frac1\alpha m \leq \liminf T_n/n \leq \limsup T_n/n \leq \alpha m$ p.s. Faire $\alpha \downarrow 1$ le long d’une suite dénombrable : $T_n/n \to m$ p.s. 9. Assembler : $S_n/n \to m$ p.s. pour $X_1 \in L^1$ (non nécessairement positive). Où l’ [indépendance](#def-b3-probability-independence) deux à deux a-t-elle suffi, et où l’ [indépendance](#def-b3-probability-independence) mutuelle était-elle inutile ? **Partie IV — Conséquences et exemples.** 10. (Nombre [normal](https://one-course.com/books/math/5/fr/chapter/1-theorie-des-groupes#def-b3-groups-normal) ) Soit $b \geq 2$ un entier. Montrer que pour presque tout $x \in \intcc01$ , la fréquence asymptotique de chaque chiffre $d \in \{0,\dots,b-1\}$ dans le développement en [base](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-basis) $b$ de $x$ vaut $\frac1b$ *(appliquer la [loi](#def-b3-probability-space) forte aux variables indicateurs — justifier que les chiffres en [base](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-basis) $b$ d’une variable uniforme sont i.i.d. uniformes sur $\{0,\dots,b-1\}$ comme dans le [Théorème 22.6](#thm-b3-probability-existence) — puis intersecter les dénombrablement beaucoup d’événements de probabilité un)* . Exhiber un nombre non [normal](https://one-course.com/books/math/5/fr/chapter/1-theorie-des-groupes#def-b3-groups-normal) explicite, et réfléchir : le théorème affirme la normalité de presque tous les nombres, et pourtant prouver la normalité de $\sqrt2$ ou $\pi$ reste [ouvert](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-topology) . 11. ( [Monte-Carlo](#ex-b3-probability-sllnapps) , garanti) Justifier complètement la méthode de l’ [Exemple 22.14](#ex-b3-probability-sllnapps) (b) pour $g \in L^1(\intcc01^d)$ : construire l’échantillon i.i.d. uniforme sur $\intcc01^d$ depuis le [Théorème 22.6](#thm-b3-probability-existence) et l’ [Exercice 22.10](#exo-b3-probability-10) , et énoncer ce que la [loi](#def-b3-probability-space) forte délivre. **Partie V — Ce que l’[indépendance](#def-b3-probability-independence) totale achète : inégalités [maximales](https://one-course.com/books/math/5/fr/chapter/2-anneaux-et-arithmetique#def-b3-rings-primemaximal) et séries aléatoires.** Etemadi n’utilise que l’[indépendance](#def-b3-probability-independence) deux à deux ; les parties restantes exploitent la version mutuelle. Soient $(Z_n)$ des variables [indépendantes](#def-b3-probability-independence) centrées de $L^2$ et $S_k = Z_1 + \dots + Z_k$ (notation fraîche, sans rapport avec les $X_n$ ci-dessus). 12. (Inégalité maximale de Kolmogorov) Pour $\varepsilon > 0$ prouver $$\P\Bigl(\max_{1\leq k\leq n}\abs{S_k} \geq \varepsilon\Bigr) \;\leq\; \frac1{\varepsilon^2}\sum_{k=1}^n\V(Z_k) :$$ le prix de Bienaymé–Tchebychev achète le maximum *(partitionner l’événement selon le premier [indice](https://one-course.com/books/math/5/fr/chapter/16-fonctions-holomorphes#def-b3-holomorphic-index) $k$ avec $\abs{S_k} \geq \varepsilon$ ; sur ce morceau écrire $S_n^2 \geq S_k^2 + 2S_k(S_n - S_k)$ et utiliser l’[indépendance](#def-b3-probability-independence) des coalitions $(Z_1, \dots, Z_k)$ et $(Z_{k+1}, \dots, Z_n)$, [Théorème 22.5](#thm-b3-probability-independence))*. Pointer l’étape où l’[indépendance](#def-b3-probability-independence) deux à deux ne suffirait plus. 13. (Théorème à une série de Khinchin–Kolmogorov) En déduire : si $\sum_n\V(Z_n) < \infty$ , alors $\sum_nZ_n$ converge presque sûrement *(montrer que p.s. les sommes partielles forment une suite de Cauchy : faire $m \to \infty$ dans l’inégalité maximale appliquée à $Z_{N+1}, \dots, Z_{N+m}$, puis $N \to \infty$)* . 14. (Séries de Rademacher) Soient $(\varepsilon_n)$ des signes i.i.d., $\P(\varepsilon_n = \pm1) = \frac12$ ( [Théorème 22.6](#thm-b3-probability-existence) ), et $(x_n)$ des réels. Montrer que $\sum_nx_n\varepsilon_n$ converge p.s. dès que $\sum_nx_n^2 < \infty$ ; montrer aussi que, quels que soient $(x_n)$ , la probabilité que $\sum_nx_n\varepsilon_n$ converge vaut $0$ ou $1$ ( [Théorème 22.9](#thm-b3-probability-zeroone) ). 15. La réciproque, élémentairement. Poser $T_n = \sum_{k\leq n}x_k\varepsilon_k$ et $s_n^2 = \sum_{k\leq n}x_k^2$, et supposer $s_n \to \infty$. (a) Prouver l’*inégalité de Paley–Zygmund* : pour $Z \geq 0$ avec $\E Z^2 < \infty$ et $0 < \theta < 1$, $$\P\bigl(Z > \theta\,\E Z\bigr) \;\geq\; (1 - \theta)^2\,\frac{(\E Z)^2}{\E Z^2}$$ *(scinder $\E Z$ au niveau $\theta\E Z$ et appliquer Cauchy–Schwarz au morceau supérieur)*. (b) Montrer $\E T_n^4 \leq 3s_n^4$. (c) En déduire $\P\bigl(\abs{T_n} > \frac{s_n}2\bigr) \geq \frac3{16}$ et conclure que $\sum_nx_n\varepsilon_n$ diverge p.s. ; d’où la dichotomie $$\sum_nx_n\varepsilon_n\ \text{converge p.s.} \iff \sum_nx_n^2 < \infty .$$ 16. (Série harmonique aléatoire) Conclure que $\sum_n\frac{\varepsilon_n}{n^s}$ converge p.s. ssi $s > \frac12$ . Pour $\frac12 < s \leq 1$ la série converge p.s. tandis que $\sum_nn^{-s} = \infty$ : les signes aléatoires produisent une annulation de force racine carrée — comparer avec la série alternée $\sum_n\frac{(-1)^n}{n^s}$ , qui converge pour *tout* $s > 0$ . **Partie VI — Concentration : inégalité de Hoeffding.** La [loi](#def-b3-probability-space) forte dit $\frac{S_n}n \to m$ ; les inégalités de concentration disent à quel point une déviation est improbable *à chaque $n$ fixé*. 17. (Lemme de Hoeffding) (a) Montrer $\cosh\lambda \leq \eu^{\lambda^2/2}$ pour tout $\lambda \in \R$, en comparant les deux séries terme à terme. (b) Soit $Z$ centrée avec $a \leq Z \leq b$, $a < b$. Montrer $$\E\,\eu^{\lambda Z} \leq \exp\Bigl(\frac{\lambda^2(b - a)^2}8\Bigr)$$ *(borner $\eu^{\lambda z}$ sur $\intcc ab$ par sa corde, prendre les [espérances](#def-b3-probability-space), et étudier $\varphi(t) = -pt + \log(1 - p + p\eu^t)$ avec $p = \frac{-a}{b-a}$ et $t = \lambda(b - a)$ : montrer $\varphi(0) = \varphi'(0) = 0$ et $\varphi'' \leq \frac14$)*. 18. (Inégalité de Hoeffding) Soient $X_1, \dots, X_n$ [indépendantes](#def-b3-probability-independence) avec $a_i \leq X_i \leq b_i$ et $S_n = X_1 + \dots + X_n$. Prouver, pour $t > 0$, $$\P\bigl(S_n - \E S_n \geq t\bigr) \leq \exp\Bigl(\frac{-2t^2}{\sum_{i=1}^n(b_i - a_i)^2}\Bigr),$$ et la même borne pour la queue inférieure *(Bienaymé–Tchebychev exponentiel : borner $\E\,\eu^{\lambda(S_n - \E S_n)}$ via l’[indépendance](#def-b3-probability-independence) et la question 17, puis optimiser en $\lambda > 0$)*. 19. (La [loi](#def-b3-probability-space) forte, cas borné, avec un taux) Soient les $X_i$ i.i.d. à valeurs dans $\intcc ab$ et $m = \E X_1$. Montrer $$\P\Bigl(\Bigl|\frac{S_n}n - m\Bigr| \geq \varepsilon\Bigr) \leq 2\exp\Bigl(\frac{-2n\varepsilon^2}{(b - a)^2}\Bigr)$$ et récupérer $\frac{S_n}n \to m$ p.s. par Borel–Cantelli : une seconde preuve de la [loi](#def-b3-probability-space) forte pour des variables bornées — pas de troncature, un taux exponentiel à chaque $n$ fini, mais des summands bornés et l’[indépendance](#def-b3-probability-independence) totale. Comparer les hypothèses avec celles d’Etemadi. 20. ([Monte-Carlo](#ex-b3-probability-sllnapps), garanti à $n$ fixé) Soit $g \colon \intcc01^d \to \intcc01$ [mesurable](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-measurable) et $(U_k)$ l’échantillon i.i.d. uniforme de la question 11. Étant donnés $\varepsilon, \delta > 0$, montrer $$n \geq \frac{\log(2/\delta)}{2\varepsilon^2} \implies \P\Bigl(\Bigl|\frac1n\sum_{k=1}^ng(U_k) - \int g\,\dd\lambda_d\Bigr| \geq \varepsilon\Bigr) \leq \delta,$$ et évaluer le seuil pour $\varepsilon = \delta = 10^{-2}$. La borne n’implique pas $d$ : comparer avec la question 11 et avec les grilles déterministes. **Partie VII — Quelle taille pour une marche aléatoire ? Vers le logarithme itéré.** Soit $S_n = \varepsilon_1 + \dots + \varepsilon_n$ la marche aléatoire [simple](https://one-course.com/books/math/5/fr/chapter/1-theorie-des-groupes#def-b3-groups-simple) construite sur des signes équitables i.i.d. 21. (Queues sous-gaussiennes) Montrer $\E\,\eu^{\lambda S_n} = (\cosh\lambda)^n \leq \eu^{n\lambda^2/2}$ et en déduire, pour $x > 0$, $$\P(S_n \geq x) \leq \eu^{-x^2/(2n)}, \qquad \P(\abs{S_n} \geq x) \leq 2\,\eu^{-x^2/(2n)} .$$ 22. En déduire, via Borel–Cantelli, $$\limsup_{n\to\infty}\frac{\abs{S_n}} {\sqrt{2n\log n}} \leq 1 \quad\text{p.s.}$$ *(pour $\eta > 0$, sommer les bornes de queue en $x = (1 + \eta)\sqrt{2n\log n}$, puis intersecter sur $\eta = \frac1p$)*. En particulier la marche vit à l’échelle TCL $\sqrt n$ à un facteur logarithmique près — bien en dessous de la borne grossière $\abs{S_n} \leq n$. 23. Le long de la sous-suite de doublement $n_j = 2^j$, montrer $$\limsup_{j\to\infty}\frac{S_{n_j}} {\sqrt{2n_j\log\log n_j}} \leq 1 \quad\text{p.s.},$$ et réfléchir : la *[loi](#def-b3-probability-space) du logarithme itéré* (Khinchin ; Hartman–Wintner pour des summands centrés $L^2$ généraux) affirme que $$\limsup_{n\to\infty}\frac{S_n} {\sqrt{2n\log\log n}} = 1 \quad\text{p.s.}$$ Expliquer précisément ce qui sépare l’estimée de sous-suite qu’on vient de prouver de la moitié supérieure de cet énoncé (il faut contrôler $\max_{n_j \leq n \leq n_{j+1}}S_n$ dans chaque bloc, ce qui demande une inégalité maximale à l’échelle *exponentielle*) et vérifier quantitativement que l’inégalité de la question 12 est trop faible pour cela. La moitié inférieure repose sur le second lemme de Borel–Cantelli appliqué à des blocs indépendants ; les deux moitiés sont du matériel honnête d’année 3 pour un cours de probabilités dédié. 24. (Déviation uniforme sur une classe finie) Soient $A_1, \dots, A_N$ des événements dans une expérience répétable, et estimer chaque probabilité par sa fréquence empirique $\hat p_i$ sur $n$ répétitions i.i.d. En combinant l’inégalité de Hoeffding avec une borne d’union, montrer $$\P\Bigl(\max_{i\leq N}\,\abs{\hat p_i - \P(A_i)} > \varepsilon\Bigr) \;\leq\; 2N\,\eu^{-2n\varepsilon^2},$$ et en déduire la règle de taille d’échantillon : $n \geq \frac{\ln(2N/\delta)}{2\varepsilon^2}$ garantit que les $N$ estimations sont simultanément $\varepsilon$-exactes avec probabilité $\geq 1 - \delta$. Calculer $n$ pour $N = 10^6$, $\varepsilon = 0.01$, $\delta = 0.05$ : le prix logarithmique de l’uniformité. 25. (La fenêtre harmonique aléatoire) En combinant les deux moitiés de la théorie des séries aléatoires, montrer que pour des signes i.i.d. $(\varepsilon_n)$ la série $\sum_n\frac{\varepsilon_n}{n^\alpha}$ converge p.s. si $\alpha > \frac12$ et diverge p.s. si $\alpha \leq \frac12$ ; contraster avec la convergence absolue (qui exige $\alpha > 1$ ) : sur la fenêtre $\alpha \in \intoc{\frac12}1$ , la convergence est un phénomène véritablement probabiliste — annulation, non taille. **Solution de Problème 22.1.** **1.** $X_n^{\pm}$ sont des fonctions boréliennes de $X_n$ : elles restent deux à deux [indépendantes](#def-b3-probability-independence) ([Exercice 22.3](#exo-b3-probability-3)(a)) et identiquement distribuées, [intégrables](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-l1), avec $\E X_1 = \E X_1^+ - \E X_1^-$. Si le théorème vaut pour des variables positives, l’appliquer aux deux moitiés et soustraire : $\frac{S_n}n = \frac{S_n^+}n - \frac{S_n^-}n \to \E X_1^+ - \E X_1^- = m$ p.s. **2.** $\P(X_n \neq Y_n) = \P(X_n > n) = \P(X_1 > n)$ ([lois](#def-b3-probability-space) identiques), et $\sum_n\P(X_1 > n) \leq \sum_n\P(X_1 \geq n) \leq \E X_1 < \infty$ ([Exercice 11.3](https://one-course.com/books/math/5/fr/chapter/11-mesures-produit-fubini-changement-de-variables#exo-b3-product-3)(a)). Borel–Cantelli (1) : p.s. $X_n = Y_n$ pour tout $n$ assez grand, donc $S_n - S_n^*$ est éventuellement constant en $n$ : $\frac{S_n - S_n^*}n \to 0$ p.s., et les deux sommes normalisées partagent leur comportement asymptotique. **3.** $X_1\mathbf 1_{X_1 \leq n} \nearrow X_1$ : le théorème de convergence monotone donne $\E Y_n \to m$ ; les moyennes de Cesàro d’une suite convergente convergent vers la même limite : $\frac{\E S_n^*}n = \frac1n\sum_{k\leq n}\E Y_k \to m$. Il suffit donc de prouver $\frac{S^*_n - \E S^*_n}{n} \to 0$ p.s. **4.** $\V(Y_n) \leq \E Y_n^2 = \E[X_1^2\mathbf 1_{X_1\leq n}]$. Par Tonelli pour les séries, $$ \sum_n\frac{\E[X_1^2\mathbf 1_{X_1\leq n}]}{n^2} = \E\Bigl[X_1^2\!\!\sum_{n \geq \max(X_1, 1)}\!\frac1{n^2} \Bigr] \leq \E\Bigl[X_1^2\cdot\frac{4}{\max(X_1,1)}\Bigr] \leq 4\,\E[X_1] < \infty, $$ en utilisant $\sum_{n\geq x}n^{-2} \leq \frac4x$ pour $x \geq 1$ (pour $x \geq 2$ : $\leq \frac1{x-1} \leq \frac2x$ ; pour $1 \leq x < 2$ : $\leq \frac{\pi^2}6 \leq \frac4x$ car $\frac4x > 2$), et $X_1^2/\max(X_1, 1) \leq X_1$ dans les deux cas $X_1 \gtrless 1$. **5.** L’[indépendance](#def-b3-probability-independence) deux à deux donne $\E[(Y_i - \E Y_i)(Y_j - \E Y_j)] = 0$ pour $i \neq j$ (la formule produit pour deux variables), donc les variances s’additionnent : $\V(S^*_k) = \sum_{n\leq k}\V(Y_n)$. Bienaymé–Tchebychev sur chaque $k_j$ et sommation : $$ \sum_j\P\Bigl(\abs{S^*_{k_j} - \E S^*_{k_j}} \geq \varepsilon k_j\Bigr) \leq \frac1{\varepsilon^2}\sum_j\frac1{k_j^2}\sum_{n\leq k_j}\V(Y_n) = \frac1{\varepsilon^2}\sum_n\V(Y_n)\!\!\sum_{j : k_j\geq n}\!\frac1{k_j^2} $$ (Tonelli pour la double série positive). **6.** $k_j = \lfloor\alpha^j\rfloor \geq \frac{\alpha^j}2$ (valide une fois $\alpha^j \geq 1$, c’est-à-dire tout $j \geq 0$ : $\lfloor x\rfloor \geq \frac x2$ pour $x \geq 1$). D’où $$ \sum_{j : k_j \geq n}\frac1{k_j^2} \leq 4\sum_{j : \alpha^j \geq n}\alpha^{-2j} \leq \frac{4}{1 - \alpha^{-2}}\cdot\frac1{n^2} = \frac{C_\alpha}{n^2}, $$ (série géométrique depuis le premier $j$ avec $\alpha^j \geq n$). En combinant avec les questions 4–5, la double somme est finie ; Borel–Cantelli (1), appliqué pour chaque $\varepsilon$ rationnel et intersecté, donne $\frac{S^*_{k_j} - \E S^*_{k_j}}{k_j} \to 0$ p.s., et avec la question 3 : $\frac{S^*_{k_j}}{k_j} \to m$ p.s. **7.** $Y_n \geq 0$ rend $n \mapsto S^*_n$ croissante : pour $k_j \leq n \leq k_{j+1}$, $$ \frac{S^*_{k_j}}{k_{j+1}} \leq \frac{S^*_n}{n} \leq \frac{S^*_{k_{j+1}}}{k_j}, $$ qui est le sandwich affiché après insertion de $\frac{k_j}{k_{j+1}}$ et $\frac{k_{j+1}}{k_j}$. Comme $\frac{k_{j+1}}{k_j} \to \alpha$, la question 6 donne p.s. $$ \frac m\alpha \leq \liminf_n\frac{S^*_n}n \leq \limsup_n\frac{S^*_n}n \leq \alpha m . $$ **8.** Appliquer la question 7 pour $\alpha = 1 + \frac1p$, $p \in \N^*$ : dénombrablement beaucoup d’événements p.s. ; sur leur intersection, en faisant $p \to \infty$ : $\lim\frac{S^*_n}n = m$ p.s. Avec les questions 1–3, $\frac{S_n}n \to \E X_1$ p.s. : la [loi](#def-b3-probability-space) forte des grands nombres, sous [indépendance](#def-b3-probability-independence) deux à deux. **9.** Les hypothèses de type [indépendance](#def-b3-probability-independence) sont apparues trois fois : (i) additivité des variances (question 5) — deux à deux suffit ; (ii) [loi](#def-b3-probability-space) identique, dans les sommes de troncature (question 2) et le calcul de moyenne (question 3) — aucune [indépendance](#def-b3-probability-independence) ; (iii) Borel–Cantelli (1) (questions 2 et 6) — valide sans aucune [indépendance](#def-b3-probability-independence). L’[indépendance](#def-b3-probability-independence) mutuelle totale n’a jamais été invoquée : l’observation d’Etemadi. **10.** Fixer une [base](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-basis) $b$ et un chiffre $r$. Les chiffres en [base](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-basis) $b$ $(d_k)$ d’un $\omega$ uniforme sont i.i.d. uniformes sur $\{0, \dots, b-1\}$ (chaque valeur de vecteur de chiffres occupe un intervalle de longueur $b^{-m}$ : l’argument du [Théorème 22.6](#thm-b3-probability-existence) mot pour mot). La [loi](#def-b3-probability-space) forte appliquée aux variables bornées i.i.d. $\mathbf 1_{d_k = r}$ donne : p.s., la fréquence du chiffre $r$ tend vers $\frac1b$. En intersectant sur les dénombrablement beaucoup de paires $(b, r)$ : presque tout nombre est *simplement [normal](https://one-course.com/books/math/5/fr/chapter/1-theorie-des-groupes#def-b3-groups-normal) dans toute [base](https://one-course.com/books/math/5/fr/chapter/6-topologie-generale#def-b3-topology-basis)*. Un nombre non [normal](https://one-course.com/books/math/5/fr/chapter/1-theorie-des-groupes#def-b3-groups-normal) explicite : $x = 0.100100100\ldots_2$ (fréquence des uns $\frac13 \neq \frac12$). Le contraste est humble : presque tous les nombres sont normaux, et pourtant pour $\sqrt2$, $\eu$ ou $\pi$ la normalité reste non prouvée — la théorie de la [mesure](https://one-course.com/books/math/5/fr/chapter/9-theorie-de-la-mesure#def-b3-measure-measure) compte sans exhiber. **11.** Par l’[Exercice 22.10](#exo-b3-probability-10) itéré, une seule variable uniforme fournit une suite de *vecteurs* i.i.d. uniformes $U_k$ sur $\intcc01^d$ (scinder l’ensemble des chiffres de chaque $U_n$ du [Théorème 22.6](#thm-b3-probability-existence) en $d$ sous-familles). Pour $g \in L^1(\intcc01^d)$, les variables $g(U_k)$ sont i.i.d. [intégrables](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-l1) d’[espérance](#def-b3-probability-space) $\int g\,\dd\lambda_d$ (transfert) : la [loi](#def-b3-probability-space) forte donne $$ \frac1n\sum_{k=1}^ng(U_k) \xrightarrow[n\to\infty]{\text{p.s.}} \int_{\intcc01^d}g\,\dd\lambda_d : $$ l’intégration de [Monte-Carlo](#ex-b3-probability-sllnapps) converge presque sûrement, en toute dimension — la taille de l’erreur est l’affaire du théorème central limite ([Chapitre 23](https://one-course.com/books/math/5/fr/chapter/23-fonctions-caracteristiques-et-theoreme-central-limite#ch-b3-clt)). **12.** Soient $A_k = \{\abs{S_k} \geq \varepsilon\} \cap \bigcap_{j \varepsilon\Bigr) \leq \frac1{\varepsilon^2}\sum_{j=N+1}^{N+m}\V(Z_j) \leq \frac{r_N}{\varepsilon^2}, \qquad r_N = \sum_{j>N}\V(Z_j) . $$ Les événements croissent avec $m$ ; la continuité par le bas donne $\P(\sup_{k>N}\abs{S_k - S_N} > \varepsilon) \leq r_N/\varepsilon^2$, et $r_N \to 0$ par hypothèse. Donc pour chaque $p \in \N^*$, $\P\bigl(\bigcap_N\{\sup_{k>N}\abs{S_k - S_N} > \frac1p\}\bigr) \leq \inf_Np^2r_N = 0$ : presque sûrement, pour tout $p$ il existe $N$ avec $\sup_{k>N}\abs{S_k - S_N} \leq \frac1p$ (intersecter les dénombrablement beaucoup d’événements p.s. sur $p$), de sorte que $\abs{S_k - S_l} \leq \frac2p$ pour tous $k, l > N$ : les sommes partielles sont p.s. de Cauchy, donc p.s. convergentes. **14.** Les variables $Z_n = x_n\varepsilon_n$ sont [indépendantes](#def-b3-probability-independence) (fonctions boréliennes de variables [indépendantes](#def-b3-probability-independence), [Exercice 22.3](#exo-b3-probability-3)(a)), centrées, avec $\V(Z_n) = x_n^2$ : la question 13 s’applique quand $\sum_nx_n^2 < \infty$ et donne la convergence p.s. En général, pour chaque $N$ la convergence de $\sum_nx_n\varepsilon_n$ n’est pas affectée par les valeurs de $\varepsilon_1, \dots, \varepsilon_N$ : l’événement de convergence est dans la $\sigma$-algèbre de queue de la suite indépendante $(\varepsilon_n)$, donc la [loi du zéro-un](#thm-b3-probability-zeroone) de Kolmogorov ([Théorème 22.9](#thm-b3-probability-zeroone)) force sa probabilité à être $0$ ou $1$. **15.** (a) En scindant au niveau $\theta\E Z$ et en utilisant Cauchy–Schwarz sur le morceau supérieur, $$ \E Z = \E\bigl[Z\mathbf 1_{Z \leq \theta\E Z}\bigr] + \E\bigl[Z\mathbf 1_{Z > \theta\E Z}\bigr] \leq \theta\,\E Z + \sqrt{\E Z^2}\, \sqrt{\P(Z > \theta\E Z)} , $$ donc $(1 - \theta)\E Z \leq \sqrt{\E Z^2\,\P(Z > \theta\E Z)}$ ; élever au carré. (b) Développer $$ T_n^4 = \sum_{i,j,k,l}x_ix_jx_kx_l\, \E[\varepsilon_i\varepsilon_j\varepsilon_k\varepsilon_l]~: $$ l’[espérance](#def-b3-probability-space) vaut $1$ quand les [indices](https://one-course.com/books/math/5/fr/chapter/16-fonctions-holomorphes#def-b3-holomorphic-index) s’apparient (tous quatre égaux, ou deux paires distinctes, ces dernières en $3$ arrangements) et $0$ sinon (un signe non apparié a une moyenne nulle et se factorise par [indépendance](#def-b3-probability-independence)). D’où $$ \E T_n^4 = \sum_kx_k^4 + 3\sum_{i\neq j}x_i^2x_j^2 = 3s_n^4 - 2\sum_kx_k^4 \leq 3s_n^4 . $$ (c) Paley–Zygmund avec $Z = T_n^2$, $\E Z = s_n^2$, $\theta = \frac14$ : $$ \P\Bigl(\abs{T_n} > \frac{s_n}2\Bigr) = \P\Bigl(T_n^2 > \frac{s_n^2}4\Bigr) \geq \Bigl(\frac34\Bigr)^2 \frac{s_n^4}{3s_n^4} = \frac3{16} . $$ Si la série convergeait avec probabilité positive, elle convergerait p.s. (question 14), donc $\sup_n\abs{T_n} < \infty$ p.s., et un certain $M$ satisferait $\P(\sup_n\abs{T_n} > M) < \frac3{16}$ ; mais dès que $s_n > 2M$, $\P(\abs{T_n} > M) \geq \P(\abs{T_n} > \frac{s_n}2) \geq \frac3{16}$ : contradiction. Donc la divergence est presque sûre, et avec la question 14 la dichotomie est complète. **16.** Ici $x_n = n^{-s}$ et $\sum_nn^{-2s} < \infty$ exactement quand $s > \frac12$ : par les questions 14–15, $\sum_n\frac{\varepsilon_n}{n^s}$ converge p.s. ssi $s > \frac12$ (pour $s \leq \frac12$, divergence p.s.). Pour $\frac12 < s \leq 1$ la convergence n’est jamais absolue. La comparaison est instructive : des signes parfaitement alternés s’annulent à la force $n^{-s}$ pour tout $s > 0$, tandis que des signes aléatoires typiques s’annulent seulement à la force racine carrée — la marche aléatoire de la question 21 croît comme $\sqrt n$, et la sommation d’Abel convertit exactement cette croissance en convergence de $\sum\varepsilon_nn^{-s}$ pour $s > \frac12$. **17.** (a) $\cosh\lambda = \sum_k\frac{\lambda^{2k}}{(2k)!}$ et $\eu^{\lambda^2/2} = \sum_k\frac{\lambda^{2k}}{2^kk!}$ ; et $(2k)! \geq 2^kk!$ vaut terme à terme, car $\frac{(2k)!}{k!} = \prod_{i=1}^k(k + i) \geq \prod_{i=1}^k(2i) = 2^kk!$ (chaque facteur vérifie $k + i \geq 2i$ pour $i \leq k$), de sorte qu’en fait $(2k)! \geq 2^k(k!)^2 \geq 2^kk!$. (b) Noter $a \leq 0 \leq b$ ($Z$ est centrée), et par convexité de $z \mapsto \eu^{\lambda z}$, pour $z \in \intcc ab$ : $$ \eu^{\lambda z} \leq \frac{b - z}{b - a}\,\eu^{\lambda a} + \frac{z - a}{b - a}\,\eu^{\lambda b}, \qquad\text{donc}\qquad \E\,\eu^{\lambda Z} \leq \frac{b\,\eu^{\lambda a} - a\,\eu^{\lambda b}}{b - a} = (1 - p)\eu^{-pt} + p\,\eu^{(1-p)t} = \eu^{\varphi(t)} $$ avec $p = \frac{-a}{b-a} \in \intcc01$, $t = \lambda(b - a)$, $\varphi(t) = -pt + \log(1 - p + p\eu^t)$. Alors $\varphi(0) = 0$, $\varphi'(t) = -p + \frac{p\eu^t}{1 - p + p\eu^t}$ s’annule en $0$, et $\varphi''(t) = \rho(1 - \rho) \leq \frac14$ pour $\rho = \frac{p\eu^t}{1 - p + p\eu^t} \in \intcc01$ : Taylor à l’ordre $2$ donne $\varphi(t) \leq \frac{t^2}8 = \frac{\lambda^2(b-a)^2}8$. **18.** Pour $\lambda > 0$, Markov appliqué à la variable positive $\eu^{\lambda(S_n - \E S_n)}$ ([Proposition 22.3](#prop-b3-probability-markov)) et la formule produit pour des variables [indépendantes](#def-b3-probability-independence) donnent $$ \P(S_n - \E S_n \geq t) \leq \eu^{-\lambda t}\prod_{i=1}^n\E\,\eu^{\lambda(X_i - \E X_i)} \leq \exp\Bigl(-\lambda t + \frac{\lambda^2}8\sum_i(b_i - a_i)^2\Bigr), $$ par la question 17(b) appliquée à chaque $X_i - \E X_i$ centrée $\in \intcc{a_i - \E X_i}{b_i - \E X_i}$ (même largeur). En minimisant l’exposant en $\lambda = \frac{4t}{D}$, $D = \sum_i(b_i - a_i)^2$, on obtient $-\frac{2t^2}D$. La queue inférieure suit en appliquant le résultat à $(-X_i)$. **19.** Prendre $t = n\varepsilon$ et $D = n(b - a)^2$ : $$ \P\Bigl(\Bigl|\frac{S_n}n - m\Bigr| \geq \varepsilon\Bigr) \leq 2\exp\Bigl(\frac{-2n^2\varepsilon^2}{n(b-a)^2}\Bigr) = 2\exp\Bigl(\frac{-2n\varepsilon^2}{(b-a)^2}\Bigr), $$ qui est sommable en $n$ (série de type géométrique) : Borel–Cantelli ([Théorème 22.8](#thm-b3-probability-borelcantelli)) donne que p.s. $\abs{\frac{S_n}n - m} < \varepsilon$ éventuellement ; en intersectant sur $\varepsilon = \frac1p$ on obtient $\frac{S_n}n \to m$ p.s. Comparaison : Etemadi ne demande que $X_1 \in L^1$ et l’[indépendance](#def-b3-probability-independence) deux à deux, et ne délivre aucun taux ; Hoeffding demande la bornitude et l’[indépendance](#def-b3-probability-independence) totale, et délivre une garantie exponentielle explicite à chaque $n$ fini — les deux théorèmes répondent à des questions différentes sur la même limite. **20.** Les $g(U_k)$ sont i.i.d. à valeurs dans $\intcc01$ d’[espérance](#def-b3-probability-space) $\int g\,\dd\lambda_d$ (transfert), donc la question 18 avec $b_i - a_i = 1$, $t = n\varepsilon$ donne la borne bilatère $2\eu^{-2n\varepsilon^2} \leq \delta$ dès que $\eu^{2n\varepsilon^2} \geq \frac2\delta$, c’est-à-dire $n \geq \frac{\log(2/\delta)}{2\varepsilon^2}$. Pour $\varepsilon = \delta = 10^{-2}$ : $$ n \geq \frac{\log 200}{2\cdot10^{-4}} = \frac{5.2983\ldots}{0.0002} \approx 26\,492 : $$ environ $26\,500$ échantillons garantissent une précision de $1\%$ avec une confiance de $99\%$ — en toute dimension $d$, pour tout intégrande [mesurable](https://one-course.com/books/math/5/fr/chapter/10-lintegrale-de-lebesgue#def-b3-lebesgue-measurable) à valeurs dans $\intcc01$. La [loi](#def-b3-probability-space) forte de la question 11 promettait la convergence sans garantie à $n$ fini ; une grille déterministe à $k$ points par axe coûte $k^d$ évaluations, exponentiel en $d$. La concentration est ce qui fait du [Monte-Carlo](#ex-b3-probability-sllnapps) une *méthode* plutôt qu’un espoir. **21.** [Indépendance](#def-b3-probability-independence) et formule produit : $\E\,\eu^{\lambda S_n} = (\E\,\eu^{\lambda\varepsilon_1})^n = (\cosh\lambda)^n \leq \eu^{n\lambda^2/2}$ par la question 17(a). Markov sur $\eu^{\lambda S_n}$ : $$ \P(S_n \geq x) \leq \eu^{-\lambda x + n\lambda^2/2} = \eu^{-x^2/(2n)} \qquad\text{à l'optimum } \lambda = \frac xn, $$ et la borne symétrique pour $-S_n$ (même [loi](#def-b3-probability-space)) double la constante pour $\abs{S_n}$. **22.** Fixer $\eta > 0$ et poser $x_n = (1 + \eta)\sqrt{2n\log n}$ pour $n \geq 2$ : $$ \P(\abs{S_n} \geq x_n) \leq 2\exp\bigl(-(1 + \eta)^2\log n\bigr) = \frac{2}{n^{(1+\eta)^2}}, $$ sommable car $(1 + \eta)^2 > 1$. Borel–Cantelli : p.s. $\abs{S_n} < (1 + \eta)\sqrt{2n\log n}$ pour tout $n$ assez grand, donc $\limsup_n\frac{\abs{S_n}}{\sqrt{2n\log n}} \leq 1 + \eta$ p.s. ; en intersectant les événements p.s. pour $\eta = \frac1p$, $p \in \N^*$, on obtient l’affirmation. La marche de taille $n$ a une amplitude typique $\sqrt n$ (sa variance), et même ses pires excursions ne dépassent cette échelle que d’au plus $\sqrt{2\log n}$. **23.** Avec $n_j = 2^j$ et $x = (1 + \eta)\sqrt{2n_j\log\log n_j}$ (défini pour $j \geq 2$), la question 21 donne $$ \P\bigl(S_{n_j} \geq x\bigr) \leq \exp\bigl(-(1 + \eta)^2\log\log n_j\bigr) = (j\log 2)^{-(1+\eta)^2}, $$ sommable en $j$ car $(1 + \eta)^2 > 1$ : Borel–Cantelli et $\eta = \frac1p$ donnent $\limsup_jS_{n_j}/\sqrt{2n_j \log\log n_j} \leq 1$ p.s. Ce qui manque pour la moitié supérieure complète est le pont entre les points de contrôle : il faut montrer que $\max_{n_j\leq n\leq n_{j+1}}S_n$ dépasse $(1+\eta)\sqrt{2n_j\log\log n_j}$ seulement un nombre fini de fois, ce qui demande une inégalité maximale à queues *gaussiennes* (inégalité de réflexion de Lévy ou d’Ottaviani, non prouvée ici). La question 12 est quantitativement trop faible : elle borne la probabilité par $$ \frac{n_j}{(1+\eta)^2\,2n_j\log\log n_j} = \frac{1}{2(1+\eta)^2\log(j\log2)}, $$ qui tend vers $0$ mais n’est *pas sommable* en $j$ : Borel–Cantelli ne peut conclure. La moitié inférieure de la [loi](#def-b3-probability-space) du logarithme itéré applique le second lemme de Borel–Cantelli aux incréments indépendants $S_{n_{j+1}} - S_{n_j}$, en utilisant des bornes inférieures correspondantes pour des queues de type gaussien. Les deux raffinements sont du matériel honnête d’année 3 de probabilités, un cours plus loin ; ce que ce problème délivre sans aide est l’échelle [exacte](https://one-course.com/books/math/5/fr/chapter/21-formes-differentielles-et-theoreme-de-stokes#def-b3-forms-closedexact) du logarithme itéré le long des temps géométriques. **24.** Chaque $\hat p_i$ est une moyenne de $n$ variables indicateurs i.i.d. à valeurs dans $\intcc01$ d’[espérance](#def-b3-probability-space) $\P(A_i)$ : Hoeffding donne $\P(\abs{\hat p_i - \P(A_i)} > \varepsilon) \leq 2\eu^{-2n\varepsilon^2}$. La borne d’union multiplie par $N$. En résolvant $2N\eu^{-2n\varepsilon^2} \leq \delta$ : $n \geq \frac{\ln(2N/\delta)}{2\varepsilon^2}$. Numériquement : $\ln\frac{2\cdot10^6}{0.05} = \ln(4\cdot10^7) \approx 17.5$, donc $n \geq \frac{17.5}{2\cdot10^{-4}} \approx 87\,600$ : estimer *une* probabilité à $\pm1\%$ prend environ $18\,500$ échantillons ($\ln(2/\delta)/2\varepsilon^2$), et un *million* de probabilités seulement $\approx 4.7$ fois plus — l’uniformité coûte $\ln N$, non $N$ : l’observation qui rend la minimisation du risque empirique, et avec elle l’apprentissage automatique, statistiquement possible. **25.** Les variables $X_n = \frac{\varepsilon_n} {n^\alpha}$ sont [indépendantes](#def-b3-probability-independence), centrées, bornées, avec $\sum_n\V(X_n) = \sum_nn^{-2\alpha}$. Si $\alpha > \frac12$ : la série des variances converge, et le théorème à une série (Partie VI) donne la convergence p.s. de $\sum X_n$. Si $\alpha \leq \frac12$ : la série des variances diverge, et la moitié réciproque (argument de Paley–Zygmund de la Partie VI, applicable car les summands sont bornés par $1$) donne la divergence p.s. La convergence absolue demande $\sum n^{-\alpha} < \infty$ : $\alpha > 1$. Sur $\intoc{\frac12}1$, la série converge p.s. bien que $\sum\abs{X_n} = \infty$ sûrement : les signes conspirent pour s’annuler, avec probabilité un — convergence par annulation, invisible à tout test absolu, et (par la [loi du zéro-un](#thm-b3-probability-zeroone)) avec un verdict déterministe tout de même.