Matemática universitária — Graduação 3 · Bachelor Year 3

23Funções características e o teorema central do limite

A lei dos grandes números diz que as médias convergem; o teorema central do limite diz como elas flutuam: o erro, ampliado por $\sqrt n$ , é assintoticamente gaussiano — qualquer que seja a lei de partida. Essa universalidade é o fato mais profundo da probabilidade elementar, e sua demonstração natural é de análise de Fourier: a função característica (a transformada de Fourier de uma lei) converte somas independentes em produtos, e o maquinário do Capítulo 14 — injetividade, pontos fixos gaussianos — converte a convergência pontual desses produtos em convergência de leis (teorema de Lévy, demonstrado por inteiro). O capítulo termina com os vetores gaussianos e a dedução honesta dos intervalos de confiança usados em toda a estatística; o problema de fim de semana dá a segunda demonstração do teorema central do limite, a de Lindeberg, com taxa de erro explícita.

23.1 Funções características

Definição 23.1

A função característica de uma variável aleatória real $X$ é

\varphi_X(\xi) = \E\bigl[\eu^{\iu\xi X}\bigr] = \int_\R \eu^{\iu\xi x}\,\dd\P_X(x) \qquad (\xi \in \R)

(o teorema de transferência a calcula a partir da lei; para uma densidade $f$ , $\varphi_X(\xi) = \hat f(-\xi)$ na convenção do Capítulo 14).

Proposição 23.2

(a) $\varphi_X(0) = 1$ , $\abs{\varphi_X} \leq 1$ , e $\varphi_X$ é uniformemente contínua; $\varphi_{aX + b}(\xi) = \eu^{\iu b\xi}\varphi_X(a\xi)$ . (b) Se $X, Y$ são independentes: $\varphi_{X+Y} = \varphi_X\,\varphi_Y$ . (c) Se $\E\abs X^k < \infty$ , então $\varphi_X \in \mathcal C^k$ com $\varphi_X^{(j)}(0) = \iu^j\,\E[X^j]$ para $j \leq k$ ; em particular, para $X \in L^2$ centrada de variância $\sigma^2$ :

\varphi_X(\xi) = 1 - \frac{\sigma^2\xi^2}{2} + o(\xi^2) \qquad (\xi \to 0).

(d) Gaussiana: $X \sim \mathcal N(m, \sigma^2)$ tem $\varphi_X(\xi) = \eu^{\iu m\xi - \sigma^2\xi^2/2}$ .

Demonstração. (a) As cotas são imediatas; continuidade: $\abs{\varphi(\xi + h) - \varphi(\xi)} \leq \E\abs{\eu^{\iu hX} - 1} \to 0$ quando $h \to 0$ , por convergência dominada, uniformemente em $\xi$ . A regra afim é uma substituição. (b) $\eu^{\iu\xi(X+Y)} = \eu^{\iu\xi X}\eu^{\iu\xi Y}$ , e as esperanças de produtos de variáveis independentes se fatorizam (Teorema 22.5, aplicado às partes real e imaginária). (c) Derivação sob a esperança, dominada por $\E\abs X^j$ (Teorema 10.15); a expansão de Taylor em $0$ é então Taylor–Young para a função $\varphi$ de classe $\mathcal C^2$ . (d) Para $\mathcal N(0,1)$ : a transformada da gaussiana (Exemplo 14.2 com $a = \frac12$ ) dá $\int\eu^{\iu\xi x}\frac{\eu^{-x^2/2}}{\sqrt{2\pi}}\dd x = \eu^{-\xi^2/2}$ ; o caso geral, pela regra afim. ∎

Teorema 23.3 (Injetividade)

Se $\varphi_X = \varphi_Y$ , então $X$ e $Y$ têm a mesma lei. Mais precisamente, para $N \sim \mathcal N(0,1)$ independente de $X$ e $\varepsilon > 0$ , a variável suavizada $X + \varepsilon N$ tem a densidade

p_\varepsilon(x) = \frac1{2\pi}\int_\R \varphi_X(-\xi)\,\eu^{-\varepsilon^2\xi^2/2}\, \eu^{\iu\xi x}\,\dd\xi ,

determinada apenas por $\varphi_X$ ; fazer $\varepsilon \to 0$ recupera a lei de $X$ .

Demonstração. $X + \varepsilon N$ tem densidade $p_\varepsilon(x) = \E\bigl[g_\varepsilon(x - X)\bigr]$ , em que $g_\varepsilon$ é a densidade $\mathcal N(0, \varepsilon^2)$ : com efeito, para $B$ boreliano, a independência e Tonelli dão $\P(X + \varepsilon N \in B) = \int\!\!\int\mathbf 1_B(x + \varepsilon n)g_1(n)\,\dd n\,\dd\P_X(x) = \int_B\E[g_\varepsilon(t - X)]\dd t$ (substitua e, depois, Tonelli de novo). Escrevendo $g_\varepsilon$ pela inversão de Fourier de sua transformada (Exercício 14.4, reescalada): $g_\varepsilon(u) = \frac1{2\pi}\int \eu^{-\varepsilon^2\xi^2/2}\eu^{\iu\xi u}\dd\xi$ , e Fubini (tudo dominado pelo fator gaussiano):

p_\varepsilon(x) = \frac1{2\pi}\int_\R \varphi_X(-\xi)\,\eu^{-\varepsilon^2\xi^2/2}\, \eu^{\iu\xi x}\,\dd\xi ,

um funcional apenas de $\varphi_X$ . Se $\varphi_X = \varphi_Y$ : $X + \varepsilon N$ e $Y + \varepsilon N$ têm leis iguais para todo $\varepsilon$ ; para $f$ contínua limitada, $\E f(X + \varepsilon N) \to \E f(X)$ quando $\varepsilon \to 0$ (convergência dominada, $X + \varepsilon N \to X$ pontualmente no espaço produto), de modo que $\E f(X) = \E f(Y)$ para toda tal $f$ — e isso determina a lei: para cada $t$ , comprima $\mathbf 1_{\intoc{-\infty}t}$ entre as rampas contínuas limitadas $f_k^\pm$ (iguais a $1$ em $\intoc{-\infty}{t \mp \frac1k}$ , a $0$ além de $t \pm \frac1k$ , e afins entre esses trechos); passando ao limite em $\E f_k^-(X) \leq F_X(t) \leq \E f_k^+(X)$ obtém-se $F_X(t) = F_Y(t)$ em todo $t$ em que ambas são contínuas, logo em toda parte, por continuidade à direita e pela densidade dos pontos de continuidade comuns (as duas $F$ têm um número enumerável de saltos); funções de distribuição iguais forçam leis iguais (Exercício 9.3, que repousa sobre o Teorema 9.7). ∎

23.2 Convergência em distribuição

Definição 23.4

$X_n$ converge em distribuição (ou em lei) para $X$ , o que se escreve $X_n \Rightarrow X$ , se

\E\bigl[f(X_n)\bigr] \longrightarrow \E\bigl[f(X)\bigr] \qquad\text{para toda contínua limitada } f\colon\R\to\R .

Equivalentemente (Exercício 23.4): $F_{X_n}(t) \to F_X(t)$ em todo ponto de continuidade $t$ de $F_X$ . Não é preciso que as $X_n$ vivam em um espaço de probabilidade comum: só as leis importam.

Teorema 23.5 (Teorema de seleção de Helly)

Toda sequência $(F_n)$ de funções de distribuição tem uma subsequência que converge pontualmente, em todo ponto de continuidade do limite, para uma função $G \colon \R \to \intcc01$ não decrescente e contínua à direita — possivelmente com $G(+\infty) - G(-\infty) < 1$ (a massa pode escapar para o infinito).

Demonstração. Uma extração diagonal dá $F_{n_k}(q) \to \ell(q)$ para todo racional $q$ (valores no compacto $\intcc01$ ). Defina $G(t) = \inf\{\ell(q) : q \in \Q, q > t\}$ : não decrescente; contínua à direita (um ínfimo sobre vizinhanças racionais que encolhem pela direita). Em um ponto de continuidade $t$ de $G$ : para racionais $q_1 < t < q_2$ ,

\ell(q_1) \leq \liminf F_{n_k}(t) \leq \limsup F_{n_k}(t) \leq \ell(q_2),

pela monotonicidade de cada $F_{n_k}$ . Da definição de $G$ como ínfimo e da monotonicidade de $\ell$ nos racionais: $G(s) \leq \ell(q) \leq G(q)$ sempre que $s < q$ . Tomando $s < q_1 < t$ obtém-se $\ell(q_1) \geq G(s)$ e $\ell(q_2) \leq G(q_2)$ ; fazendo $s \uparrow t$ e $q_2 \downarrow t$ , a continuidade de $G$ em $t$ comprime tanto o $\liminf$ quanto o $\limsup$ até $G(t)$ . ∎

Lema 23.6 (Tensão a partir da função característica)

Para uma variável aleatória $X$ qualquer e $u > 0$ :

\P\Bigl(\abs X \geq \frac2u\Bigr) \;\leq\; \frac1u\int_{-u}^{u}\bigl(1 - \operatorname{Re}\varphi_X(\xi)\bigr)\,\dd\xi .

Demonstração. Por Tonelli–Fubini (integrando limitado, região finita em $\xi$ ):

\frac1u\int_{-u}^u\bigl(1 - \operatorname{Re}\varphi_X(\xi)\bigr)\dd\xi = \E\Bigl[\frac1u\int_{-u}^u(1 - \cos(\xi X))\,\dd\xi\Bigr] = 2\,\E\Bigl[1 - \frac{\sin(uX)}{uX}\Bigr]

(interprete o colchete como seu limite $0$ em $X = 0$ ). O integrando é não negativo ( $\abs{\sin t} \leq \abs t$ ) e, para $\abs{uX} \geq 2$ : $1 - \frac{\sin(uX)}{uX} \geq 1 - \frac1{\abs{uX}} \geq \frac12$ . Manter apenas o evento $\{\abs{uX} \geq 2\}$ dentro da esperança deixa, portanto, ao menos $2 \cdot \frac12\,\P(\abs X \geq \frac2u)$ , que é o que se afirmava. ∎

Teorema 23.7 (Teorema da continuidade de Lévy)

Sejam $(X_n)$ variáveis aleatórias cujas funções características convergem pontualmente: $\varphi_{X_n}(\xi) \to \varphi(\xi)$ para todo $\xi$ , em que $\varphi = \varphi_X$ é a função característica de alguma variável aleatória $X$ . Então $X_n \Rightarrow X$ .

Demonstração. Tensão. Fixe $\varepsilon > 0$ . Como $\varphi$ é contínua em $0$ com $\varphi(0) = 1$ , escolha $u > 0$ com $\frac1u\int_{-u}^u(1 - \operatorname{Re}\varphi) < \varepsilon$ ; por convergência dominada (o integrando é limitado por $2$ no $[-u,u]$ fixado), a mesma integral para $\varphi_{X_n}$ é $< 2\varepsilon$ para $n$ grande: o Lema 23.6 dá $\P(\abs{X_n} \geq \frac2u) \leq 2\varepsilon$ para $n$ grande, e aumentar a constante cuida das finitas outras: as leis são tensas — nenhuma massa escapa.

Subsequências. Seja $(F_{n_k})$ uma subsequência qualquer; por Helly (Teorema 23.5), extraia $F_{n_{k_j}} \to G$ nos pontos de continuidade. A tensão força $G(-\infty) = 0$ , $G(+\infty) = 1$ ( $G(\frac2u) - G(-\frac2u) \geq 1 - 2\varepsilon$ nos pontos de continuidade): $G$ é uma função de distribuição genuína, de alguma variável aleatória $Y$ . Então $X_{n_{k_j}} \Rightarrow Y$ (Exercício 23.4, convergência em distribuição a partir das $F$ ), de modo que $\varphi_{X_{n_{k_j}}} \to \varphi_Y$ pontualmente ( $x \mapsto \eu^{\iu\xi x}$ é contínua e limitada, nas partes real e imaginária separadamente); comparando com a hipótese: $\varphi_Y = \varphi = \varphi_X$ , e a injetividade (Teorema 23.3) dá $Y \sim X$ , isto é, $G = F_X$ .

Conclusão. Toda subsequência de $(F_n)$ tem uma subsubsequência que converge à mesma $F_X$ (em seus pontos de continuidade); logo $F_n(t) \to F_X(t)$ em todo ponto de continuidade $t$ (uma sequência real cujas subsequências todas têm subsubsequências com o mesmo limite converge): $X_n \Rightarrow X$ . ∎

23.3 O teorema central do limite

Teorema 23.8 (Teorema central do limite)

Sejam $(X_n)$ i.i.d. com $\E X_1 = m$ e $\V(X_1) = \sigma^2 \in \intoo0\infty$ . Então

\frac{S_n - nm}{\sigma\sqrt n} \;\Longrightarrow\; \mathcal N(0, 1) : \qquad \P\Bigl(a \leq \frac{S_n - nm}{\sigma\sqrt n} \leq b\Bigr) \longrightarrow \frac{1}{\sqrt{2\pi}}\int_a^b\eu^{-x^2/2}\,\dd x

para todos $a < b$ .

Demonstração. Centre e normalize: $Z_i = \frac{X_i - m}{\sigma}$ (i.i.d., de média $0$ e variância $1$ ) e $T_n = \frac1{\sqrt n}\sum_{i\leq n}Z_i$ . Pela independência e pela regra afim (Proposição 23.2):

\varphi_{T_n}(\xi) = \varphi_{Z}\Bigl(\frac{\xi}{\sqrt n}\Bigr)^{n}, \qquad \varphi_Z(\eta) = 1 - \frac{\eta^2}2 + \eta^2\rho(\eta),\quad \rho(\eta)\to0 .

Fixe $\xi$ e ponha $a_n = \varphi_Z(\xi/\sqrt n)$ , $b_n = 1 - \frac{\xi^2}{2n}$ : ambos têm módulo $\leq 1$ para $n$ grande ( $\abs{b_n} \leq 1$ assim que $\xi^2 \leq 4n$ ; $\abs{a_n} \leq 1$ sempre). A desigualdade elementar $\abs{a^n - b^n} \leq n\abs{a - b}$ para $\abs a, \abs b \leq 1$ (telescopando $a^n - b^n = \sum a^k(a - b)b^{n-1-k}$ ) dá

\Bigl|\varphi_{T_n}(\xi) - \Bigl(1 - \frac{\xi^2}{2n}\Bigr)^{n}\Bigr| \leq n\,\Bigl|\varphi_Z\Bigl(\frac\xi{\sqrt n}\Bigr) - 1 + \frac{\xi^2}{2n}\Bigr| = \xi^2\,\Bigl|\rho\Bigl(\frac{\xi}{\sqrt n}\Bigr)\Bigr| \longrightarrow 0,

ao passo que $\bigl(1 - \frac{\xi^2}{2n}\bigr)^n \to \eu^{-\xi^2/2}$ (logaritmo real). Logo $\varphi_{T_n}(\xi) \to \eu^{-\xi^2/2} = \varphi_{\mathcal N(0,1)}(\xi)$ (Proposição 23.2(d)) para todo $\xi$ : Lévy (Teorema 23.7) conclui $T_n \Rightarrow \mathcal N(0,1)$ . As probabilidades de intervalos decorrem disso, pois $F_{\mathcal N}$ é contínua em toda parte. ∎

Exemplo 23.9 (Intervalos de confiança, deduzidos honestamente)

Consulte $n$ eleitores independentes; $\hat p_n = S_n/n$ estima o $p$ verdadeiro, com $\sigma^2 = p(1-p) \leq \frac14$ . O teorema central do limite dá, para $n$ grande,

\P\Bigl(\abs{\hat p_n - p} \leq \frac{z}{2\sqrt n}\Bigr) \;\geq\; \P\Bigl(\Bigl|\frac{S_n - np}{\sigma\sqrt n}\Bigr| \leq z\Bigr) \longrightarrow \Phi(z) - \Phi(-z),

em que $\Phi$ é a função de distribuição gaussiana padrão. Com $z = 1.96$ : confiança assintótica de $95\%$ , e uma margem $\frac{1.96}{2\sqrt n} \leq 3\%$ exige $n \geq \bigl(\frac{1.96}{0.06}\bigr)^2 \approx 1068$ — o número por trás de todo “ $\pm3$ pontos, $95\%$ ” que se lê por aí; compare com os $5556$ de Chebyshev (Exercício 22.7). O $\sqrt n$ é universal: para reduzir o erro à metade, quadruplique a amostra — a mesma lei que fixa o custo do Monte Carlo (Exercício 23.7).

23.4 Vetores gaussianos

Definição 23.10

Um vetor aleatório $X = (X_1, \dots, X_d)$ é gaussiano se toda combinação linear $\langle t, X\rangle = \sum t_iX_i$ é uma variável gaussiana real (possivelmente degenerada). Sua lei é determinada pelo vetor de médias $m = (\E X_i)$ e pela matriz de covariância $\Sigma = \bigl(\operatorname{Cov} (X_i, X_j)\bigr)$ : com efeito, a função característica do vetor, $\varphi_X(t) = \E\eu^{\iu\langle t, X\rangle}$ , é o valor em $1$ da função característica de $\langle t, X\rangle$ :

\varphi_X(t) = \exp\Bigl(\iu\langle t, m\rangle - \tfrac12\,t^{\mathsf T}\Sigma\,t\Bigr),

e as funções características em dimensão $d$ são injetoras (a mesma demonstração por suavização do Teorema 23.3, com gaussianas coordenada a coordenada).

Teorema 23.11

Seja $X$ um vetor gaussiano.

Toda imagem afim $AX + b$ é um vetor gaussiano.
As componentes $X_i$ são independentes se, e somente se, $\Sigma$ é diagonal: para variáveis conjuntamente gaussianas, não correlacionadas $=$ independentes.
Se $\Sigma$ é inversível, $X$ tem densidade $\frac{1}{(2\pi)^{d/2}\sqrt{\det\Sigma}} \exp\bigl(-\frac12(x - m)^{\mathsf T}\Sigma^{-1}(x - m)\bigr)$ .

Demonstração. (1) As combinações lineares das componentes de $AX + b$ são funções afins de combinações lineares de $X$ : gaussianas (uma imagem afim de uma variável gaussiana é gaussiana). (2) Se $\Sigma$ é diagonal, a função característica se fatoriza: $\varphi_X(t) = \prod_i\exp(\iu t_im_i - \frac12\Sigma_{ii}t_i^2) = \prod\varphi_{X_i}(t_i)$ , que é a função característica da lei produto (Teorema 22.5 lido através da injetividade em dimensão $d$ ): as componentes são independentes. A recíproca é o anulamento das covariâncias de variáveis $L^2$ independentes. (3) Diagonalize $\Sigma = P D P^{\mathsf T}$ ( $P$ ortogonal, $D > 0$ diagonal — Exercício 20.8); o vetor $Y = P^{\mathsf T}(X - m)$ é gaussiano de covariância $D$ : por (2), suas componentes são $\mathcal N(0, d_i)$ independentes, de modo que $Y$ tem a densidade produto; empurre-a para a frente pela aplicação $x = m + PY$ , que preserva volume (Teorema 11.10, $\abs{\det P} = 1$ ), e reescreva o expoente de maneira invariante. ∎

Teorema 23.12 (Teorema central do limite multidimensional)

Sejam $(X_n)$ vetores aleatórios i.i.d. de $\R^d$ , de quadrado integrável, com média $m$ e matriz de covariância $\Sigma$ . Então $\frac{S_n - nm}{\sqrt n}$ converge em distribuição ao vetor gaussiano $\mathcal N(0, \Sigma)$ .

Demonstração. Admitido neste nível. ∎

Observação 23.13

Quase tudo já está em nossas mãos. Para cada direção $t \in \R^d$ , a variável real $\langle t, \frac{S_n - nm}{\sqrt n}\rangle$ é uma soma normalizada de variáveis reais i.i.d. de variância $t^{\mathsf T}\Sigma t$ , de modo que o cálculo do Teorema 23.8 dá a convergência pontual das funções características em dimensão $d$ para $\eu^{-t^{\mathsf T}\Sigma t/2}$ , a função característica de $\mathcal N(0, \Sigma)$ (Definição 23.10). O que não redemonstramos é o teorema da continuidade de Lévy em $\R^d$ : a seleção de Helly e a estimativa de tensão se generalizam rotineiramente (coordenada a coordenada), e essa redução de Cramér–Wold é feita honestamente em qualquer curso de pós-graduação em probabilidade; nada além dos métodos deste capítulo é necessário.

Método 23.14

Para identificar uma lei-limite: calcule funções características, tome o limite pontual, reconheça-o (gaussiana $\eu^{-\sigma^2\xi^2/2}$ , Poisson $\eu^{\lambda(\eu^{\iu\xi}-1)}$ , exponencial $\frac{\lambda} {\lambda - \iu\xi}$ , …) e invoque Lévy. O ritual de três passos (independência $\to$ produto; Taylor em $0$ $\to$ limite exponencial; Lévy $\to$ convergência em lei) demonstra o teorema central do limite, a lei dos eventos raros de Poisson (Exercício 23.5) e todo teorema-limite clássico deste curso. Para enunciados q.c., volte à caixa de ferramentas do Capítulo 22: os dois capítulos respondem a perguntas diferentes sobre o mesmo $S_n$ .

23.5 Exercícios

Exercício 23.1 ★

Calcule as funções características: uniforme em $\intcc{-1}1$ ; exponencial $\mathcal E(\lambda)$ ; Poisson $\mathcal P(\lambda)$ ; binomial $\mathcal B(n, p)$ . Deduza pelo Teorema 23.3 que a soma de variáveis de Poisson independentes ( $\lambda, \mu$ ) é Poisson $(\lambda + \mu)$ .

Solução

Solução de Exercício 23.1.

Uniforme em $\intcc{-1}1$ : $\varphi(\xi) = \frac12\int_{-1}^1\eu^{\iu\xi x}\dd x = \frac{\sin\xi}{\xi}$ (igual a $1$ em $\xi = 0$ ). Exponencial $\mathcal E(\lambda)$ : $\varphi(\xi) = \lambda\int_0^\infty\eu^{(\iu\xi - \lambda)x}\dd x = \frac{\lambda}{\lambda - \iu\xi}$ (a primitiva se anula em $+\infty$ , pois $\operatorname{Re}(\iu\xi - \lambda) < 0$ ). Poisson $\mathcal P(\lambda)$ : pelo teorema de transferência para leis discretas,

\varphi(\xi) = \sum_{k\geq0}\eu^{\iu\xi k}\,\eu^{-\lambda}\frac{\lambda^k}{k!} = \eu^{-\lambda}\exp\bigl(\lambda\eu^{\iu\xi}\bigr) = \exp\bigl(\lambda(\eu^{\iu\xi} - 1)\bigr).

Binomial $\mathcal B(n, p)$ : uma soma de $n$ variáveis de Bernoulli independentes, cada uma de fc $1 - p + p\eu^{\iu\xi}$ , de modo que $\varphi(\xi) = \bigl(1 - p + p\eu^{\iu\xi}\bigr)^n$ (Proposição 23.2(b)). Aditividade de Poisson: se $X \sim \mathcal P(\lambda)$ , $Y \sim \mathcal P(\mu)$ são independentes,

\varphi_{X+Y}(\xi) = \eu^{\lambda(\eu^{\iu\xi}-1)} \eu^{\mu(\eu^{\iu\xi}-1)} = \eu^{(\lambda+\mu)(\eu^{\iu\xi}-1)},

a fc de $\mathcal P(\lambda + \mu)$ ; a injetividade (Teorema 23.3) identifica a lei.

Exercício 23.2 ★★

(a) Mostre que $\varphi_X$ toma valores reais se, e somente se, $X$ e $-X$ têm a mesma lei (uma variável simétrica). (b) Suponha $\abs{\varphi_X(\xi_0)} = 1$ para algum $\xi_0 \neq 0$ . Mostre que $X$ está quase certamente concentrada em uma progressão aritmética $a + \frac{2\pi}{\xi_0}\Z$ (escreva $\varphi_X(\xi_0) = \eu^{\iu\theta}$ e calcule $\E[1 - \cos(\xi_0X - \theta)]$ ). Deduza que, se $X$ tem densidade, então $\abs{\varphi_X(\xi)} < 1$ para todo $\xi \neq 0$ .

Solução

Solução de Exercício 23.2.

(a) $\overline{\varphi_X(\xi)} = \E\eu^{-\iu\xi X} = \varphi_{-X}(\xi)$ . Logo $\varphi_X$ é real se, e somente se, $\varphi_X = \varphi_{-X}$ , se, e somente se (injetividade, Teorema 23.3), $X$ e $-X$ têm a mesma lei. (b) Escreva $\varphi_X(\xi_0) = \eu^{\iu\theta}$ . Então

\E\bigl[1 - \cos(\xi_0X - \theta)\bigr] = 1 - \operatorname{Re}\bigl(\eu^{-\iu\theta} \varphi_X(\xi_0)\bigr) = 1 - 1 = 0 .

O integrando é não negativo, de modo que $\cos(\xi_0X - \theta) = 1$ quase certamente (uma variável não negativa de esperança nula se anula q.c.), isto é, $\xi_0X - \theta \in 2\pi\Z$ q.c.: $X$ toma seus valores na progressão aritmética $\frac{\theta}{\xi_0} + \frac{2\pi}{\xi_0}\Z$ quase certamente. Se $X$ tem densidade, esse conjunto enumerável é Lebesgue-nulo, de modo que ele carrega probabilidade $0$ — contradição; portanto $\abs{\varphi_X(\xi)} < 1$ para todo $\xi \neq 0$ .

Exercício 23.3 ★★

Sejam $X \sim \mathcal N(m_1, \sigma_1^2)$ e $Y \sim \mathcal N(m_2, \sigma_2^2)$ independentes. Mostre que $X + Y \sim \mathcal N(m_1 + m_2, \sigma_1^2 + \sigma_2^2)$ e, mais geralmente, que a família gaussiana é estável por somas independentes e por aplicações afins. Em contraste: a soma de duas gaussianas dependentes é sempre gaussiana? (Exercício 23.9.)

Solução

Solução de Exercício 23.3.

Por independência e pela Proposição 23.2:

\varphi_{X+Y}(\xi) = \eu^{\iu m_1\xi - \sigma_1^2\xi^2/2}\, \eu^{\iu m_2\xi - \sigma_2^2\xi^2/2} = \eu^{\iu(m_1+m_2)\xi - (\sigma_1^2+\sigma_2^2)\xi^2/2},

a fc de $\mathcal N(m_1 + m_2, \sigma_1^2 + \sigma_2^2)$ ; a injetividade conclui. A estabilidade por aplicações afins é a regra afim ( $aX + b \sim \mathcal N(am_1 + b, a^2\sigma_1^2)$ , permitindo o caso degenerado $a = 0$ ), e a estabilidade por somas independentes segue por indução sobre o cálculo acima. Para gaussianas dependentes, a soma pode não ser gaussiana: no Exercício 23.9, $X$ e $Y = \varepsilon X$ são, cada uma, gaussianas padrão, mas $X + Y$ se anula com probabilidade $\frac12$ sem ser q.c. nulo, de modo que ela não é gaussiana.

Exercício 23.4 ★★

(a) Demonstre a equivalência da Definição 23.4: se $\E f(X_n) \to \E f(X)$ para toda $f$ contínua limitada, então $F_{X_n}(t) \to F_X(t)$ nos pontos de continuidade (comprima $\mathbf 1_{\intoc{-\infty}t}$ entre duas rampas contínuas em escada); e reciprocamente (aproxime uma $f$ contínua limitada por somas de funções-rampa, ou condicione em uma grade fina de pontos de continuidade) — a recíproca pode ser tratada primeiro para $f$ uniformemente contínua e, depois, em geral. (b) Mostre que $X_n \Rightarrow c$ (uma constante) implica $X_n \to c$ em probabilidade.

Solução

Solução de Exercício 23.4.

(a) Implicação direta. Seja $t$ um ponto de continuidade de $F_X$ e $\delta > 0$ . Tome as rampas contínuas $f^-$ ( $= 1$ em $\intoc{-\infty}{t-\delta}$ , $0$ a partir de $t$ , afim entre) e $f^+$ ( $= 1$ em $\intoc{-\infty}t$ , $0$ a partir de $t + \delta$ , afim entre); então $f^- \leq \mathbf 1_{\intoc{-\infty}t} \leq f^+$ , de modo que

\E f^-(X_n) \leq F_{X_n}(t) \leq \E f^+(X_n),

e os termos extremos convergem para $\E f^\pm(X)$ , eles próprios espremidos entre $F_X(t - \delta)$ e $F_X(t + \delta)$ . Fazendo $n \to \infty$ e depois $\delta \to 0$ , e usando a continuidade de $F_X$ em $t$ : $F_{X_n}(t) \to F_X(t)$ .

Recíproca. Seja $f$ contínua limitada, $M = \sup\abs f$ , $\varepsilon > 0$ . Os pontos de continuidade de $F_X$ são densos ( $F_X$ tem, no máximo, uma infinidade enumerável de saltos), de modo que se escolhem pontos de continuidade $a < b$ com $F_X(a) < \varepsilon$ e $1 - F_X(b) < \varepsilon$ . No compacto $\intcc ab$ , a função $f$ é uniformemente contínua: escolha pontos de continuidade $a = t_0 < t_1 < \dots < t_m = b$ de $F_X$ com oscilação de $f$ no máximo $\varepsilon$ em cada $\intoc{t_{j-1}}{t_j}$ , e ponha $g = \sum_j f(t_j)\,\mathbf 1_{\intoc{t_{j-1}}{t_j}}$ . Então $\abs{f - g} \leq \varepsilon$ em $\intoc ab$ , $\abs g \leq M$ e, para $T = X_n$ ou $X$ :

\bigl|\E f(T) - \E g(T)\bigr| \leq \varepsilon + 2M\bigl(F_T(a) + 1 - F_T(b)\bigr).

Além disso, $\E g(X_n) = \sum_j f(t_j)\bigl(F_{X_n}(t_j) - F_{X_n}(t_{j-1})\bigr) \to \E g(X)$ (uma soma finita de termos convergentes, sendo todos os $t_j$ pontos de continuidade), e $F_{X_n}(a) \to F_X(a) < \varepsilon$ , $1 - F_{X_n}(b) \to 1 - F_X(b) < \varepsilon$ . Reunindo: $\limsup_n\abs{\E f(X_n) - \E f(X)} \leq 2\varepsilon + 8M\varepsilon$ ; faça $\varepsilon \to 0$ .

(b) A função de distribuição da constante $c$ é $\mathbf 1_{\intco c\infty}$ , contínua exceto em $c$ . Para $\varepsilon > 0$ , os pontos $c - \varepsilon$ e $c + \frac\varepsilon2$ são pontos de continuidade, de modo que

\P(\abs{X_n - c} > \varepsilon) \leq F_{X_n}(c - \varepsilon) + 1 - F_{X_n}\Bigl(c + \frac\varepsilon2\Bigr) \longrightarrow 0 + 1 - 1 = 0 .

Exercício 23.5 ★★

(Lei dos eventos raros) Sejam $X_n \sim \mathcal B(n, p_n)$ com $np_n \to \lambda > 0$ . Mostre, via funções características e o Teorema 23.7, que $X_n \Rightarrow \mathcal P(\lambda)$ . Verificação numérica de sanidade: compare $\P(X = 0)$ para $\mathcal B(100, 0.02)$ e $\mathcal P(2)$ .

Solução

Solução de Exercício 23.5.

Seja $z_n = p_n(\eu^{\iu\xi} - 1)$ , de modo que $\varphi_{X_n}(\xi) = (1 + z_n)^n$ (Exercício 23.1) e $\abs{z_n} \leq 2p_n \to 0$ (note $p_n = \frac{np_n}n \to 0$ ). Tanto $1 + z_n$ quanto $\eu^{z_n}$ têm módulo no máximo $1$ : $\abs{1 + z_n} = \abs{(1 - p_n) + p_n\eu^{\iu\xi}} \leq 1$ pela desigualdade triangular, e $\abs{\eu^{z_n}} = \eu^{p_n(\cos\xi - 1)} \leq 1$ . A desigualdade telescópica $\abs{a^n - b^n} \leq n\abs{a - b}$ (demonstração do Teorema 23.8) e a cota da série de potências $\abs{\eu^z - 1 - z} \leq \abs z^2\eu^{\abs z}$ dão

\bigl|(1 + z_n)^n - \eu^{nz_n}\bigr| \leq n\bigl|1 + z_n - \eu^{z_n}\bigr| \leq n\,\abs{z_n}^2\,\eu^{\abs{z_n}} \leq 4\eu^2\,np_n^2 = 4\eu^2\,(np_n)\,p_n \longrightarrow 0 .

Como $nz_n = np_n(\eu^{\iu\xi} - 1) \to \lambda(\eu^{\iu\xi} - 1)$ , concluímos $\varphi_{X_n}(\xi) \to \exp\bigl(\lambda(\eu^{\iu\xi} - 1)\bigr)$ para todo $\xi$ : a fc de $\mathcal P(\lambda)$ , e Lévy (Teorema 23.7) dá $X_n \Rightarrow \mathcal P(\lambda)$ . Numericamente: $\P\bigl(\mathcal B(100, 0.02) = 0\bigr) = 0.98^{100} = \eu^{100\ln 0.98} \approx \eu^{-2.020} \approx 0.1326$ , ao passo que $\P\bigl(\mathcal P(2) = 0\bigr) = \eu^{-2} \approx 0.1353$ : dois por cento de diferença já nesse $n$ grosseiro.

Exercício 23.6 ★★

(a) Um dado honesto é lançado $n = 1000$ vezes; aproxime a probabilidade de o total ultrapassar $3600$ (média $3500$ , variância por lançamento $\frac{35}{12}$ ). (b) Para $S \sim \mathcal B(100, \frac12)$ , aproxime $\P(45 \leq S \leq 55)$ pelo teorema central do limite com a correção de continuidade ( $\pm\frac12$ ) e comente o efeito da correção.

Solução

Solução de Exercício 23.6.

(a) Um lançamento tem média $\frac72$ e variância $\frac{35}{12}$ , de modo que $S$ tem média $3500$ , variância $\frac{35000}{12} \approx 2916.7$ e desvio padrão $\approx 54.0$ . Pelo TCL,

\P(S > 3600) = \P\Bigl(\frac{S - 3500}{54.0} > 1.85\Bigr) \approx 1 - \Phi(1.85) \approx 0.032 :

cerca de $3\%$ de chance. (b) $S \sim \mathcal B(100, \frac12)$ : média $50$ , desvio padrão $5$ . Com a correção de continuidade,

\P(45 \leq S \leq 55) \approx \Phi\Bigl(\frac{55.5 - 50}{5}\Bigr) - \Phi\Bigl(\frac{44.5 - 50}{5}\Bigr) = 2\Phi(1.1) - 1 \approx 0.729,

contra o valor exato $0.7287$ ; sem a correção, $2\Phi(1) - 1 \approx 0.683$ , errando por quase cinco pontos. A correção importa porque $S$ é uma variável reticulada: o átomo $\P(S = k)$ é bem aproximado pela massa gaussiana de $\intcc{k - \frac12}{k + \frac12}$ , e cortar o intervalo nos inteiros $45$ e $55$ descarta meio átomo em cada extremo.

Exercício 23.7 ★★

(Erro de Monte Carlo) No cenário do Problema 22.1, questão 11, com $g \in L^2(\intcc01^d)$ , sejam $\sigma^2 = \V(g(U_1))$ e $I = \int g$ . Mostre que

\sqrt n\,\Bigl(\frac1n\sum_{k\leq n}g(U_k) - I\Bigr) \Longrightarrow \mathcal N(0, \sigma^2),

e deduza a barra de erro assintótica de $95\%$ , $\pm 1.96\,\sigma/\sqrt n$ — independente da dimensão $d$ . Compare com a regra determinística do ponto médio em dimensão $d$ (erro $\sim n^{-2/d}$ para integrandos $\mathcal C^2$ ): a partir de que dimensão a amostragem aleatória vence?

Solução

Solução de Exercício 23.7.

As variáveis $g(U_k)$ são i.i.d. (imagens mensuráveis de variáveis i.i.d.), de quadrado integrável, com média $I$ (teorema de transferência, Exercício 11.9) e variância $\sigma^2$ . Se $\sigma > 0$ , o Teorema 23.8 aplicado a elas é exatamente a convergência enunciada

\sqrt n\,\Bigl(\frac1n\sum_{k\leq n}g(U_k) - I\Bigr) = \frac{\sum_{k\leq n}\bigl(g(U_k) - I\bigr)}{\sqrt n} \Longrightarrow \mathcal N(0, \sigma^2)

(se $\sigma = 0$ , $g$ é q.c. constante e o membro esquerdo se anula identicamente). Logo $\P\bigl(\abs{\frac1n\sum g(U_k) - I} \leq 1.96\,\sigma/\sqrt n\bigr) \to 0.95$ : a barra de erro $\pm 1.96\,\sigma/\sqrt n$ vê a dimensão $d$ apenas através da constante $\sigma$ , nunca através da taxa em $n$ . A regra do ponto médio com $n$ nós em dimensão $d$ tem malha $n^{-1/d}$ e erro da ordem de $n^{-2/d}$ para integrandos $\mathcal C^2$ . O $n^{-1/2}$ de Monte Carlo decai mais rápido que $n^{-2/d}$ exatamente quando $\frac12 > \frac2d$ , isto é, $d > 4$ : a partir da dimensão $5$ , a amostragem aleatória bate assintoticamente a malha — a maldição da dimensionalidade poupa os métodos probabilísticos, razão pela qual Monte Carlo reina na integração em alta dimensão.

Exercício 23.8 ★★★

(Slutsky) Suponha $X_n \Rightarrow X$ e $Y_n \to c$ em probabilidade ( $c$ constante). Mostre que $X_n + Y_n \Rightarrow X + c$ e $Y_nX_n \Rightarrow cX$ . (Trabalhe com funções características e com a cota $\abs{\E\eu^{\iu\xi (X_n+Y_n)} - \eu^{\iu\xi c}\E\eu^{\iu\xi X_n}} \leq \E\abs{\eu^{\iu\xi(Y_n - c)} - 1}$ , separando em $\abs{Y_n - c} \leq \delta$ .) Aplicação: no Exemplo 23.9, justifique a substituição do $\sigma = \sqrt{p(1-p)}$ desconhecido por $\sqrt{\hat p_n(1 - \hat p_n)}$ .

Solução

Solução de Exercício 23.8.

Soma. Para $\xi$ fixo:

\bigl|\E\eu^{\iu\xi(X_n+Y_n)} - \eu^{\iu\xi c}\,\E\eu^{\iu\xi X_n}\bigr| = \bigl|\E\bigl[\eu^{\iu\xi X_n}\bigl(\eu^{\iu\xi Y_n} - \eu^{\iu\xi c}\bigr)\bigr]\bigr| \leq \E\bigl|\eu^{\iu\xi(Y_n - c)} - 1\bigr| .

Separe no evento $\{\abs{Y_n - c} \leq \delta\}$ : ali, $\abs{\eu^{\iu\xi(Y_n-c)} - 1} \leq \abs\xi\,\delta$ (a corda é mais curta que o arco); o complementar contribui com, no máximo, $2\,\P(\abs{Y_n - c} > \delta) \to 0$ . Logo o $\limsup$ é $\leq \abs\xi\,\delta$ para todo $\delta > 0$ : a diferença tende a $0$ . Como $\E\eu^{\iu\xi X_n} \to \varphi_X(\xi)$ , obtemos $\varphi_{X_n+Y_n}(\xi) \to \eu^{\iu\xi c}\varphi_X(\xi) = \varphi_{X+c}(\xi)$ , e Lévy (Teorema 23.7) fornece $X_n + Y_n \Rightarrow X + c$ .

Produto. Primeiro, $cX_n \Rightarrow cX$ : $\varphi_{cX_n}(\xi) = \varphi_{X_n}(c\xi) \to \varphi_X(c\xi) = \varphi_{cX}(\xi)$ . A seguir, $(Y_n - c)X_n \to 0$ em probabilidade: as leis dos $X_n$ são tensas (suas fc convergem para uma fc; veja a etapa de tensão do Teorema 23.7), de modo que, dado $\varepsilon > 0$ , tome $M$ com $\P(\abs{X_n} > M) \leq \varepsilon$ para todo $n$ ; então

\P\bigl(\abs{(Y_n - c)X_n} > \varepsilon\bigr) \leq \P(\abs{X_n} > M) + \P\Bigl(\abs{Y_n - c} > \frac{\varepsilon}{M}\Bigr) \leq \varepsilon + o(1) .

Escrevendo $Y_nX_n = cX_n + (Y_n - c)X_n$ e aplicando a parte da soma (cuja demonstração só usou $Y_n' := (Y_n - c)X_n \to 0$ em probabilidade, com constante $0$ ): $Y_nX_n \Rightarrow cX$ .

Aplicação. Pela lei forte dos grandes números (Teorema 22.13), $\hat p_n \to p$ q.c., de modo que, por continuidade, $\hat\sigma_n = \sqrt{\hat p_n(1 - \hat p_n)} \to \sigma = \sqrt{p(1 - p)} > 0$ q.c., logo $\frac{\sigma}{\hat\sigma_n} \to 1$ em probabilidade. A regra do produto de Slutsky eleva $\frac{S_n - np}{\sigma\sqrt n} \Rightarrow \mathcal N(0,1)$ a $\frac{S_n - np}{\hat\sigma_n\sqrt n} = \frac{\sigma}{\hat\sigma_n}\cdot \frac{S_n - np}{\sigma\sqrt n} \Rightarrow \mathcal N(0,1)$ : o intervalo de confiança utilizável $\hat p_n \pm 1.96\,\hat\sigma_n/\sqrt n$ , construído apenas com os dados, mantém seu nível assintótico de $95\%$ .

Exercício 23.9 ★★★

Sejam $X \sim \mathcal N(0,1)$ e $\varepsilon$ independentes com $\P(\varepsilon = \pm1) = \frac12$ ; ponha $Y = \varepsilon X$ . (a) Mostre que $Y \sim \mathcal N(0,1)$ e $\operatorname{Cov}(X, Y) = 0$ . (b) Mostre que $X$ e $Y$ não são independentes e que $(X, Y)$ não é um vetor gaussiano (calcule $\P(X + Y = 0)$ ). (c) Moral: o Teorema 23.11(2) exige gaussianidade conjunta — “gaussianas não correlacionadas”, por si só, nada demonstram.

Solução

Solução de Exercício 23.9.

(a) Separando a esperança nos dois valores de $\varepsilon$ (independência): para $B$ boreliano, $\P(Y \in B) = \frac12\P(X \in B) + \frac12\P(-X \in B) = \P(X \in B)$ , já que $-X \sim X$ ( $\mathcal N(0,1)$ é simétrica): $Y \sim \mathcal N(0,1)$ . E $\operatorname{Cov}(X, Y) = \E[\varepsilon X^2] = \E[\varepsilon]\,\E[X^2] = 0 \cdot 1 = 0$ . (b) $\abs Y = \abs X$ , de modo que $\P(\abs X \leq 1,\ \abs Y \geq 2) = 0$ , ao passo que $\P(\abs X \leq 1)\,\P(\abs Y \geq 2) > 0$ : não independentes. Se $(X, Y)$ fosse um vetor gaussiano, $X + Y = (1 + \varepsilon)X$ seria uma variável gaussiana real (Definição 23.10 com $t = (1,1)$ ); mas $\P(X + Y = 0) = \P(\varepsilon = -1) = \frac12$ , ao passo que uma variável gaussiana só tem átomo se for q.c. constante — e $X + Y$ vale $2X \neq 0$ q.c. em $\{\varepsilon = 1\}$ . Contradição: $(X, Y)$ não é gaussiano. (c) Cada marginal é gaussiana e a covariância se anula e, ainda assim, a independência falha — porque o par não é conjuntamente gaussiano. O Teorema 23.11(2) não pode ser enfraquecido para “marginais gaussianas”.

Exercício 23.10 ★★

A lei de Cauchy tem densidade $\frac1{\pi(1 + x^2)}$ . (a) Mostre que sua função característica é $\eu^{-\abs\xi}$ (Exercício 14.1 e inversão). (b) Mostre que, se $X_1, \dots, X_n$ são i.i.d. de Cauchy, então $\frac{S_n}n$ é de novo de Cauchy — a mesma lei: a média jamais se concentra. (c) Reconcilie com as leis dos grandes números e com o teorema central do limite: que hipóteses falham? (Calcule $\E\abs{X_1}$ .)

Solução

Solução de Exercício 23.10.

(a) O Exercício 14.1 calcula $\widehat{\eu^{-\abs\cdot}}(\xi) = \frac{2}{1 + \xi^2}$ ; sendo ambos os membros integráveis, a inversão de Fourier (Teorema 14.5) inverte os papéis:

\int_\R\eu^{\iu\xi x}\,\frac{\dd x}{\pi(1 + x^2)} = \eu^{-\abs\xi},

que é exatamente $\varphi_X(\xi)$ para uma variável de Cauchy $X$ . (b) Por independência, $\varphi_{S_n}(\xi) = \bigl(\eu^{-\abs\xi}\bigr)^n = \eu^{-n\abs\xi}$ , de modo que $\varphi_{S_n/n}(\xi) = \varphi_{S_n}(\xi/n) = \eu^{-\abs\xi}$ : a média empírica $\frac{S_n}n$ é de novo Cauchy padrão para todo $n$ (injetividade). A média nunca se concentra: suas flutuações no tempo $10^6$ são as de uma única observação. (c) $\E\abs{X_1} = \frac2\pi\int_0^\infty\frac{x\,\dd x}{1 + x^2} = +\infty$ : a lei de Cauchy não é integrável, de modo que a lei forte dos grandes números (Teorema 22.13) não se aplica, e o TCL (que precisa de variância finita), menos ainda. Aqui suas conclusões genuinamente falham, não apenas suas demonstrações. Verificação de coerência: $\varphi(\xi) = \eu^{-\abs\xi}$ não é derivável em $0$ , como a Proposição 23.2(c), lida pela contrapositiva, prevê para uma variável não integrável.

Exercício 23.11 ★★

(Leis estáveis em embrião) Sejam $(X_n)$ i.i.d. de Cauchy padrão (Exercício 23.10). (a) Mostre que, para qualquer $a, b > 0$ , $aX_1 + bX_2$ tem a lei de $(a + b)X_1$ : a família de Cauchy é estritamente estável de índice $1$ . (b) Mostre que a família gaussiana é estritamente estável de índice $2$ : $aX_1 + bX_2 \sim \sqrt{a^2 + b^2}\,X_1$ para $X_i$ i.i.d. $\mathcal N(0,1)$ . (c) Explique, via funções características da forma $\eu^{-c\abs\xi^\alpha}$ , por que a estabilidade de índice $\alpha$ força a normalização $n^{1/\alpha}$ para as somas, e o que isso diz sobre as bacias de atração do teorema central do limite: que somas i.i.d. podem convergir, após normalização afim, a uma lei de Cauchy em vez de a uma gaussiana?

Solução

Solução de Exercício 23.11.

(a) $\varphi_{aX_1 + bX_2}(\xi) = \eu^{-a\abs\xi}\eu^{-b\abs\xi} = \eu^{-(a+b)\abs\xi} = \varphi_{(a+b)X_1}(\xi)$ (independência e Exercício 23.10); a injetividade identifica as leis.

(b) $\varphi_{aX_1+bX_2}(\xi) = \eu^{-a^2\xi^2/2} \eu^{-b^2\xi^2/2} = \eu^{-(a^2+b^2)\xi^2/2}$ : a lei de $\sqrt{a^2+b^2}\,X_1$ .

(c) Se $\varphi_X(\xi) = \eu^{-c\abs\xi^\alpha}$ , então $S_n = X_1 + \dots + X_n$ tem $\varphi_{S_n} = \eu^{-cn\abs\xi^\alpha}$ , e $S_n/n^{1/\alpha}$ tem $\varphi(\xi) = \eu^{-c\abs\xi^\alpha}$ de novo: autorreprodução exata sob o reescalamento $n^{1/\alpha}$ — $\sqrt n$ para a gaussiana ( $\alpha = 2$ ), o próprio $n$ para Cauchy ( $\alpha = 1$ , Exercício 23.10(b)). Uma soma de variáveis i.i.d. só pode convergir (após normalização afim) para uma lei estável por tais convoluções; o TCL diz que a variância finita força a bacia gaussiana, e a bacia de Cauchy fica reservada às leis de caudas tão pesadas que $\E X^2 = \infty$ e mesmo $\E\abs X = \infty$ — por exemplo, somas das próprias variáveis de Cauchy. A universalidade tem várias ilhas, indexadas pelo expoente de cauda $\alpha \in \intoc02$ .

Exercício 23.12 ★★

(A função de distribuição empírica) Sejam $(X_n)$ i.i.d. com função de distribuição $F$ , e $F_n(t) = \frac1n\#\{k \leq n : X_k \leq t\}$ . (a) Fixe $t$ . Mostre que $n F_n(t) \sim \mathcal B(n, F(t))$ , que $F_n(t) \to F(t)$ q.c. (Teorema 22.13) e que

\sqrt n\,\bigl(F_n(t) - F(t)\bigr) \Longrightarrow \mathcal N\bigl(0,\ F(t)(1 - F(t))\bigr) .

(b) Em que $t$ a variância assintótica é máxima? Interprete: a mediana é o ponto em que uma distribuição empírica é mais difícil de fixar. (c) Para $F$ contínua, mostre que a lei de $\sup_t\abs{F_n(t) - F(t)}$ não depende de $F$ (reduza a variáveis uniformes via o Exercício 22.1) — o milagre livre de distribuição por trás do teste de Kolmogorov–Smirnov; não se pede calcular essa lei.

Solução

Solução de Exercício 23.12.

(a) As indicadoras $\mathbf 1_{X_k \leq t}$ são i.i.d. de Bernoulli de parâmetro $p = F(t)$ : sua soma $nF_n(t)$ é binomial $\mathcal B(n, p)$ ; a lei forte dá $F_n(t) \to p$ q.c., e o TCL (Teorema 23.8) aplicado às mesmas indicadoras (variância $p(1-p)$ ) dá o limite gaussiano enunciado.

(b) $p(1 - p)$ é máxima em $p = \frac12$ , isto é, onde $F(t) = \frac12$ : na mediana. Estimar probabilidades de cauda é assintoticamente fácil (variância $\to 0$ quando $p \to 0, 1$ ); a região da mediana carrega o maior ruído estatístico — a curva empírica oscila mais em seu meio.

(c) Para $F$ contínua, as variáveis $U_k = F(X_k)$ são i.i.d. uniformes em $\intoo01$ (Exercício 22.1), e a monotonicidade de $F$ dá, escrevendo $G_n$ para a função de distribuição empírica dos $U_k$ :

\sup_{t\in\R}\,\abs{F_n(t) - F(t)} = \sup_{u \in \operatorname{im}F}\,\abs{G_n(u) - u} = \sup_{u\in\intcc01}\abs{G_n(u) - u} :

a primeira igualdade porque $\{X_k \leq t\} = \{U_k \leq F(t)\}$ a menos de eventos nulos (monotonicidade; a desigualdade estrita só pode falhar nas partes constantes de $F$ , em que ambos os membros não mudam), e a segunda porque uma $F$ contínua, indo de $0$ a $1$ , atinge todo valor de $\intoo01$ (teorema do valor intermediário), e os extremos nada acrescentam ( $G_n(0) - 0 = 0$ e $G_n(1) - 1 = 0$ ). O membro direito envolve apenas uniformes: uma única lei para todo $F$ — de modo que uma única tabela de valores críticos (a da distribuição de Kolmogorov) testa qualquer modelo contínuo contra dados.

23.6 Problema: a demonstração de Lindeberg do teorema central do limite, com taxa

Problema 23.1

Problema de fim de semana — o método da substituição

Lindeberg (1922) demonstrou o teorema central do limite por uma ideia de desarmante simplicidade: trocar as parcelas, uma de cada vez, por gaussianas e controlar cada troca por uma expansão de Taylor. O método não precisa de análise de Fourier, produz uma taxa de erro explícita e, hoje, move demonstrações de universalidade por toda a teoria de probabilidade. Sejam $(X_i)$ i.i.d., centradas, $\V(X_1) = 1$ , com $\beta = \E\abs{X_1}^3 < \infty$ ; sejam $(N_i)$ i.i.d. $\mathcal N(0,1)$ , independentes das $X_i$ (existência: Teorema 22.6). Ponha

T_n = \frac{X_1 + \dots + X_n}{\sqrt n}, \qquad G_n = \frac{N_1 + \dots + N_n}{\sqrt n} \sim \mathcal N(0,1).

Parte I — A identidade de substituição. Fixe $f \in \mathcal C^3_b(\R)$ (três derivadas contínuas e limitadas; $M_3 = \sup\abs{f'''}$ ). Para $0 \leq i \leq n$ , defina as somas híbridas

H_i = \frac{X_1 + \dots + X_i + N_{i+1} + \dots + N_n}{\sqrt n},

de modo que $H_n = T_n$ e $H_0 = G_n$ .

Escreva $H_i = W_i + \frac{X_i}{\sqrt n}$ e $H_{i-1} = W_i + \frac{N_i}{\sqrt n}$ com $W_i = \frac{1}{\sqrt n}\bigl(\sum_{j<i}X_j + \sum_{j>i}N_j\bigr)$ , e note que $W_i$ é independente do par $(X_i, N_i)$ . Justifique.
Taylor com resto integral ou de Lagrange: para reais $w, h$ quaisquer:

$\Bigl|f(w + h) - f(w) - f'(w)h - \tfrac12f''(w)h^2\Bigr| \leq \frac{M_3\,\abs h^3}{6} .$
Aplique a questão 2 duas vezes ( $h = \frac{X_i}{\sqrt n}$ e $h = \frac{N_i}{\sqrt n}$ em $w = W_i$ ), tome esperanças e use a independência mais a coincidência dos dois primeiros momentos de $X_i$ e $N_i$ para mostrar que

$\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{M_3}{6}\cdot \frac{\beta + \gamma}{n^{3/2}}, \qquad \gamma = \E\abs{N_1}^3 = \frac{2\sqrt2}{\sqrt\pi} .$
Telescope em $i$ e conclua a cota de Lindeberg:

$\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{M_3\,(\beta + \gamma)}{6\,\sqrt n} .$

Parte II — De $f$ suave ao teorema central do limite.

Mostre que $\E f(T_n) \to \E f(N)$ para toda $f \in \mathcal C_b^3$ , e eleve a toda $f$ contínua limitada: dada uma tal $f$ e $\varepsilon$ , construa $f_\varepsilon \in \mathcal C^3_b$ com $\norm{f - f_\varepsilon}_\infty \leq \varepsilon$ em um intervalo grande — por exemplo, convolua $f$ com uma função de corte $\mathcal C^\infty$ (Teorema 12.9) — e trate as caudas por tensão ( $\V(T_n) = 1$ e Chebyshev). Conclua $T_n \Rightarrow \mathcal N(0, 1)$ : o teorema central do limite, redemonstrado.
Onde a demonstração usou que as $X_i$ são identicamente distribuídas? Mostre que quase não usou: enuncie e demonstre a versão para $X_i$ independentes, centradas e não idênticas, com $\sum_i\V(X_i) = s_n^2$ e terceiros momentos, obtendo o erro $\frac{M_3}{6s_n^3}\sum_i\bigl(\E\abs{X_i}^3 + \V(X_i)^{3/2}\gamma\bigr)$ — o verdadeiro teorema de Lindeberg em sua forma de Lyapunov.

Parte III — Dividendos quantitativos.

(Funções de distribuição) Seja $t \in \R$ e aproxime $\mathbf 1_{\intoc{-\infty}t}$ por cima e por baixo por rampas $\mathcal C^3_b$ de largura $\delta$ (construa-as, com $M_3 = O(\delta^{-3})$ ). Combinando com a Parte I, deduza a cota de dois termos

$\sup_{t\in\R}\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \;\leq\; \frac{C_1(\beta + \gamma)}{\delta^3\sqrt n} + C_2\,\delta \qquad (\text{todo } \delta > 0),$

com constantes explícitas (o termo $C_2\delta$ usa que $\Phi$ tem densidade limitada por $\frac1{\sqrt{2\pi}}$ ) e otimize $\delta \sim n^{-1/8}$ para obter uma taxa uniforme de ordem $n^{-1/8}$ . (O $n^{-1/2}$ ótimo — Berry–Esseen — exige ferramentas mais finas; o que importa aqui é obter uma taxa explícita por substituição elementar.)
(De Moivre–Laplace, quantificado) Especialize a $X_i = 2B_i - 1$ (sinais de moedas honestas): compare a conclusão com a estimativa local do Problema 11.1, questão 7 — o que cada método dá e o outro não dá?
(Universalidade) Explique em um parágrafo por que o método da substituição mostra mais do que o teorema central do limite: qualquer estatística da forma $\E f(\text{soma})$ com $f$ suave é insensível, na ordem $n^{-1/2}$ , à lei inteira das parcelas para além de seus dois primeiros momentos — o “princípio de invariância” que sustenta os resultados modernos de universalidade (matrizes aleatórias, polinômios aleatórios), do qual o teorema central do limite é a primeira instância.

Parte IV — Suavização, levada adiante: taxas melhores. A perda de $n^{-1/2}$ (com $f$ suave) para $n^{-1/8}$ (funções de distribuição) veio de cobrar $f'''$ na norma do supremo. Os híbridos podem reparar parte disso: eles contêm parcelas gaussianas, e as gaussianas suavizam.

(Uma gaussiana escondida) Para $1 \leq i \leq n - 1$ , $h = \frac{X_i}{\sqrt n}$ ou $\frac{N_i}{\sqrt n}$ , e $\theta \in \intcc01$ , escreva $W_i + \theta h = A + Z$ com $Z = \frac{N_{i+1} + \dots + N_n}{\sqrt n}$ . Mostre que $Z \sim \mathcal N\bigl(0, \frac{n-i}n\bigr)$ é independente do par $(A, h)$ e deduza, para toda $g \in L^1(\R)$ contínua,

$\E\bigl[\abs h^3\,\abs{g(W_i + \theta h)}\bigr] \;\leq\; \sqrt{\frac{n}{2\pi(n - i)}}\; \norm{g}_{L^1}\;\E\abs h^3 .$
Combine a questão 10 com a forma integral do resto de Taylor,

$f(w + h) = f(w) + f'(w)h + \tfrac12f''(w)h^2 + \int_0^1\frac{(1 - \theta)^2}2\,f'''(w + \theta h)\,h^3\,\dd\theta,$

para refazer as questões 3–4: para $f \in \mathcal C^3_b$ com, além disso, $f''' \in L^1(\R)$ ,

$\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta + \gamma}{3\sqrt{2\pi}}\cdot \frac{\norm{f'''}_{L^1}}{\sqrt n} + \frac{M_3(\beta + \gamma)}{6\,n^{3/2}}$

(a questão 10 cuida das trocas $i \leq n - 1$ — use $\sum_{m=1}^{n-1}m^{-1/2} \leq 2\sqrt n$ — e a cota grosseira da questão 3 cuida da última). Verifique que as rampas da questão 7 satisfazem $\norm{\psi_\delta'''}_{L^1} = K_1\delta^{-2}$ enquanto $M_3 = K\delta^{-3}$ , insira-as e otimize $\delta$ : a taxa uniforme para funções de distribuição melhora para $O(n^{-1/6})$ .
(Coincidindo mais um momento) Suponha, além disso, $\E X_1^3 = 0$ e $\beta_4 = \E X_1^4 < \infty$ . Calcule $\E N_1^3$ e $\E N_1^4$ , expanda até a quarta ordem e demonstre pelas mesmas linhas que a taxa para funções de distribuição se torna $O(n^{-1/4})$ (agora $\norm{\psi_\delta^{(4)}}_{L^1} = K_2\delta^{-3}$ e $M_4 = K'\delta^{-4}$ ; escolha $\delta = n^{-1/4}$ ).
(A obstrução) Suponha que os $k$ primeiros momentos de $X_1$ coincidam com os gaussianos ( $k = 2$ sempre; $k = 3$ exatamente quando $\E X_1^3 = 0$ ; $k \geq 4$ essencialmente nunca, pois $\E N_1^4 = 3$ ). Verifique que o esquema das questões 10–12 entrega a taxa $n^{-(k-1)/(2k+2)}$ para funções de distribuição, equilibrando $\delta^{-k}n^{-(k-1)/2}$ contra $\delta$ , e observe que o expoente só se aproxima do valor $\frac12$ de Berry–Esseen quando $k \to \infty$ . Explique em algumas frases por que o método da substituição satura: cada troca é cobrada em valor absoluto, ao passo que a rota de Fourier (desigualdade de suavização de Esseen) explora a oscilação da diferença de funções características e atinge $C\beta n^{-1/2}$ apenas com três momentos.

Parte V — Duas dimensões: o teorema central do limite multidimensional, por substituição. Sejam agora as $X_i$ vetores aleatórios i.i.d. centrados de $\R^2$ , de matriz de covariância $\Sigma$ e $\beta' = \E\norm{X_1}^3 < \infty$ (norma euclidiana).

(Vetores gaussianos, na ordem certa) Diagonalize $\Sigma = PDP^{\mathsf T}$ (Exercício 20.8) e ponha $C = P\sqrt DP^{\mathsf T}$ . Para $Z = (Z^1, Z^2)$ um par de gaussianas padrão independentes (Teorema 22.6), mostre que $N = CZ$ é um vetor gaussiano (Definição 23.10) de média $0$ , covariância $\Sigma$ e $\gamma' = \E\norm N^3 < \infty$ ; e que $G_n = \frac{N_1 + \dots + N_n}{\sqrt n}$ tem lei $\mathcal N(0, \Sigma)$ exatamente, para cópias i.i.d. $N_i$ .
(Taylor em duas variáveis) Para $f \colon \R^2 \to \R$ de classe $\mathcal C^3$ com $M_3 = \max_{\abs\alpha = 3}\sup\abs{\partial^\alpha f} < \infty$ , demonstre

$\Bigl|f(w + h) - f(w) - \langle\nabla f(w), h\rangle - \tfrac12\langle h, D^2f(w)\,h\rangle \Bigr| \leq \frac{M_3}6\,\bigl(\abs{h_1} + \abs{h_2}\bigr)^3 \leq \frac{\sqrt2\,M_3}3\, \norm h^3$

(estude $t \mapsto f(w + th)$ em $\intcc01$ ).
(O teorema central do limite em $\R^2$ ) Rode o esquema de substituição nos híbridos vetoriais $H_i$ : mostre que os termos de primeira e de segunda ordem se cancelam (médias e covariâncias coincidem), telescope e eleve como na questão 5 (tensão a partir de $\E\norm{T_n}^2 = \operatorname{tr}\Sigma$ ; regularização agora em $\R^2$ , Teorema 12.9) para concluir: para toda $f \colon \R^2 \to \R$ contínua limitada,

$\E\,f\Bigl(\frac{X_1 + \dots + X_n}{\sqrt n}\Bigr) \longrightarrow \E\,f(N), \qquad N \sim \mathcal N(0, \Sigma) :$

o Teorema 23.12 em dimensão $2$ , com taxa para $f$ suave e sem análise de Fourier.
(Cramér–Wold e uma flutuação conjunta) Deduza que $\langle t, \frac{S_n}{\sqrt n}\rangle \Rightarrow \mathcal N(0, t^{\mathsf T}\Sigma t)$ para todo $t \in \R^2$ fixado. Aplicação: para $(\xi_i)$ reais i.i.d., centradas, com $\E\xi_1^2 = 1$ , $\E\xi_1^6 < \infty$ (de modo que a Parte V se aplica a $V_i = (\xi_i, \xi_i^2 - 1)$ ), mostre que

$\frac1{\sqrt n}\Bigl(\sum_{i\leq n}\xi_i,\ \sum_{i\leq n}(\xi_i^2 - 1)\Bigr) \Longrightarrow \mathcal N\Bigl(0, \begin{pmatrix} 1 & \E\xi_1^3\\ \E\xi_1^3 & \E\xi_1^4 - 1\end{pmatrix}\Bigr) :$

a média empírica e o segundo momento empírico flutuam conjuntamente de maneira gaussiana — independentemente, no limite, se, e somente se, $\E\xi_1^3 = 0$ (Teorema 23.11).

Parte VI — O método delta.

Sejam $(\hat\theta_n)$ variáveis aleatórias com $\sqrt n(\hat\theta_n - \theta) \Rightarrow \mathcal N(0, \sigma^2)$ para um parâmetro real $\theta$ , e seja $g$ derivável em $\theta$ . Demonstre o método delta:

$\sqrt n\bigl(g(\hat\theta_n) - g(\theta)\bigr) \Longrightarrow \mathcal N\bigl(0, g'(\theta)^2\sigma^2\bigr)$

(escreva $g(x) - g(\theta) = (g'(\theta) + \eta(x))(x - \theta)$ com $\eta \to 0$ em $\theta$ ; mostre que $\hat\theta_n \to \theta$ e, depois, $\eta(\hat\theta_n) \to 0$ , em probabilidade; termine com Slutsky, Exercício 23.8, e com o Exercício 23.4(b)).
Aplicações. (a) Para $(\xi_i)$ reais i.i.d. de média $\mu$ e variância $\sigma^2$ , e $\bar X_n = \frac1n\sum_{i\leq n}\xi_i$ : mostre $\sqrt n(\bar X_n^2 - \mu^2) \Rightarrow \mathcal N(0, 4\mu^2\sigma^2)$ quando $\mu \neq 0$ , e que, para $\mu = 0$ , o enunciado correto vive em outra escala: $n\bar X_n^2 \Rightarrow \sigma^2N^2$ com $N \sim \mathcal N(0,1)$ (identifique a função de distribuição do limite). (b) (Estabilização da variância) Para $\hat p_n$ a frequência de sucessos de uma amostra $\mathcal B(1, p)$ , $p \in \intoo01$ : mostre que $g(p) = \arcsin\sqrt p$ satisfaz

$\sqrt n\,\bigl(g(\hat p_n) - g(p)\bigr) \Longrightarrow \mathcal N\Bigl(0, \frac14\Bigr)$

qualquer que seja $p$ — uma barra de erro assintótica livre do parâmetro desconhecido; compare com o Exemplo 23.9.

Parte VII — Poisson, pelo mesmo método: o teorema de Le Cam. A substituição conhece uma segunda classe de universalidade: somas de muitos eventos independentes raros. Para leis em $\N$ , a distância certa é a variação total,

d_{\mathrm{TV}}(\mu, \nu) = \sup_{A\subseteq\N}\, \abs{\mu(A) - \nu(A)} .

Mostre que $d_{\mathrm{TV}}(\mu, \nu) = \frac12\sum_{k\geq0}\abs{\mu(\{k\}) - \nu(\{k\})}$ e demonstre a cota de acoplamento: para qualquer par $(X, Y)$ de variáveis aleatórias de leis $\mu$ e $\nu$ no mesmo espaço, $d_{\mathrm{TV}}(\mu, \nu) \leq \P(X \neq Y)$ .
Calcule exatamente, para $p \in \intoo01$ :

$d_{\mathrm{TV}}\bigl(\mathcal B(1, p), \mathcal P(p)\bigr) = p\bigl(1 - \eu^{-p}\bigr) \leq p^2 .$
(Le Cam, por substituição) Sejam $X_i \sim \mathcal B(1, p_i)$ e $Y_i \sim \mathcal P(p_i)$ , com as $2n$ variáveis independentes; $S = X_1 + \dots + X_n$ , e recorde $Y_1 + \dots + Y_n \sim \mathcal P(\lambda)$ com $\lambda = \sum_ip_i$ (Exercício 23.1). Troque uma coordenada de cada vez nos híbridos inteiros $H_i = Y_1 + \dots + Y_i + X_{i+1} + \dots + X_n$ : mostre, para todo $A \subseteq \N$ ,

$\abs{\P(H_{i-1} \in A) - \P(H_i \in A)} \leq d_{\mathrm{TV}}\bigl(\mathcal B(1, p_i), \mathcal P(p_i)\bigr),$

e conclua a desigualdade de Le Cam:

$d_{\mathrm{TV}}\bigl(\text{lei de } S,\ \mathcal P(\lambda)\bigr) \leq \sum_{i=1}^np_i^2 .$
Dividendos. (a) Para $p_i = \frac\lambda n$ : a cota vale $\frac{\lambda^2}n$ — a lei dos eventos raros (Exercício 23.5) elevada a uma taxa explícita, uniforme sobre todos os eventos e válida também para $p_i$ desiguais. (b) $500$ cartas são entregues, cada uma extraviando-se de maneira independente com probabilidade $\frac1{500}$ : limite o erro do modelo de Poisson de parâmetro $1$ e estime a probabilidade de nenhuma carta se extraviar. (c) Encerre o problema: compare as duas classes de universalidade aqui encontradas — a gaussiana (muitas contribuições pequenas e espalhadas; dois momentos coincidentes; Taylor) e a de Poisson (muitas contribuições raras; uma média coincidente; um acoplamento exato em variação total) — e o único método de substituição por trás de ambas.
(Erro relativo e a transformação logarítmica) Sejam $(X_n)$ i.i.d., positivas, de média $\mu > 0$ , variância $\sigma^2$ , e seja $\bar X_n$ a média empírica. Mostre pelo método delta que

$\sqrt n\,\bigl(\ln\bar X_n - \ln\mu\bigr) \Longrightarrow \mathcal N\Bigl(0,\ \frac{\sigma^2}{\mu^2}\Bigr) :$

o parâmetro assintótico de $\ln\bar X_n$ é o coeficiente de variação $\sigma/\mu$ — um erro relativo, livre de escala. Deduza um intervalo de confiança de $95\%$ para $\mu$ na forma multiplicativa $\bar X_n\cdot\eu^{\pm1.96\,\sigma/(\mu\sqrt n)}$ e explique quando ele é preferível ao aditivo.
(O terceiro momento comanda o erro) Para $X \sim$ Bernoulli( $p$ ) centrada, calcule $\E\bigl[(X - p)^3\bigr] = p(1-p)(1-2p)$ . Usando a análise da Parte IV (o erro de substituição é comandado pelos terceiros momentos), explique por que a aproximação normal de $\mathcal B(n, p)$ é assimétrica para $p \neq \frac12$ — excedendo de um lado e ficando aquém do outro — e por que $p = \frac12$ desfruta da taxa mais rápida com momentos coincidentes. Verifique numericamente o sinal da assimetria em $\mathcal B(20, 0.1)$ contra $\mathcal N(2, 1.8)$ : compare $\P(S = 0) = 0.9^{20}$ com a massa gaussiana de $\intoo{-\infty}{0.5}$ .

Solução

Solução de Problema 23.1.

1. A família $(X_1, \dots, X_n, N_1, \dots, N_n)$ é independente: os dois blocos são independentes entre si por construção, e cada bloco é i.i.d. $W_i$ é função mensurável apenas das variáveis $(X_j)_{j<i}$ e $(N_j)_{j>i}$ , todas distintas de $X_i$ e $N_i$ : pelo princípio das coalizões (Teorema 22.5), $W_i$ é independente do par $(X_i, N_i)$ . As decomposições $H_i = W_i + \frac{X_i}{\sqrt n}$ e $H_{i-1} = W_i + \frac{N_i}{\sqrt n}$ são imediatas a partir das definições: passar de $H_i$ a $H_{i-1}$ troca a única parcela $X_i$ por $N_i$ .

2. Taylor–Lagrange de ordem $3$ : existe $c$ entre $w$ e $w + h$ com $f(w + h) = f(w) + f'(w)h + \frac12f''(w)h^2 + \frac16f'''(c)h^3$ , e $\abs{f'''(c)} \leq M_3$ dá a cota.

3. Subtraindo as duas expansões no ponto-base comum $w = W_i$ :

f(H_i) - f(H_{i-1}) = f'(W_i)\,\frac{X_i - N_i}{\sqrt n} + \frac{f''(W_i)}{2}\,\frac{X_i^2 - N_i^2}{n} + R_i, \qquad \abs{R_i} \leq \frac{M_3}{6}\cdot \frac{\abs{X_i}^3 + \abs{N_i}^3}{n^{3/2}} .

Tome esperanças. Pela questão 1, $f'(W_i)$ e $f''(W_i)$ são independentes de $(X_i, N_i)$ , de modo que as esperanças mistas se fatoram:

\begin{align*} \E\Bigl[f'(W_i)\,\frac{X_i - N_i}{\sqrt n}\Bigr] &= \E\bigl[f'(W_i)\bigr]\,\frac{\E X_i - \E N_i}{\sqrt n} = 0, \\ \E\Bigl[f''(W_i)\,\frac{X_i^2 - N_i^2}{n}\Bigr] &= \E\bigl[f''(W_i)\bigr]\,\frac{1 - 1}{n} = 0 : \end{align*}

os dois primeiros momentos de $X_i$ e $N_i$ coincidem, e só o resto sobrevive:

\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \E\abs{R_i} \leq \frac{M_3}{6}\cdot\frac{\beta + \gamma}{n^{3/2}} .

O terceiro momento gaussiano: $\gamma = \E\abs{N_1}^3 = 2\int_0^\infty x^3\,\frac{\eu^{-x^2/2}}{\sqrt{2\pi}}\,\dd x = \frac{2}{\sqrt{2\pi}}\int_0^\infty 2u\,\eu^{-u}\dd u = \frac{4}{\sqrt{2\pi}} = \frac{2\sqrt2}{\sqrt\pi}$ (substituição $u = x^2/2$ , depois $\Gamma(2) = 1$ ).

4. Telescopando $\E f(T_n) - \E f(G_n) = \sum_{i=1}^n\bigl(\E f(H_i) - \E f(H_{i-1})\bigr)$ e aplicando a questão 3 a cada um dos $n$ termos:

\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq n \cdot \frac{M_3(\beta + \gamma)}{6\,n^{3/2}} = \frac{M_3\,(\beta + \gamma)}{6\,\sqrt n} .

5. $G_n$ é $\mathcal N(0,1)$ exatamente para todo $n$ (uma soma normalizada de gaussianas padrão independentes, Exercício 23.3), de modo que $\E f(G_n) = \E f(N)$ e a questão 4 se lê $\abs{\E f(T_n) - \E f(N)} \leq \frac{M_3(\beta+\gamma)}{6\sqrt n} \to 0$ para $f \in \mathcal C^3_b$ . Elevação. Seja $f$ contínua limitada, $M = \sup\abs f$ , $\varepsilon > 0$ . Escolha $A \geq 1$ com $\frac1{A^2} \leq \varepsilon$ : Chebyshev com $\V(T_n) = 1$ dá $\P(\abs{T_n} > A) \leq \varepsilon$ para todo $n$ , e do mesmo modo $\P(\abs N > A) \leq \varepsilon$ . Seja $\chi$ de classe $\mathcal C^\infty$ com $\mathbf 1_{\intcc{-A}A} \leq \chi \leq \mathbf 1_{\intcc{-A-1}{A+1}}$ (um platô suave, construído regularizando $\mathbf 1_{\intcc{-A-\frac12}{A+\frac12}}$ , Teorema 12.9); $g = f\chi$ é contínua de suporte compacto, logo uniformemente contínua, de modo que sua regularização $g_\eta = g * \rho_\eta$ é $\mathcal C^\infty$ com derivadas limitadas de todas as ordens e $\norm{g - g_\eta}_\infty \leq \varepsilon$ para $\eta$ pequeno o bastante. Para $T = T_n$ ou $N$ , como $f = g$ em $\intcc{-A}A$ e $\abs{f - g} \leq 2M$ em toda parte:

\bigl|\E f(T) - \E g_\eta(T)\bigr| \leq \E\abs{(f - g)(T)} + \norm{g - g_\eta}_\infty \leq 2M\,\P(\abs T > A) + \varepsilon \leq (2M + 1)\,\varepsilon .

Combinando com $\E g_\eta(T_n) \to \E g_\eta(N)$ (a questão 4 se aplica: $g_\eta \in \mathcal C^3_b$ ):

\limsup_n\;\bigl|\E f(T_n) - \E f(N)\bigr| \leq 2(2M + 1)\,\varepsilon ,

e $\varepsilon$ era arbitrário: $\E f(T_n) \to \E f(N)$ para toda $f$ contínua limitada, isto é, $T_n \Rightarrow \mathcal N(0,1)$ .

6. A distribuição idêntica entrou apenas por uma frase: “ $X_i$ e $N_i$ têm os mesmos dois primeiros momentos”. Sejam então $X_1, \dots, X_n$ independentes, centradas, de variâncias $\sigma_i^2$ e terceiros momentos finitos, $s_n^2 = \sum_i\sigma_i^2 > 0$ , e tome $N_i \sim \mathcal N(0, \sigma_i^2)$ independentes de tudo. Defina os híbridos com normalização $s_n$ : $H_i = \frac1{s_n}(\sum_{j\leq i}X_j + \sum_{j>i}N_j)$ . Na $i$ -ésima troca, $\E X_i = \E N_i = 0$ e $\E X_i^2 = \E N_i^2 = \sigma_i^2$ matam de novo os termos em $f'$ e $f''$ , e o resto dá (usando $\E\abs{N_i}^3 = \sigma_i^3\gamma$ por escala):

\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{M_3}{6\,s_n^3}\bigl(\E\abs{X_i}^3 + \sigma_i^3\gamma\bigr) .

Telescopando:

\Bigl|\E f\Bigl(\frac{X_1 + \dots + X_n}{s_n}\Bigr) - \E f(N)\Bigr| \leq \frac{M_3}{6\,s_n^3}\sum_{i=1}^n \Bigl(\E\abs{X_i}^3 + \V(X_i)^{3/2}\,\gamma\Bigr) .

Como $\sigma_i^3 = (\E X_i^2)^{3/2} \leq \E\abs{X_i}^3$ (a desigualdade das médias de potências, isto é, Jensen para $t \mapsto t^{3/2}$ aplicado a $X_i^2$ ), o membro direito é no máximo $\frac{M_3(1 + \gamma)}{6}\cdot \frac{\sum_i\E\abs{X_i}^3}{s_n^3}$ : sob a condição de Lyapunov $\frac1{s_n^3}\sum_i\E\abs{X_i}^3 \to 0$ , as somas normalizadas convergem em lei para $\mathcal N(0,1)$ — o TCL sem distribuição idêntica.

7. Seja $\rho \in \mathcal C^\infty_c(\intoo01)$ com $\int\rho = 1$ e ponha $\psi(x) = \int_x^1\rho(s)\dd s$ : $\psi$ é $\mathcal C^\infty$ , não crescente, $\psi = 1$ em $\R_-$ , $\psi = 0$ em $\intco1\infty$ ; seja $K = \norm{\psi'''}_\infty$ . Para $t \in \R$ e $\delta > 0$ defina $\psi_\delta(x) = \psi\bigl(\frac{x - t}\delta\bigr)$ e $\tilde\psi_\delta(x) = \psi\bigl(\frac{x - t}\delta + 1\bigr)$ : estas são $\mathcal C^3_b$ com terceira derivada limitada por $K/\delta^3$ , e

\mathbf 1_{\intoc{-\infty}{t-\delta}} \leq \tilde\psi_\delta \leq \mathbf 1_{\intoc{-\infty}t} \leq \psi_\delta \leq \mathbf 1_{\intoc{-\infty}{t+\delta}} .

Cota superior: pela questão 4 aplicada a $\psi_\delta$ (com $M_3 = K/\delta^3$ ),

\P(T_n \leq t) \leq \E\psi_\delta(T_n) \leq \E\psi_\delta(N) + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n} \leq \Phi(t + \delta) + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n} \leq \Phi(t) + \frac{\delta}{\sqrt{2\pi}} + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n},

pois $\Phi$ é lipschitziana de constante $\frac1{\sqrt{2\pi}}$ (sua densidade é limitada por $\frac1{\sqrt{2\pi}}$ ). A cota inferior simétrica, via $\tilde\psi_\delta$ , dá a estimativa de dois termos

\sup_{t\in\R}\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \leq \frac{K(\beta + \gamma)}{6}\cdot\frac{1}{\delta^3\sqrt n} + \frac{\delta}{\sqrt{2\pi}} \qquad(\delta > 0\ \text{arbitrário}).

Os dois termos se equilibram quando $\delta^{-3}n^{-1/2} \asymp \delta$ , isto é, $\delta = n^{-1/8}$ : ambos são então $O(n^{-1/8})$ , uma taxa uniforme explícita válida para todo $n$ . (A taxa ótima de Berry–Esseen $C\beta/\sqrt n$ exige a desigualdade de suavização de Fourier; a troca cede em nitidez em favor da completa elementaridade.)

8. Para $X_i = 2B_i - 1$ (sinais honestos): centrada, variância $1$ , e $\abs{X_i} = 1$ , de modo que $\beta = 1$ . A questão 7 então limita $\sup_t\abs{\P(\frac{S_n}{\sqrt n} \leq t) - \Phi(t)}$ explicitamente e uniformemente para todo $n$ finito — um enunciado global e não assintótico sobre a função de distribuição. A estimativa local do Problema 11.1, questão 7, dá, em vez disso, a assintótica exata de um átomo individual, $\P(S_{2n} = 2k) \sim \frac{\eu^{-k^2/n}}{\sqrt{\pi n}}$ : ela resolve probabilidades de tamanho $n^{-1/2}$ , muito abaixo da resolução $n^{-1/8}$ da questão 7, mas é pontual, assintótica (sem erro explícito em $n$ fixo) e presa a essa lei reticulada particular. Precisão local contra uniformidade global: os dois métodos são complementares, e somar a estimativa local sobre $k \in \intint{a\sqrt n}{b\sqrt n}$ recupera de Moivre–Laplace em intervalos — com taxa mais fina, mas só para essa lei.

9. O argumento de troca nada usou sobre a lei dos $X_i$ além de $\E X_i = 0$ , $\E X_i^2 = 1$ e da finitude de $\E\abs{X_i}^3$ : se tivéssemos substituído as gaussianas $N_i$ por qualquer outra família i.i.d. com os mesmos dois primeiros momentos e terceiro momento finito, o mesmo telescópio limitaria $\abs{\E f(\text{soma}_X) - \E f(\text{soma}_Y)}$ por $O(n^{-1/2})$ para toda $f$ suave. Estatísticas suaves de grandes somas independentes são, portanto, universais: a menos de um erro quantificado, elas dependem da lei das parcelas apenas através de dois números. Esse é o princípio de invariância: demonstre um teorema-limite para a lei mais calculável (a gaussiana, em que tudo é exato) e depois transfira-o a todas as leis por troca. O mesmo esquema — com somas substituídas por funcionais mais elaborados — move a lei do semicírculo de Wigner para matrizes aleatórias, a universalidade das raízes de polinômios aleatórios e boa parte da probabilidade moderna; o teorema central do limite é sua primeira e mais simples instância.

10. $Z$ é função boreliana apenas de $(N_{i+1}, \dots, N_n)$ , ao passo que $A = W_i + \theta h - Z$ e $h$ são funções das variáveis restantes da família independente $(X_1, \dots, X_n, N_1, \dots, N_n)$ : pelo princípio das coalizões (Teorema 22.5), $Z$ é independente de $(A, h)$ . Como soma das independentes $N_j/\sqrt n \sim \mathcal N(0, \frac1n)$ , $Z \sim \mathcal N(0, s^2)$ com $s^2 = \frac{n-i}n$ (Exercício 23.3), de densidade limitada por $\frac1{s\sqrt{2\pi}}$ . A lei de $((A, h), Z)$ é o produto das duas leis marginais, de modo que Tonelli (transferência) congela o primeiro bloco: com $G(a) = \E\abs{g(a + Z)} = \int\abs{g(a + z)}\,\varphi_s(z)\,\dd z \leq \frac{\norm g_{L^1}}{s\sqrt{2\pi}}$ para todo $a$ ,

\E\bigl[\abs h^3\abs{g(A + Z)}\bigr] = \E\bigl[\abs h^3\,G(A)\bigr] \leq \frac{\norm g_{L^1}}{s\sqrt{2\pi}}\,\E\abs h^3 = \sqrt{\frac{n}{2\pi(n-i)}}\,\norm g_{L^1}\,\E\abs h^3 .

11. A forma integral da fórmula de Taylor decorre de integrar $f(w + h) - f(w) = h\int_0^1f'(w + \theta h)\,\dd\theta$ por partes duas vezes em $\theta$ . Tomando esperanças na $i$ -ésima troca, as ordens $0, 1, 2$ se cancelam exatamente como na questão 3, e os dois restos (para $h = X_i/\sqrt n$ e $N_i/\sqrt n$ ) são limitados, para $i \leq n - 1$ , pela questão 10 com $g = f'''$ :

\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \int_0^1\frac{(1-\theta)^2}2\,\dd\theta\; \sqrt{\frac{n}{2\pi(n-i)}}\,\norm{f'''}_{L^1} \frac{\beta + \gamma}{n^{3/2}} = \frac{\beta + \gamma}{6\,n^{3/2}} \sqrt{\frac{n}{2\pi(n-i)}}\,\norm{f'''}_{L^1} .

Somando, com $\sum_{i=1}^{n-1}\sqrt{\frac n{n-i}} = \sqrt n\sum_{m=1}^{n-1}m^{-1/2} \leq 2n$ , e acrescentando a cota da questão 3 para a última troca ( $i = n$ , sem gaussiana restante):

\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta + \gamma}{3\sqrt{2\pi}}\cdot \frac{\norm{f'''}_{L^1}}{\sqrt n} + \frac{M_3(\beta + \gamma)}{6\,n^{3/2}} .

Rampas: $\psi_\delta'''(x) = \delta^{-3}\psi'''\bigl(\frac{x - t}\delta\bigr)$ , de modo que $M_3 = K\delta^{-3}$ com $K = \norm{\psi'''}_\infty$ e $\norm{\psi_\delta'''}_{L^1} = \delta^{-2} \norm{\psi'''}_{L^1} = K_1\delta^{-2}$ (substituição). O sanduíche da questão 7 dá então

\sup_t\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \leq \frac{K_1(\beta + \gamma)}{3\sqrt{2\pi}}\cdot \frac1{\delta^2\sqrt n} + \frac{K(\beta + \gamma)}{6}\cdot \frac1{\delta^3n^{3/2}} + \frac\delta{\sqrt{2\pi}} .

Em $\delta = n^{-1/6}$ , o primeiro e o terceiro termos são $O(n^{-1/6})$ e o do meio $O(n^{-1})$ : uma taxa uniforme $O(n^{-1/6})$ , estritamente melhor que o $n^{-1/8}$ da questão 7 — a metade gaussiana do híbrido fez a suavização extra.

12. $\E N_1^3 = 0$ (integrando ímpar), e a integração por partes dá $\E N_1^4 = 3\,\E N_1^2 = 3$ ( $\int x^3\cdot x\varphi(x)\dd x = 3\int x^2\varphi$ ). Para $f$ de classe $\mathcal C^4$ com derivadas limitadas, expanda cada troca até a quarta ordem: os termos de terceira ordem carregam o fator $\E X_i^3 - \E N_i^3 = 0$ (a independência os fatora como na questão 3), de modo que só o resto de quarta ordem $\int_0^1\frac{(1-\theta)^3}6f^{(4)}(w + \theta h)h^4\dd\theta$ sobrevive, com $\int_0^1 \frac{(1-\theta)^3}6\dd\theta = \frac1{24}$ e $\E h^4 = \beta_4n^{-2}$ ou $3n^{-2}$ . A questão 10 (com $g = f^{(4)}$ ) limita as trocas por $i \leq n - 1$ e, somando como na questão 11:

\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta_4 + 3}{12\sqrt{2\pi}}\cdot \frac{\norm{f^{(4)}}_{L^1}}{n} + \frac{M_4(\beta_4 + 3)}{24\,n^2} .

Com $\norm{\psi_\delta^{(4)}}_{L^1} = K_2\delta^{-3}$ e $M_4 = K'\delta^{-4}$ , a cota para a função de distribuição se torna $C\delta^{-3}n^{-1} + C'\delta^{-4}n^{-2} + \frac\delta{\sqrt{2\pi}}$ ; em $\delta = n^{-1/4}$ , os termos extremos são $O(n^{-1/4})$ e o do meio $O(n^{-1})$ : taxa $O(n^{-1/4})$ .

13. Com $k$ momentos coincidentes, o resto sobrevivente por troca é da ordem de $\E\abs h^{k+1} \asymp n^{-(k+1)/2}$ ; a cota da gaussiana oculta cobra $\norm{f^{(k+1)}}_{L^1}$ e a soma sobre as trocas contribui com o fator $2n$ , dando $\asymp\norm{f^{(k+1)}}_{L^1}\, n^{-(k-1)/2}$ para $f$ suave. As rampas custam $\norm{\psi_\delta^{(k+1)}}_{L^1} \asymp \delta^{-k}$ , de modo que o erro na função de distribuição é $\asymp \delta^{-k}n^{-(k-1)/2} + \delta$ , equilibrado em $\delta = n^{-(k-1)/(2k+2)}$ : taxa $n^{-(k-1)/(2k+2)}$ , que é $n^{-1/6}$ para $k = 2$ , $n^{-1/4}$ para $k = 3$ , e tende a $n^{-1/2}$ apenas quando $k \to \infty$ — mas $k \geq 4$ forçaria $\E X_1^4 = 3$ e além, isto é, uma lei que já imita a gaussiana. A saturação é estrutural: a troca soma $n$ erros de troca em valor absoluto, renunciando a todo cancelamento entre trocas. A demonstração de Fourier compara funções características, em que os erros aparecem com suas fases oscilantes; a desigualdade de suavização de Esseen converte $\abs{\varphi_{T_n} - \varphi_N}$ , integrado contra $\frac{\dd\xi}{\abs\xi}$ , numa cota para a função de distribuição a custo apenas logarítmico, e entrega o $C\beta n^{-1/2}$ de Berry–Esseen a partir de três momentos. A substituição troca a otimalidade pela robustez — e, como a Parte VII mostra, pela portabilidade.

14. $\Sigma$ é simétrica semidefinida positiva; com $\Sigma = PDP^{\mathsf T}$ ( $P$ ortogonal, $D \geq 0$ diagonal, Exercício 20.8), a simétrica $C = P\sqrt DP^{\mathsf T}$ satisfaz $C^2 = \Sigma$ . Para qualquer $t \in \R^2$ , $\langle t, CZ\rangle = \langle Ct, Z\rangle = (Ct)_1Z^1 + (Ct)_2Z^2$ é uma combinação linear de gaussianas independentes, logo gaussiana (Exercício 23.3): $N = CZ$ é um vetor gaussiano; sua média é $0$ e sua covariância, $\E[NN^{\mathsf T}] = C\,\E[ZZ^{\mathsf T}]\,C^{\mathsf T} = CC^{\mathsf T} = \Sigma$ . Momentos: $\norm N^3 \leq (\abs{N_1} + \abs{N_2})^3 \leq 4(\abs{N_1}^3 + \abs{N_2}^3)$ (convexidade de $x^3$ em $\R_+$ ), e cada coordenada é uma gaussiana real com momentos de todas as ordens (Exercício 11.10): $\gamma' < \infty$ . Por fim, cada $\langle t, G_n\rangle = \frac1{\sqrt n}\sum_i\langle t, N_i\rangle$ é uma soma normalizada de $\mathcal N(0, t^{\mathsf T}\Sigma t)$ i.i.d., logo exatamente $\mathcal N(0, t^{\mathsf T}\Sigma t)$ : $G_n$ é um vetor gaussiano de média $0$ e covariância $\Sigma$ , e sua lei é $\mathcal N(0, \Sigma)$ (Definição 23.10: a lei é determinada por esses dados).

15. Sejam $\phi(t) = f(w + th)$ , $t \in \intcc01$ : $\phi$ é $\mathcal C^3$ com

\phi'''(t) = \sum_{j,k,l\in\{1,2\}}\partial_{jkl}f(w + th)\,h_jh_kh_l, \qquad \abs{\phi'''(t)} \leq M_3\Bigl(\sum_j\abs{h_j}\Bigr)^3 = M_3(\abs{h_1} + \abs{h_2})^3 .

Taylor–Lagrange de ordem $3$ para $\phi$ entre $0$ e $1$ dá a primeira desigualdade; Cauchy–Schwarz dá $\abs{h_1} + \abs{h_2} \leq \sqrt2\norm h$ , donde a constante $\frac{2\sqrt2M_3}6 = \frac{\sqrt2M_3}3$ .

16. Defina $H_i$ e $W_i$ como na questão 1, agora em $\R^2$ ; o argumento das coalizões não muda. Na $i$ -ésima troca, os termos de primeira ordem dão $\sum_j\E[\partial_jf(W_i)]\,(\E X_{i,j} - \E N_{i,j})/ \sqrt n = 0$ e os de segunda ordem dão $\frac1{2n}\sum_{j,k}\E[\partial_{jk}f(W_i)]\,(\Sigma_{jk} - \Sigma_{jk}) = 0$ : médias e covariâncias coincidem. A questão 15 limita os dois restos:

\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{\sqrt2M_3}3\cdot\frac{\E\norm{X_i}^3 + \E\norm{N_i}^3}{n^{3/2}} = \frac{\sqrt2M_3(\beta' + \gamma')}{3\,n^{3/2}},

e, telescopando sobre as $n$ trocas:

\Bigl|\E f\Bigl(\frac{S_n}{\sqrt n}\Bigr) - \E f(G_n)\Bigr| \leq \frac{\sqrt2\,M_3(\beta' + \gamma')}{3\sqrt n}, \qquad G_n \sim \mathcal N(0, \Sigma)\ \text{exatamente} .

Elevação: $\E\norm{T_n}^2 = \E\norm{X_1}^2 = \operatorname{tr}\Sigma$ (os termos cruzados se anulam por independência e centragem), de modo que $\P(\norm{T_n} > A) \leq \operatorname{tr}\Sigma/A^2$ , e do mesmo modo para $N$ : tensão. Dados uma $f$ contínua limitada e $\varepsilon > 0$ , multiplique por um platô suave $\chi$ igual a $1$ na bola de raio $A$ e com suporte no raio $A + 1$ (regularize uma indicadora em $\R^2$ , Teorema 12.9); $g = f\chi$ é uniformemente contínua de suporte compacto, de modo que sua regularização bidimensional $g_\eta$ é $\mathcal C^\infty$ com derivadas limitadas de todas as ordens e $\norm{g - g_\eta}_\infty \leq \varepsilon$ para $\eta$ pequeno. A cadeia de três $\varepsilon$ da questão 5 se transfere então literalmente: $\E f(T_n) \to \E f(N)$ para toda $f \colon \R^2 \to \R$ contínua limitada. Esse é o Teorema 23.12 para $d = 2$ , agora demonstrado — a troca contorna o teorema de Lévy bidimensional que o capítulo havia deixado admitido.

17. Para $g \colon \R \to \R$ contínua limitada, a aplicação $x \mapsto g(\langle t, x\rangle)$ é contínua limitada em $\R^2$ , de modo que a questão 16 dá $\E g(\langle t, T_n\rangle) \to \E g(\langle t, N\rangle)$ : toda projeção converge em distribuição, e $\langle t, N\rangle \sim \mathcal N(0, t^{\mathsf T}\Sigma t)$ . (Essa é a direção fácil de Cramér–Wold: a convergência conjunta implica a convergência de todas as imagens lineares.) Aplicação: $V_i = (\xi_i, \xi_i^2 - 1)$ são vetores i.i.d. centrados ( $\E\xi_1^2 = 1$ ), com entradas de covariância $\V(\xi_1) = 1$ , $\operatorname{Cov}(\xi_1, \xi_1^2 - 1) = \E\xi_1^3$ e $\V(\xi_1^2 - 1) = \E\xi_1^4 - 1$ ; o terceiro momento $\E\norm{V_1}^3 \leq 4\bigl(\E\abs{\xi_1}^3 + \E\abs{\xi_1^2 - 1}^3\bigr)$ é finito quando $\xi_1 \in L^6$ . A questão 16 fornece o limite gaussiano conjunto em destaque, e o Teorema 23.11(2): as duas coordenadas do limite são independentes exatamente quando a covariância $\E\xi_1^3$ se anula — para leis simétricas, média empírica e variância empírica se desacoplam assintoticamente.

18. Escreva $g(x) - g(\theta) = (g'(\theta) + \eta(x))(x - \theta)$ , em que $\eta(x) = \frac{g(x) - g(\theta)}{x - \theta} - g'(\theta)$ para $x \neq \theta$ e $\eta(\theta) = 0$ : a derivabilidade em $\theta$ significa precisamente $\eta(x) \to 0$ quando $x \to \theta$ . Passo 1: $\hat\theta_n \to \theta$ em probabilidade: para $\varepsilon > 0$ e qualquer $A > 0$ , a partir de certa ordem $\varepsilon\sqrt n \geq A$ , de modo que $\P(\abs{\hat\theta_n - \theta} > \varepsilon) \leq \P(\abs{\sqrt n(\hat\theta_n - \theta)} > A) \to \P(\sigma\abs N > A)$ (as funções de distribuição convergem nos pontos de continuidade $\pm A$ ), e o membro direito tende a $0$ quando $A \to \infty$ . Passo 2: $\eta(\hat\theta_n) \to 0$ em probabilidade: dado $\varepsilon' > 0$ , tome $\delta$ com $\abs\eta \leq \varepsilon'$ em $\abs{x - \theta} \leq \delta$ ; então $\P(\abs{\eta(\hat\theta_n)} > \varepsilon') \leq \P(\abs{\hat\theta_n - \theta} > \delta) \to 0$ . Passo 3:

\sqrt n\bigl(g(\hat\theta_n) - g(\theta)\bigr) = g'(\theta)\,\sqrt n(\hat\theta_n - \theta) + \eta(\hat\theta_n)\cdot\sqrt n(\hat\theta_n - \theta) .

Pela regra do produto de Slutsky (Exercício 23.8, com a sequência $\eta(\hat\theta_n) \to 0$ em probabilidade e a $\sqrt n(\hat\theta_n - \theta)$ convergente em lei), o segundo termo converge em lei para $0\cdot\mathcal N(0, \sigma^2) = 0$ , logo para $0$ em probabilidade (Exercício 23.4(b)); o primeiro converge em lei para $g'(\theta)\mathcal N(0, \sigma^2)$ (Slutsky de novo, ou a regra afim para funções características); a regra da soma de Slutsky os reúne: o limite é $\mathcal N(0, g'(\theta)^2\sigma^2)$ .

19. (a) O TCL dá $\sqrt n(\bar X_n - \mu) \Rightarrow \mathcal N(0, \sigma^2)$ ; o método delta com $g(x) = x^2$ , $g'(\mu) = 2\mu$ , dá $\sqrt n(\bar X_n^2 - \mu^2) \Rightarrow \mathcal N(0, 4\mu^2\sigma^2)$ — degenerado (limite $0$ ) quando $\mu = 0$ . Nesse caso, a flutuação vive uma escala acima: $n\bar X_n^2 = (\sqrt n\,\bar X_n)^2$ e, para $t > 0$ ,

\P\bigl(n\bar X_n^2 \leq t\bigr) = \P\bigl(-\sqrt t \leq \sqrt n\,\bar X_n \leq \sqrt t\bigr) \longrightarrow \Phi\Bigl(\frac{\sqrt t}\sigma\Bigr) - \Phi\Bigl(-\frac{\sqrt t}\sigma\Bigr) = \P(\sigma^2N^2 \leq t) :

$n\bar X_n^2 \Rightarrow \sigma^2N^2$ , o quadrado de uma gaussiana (uma lei “qui-quadrado”) — quando a primeira derivada morre, o termo de segunda ordem de Taylor dita um limite não gaussiano. (b) Aqui $\sqrt n(\hat p_n - p) \Rightarrow \mathcal N(0, p(1 - p))$ e $g(p) = \arcsin\sqrt p$ tem $g'(p) = \frac1{2\sqrt{p(1 - p)}}$ , de modo que $g'(p)^2\,p(1 - p) = \frac14$ : o limite é $\mathcal N(0, \frac14)$ para todo $p \in \intoo01$ . Na escala $\arcsin$ , a barra de erro assintótica de $95\%$ é $\pm \frac{0.98}{\sqrt n}$ , conhecida de antemão — ao passo que, no Exemplo 23.9, a largura envolvia o desconhecido $\sigma = \sqrt{p(1-p)}$ , a ser majorado por $\frac12$ ou estimado: a transformação estabiliza a variância.

20. Sejam $A^* = \{k : \mu(\{k\}) > \nu(\{k\})\}$ e $\Delta_k = \mu(\{k\}) - \nu(\{k\})$ , de modo que $\sum_k\Delta_k = 0$ . Para qualquer $A \subseteq \N$ : $\mu(A) - \nu(A) = \sum_{k\in A}\Delta_k \leq \sum_{k\in A^*}\Delta_k$ , com igualdade em $A = A^*$ ; e, como as partes positiva e negativa de $(\Delta_k)$ têm massa total igual, $\sum_{A^*}\Delta_k = \frac12\sum_k\abs{\Delta_k}$ . Trocar $\mu, \nu$ cuida do sinal: $d_{\mathrm{TV}}(\mu, \nu) = \frac12\sum_k\abs{\Delta_k}$ . Acoplamento: para qualquer $A$ ,

\mu(A) - \nu(A) = \E\bigl[\mathbf 1_A(X) - \mathbf 1_A(Y)\bigr] = \E\bigl[(\mathbf 1_A(X) - \mathbf 1_A(Y))\,\mathbf 1_{X\neq Y}\bigr] \leq \P(X \neq Y),

e tome o supremo em $A$ .

21. As duas leis carregam: $k = 0$ : $1 - p$ contra $\eu^{-p}$ , com $\eu^{-p} > 1 - p$ ; $k = 1$ : $p$ contra $p\,\eu^{-p} < p$ ; $k \geq 2$ : $0$ contra o resto de Poisson $1 - \eu^{-p} - p\eu^{-p} \geq 0$ . Logo

d_{\mathrm{TV}} = \tfrac12\bigl[(\eu^{-p} - 1 + p) + (p - p\eu^{-p}) + (1 - \eu^{-p} - p\eu^{-p})\bigr] = \tfrac12\bigl(2p - 2p\eu^{-p}\bigr) = p(1 - \eu^{-p}),

e $1 - \eu^{-p} \leq p$ dá a cota $p^2$ .

22. Escreva $H_{i-1} = W_i + X_i$ e $H_i = W_i + Y_i$ com $W_i = \sum_{j<i}Y_j + \sum_{j>i}X_j$ , independentes do par $(X_i, Y_i)$ (coalizões). Para $A \subseteq \N$ , condicionando aos valores em quantidade enumerável por independência,

\P(H_{i-1} \in A) = \sum_{k\geq0}\P(X_i = k)\,\P(W_i + k \in A),

e do mesmo modo para $H_i$ com $Y_i$ . Subtraindo, com $c_k = \P(W_i + k \in A) \in \intcc01$ e $\Delta_k = \P(X_i = k) - \P(Y_i = k)$ de soma nula:

\abs{\P(H_{i-1} \in A) - \P(H_i \in A)} = \Bigl|\sum_k\Delta_k\bigl(c_k - \tfrac12\bigr)\Bigr| \leq \tfrac12\sum_k\abs{\Delta_k} = d_{\mathrm{TV}}\bigl(\mathcal B(1, p_i), \mathcal P(p_i)\bigr) .

Telescopando de $H_0 = S$ a $H_n = \sum_iY_i \sim \mathcal P(\lambda)$ (Exercício 23.1, iterado) e usando a questão 21:

\abs{\P(S \in A) - \P(\mathcal P(\lambda) \in A)} \leq \sum_{i=1}^np_i\bigl(1 - \eu^{-p_i}\bigr) \leq \sum_{i=1}^np_i^2 \qquad\text{para todo } A :

a desigualdade de Le Cam. (A cota por acoplamento da questão 20 dá uma rota alternativa: acople cada par numa única variável uniforme, de modo que $\P(X_i \neq Y_i) \leq p_i^2$ , e limite $\P(S \neq \sum Y_i)$ ; a troca não precisa de construção alguma.)

23. (a) Com $p_i = \frac\lambda n$ : $d_{\mathrm{TV}}(\text{lei de }S, \mathcal P(\lambda)) \leq \frac{\lambda^2}n$ . Isso refina o Exercício 23.5 em três frentes: um erro explícito em todo $n$ finito, uniformidade sobre todos os eventos $A$ de uma vez (não um intervalo por vez) e nenhuma necessidade de $p_i$ iguais — apenas $\sum_ip_i^2$ pequeno, por exemplo $\sum p_i^2 \leq \lambda\max_ip_i$ : muitos eventos raros, nenhum dominante. (b) Aqui $n = 500$ , $p_i = \frac1{500}$ , $\lambda = 1$ : o modelo de Poisson erra, no máximo, $500\cdot\frac1{500^2} = 0.002$ em todo evento; em particular, tomando $A = \{0\}$ ,

\P(\text{nenhuma carta extraviada}) = \Bigl(1 - \frac1{500}\Bigr)^{500}, \qquad \Bigl|\P(\text{nenhuma carta extraviada}) - \eu^{-1}\Bigr| \leq 0.002,

de modo que a resposta é $\eu^{-1} \approx 0.368$ a menos de $0.002$ garantidos (a discrepância verdadeira é cerca de $4\cdot10^{-4}$ ). (c) O problema se fecha sobre um único método com dois regimes. Quando $n$ contribuições comparáveis carregam, cada uma, variância $\frac1n$ , casar dois momentos com a gaussiana torna os erros de troca $o(\frac1n)$ cada: as somas viram gaussianas — com Taylor como ferramenta de comparação local. Quando $n$ contribuições são indicadoras de probabilidade $p_i$ , casar a média com um átomo de Poisson faz cada troca custar $p_i^2$ : as contagens de eventos raros viram Poisson — com a variação total como comparação local exata. Mesmos híbridos, mesmo telescópio, estimativa local diferente: a substituição é uma estratégia, não um teorema, e os limites gaussiano e de Poisson são seus dois dividendos mais antigos.

24. O TCL dá $\sqrt n(\bar X_n - \mu) \Rightarrow \mathcal N(0, \sigma^2)$ , e $g(x) = \ln x$ é derivável em $\mu > 0$ com $g'(\mu) = \frac1\mu$ : o método delta (Parte VI) fornece $\sqrt n(\ln\bar X_n - \ln\mu) \Rightarrow \mathcal N(0, \sigma^2/\mu^2)$ . Desenrolando o intervalo $\abs{\ln\bar X_n - \ln\mu} \leq \frac{1.96\,\sigma}{\mu\sqrt n}$ por exponenciação:

\mu \in \bar X_n\cdot \eu^{\pm1.96\,\sigma/(\mu\sqrt n)} \qquad\text{com probabilidade assintótica } 95\%

(na prática, $\sigma/\mu$ é substituído por sua versão empírica, Slutsky como no Exercício 23.8). O intervalo multiplicativo é o natural quando os dados são positivos com erros proporcionais a seu tamanho — rendas, concentrações, meias-vidas: grandezas que vivem em escala logarítmica, em que intervalos aditivos simétricos poderiam até cruzar o zero.

25. $\E[(X - p)^3] = (1-p)^3p + (-p)^3(1 - p) = p(1-p)\bigl[(1-p)^2 - p^2\bigr] = p(1-p)(1 - 2p)$ . Na análise por troca (Parte IV), o termo de erro dominante, após casar dois momentos, carrega o terceiro momento com sinal: para $p < \frac12$ ele é positivo (a lei pende à direita: excursões grandes e raras acima da média), e a aproximação normal desloca sistematicamente a massa — subestimando a cauda esquerda, curta, e superestimando a direita — com erro da ordem de $n^{-1/2}$ ; em $p = \frac12$ , o terceiro momento se anula, a Bernoulli casa com a gaussiana até a terceira ordem, e a taxa melhora (a questão dos momentos coincidentes da Parte IV). Numericamente: $\P(S = 0) = 0.9^{20} = 0.1216$ , ao passo que a gaussiana $\mathcal N(2, 1.8)$ dá $\Phi\bigl(\frac{0.5 - 2}{\sqrt{1.8}}\bigr) = \Phi(-1.118) \approx 0.132$ : a curva normal, ignorante da parede em $0$ e da assimetria à direita, põe massa demais embaixo — o sinal previsto do erro, visível em $n = 20$ .