22Probabilidade: fundamentos e a lei dos grandes números

Solução de Exercício 22.1.

(a) Para $u \in \intoo01$: $\P(F(X) \leq u) = \P(X \leq F^{-1}(u)) = F(F^{-1}(u)) = u$ (a continuidade e a monotonicidade estrita fazem de $F$ uma bijeção sobre $\intoo01$ com $\{F(X) \leq u\} = \{X \leq F^{-1}(u)\}$): $F(X)$ é uniforme. Reciprocamente, $\P(G(U) \leq t) = \P(U \leq F(t)) = F(t)$: para simular uma lei, aplique a inversa da função de distribuição a uma amostra uniforme.

(b) $Y = X^2$, $X$ uniforme em $\intcc{-1}1$: para $t \in \intcc01$, $F_Y(t) = \P(-\sqrt t \leq X \leq \sqrt t) = \sqrt t$: densidade $\frac1{2\sqrt t}\mathbf 1_{\intoo01}$. E $\P\bigl(-\frac1\lambda\ln U \leq t\bigr) = \P(U \geq \eu^{-\lambda t}) = 1 - \eu^{-\lambda t}$: a exponencial $\mathcal E(\lambda)$ — a inversão em ação.

Solução de Exercício 22.2.

(a) Poisson: $\E X = \sum_{k\geq0}k\,\eu^{-\lambda} \frac{\lambda^k}{k!} = \lambda$, $\E[X(X-1)] = \lambda^2$, de modo que $\V = \lambda^2 + \lambda - \lambda^2 = \lambda$. Geométrica ($\P(X = k) = p(1-p)^{k-1}$): $\E X = \frac1p$, $\V = \frac{1-p}{p^2}$ (derive duas vezes a série geométrica).

(b) $G(t) = \P(T > t)$ é não crescente com $G(0^+)\dots$ $G \colon \intco0\infty \to \intoc01$; a ausência de memória se lê $G(t + s) = G(t)G(s)$. Então $G(n t) = G(t)^n$ e $G(t/n) = G(t)^{1/n}$: $G(q) = G(1)^q$ para $q \geq 0$ racionais; escrevendo $G(1) = \eu^{-\lambda}$ ($\in \intoo01$: $G(1) = 1$ forçaria $G \equiv 1$, impossível para uma variável aleatória finita; $G(1) = 0$ está excluído por hipótese) e espremendo um $t$ arbitrário entre racionais (monotonicidade): $G(t) = \eu^{-\lambda t}$ — a lei exponencial. A recíproca é um cálculo.

Solução de Exercício 22.3.

(a) $\sigma(f_i(X_i)) = f_i(X_i)^{-1}(\mathcal B) \subseteq X_i^{-1}(\mathcal B) = \sigma(X_i)$ ($f_i$ borelianas), e sub-$\sigma$-álgebras de $\sigma$-álgebras independentes são independentes (a identidade que as define vale a fortiori).

(b) $\sigma(A_i) = \{\varnothing, A_i, A_i^c, \Omega\} = \sigma(A_i^c) = \sigma(\mathbf 1_{A_i})$: as três afirmações asseguram a independência das mesmas $\sigma$-álgebras. (Que a fatoração sobre os $A_i$ se propague aos complementares é o argumento de $\lambda$-sistemas dentro da equivalência da Definição 22.4 — ou inclusão-exclusão direta.)

(c) $\P(A) = \P(B) = \P(C) = \frac12$; $A\cap B = A\cap C = B\cap C$ nos pares: cada interseção é “duas caras” ou análoga, de probabilidade $\frac14$: independentes dois a dois. Mas $\P(A\cap B\cap C) = \P(\text{HH}) = \frac14 \neq \frac18$: não independentes — $C$ é determinado por $A$ e $B$.

Solução de Exercício 22.4.

(a) Seja o texto $T$ de comprimento $L$ e $q = a^{-L}$ ($a$ o tamanho do alfabeto). Os eventos $E_k = \{$as posições $kL+1, \dots, (k+1)L$ soletram $T\}$ são independentes (blocos disjuntos de letras i.i.d.), cada um de probabilidade $q > 0$: $\sum\P(E_k) = \infty$, e Borel–Cantelli (2) dá uma infinidade de ocorrências q.c.

(b) Superior: $\P\bigl(R_n \geq (1+\varepsilon)\log_2n\bigr) \leq 2^{-(1+\varepsilon)\log_2n} = n^{-(1+\varepsilon)}$, somável: por Borel–Cantelli (1), q.c. só finitos $n$ desses. Inferior: empacote blocos disjuntos — o $j$-ésimo de comprimento $\ell_j = \lceil\log_2s_j\rceil$ começando em $s_j = \sum_{i<j}\ell_i$; os eventos “o bloco $j$ é só de uns” são independentes, de probabilidade $2^{-\ell_j} \asymp \frac1{s_j} \asymp \frac1{j\log_2 j}$, cuja soma diverge: Borel–Cantelli (2) dá uma infinidade de blocos só de uns, isto é, $R_{s_j} \geq \log_2 s_j$ uma infinidade de vezes. Juntos: o comprimento máximo de uma sequência de uns nos $n$ primeiros dígitos é $(1 + o(1))\log_2n$ q.c.

Solução de Exercício 22.5.

(a) $R = \bigl(\limsup\abs{X_n}^{1/n}\bigr)^{-1}$ não muda se finitos $X_n$ forem modificados: para todo $N$, $R$ é $\sigma(X_N, X_{N+1}, \dots)$-mensurável, isto é, mensurável na cauda. Então cada evento $\{R \leq c\}$ tem probabilidade $0$ ou $1$ (Teorema 22.9), de modo que a função de distribuição de $R$ assume apenas os valores $0, 1$: ela salta num único ponto $c_0 \in \intcc0{+\infty}$, e $R = c_0$ q.c.

(b) A convergência de $\sum X_n$ e a de $\frac{S_n}n$ são insensíveis à alteração de finitos termos (para a segunda: os termos modificados contribuem com $O(1/n) \to 0$): eventos de cauda; lei zero–um.

(c) $\{X_1 > 0\}$ depende de $X_1$: para sinais i.i.d. ($\P(X_1 = \pm1) = \frac12$), sua probabilidade vale $\frac12 \notin \{0,1\}$ — nenhuma contradição: não é evento de cauda.

Solução de Exercício 22.6.

Trabalhe em $(\intcc01, \lambda)$. (a) A máquina de escrever $\mathbf 1_{I_n}$ (Exercício 12.3): $\norm{X_n}_p^p = \lambda(I_n) \to 0$ (todo $p < \infty$), logo também em probabilidade; em todo $\omega$ os valores $0$ e $1$ recorrem ambos: nenhuma convergência pontual em parte alguma. (b) $X_n = n\mathbf 1_{\intoo0{1/n}} \to 0$ fora de $0$, mas $\norm{X_n}_p \geq n^{1 - 1/p} \geq 1$. (c) $X_n = \sqrt n\,\mathbf 1_{\intoo0{1/n}}$: $\E\abs{X_n} = n^{-1/2} \to 0$, $\E X_n^2 = 1$. (d) De qualquer subsequência extraia (convergência em probabilidade) uma subsequência ulterior convergindo q.c. (Proposição 22.11(c)); a convergência dominada dá a convergência $L^1$ ao longo dela, com o mesmo limite $X$. Assim, toda subsequência da sequência numérica $\E\abs{X_n - X}$ tem uma sub-subsequência tendendo a $0$: a sequência inteira tende a $0$.

Solução de Exercício 22.7.

(a) $\hat p_n = \frac{S_n}n$ com $S_n$ binomial: $\V(\hat p_n) = \frac{p(1-p)}n \leq \frac1{4n}$, e Chebyshev (Proposição 22.3) dá a cota. (b) Resolva $\frac1{4n(0.03)^2} \leq 0.05$: $n \geq \frac{1}{4\cdot0.0009\cdot0.05} \approx 5556$. O teorema central do limite justificará $n \approx 1070$ para a mesma garantia: Chebyshev paga sua generalidade com um fator $\approx 5$.

Solução de Exercício 22.8.

(a) Se $S_n \sim \mathcal B(n, x)$, o teorema de transferência dá $\E\bigl[f(\frac{S_n}n)\bigr] = \sum_k\binom nkx^k(1-x)^{n-k}f(\frac kn) = B_nf(x)$.

(b)–(c) Seja $\omega = \omega_f$ o módulo de continuidade ($\abs{f(u) - f(v)} \leq \omega(\abs{u - v})$, e $\omega(c \delta) \leq (1 + c)\,\omega(\delta)$ encadeando passos). Então, para qualquer $\delta > 0$,

(se $\abs{u - x} \leq \delta$, claro; caso contrário, $\omega(\abs{u-x}) \leq (1 + \frac{\abs{u-x}}\delta) \omega(\delta) \leq (1 + \frac{(u-x)^2}{\delta^2}) \omega(\delta)$). Tome esperanças em $u = \frac{S_n}n$:

com $\delta = n^{-1/2}$: $\norm{B_nf - f}_\infty \leq \frac54\,\omega\bigl(n^{-1/2}\bigr) \leq \frac32\,\omega\bigl(n^{-1/2}\bigr) \to 0$ (continuidade uniforme no compacto): um teorema de Weierstrass probabilístico, com taxa explícita e uniforme.

Solução de Exercício 22.9.

(a) Depois de $k - 1$ tipos coletados, cada sorteio é novo com probabilidade $p_k = \frac{n-k+1}n$: $\tau_k$ é geométrica $(p_k)$, e os $\tau_k$ são independentes (os sorteios o são). Somas: $\E T_n = \sum_k\frac n{n-k+1} = nH_n \sim n\ln n$; $\V(T_n) = \sum\frac{1 - p_k}{p_k^2} \leq n^2\sum_{j=1}^n\frac1{j^2} \leq \frac{\pi^2}6n^2$.

(b) Chebyshev: $\P\bigl(\abs{T_n - nH_n} \geq \varepsilon n\ln n\bigr) \leq \frac{\pi^2n^2/6}{\varepsilon^2n^2\ln^2n} \to 0$, e $\frac{nH_n}{n\ln n} \to 1$: $\frac{T_n}{n\ln n} \to 1$ em probabilidade.

(c) Cota da união: $T_n > t$ significa que algum tipo não foi visto após $\lceil t\rceil$ sorteios, de modo que $\P(T_n > t) \leq n(1 - \frac1n)^{t} \leq n\,\eu^{-t/n}$; em $t = \beta n\ln n$: $\leq n^{1 - \beta}$. Para $\beta > 1$, $\sum_m 2^{m(1-\beta)} < \infty$: Borel–Cantelli dá, ao longo de $n = 2^m$, q.c. $T_n \leq \beta n\ln n$ a partir de certa ordem — em particular, para todo $\beta > 2$ como enunciado (qualquer $\beta > 1$ serve ao longo da subsequência).

Solução de Exercício 22.10.

(a) Os dígitos de índice par $(b_{2k})_k$ são bits honestos i.i.d. (uma subfamília da família independente de dígitos), de modo que $U = \sum_kb_{2k}2^{-k}$ dá a todo intervalo diádico sua probabilidade correta (como no Teorema 22.6): uniforme; do mesmo modo $V$; e $(U, V)$ dependem de blocos de dígitos disjuntos: independentes (fatoração em retângulos diádicos, depois Dynkin).

(b) $\Phi(\omega) = (U(\omega), V(\omega))$ é mensurável com $\Phi_*\lambda = \lambda\otimes\lambda = \lambda_2$ (coincidência em retângulos diádicos + unicidade). Intercalar dígitos define uma inversa definida fora do conjunto (nulo) dos racionais diádicos em qualquer dos fatores: uma bijeção que preserva a medida entre subconjuntos de medida total de $\intcc01$ e $\intcc01^2$. Contraste com Peano (Problema 6.1): a continuidade forçava a sobrejetividade sem a injetividade; trocar a continuidade pela mera mensurabilidade compra um isomorfismo de medida — a dimensão é invisível à teoria da medida e visível à topologia.

Solução de Exercício 22.11.

(a) A continuidade da distribuição torna nulos os eventos de empate (como nos argumentos de estatísticas de ordem do capítulo), e as $n!$ ordenações relativas de $(X_1, \dots, X_n)$ são permutáveis, logo equiprováveis. $R_n = 1$ significa que o máximo ocupa a última posição: probabilidade $\frac{(n-1)!}{n!} = \frac1n$.

(b) Fixe $n$ e condicione à ordenação relativa de $X_1, \dots, X_{n-1}$: inserir $X_n$ nas $n$ posições de posto possíveis é uniforme e independente dessa ordenação (permutabilidade da $n$-upla). Logo $R_n$ (o evento “$X_n$ ocupa a primeira posição”) é independente de todo o histórico de recordes $(R_1, \dots, R_{n-1})$, que é função da ordenação relativa das $n - 1$ primeiras variáveis. A indução dá a independência plena, com $\P(R_n = 1) = \frac1n$.