Mathematics · Buku 5 · Bachelor Year 3

Matematika Universitas — Tahun 3

Matematika Universitas — Tahun 3 · Bachelor Year 3

23Fungsi Karakteristik dan Teorema Limit Pusat

Hukum bilangan besar mengatakan bahwa rata-ratanya konvergen; sedangkan teorema limit pusat mengatakan bagaimana ia berfluktuasi: bahwa galatnya, yang diperbesar n\sqrt n, bersifat Gauss secara asimtotik — apa pun distribusi asalnya. Keuniversalan ini adalah fakta terdalam pada peluang elementer, dan bukti alaminya bersifat Fourier: sebab fungsi karakteristik (yakni transformasi Fourier sebuah distribusi) mengubah jumlah yang bebas menjadi hasil kali, lalu perkakas Bab 14 — keinjektifan, titik tetap Gauss — mengubah konvergensi titik demi titik hasil kali itu menjadi konvergensi distribusinya (yakni teorema Lévy, yang dibuktikan selengkapnya). Bab ini berakhir dengan vektor Gauss dan penurunan yang jujur atas selang kepercayaan yang dipakai di mana-mana dalam statistika; sedangkan soal akhir pekannya menyajikan bukti kedua Lindeberg bagi teorema limit pusatnya, dengan laju galat yang eksplisit.

23.1 Fungsi karakteristik

Definisi 23.1

Yang disebut fungsi karakteristik sebuah peubah acak real XX adalah

φX(ξ)=E[eiξX]=Reiξx ⁣dPX(x)(ξR)\varphi_X(\xi) = \E\bigl[\eu^{\iu\xi X}\bigr] = \int_\R \eu^{\iu\xi x}\,\dd\P_X(x) \qquad (\xi \in \R)

(teorema transfernya menghitungnya dari distribusinya; sedangkan bagi kepadatan ff, φX(ξ)=f^(ξ)\varphi_X(\xi) = \hat f(-\xi) dalam konvensi Bab 14).

Proposisi 23.2

(a) Berlaku φX(0)=1\varphi_X(0) = 1, φX1\abs{\varphi_X} \leq 1, dan φX\varphi_X kontinu seragam; φaX+b(ξ)=eibξφX(aξ)\varphi_{aX + b}(\xi) = \eu^{\iu b\xi}\varphi_X(a\xi). (b) Jika X,YX, Y bebas: φX+Y=φXφY\varphi_{X+Y} = \varphi_X\,\varphi_Y. (c) Jika EXk<\E\abs X^k < \infty, maka φXCk\varphi_X \in \mathcal C^k dengan φX(j)(0)=ijE[Xj]\varphi_X^{(j)}(0) = \iu^j\,\E[X^j] bagi jkj \leq k; khususnya, bagi XL2X \in L^2 yang terpusat dan bervarians σ2\sigma^2:

φX(ξ)=1σ2ξ22+o(ξ2)(ξ0).\varphi_X(\xi) = 1 - \frac{\sigma^2\xi^2}{2} + o(\xi^2) \qquad (\xi \to 0).

(d) Gauss: XN(m,σ2)X \sim \mathcal N(m, \sigma^2) mempunyai φX(ξ)=eimξσ2ξ2/2\varphi_X(\xi) = \eu^{\iu m\xi - \sigma^2\xi^2/2}.

Bukti. (a) Batasnya langsung; sedangkan untuk kekontinuannya: φ(ξ+h)φ(ξ)EeihX10\abs{\varphi(\xi + h) - \varphi(\xi)} \leq \E\abs{\eu^{\iu hX} - 1} \to 0 saat h0h \to 0 menurut konvergensi terdominasi, seragam terhadap ξ\xi. Adapun aturan afinnya adalah sebuah substitusi. (b) Berlaku eiξ(X+Y)=eiξXeiξY\eu^{\iu\xi(X+Y)} = \eu^{\iu\xi X}\eu^{\iu\xi Y}, sedangkan nilai harapan hasil kali variabel yang bebas memfaktor (Teorema 22.5, yang diterapkan pada bagian real dan imajinernya). (c) Penurunan di bawah tanda nilai harapannya, yang terdominasi EXj\E\abs X^j (Teorema 10.15); lalu uraian Taylornya di 00 adalah Taylor–Young bagi fungsi C2\mathcal C^2 φ\varphi. (d) Untuk N(0,1)\mathcal N(0,1): transformasi Gaussnya (Contoh 14.2 dengan a=12a = \frac12) memberikan eiξxex2/22π ⁣dx=eξ2/2\int\eu^{\iu\xi x}\frac{\eu^{-x^2/2}}{\sqrt{2\pi}}\dd x = \eu^{-\xi^2/2}; sedangkan kasus umumnya lewat aturan afinnya.

Teorema 23.3 (Keinjektifan)

Jika φX=φY\varphi_X = \varphi_Y, maka XX dan YY berdistribusi sama. Lebih tepatnya, bagi NN(0,1)N \sim \mathcal N(0,1) yang bebas dari XX dan ε>0\varepsilon > 0, variabel yang dimuluskan X+εNX + \varepsilon N mempunyai kepadatan

pε(x)=12πRφX(ξ)eε2ξ2/2eiξx ⁣dξ,p_\varepsilon(x) = \frac1{2\pi}\int_\R \varphi_X(-\xi)\,\eu^{-\varepsilon^2\xi^2/2}\, \eu^{\iu\xi x}\,\dd\xi ,

yang ditentukan φX\varphi_X semata; lalu membiarkan ε0\varepsilon \to 0 memulihkan distribusi XX.

Bukti. Variabel X+εNX + \varepsilon N berkepadatan pε(x)=E[gε(xX)]p_\varepsilon(x) = \E\bigl[g_\varepsilon(x - X)\bigr], dengan gεg_\varepsilon sebagai kepadatan N(0,ε2)\mathcal N(0, \varepsilon^2): sebab bagi BB yang Borel, kebebasan dan Tonelli memberikan P(X+εNB)= ⁣ ⁣1B(x+εn)g1(n) ⁣dn ⁣dPX(x)=BE[gε(tX)] ⁣dt\P(X + \varepsilon N \in B) = \int\!\!\int\mathbf 1_B(x + \varepsilon n)g_1(n)\,\dd n\,\dd\P_X(x) = \int_B\E[g_\varepsilon(t - X)]\dd t (substitusikan, lalu Tonelli lagi). Lalu dengan menulis gεg_\varepsilon lewat pembalikan Fourier transformasinya (Latihan 14.4, yang diskalakan ulang): gε(u)=12πeε2ξ2/2eiξu ⁣dξg_\varepsilon(u) = \frac1{2\pi}\int \eu^{-\varepsilon^2\xi^2/2}\eu^{\iu\xi u}\dd\xi, lalu Fubini (sebab semuanya terdominasi faktor Gaussnya):

pε(x)=12πRφX(ξ)eε2ξ2/2eiξx ⁣dξ,p_\varepsilon(x) = \frac1{2\pi}\int_\R \varphi_X(-\xi)\,\eu^{-\varepsilon^2\xi^2/2}\, \eu^{\iu\xi x}\,\dd\xi ,

yakni fungsional φX\varphi_X semata. Jika φX=φY\varphi_X = \varphi_Y: maka X+εNX + \varepsilon N dan Y+εNY + \varepsilon N berdistribusi sama bagi setiap ε\varepsilon; sedangkan bagi ff yang kontinu terbatas, Ef(X+εN)Ef(X)\E f(X + \varepsilon N) \to \E f(X) saat ε0\varepsilon \to 0 (menurut konvergensi terdominasi, sebab X+εNXX + \varepsilon N \to X titik demi titik pada ruang hasil kalinya), sehingga Ef(X)=Ef(Y)\E f(X) = \E f(Y) bagi setiap ff semacam itu — dan ini menentukan distribusinya: sebab bagi setiap tt, apitlah 1(,t]\mathbf 1_{\intoc{-\infty}t} di antara landaian kontinu terbatas fk±f_k^\pm (yang sama dengan 11 pada (,t1k]\intoc{-\infty}{t \mp \frac1k}, sama dengan 00 di luar t±1kt \pm \frac1k, dan afin di antaranya); lalu melimitkan Efk(X)FX(t)Efk+(X)\E f_k^-(X) \leq F_X(t) \leq \E f_k^+(X) memberikan FX(t)=FY(t)F_X(t) = F_Y(t) pada setiap tt yang keduanya kontinu di sana, sehingga di mana-mana menurut kekontinuan kanan dan kepadatan titik kekontinuan bersamanya (sebab kedua FF berlompatan terbilang banyak); dan fungsi distribusi yang sama memaksa distribusi yang sama (Latihan 9.3, yang bersandar pada Teorema 9.7).

23.2 Konvergensi dalam distribusi

Definisi 23.4

Variabel XnX_n konvergen dalam distribusi (atau dalam hukumnya) ke XX, yang ditulis XnXX_n \Rightarrow X, jika

E[f(Xn)]E[f(X)]bagi setiap fungsi kontinu terbatas f ⁣:RR.\E\bigl[f(X_n)\bigr] \longrightarrow \E\bigl[f(X)\bigr] \qquad\text{bagi setiap fungsi kontinu terbatas } f\colon\R\to\R .

Secara setara (Latihan 23.4): FXn(t)FX(t)F_{X_n}(t) \to F_X(t) pada setiap titik kekontinuan tt milik FXF_X. Lalu XnX_n tak perlu hidup pada ruang peluang bersama: sebab hanya distribusinya yang penting.

Teorema 23.5 (Teorema pemilihan Helly)

Setiap barisan (Fn)(F_n) fungsi distribusi mempunyai subbarisan yang konvergen titik demi titik, pada setiap titik kekontinuan limitnya, ke G ⁣:R[0,1]G \colon \R \to \intcc01 yang tak turun dan kontinu kanan — mungkin dengan G(+)G()<1G(+\infty) - G(-\infty) < 1 (sebab massanya boleh lolos ke tak hingga).

Bukti. Ekstraksi diagonalnya memberikan Fnk(q)(q)F_{n_k}(q) \to \ell(q) bagi setiap qq rasional (sebab nilainya di [0,1]\intcc01 yang kompak). Definisikanlah G(t)=inf{(q):qQ,q>t}G(t) = \inf\{\ell(q) : q \in \Q, q > t\}: yang tak turun; dan kontinu kanan (sebab infimum atas persekitaran rasional yang mengecil dari kanan). Lalu pada titik kekontinuan tt milik GG: bagi bilangan rasional q1<t<q2q_1 < t < q_2,

(q1)lim infFnk(t)lim supFnk(t)(q2),\ell(q_1) \leq \liminf F_{n_k}(t) \leq \limsup F_{n_k}(t) \leq \ell(q_2),

menurut kemonotonan setiap FnkF_{n_k}. Lalu dari definisi GG sebagai infimum dan kemonotonan \ell pada bilangan rasionalnya: G(s)(q)G(q)G(s) \leq \ell(q) \leq G(q) setiap kali s<qs < q. Lalu mengambil s<q1<ts < q_1 < t memberikan (q1)G(s)\ell(q_1) \geq G(s), dan (q2)G(q2)\ell(q_2) \leq G(q_2); sehingga dengan membiarkan sts \uparrow t dan q2tq_2 \downarrow t, kekontinuan GG di tt mengapit baik lim inf\liminf maupun lim sup\limsup-nya ke G(t)G(t).

Lema 23.6 (Keketatan dari fungsi karakteristiknya)

Bagi sembarang peubah acak XX dan u>0u > 0:

P(X2u)    1uuu(1ReφX(ξ)) ⁣dξ.\P\Bigl(\abs X \geq \frac2u\Bigr) \;\leq\; \frac1u\int_{-u}^{u}\bigl(1 - \operatorname{Re}\varphi_X(\xi)\bigr)\,\dd\xi .

Bukti. Menurut Tonelli–Fubini (sebab integrannya terbatas dan daerahnya berhingga terhadap ξ\xi):

1uuu(1ReφX(ξ)) ⁣dξ=E[1uuu(1cos(ξX)) ⁣dξ]=2E[1sin(uX)uX]\frac1u\int_{-u}^u\bigl(1 - \operatorname{Re}\varphi_X(\xi)\bigr)\dd\xi = \E\Bigl[\frac1u\int_{-u}^u(1 - \cos(\xi X))\,\dd\xi\Bigr] = 2\,\E\Bigl[1 - \frac{\sin(uX)}{uX}\Bigr]

(tafsirkanlah kurungnya sebagai limitnya 00 di X=0X = 0). Sedangkan integrannya tak negatif (sebab sintt\abs{\sin t} \leq \abs t), dan bagi uX2\abs{uX} \geq 2: 1sin(uX)uX11uX121 - \frac{\sin(uX)}{uX} \geq 1 - \frac1{\abs{uX}} \geq \frac12. Jadi menyimpan hanya kejadian {uX2}\{\abs{uX} \geq 2\} di dalam nilai harapannya menyisakan setidaknya 212P(X2u)2 \cdot \frac12\,\P(\abs X \geq \frac2u), dan itulah klaimnya.

Teorema 23.7 (Teorema kekontinuan Lévy)

Misalkan (Xn)(X_n) peubah acak yang fungsi karakteristiknya konvergen titik demi titik: φXn(ξ)φ(ξ)\varphi_{X_n}(\xi) \to \varphi(\xi) bagi setiap ξ\xi, dengan φ=φX\varphi = \varphi_X sebagai fungsi karakteristik suatu peubah acak XX. Maka XnXX_n \Rightarrow X.

Bukti. Keketatannya. Tetapkanlah ε>0\varepsilon > 0. Karena φ\varphi kontinu di 00 dengan φ(0)=1\varphi(0) = 1, pilihlah u>0u > 0 dengan 1uuu(1Reφ)<ε\frac1u\int_{-u}^u(1 - \operatorname{Re}\varphi) < \varepsilon; lalu menurut konvergensi terdominasi (sebab integrannya terbatas oleh 22 pada [u,u][-u,u] yang tetap), integral yang sama bagi φXn\varphi_{X_n} bernilai <2ε< 2\varepsilon bagi nn yang besar: sehingga Lema 23.6 memberikan P(Xn2u)2ε\P(\abs{X_n} \geq \frac2u) \leq 2\varepsilon bagi nn yang besar, sedangkan membesarkan konstantanya menangani berhingga banyak sisanya: jadi distribusinya ketat — tak ada massa yang lolos.

Subbarisannya. Misalkan (Fnk)(F_{n_k}) sembarang subbarisan; lalu menurut Helly (Teorema 23.5) sarikanlah FnkjGF_{n_{k_j}} \to G pada titik kekontinuannya. Keketatannya memaksa G()=0G(-\infty) = 0, G(+)=1G(+\infty) = 1 (sebab G(2u)G(2u)12εG(\frac2u) - G(-\frac2u) \geq 1 - 2\varepsilon pada titik kekontinuannya): jadi GG merupakan fungsi distribusi yang sejati, milik suatu peubah acak YY. Maka XnkjYX_{n_{k_j}} \Rightarrow Y (Latihan 23.4, yakni konvergensi distribusinya dari FF-nya), sehingga φXnkjφY\varphi_{X_{n_{k_j}}} \to \varphi_Y titik demi titik (sebab xeiξxx \mapsto \eu^{\iu\xi x} kontinu terbatas, pada bagian real dan imajinernya secara terpisah); lalu dengan membandingkannya dengan hipotesisnya: φY=φ=φX\varphi_Y = \varphi = \varphi_X, sehingga keinjektifannya (Teorema 23.3) memberikan YXY \sim X, yakni G=FXG = F_X.

Kesimpulannya. Setiap subbarisan (Fn)(F_n) mempunyai subsubbarisan yang konvergen ke FXF_X yang sama (pada titik kekontinuannya); sehingga Fn(t)FX(t)F_n(t) \to F_X(t) pada setiap titik kekontinuan tt (sebab barisan real yang setiap subbarisannya mempunyai subsubbarisan berlimit sama akan konvergen): jadi XnXX_n \Rightarrow X.

23.3 Teorema limit pusat

Teorema 23.8 (Teorema limit pusat)

Misalkan (Xn)(X_n) i.i.d. dengan EX1=m\E X_1 = m dan V(X1)=σ2(0,)\V(X_1) = \sigma^2 \in \intoo0\infty. Maka

Snnmσn    N(0,1):P(aSnnmσnb)12πabex2/2 ⁣dx\frac{S_n - nm}{\sigma\sqrt n} \;\Longrightarrow\; \mathcal N(0, 1) : \qquad \P\Bigl(a \leq \frac{S_n - nm}{\sigma\sqrt n} \leq b\Bigr) \longrightarrow \frac{1}{\sqrt{2\pi}}\int_a^b\eu^{-x^2/2}\,\dd x

bagi setiap a<ba < b.

Bukti. Pusatkan lalu normalkan: Zi=XimσZ_i = \frac{X_i - m}{\sigma} (yang i.i.d., berrata-rata 00 dan bervarians 11) dan Tn=1ninZiT_n = \frac1{\sqrt n}\sum_{i\leq n}Z_i. Lalu menurut kebebasannya dan aturan afinnya (Proposisi 23.2):

φTn(ξ)=φZ(ξn)n,φZ(η)=1η22+η2ρ(η),ρ(η)0.\varphi_{T_n}(\xi) = \varphi_{Z}\Bigl(\frac{\xi}{\sqrt n}\Bigr)^{n}, \qquad \varphi_Z(\eta) = 1 - \frac{\eta^2}2 + \eta^2\rho(\eta),\quad \rho(\eta)\to0 .

Tetapkanlah ξ\xi lalu ambil an=φZ(ξ/n)a_n = \varphi_Z(\xi/\sqrt n), bn=1ξ22nb_n = 1 - \frac{\xi^2}{2n}: keduanya bermodulus 1\leq 1 bagi nn yang besar (sebab bn1\abs{b_n} \leq 1 begitu ξ24n\xi^2 \leq 4n; sedangkan an1\abs{a_n} \leq 1 selalu). Lalu ketaksamaan elementernya anbnnab\abs{a^n - b^n} \leq n\abs{a - b} bagi a,b1\abs a, \abs b \leq 1 (lewat teleskop anbn=ak(ab)bn1ka^n - b^n = \sum a^k(a - b)b^{n-1-k}) memberikan

φTn(ξ)(1ξ22n)nnφZ(ξn)1+ξ22n=ξ2ρ(ξn)0,\Bigl|\varphi_{T_n}(\xi) - \Bigl(1 - \frac{\xi^2}{2n}\Bigr)^{n}\Bigr| \leq n\,\Bigl|\varphi_Z\Bigl(\frac\xi{\sqrt n}\Bigr) - 1 + \frac{\xi^2}{2n}\Bigr| = \xi^2\,\Bigl|\rho\Bigl(\frac{\xi}{\sqrt n}\Bigr)\Bigr| \longrightarrow 0,

sedangkan (1ξ22n)neξ2/2\bigl(1 - \frac{\xi^2}{2n}\bigr)^n \to \eu^{-\xi^2/2} (lewat logaritma realnya). Jadi φTn(ξ)eξ2/2=φN(0,1)(ξ)\varphi_{T_n}(\xi) \to \eu^{-\xi^2/2} = \varphi_{\mathcal N(0,1)}(\xi) (Proposisi 23.2(d)) bagi setiap ξ\xi: sehingga Lévy (Teorema 23.7) menyimpulkan TnN(0,1)T_n \Rightarrow \mathcal N(0,1). Adapun peluang selangnya menyusul sebab FNF_{\mathcal N} kontinu di mana-mana.

Contoh 23.9 (Selang kepercayaan, yang diturunkan secara jujur)

Jajakilah nn pemilih yang bebas; maka p^n=Sn/n\hat p_n = S_n/n menaksir pp yang sebenarnya, dengan σ2=p(1p)14\sigma^2 = p(1-p) \leq \frac14. Lalu teorema limit pusatnya memberikan, bagi nn yang besar,

P(p^npz2n)    P(Snnpσnz)Φ(z)Φ(z),\P\Bigl(\abs{\hat p_n - p} \leq \frac{z}{2\sqrt n}\Bigr) \;\geq\; \P\Bigl(\Bigl|\frac{S_n - np}{\sigma\sqrt n}\Bigr| \leq z\Bigr) \longrightarrow \Phi(z) - \Phi(-z),

dengan Φ\Phi sebagai fungsi distribusi Gauss bakunya. Dengan z=1.96z = 1.96: kepercayaan asimtotiknya 95%95\%, sedangkan marjin 1.962n3%\frac{1.96}{2\sqrt n} \leq 3\% menuntut n(1.960.06)21068n \geq \bigl(\frac{1.96}{0.06}\bigr)^2 \approx 1068 — yakni bilangan di balik setiap “±3\pm3 poin, 95%95\%” yang orang baca; bandingkanlah dengan 55565556 milik Chebyshev (Latihan 22.7). Adapun n\sqrt n-nya universal: bahwa untuk memarukan galatnya, cuplikannya harus dilipatempatkan — yakni hukum yang sama yang menetapkan ongkos Monte Carlo (Latihan 23.7).

23.4 Vektor Gauss

Definisi 23.10

Sebuah vektor acak X=(X1,,Xd)X = (X_1, \dots, X_d) disebut Gauss jika setiap kombinasi linearnya t,X=tiXi\langle t, X\rangle = \sum t_iX_i merupakan variabel Gauss real (yang mungkin merosot). Distribusinya ditentukan oleh vektor rata-ratanya m=(EXi)m = (\E X_i) dan matriks kovarians Σ=(Cov(Xi,Xj))\Sigma = \bigl(\operatorname{Cov} (X_i, X_j)\bigr): sebab fungsi karakteristik vektornya, φX(t)=Eeit,X\varphi_X(t) = \E\eu^{\iu\langle t, X\rangle}, adalah nilai di 11 bagi fungsi karakteristik t,X\langle t, X\rangle:

φX(t)=exp(it,m12tTΣt),\varphi_X(t) = \exp\Bigl(\iu\langle t, m\rangle - \tfrac12\,t^{\mathsf T}\Sigma\,t\Bigr),

sedangkan fungsi karakteristik berdimensi dd bersifat injektif (lewat bukti pemulusan yang sama dengan Teorema 23.3, dengan Gauss koordinat demi koordinat).

Teorema 23.11

Misalkan XX sebuah vektor Gauss.

  1. Setiap peta afin AX+bAX + b merupakan vektor Gauss.
  2. Komponen XiX_i bersifat bebas jika dan hanya jika Σ\Sigma diagonal: jadi bagi variabel Gauss bersama, tak berkorelasi == bebas.
  3. Jika Σ\Sigma terbalikkan, maka XX berkepadatan 1(2π)d/2detΣexp(12(xm)TΣ1(xm))\frac{1}{(2\pi)^{d/2}\sqrt{\det\Sigma}} \exp\bigl(-\frac12(x - m)^{\mathsf T}\Sigma^{-1}(x - m)\bigr).

Bukti. (1) Kombinasi linear komponen AX+bAX + b merupakan fungsi afin kombinasi linear XX: jadi Gauss (sebab peta afin sebuah variabel Gauss bersifat Gauss). (2) Jika Σ\Sigma diagonal, maka fungsi karakteristiknya memfaktor: φX(t)=iexp(itimi12Σiiti2)=φXi(ti)\varphi_X(t) = \prod_i\exp(\iu t_im_i - \frac12\Sigma_{ii}t_i^2) = \prod\varphi_{X_i}(t_i), yang merupakan fungsi karakteristik distribusi hasil kalinya (Teorema 22.5 yang dibaca lewat keinjektifan berdimensi dd): sehingga komponennya bebas. Sedangkan konversnya adalah lenyapnya kovarians variabel L2L^2 yang bebas. (3) Diagonalkanlah Σ=PDPT\Sigma = P D P^{\mathsf T} (dengan PP ortogonal dan D>0D > 0 diagonal — Latihan 20.8); maka vektor Y=PT(Xm)Y = P^{\mathsf T}(X - m) bersifat Gauss dengan kovarians DD: sehingga menurut (2) komponennya bebas dan N(0,di)\mathcal N(0, d_i), jadi YY berkepadatan hasil kali; lalu dorong majulah lewat x=m+PYx = m + PY yang mengawetkan volume (Teorema 11.10, sebab detP=1\abs{\det P} = 1) lalu tulislah kembali eksponennya secara invarian.

Teorema 23.12 (Teorema limit pusat berdimensi banyak)

Misalkan (Xn)(X_n) merupakan vektor acak i.i.d. yang terintegralkan kuadrat di Rd\R^d dengan rata-rata mm dan matriks kovarians Σ\Sigma. Maka Snnmn\frac{S_n - nm}{\sqrt n} konvergen dalam distribusi ke vektor Gauss N(0,Σ)\mathcal N(0, \Sigma).

Bukti. Diterima tanpa bukti pada tingkat ini.

Catatan 23.13

Hampir semuanya sudah ada di tangan kita. Sebab bagi setiap arah tRdt \in \R^d, variabel real t,Snnmn\langle t, \frac{S_n - nm}{\sqrt n}\rangle merupakan jumlah ternormalkan variabel real i.i.d. bervarians tTΣtt^{\mathsf T}\Sigma t, sehingga perhitungan Teorema 23.8 memberikan konvergensi titik demi titik fungsi karakteristik berdimensi dd-nya ke etTΣt/2\eu^{-t^{\mathsf T}\Sigma t/2}, yakni fungsi karakteristik N(0,Σ)\mathcal N(0, \Sigma) (Definisi 23.10). Adapun yang belum kita buktikan ulang adalah teorema kekontinuan Lévy di Rd\R^d: sebab pemilihan Helly dan taksiran keketatannya diperumum secara rutin (koordinat demi koordinat), dan reduksi Cramér–Wold ini dikerjakan dengan jujur pada setiap kuliah peluang pascasarjana; jadi tak ada yang diperlukan di luar metode bab ini.

Metode 23.14

Untuk mengenali sebuah distribusi limit: hitunglah fungsi karakteristiknya, ambillah limit titik demi titiknya, kenalilah (Gauss eσ2ξ2/2\eu^{-\sigma^2\xi^2/2}, Poisson eλ(eiξ1)\eu^{\lambda(\eu^{\iu\xi}-1)}, eksponensial λλiξ\frac{\lambda} {\lambda - \iu\xi}, …) lalu panggillah Lévy. Ritual tiga langkahnya (kebebasan \to hasil kali; Taylor di 00 \to limit eksponensial; Lévy \to konvergensi distribusi) membuktikan teorema limit pusatnya, hukum kejadian langka Poisson (Latihan 23.5), dan setiap teorema limit klasik pada kuliah ini. Sedangkan untuk pernyataan h.p., kembalilah ke perkakas Bab 22: sebab kedua babnya menjawab pertanyaan berbeda tentang SnS_n yang sama.

23.5 Latihan

Latihan 23.1

Hitunglah fungsi karakteristiknya: seragam pada [1,1]\intcc{-1}1; eksponensial E(λ)\mathcal E(\lambda); Poisson P(λ)\mathcal P(\lambda); binomial B(n,p)\mathcal B(n, p). Lalu simpulkanlah lewat Teorema 23.3 bahwa jumlah variabel Poisson yang bebas (dengan λ,μ\lambda, \mu) bersifat Poisson (λ+μ)(\lambda + \mu).

Solusi

Solusi Latihan 23.1.

Seragam pada [1,1]\intcc{-1}1: φ(ξ)=1211eiξx ⁣dx=sinξξ\varphi(\xi) = \frac12\int_{-1}^1\eu^{\iu\xi x}\dd x = \frac{\sin\xi}{\xi} (yang sama dengan 11 di ξ=0\xi = 0). Eksponensial E(λ)\mathcal E(\lambda): φ(ξ)=λ0e(iξλ)x ⁣dx=λλiξ\varphi(\xi) = \lambda\int_0^\infty\eu^{(\iu\xi - \lambda)x}\dd x = \frac{\lambda}{\lambda - \iu\xi} (sebab antiturunannya lenyap di ++\infty karena Re(iξλ)<0\operatorname{Re}(\iu\xi - \lambda) < 0). Poisson P(λ)\mathcal P(\lambda): menurut teorema transfer bagi distribusi diskretnya,

φ(ξ)=k0eiξkeλλkk!=eλexp(λeiξ)=exp(λ(eiξ1)).\varphi(\xi) = \sum_{k\geq0}\eu^{\iu\xi k}\,\eu^{-\lambda}\frac{\lambda^k}{k!} = \eu^{-\lambda}\exp\bigl(\lambda\eu^{\iu\xi}\bigr) = \exp\bigl(\lambda(\eu^{\iu\xi} - 1)\bigr).

Binomial B(n,p)\mathcal B(n, p): yakni jumlah nn variabel Bernoulli yang bebas, masing-masing berfungsi karakteristik 1p+peiξ1 - p + p\eu^{\iu\xi}, sehingga φ(ξ)=(1p+peiξ)n\varphi(\xi) = \bigl(1 - p + p\eu^{\iu\xi}\bigr)^n (Proposisi 23.2(b)). Untuk keaditifan Poissonnya: jika XP(λ)X \sim \mathcal P(\lambda) dan YP(μ)Y \sim \mathcal P(\mu) saling bebas,

φX+Y(ξ)=eλ(eiξ1)eμ(eiξ1)=e(λ+μ)(eiξ1),\varphi_{X+Y}(\xi) = \eu^{\lambda(\eu^{\iu\xi}-1)} \eu^{\mu(\eu^{\iu\xi}-1)} = \eu^{(\lambda+\mu)(\eu^{\iu\xi}-1)},

yakni fungsi karakteristik P(λ+μ)\mathcal P(\lambda + \mu); lalu keinjektifannya (Teorema 23.3) mengenali distribusinya.

Latihan 23.2 ★★

(a) Tunjukkanlah bahwa φX\varphi_X bernilai real jika dan hanya jika XX dan X-X berdistribusi sama (yakni variabel yang setangkup). (b) Andaikanlah φX(ξ0)=1\abs{\varphi_X(\xi_0)} = 1 bagi suatu ξ00\xi_0 \neq 0. Tunjukkanlah bahwa XX hampir pasti bertumpu pada barisan aritmetika a+2πξ0Za + \frac{2\pi}{\xi_0}\Z (tulislah φX(ξ0)=eiθ\varphi_X(\xi_0) = \eu^{\iu\theta} lalu hitung E[1cos(ξ0Xθ)]\E[1 - \cos(\xi_0X - \theta)]). Lalu simpulkanlah bahwa jika XX berkepadatan, maka φX(ξ)<1\abs{\varphi_X(\xi)} < 1 bagi setiap ξ0\xi \neq 0.

Solusi

Solusi Latihan 23.2.

(a) Berlaku φX(ξ)=EeiξX=φX(ξ)\overline{\varphi_X(\xi)} = \E\eu^{-\iu\xi X} = \varphi_{-X}(\xi). Jadi φX\varphi_X real jika dan hanya jika φX=φX\varphi_X = \varphi_{-X}, jika dan hanya jika (menurut keinjektifannya, Teorema 23.3) XX dan X-X berdistribusi sama. (b) Tulislah φX(ξ0)=eiθ\varphi_X(\xi_0) = \eu^{\iu\theta}. Maka

E[1cos(ξ0Xθ)]=1Re(eiθφX(ξ0))=11=0.\E\bigl[1 - \cos(\xi_0X - \theta)\bigr] = 1 - \operatorname{Re}\bigl(\eu^{-\iu\theta} \varphi_X(\xi_0)\bigr) = 1 - 1 = 0 .

Integrannya tak negatif, sehingga cos(ξ0Xθ)=1\cos(\xi_0X - \theta) = 1 hampir pasti (sebab variabel tak negatif yang bernilai harapan nol lenyap secara h.p.), yakni ξ0Xθ2πZ\xi_0X - \theta \in 2\pi\Z secara h.p.: jadi XX mengambil nilainya pada barisan aritmetika θξ0+2πξ0Z\frac{\theta}{\xi_0} + \frac{2\pi}{\xi_0}\Z hampir pasti. Sedangkan jika XX berkepadatan, himpunan terbilang ini bernilai Lebesgue nol, sehingga berpeluang 00 — yakni kontradiksi; karena itu φX(ξ)<1\abs{\varphi_X(\xi)} < 1 bagi setiap ξ0\xi \neq 0.

Latihan 23.3 ★★

Misalkan XN(m1,σ12)X \sim \mathcal N(m_1, \sigma_1^2) dan YN(m2,σ22)Y \sim \mathcal N(m_2, \sigma_2^2) saling bebas. Tunjukkanlah X+YN(m1+m2,σ12+σ22)X + Y \sim \mathcal N(m_1 + m_2, \sigma_1^2 + \sigma_2^2), dan lebih umum bahwa keluarga Gaussnya stabil terhadap jumlah yang bebas dan pemetaan afin. Pertentangkanlah: apakah jumlah dua variabel Gauss yang bergantung selalu Gauss? (Latihan 23.9.)

Solusi

Solusi Latihan 23.3.

Menurut kebebasannya dan Proposisi 23.2:

φX+Y(ξ)=eim1ξσ12ξ2/2eim2ξσ22ξ2/2=ei(m1+m2)ξ(σ12+σ22)ξ2/2,\varphi_{X+Y}(\xi) = \eu^{\iu m_1\xi - \sigma_1^2\xi^2/2}\, \eu^{\iu m_2\xi - \sigma_2^2\xi^2/2} = \eu^{\iu(m_1+m_2)\xi - (\sigma_1^2+\sigma_2^2)\xi^2/2},

yakni fungsi karakteristik N(m1+m2,σ12+σ22)\mathcal N(m_1 + m_2, \sigma_1^2 + \sigma_2^2); lalu keinjektifannya menyimpulkan. Sedangkan kestabilan terhadap pemetaan afin adalah aturan afinnya (aX+bN(am1+b,a2σ12)aX + b \sim \mathcal N(am_1 + b, a^2\sigma_1^2), dengan mengizinkan kasus merosot a=0a = 0), dan kestabilan terhadap jumlah yang bebas menyusul lewat induksi atas perhitungan di atas. Adapun bagi Gauss yang bergantung, jumlahnya tak harus Gauss: sebab pada Latihan 23.9, XX dan Y=εXY = \varepsilon X masing-masing Gauss baku tetapi X+YX + Y lenyap dengan peluang 12\frac12 tanpa nol secara h.p., sehingga ia bukan Gauss.

Latihan 23.4 ★★

(a) Buktikanlah kesetaraan pada Definisi 23.4: bahwa jika Ef(Xn)Ef(X)\E f(X_n) \to \E f(X) bagi setiap ff yang kontinu terbatas, maka FXn(t)FX(t)F_{X_n}(t) \to F_X(t) pada titik kekontinuannya (apitlah 1(,t]\mathbf 1_{\intoc{-\infty}t} di antara dua landaian-tangga yang kontinu); dan sebaliknya (hampirilah ff yang kontinu terbatas oleh jumlah fungsi landaian, atau syaratkanlah pada kisi halus titik kekontinuannya) — dan konversnya boleh ditangani bagi ff yang kontinu seragam lebih dahulu, lalu secara umum. (b) Tunjukkanlah bahwa XncX_n \Rightarrow c (yakni sebuah konstanta) mengakibatkan XncX_n \to c dalam peluang.

Solusi

Solusi Latihan 23.4.

(a) Implikasi langsungnya. Misalkan tt titik kekontinuan FXF_X dan δ>0\delta > 0. Ambillah landaian kontinu ff^- (yang =1= 1 pada (,tδ]\intoc{-\infty}{t-\delta}, 00 mulai dari tt, dan afin di antaranya) dan f+f^+ (yang =1= 1 pada (,t]\intoc{-\infty}t, 00 mulai dari t+δt + \delta, dan afin di antaranya); maka f1(,t]f+f^- \leq \mathbf 1_{\intoc{-\infty}t} \leq f^+, sehingga

Ef(Xn)FXn(t)Ef+(Xn),\E f^-(X_n) \leq F_{X_n}(t) \leq \E f^+(X_n),

sedangkan suku luarnya konvergen ke Ef±(X)\E f^\pm(X), yang sendirinya terapit di antara FX(tδ)F_X(t - \delta) dan FX(t+δ)F_X(t + \delta). Lalu dengan membiarkan nn \to \infty kemudian δ0\delta \to 0 dan memakai kekontinuan FXF_X di tt: FXn(t)FX(t)F_{X_n}(t) \to F_X(t).

Konversnya. Misalkan ff kontinu terbatas, M=supfM = \sup\abs f, dan ε>0\varepsilon > 0. Titik kekontinuan FXF_X bersifat padat (sebab FXF_X berlompatan paling banyak terbilang), sehingga pilihlah titik kekontinuan a<ba < b dengan FX(a)<εF_X(a) < \varepsilon dan 1FX(b)<ε1 - F_X(b) < \varepsilon. Lalu pada [a,b]\intcc ab yang kompak, fungsi ff kontinu seragam: pilihlah titik kekontinuan a=t0<t1<<tm=ba = t_0 < t_1 < \dots < t_m = b milik FXF_X yang ayunan ff-nya paling banyak ε\varepsilon pada setiap (tj1,tj]\intoc{t_{j-1}}{t_j}, lalu tetapkan g=jf(tj)1(tj1,tj]g = \sum_j f(t_j)\,\mathbf 1_{\intoc{t_{j-1}}{t_j}}. Maka fgε\abs{f - g} \leq \varepsilon pada (a,b]\intoc ab, gM\abs g \leq M, dan bagi T=XnT = X_n atau XX:

Ef(T)Eg(T)ε+2M(FT(a)+1FT(b)).\bigl|\E f(T) - \E g(T)\bigr| \leq \varepsilon + 2M\bigl(F_T(a) + 1 - F_T(b)\bigr).

Lebih jauh Eg(Xn)=jf(tj)(FXn(tj)FXn(tj1))Eg(X)\E g(X_n) = \sum_j f(t_j)\bigl(F_{X_n}(t_j) - F_{X_n}(t_{j-1})\bigr) \to \E g(X) (yakni jumlah berhingga suku yang konvergen, sebab semua tjt_j merupakan titik kekontinuannya), dan FXn(a)FX(a)<εF_{X_n}(a) \to F_X(a) < \varepsilon, 1FXn(b)1FX(b)<ε1 - F_{X_n}(b) \to 1 - F_X(b) < \varepsilon. Lalu dengan merakitnya: lim supnEf(Xn)Ef(X)2ε+8Mε\limsup_n\abs{\E f(X_n) - \E f(X)} \leq 2\varepsilon + 8M\varepsilon; lalu biarkanlah ε0\varepsilon \to 0.

(b) Fungsi distribusi konstanta cc adalah 1[c,)\mathbf 1_{\intco c\infty}, yang kontinu kecuali di cc. Lalu bagi ε>0\varepsilon > 0, titik cεc - \varepsilon dan c+ε2c + \frac\varepsilon2 merupakan titik kekontinuannya, sehingga

P(Xnc>ε)FXn(cε)+1FXn(c+ε2)0+11=0.\P(\abs{X_n - c} > \varepsilon) \leq F_{X_n}(c - \varepsilon) + 1 - F_{X_n}\Bigl(c + \frac\varepsilon2\Bigr) \longrightarrow 0 + 1 - 1 = 0 .

Latihan 23.5 ★★

(Hukum kejadian langka) Misalkan XnB(n,pn)X_n \sim \mathcal B(n, p_n) dengan npnλ>0np_n \to \lambda > 0. Tunjukkanlah, lewat fungsi karakteristiknya dan Teorema 23.7, bahwa XnP(λ)X_n \Rightarrow \mathcal P(\lambda). Lalu sebagai uji kewarasan numerik: bandingkanlah P(X=0)\P(X = 0) bagi B(100,0.02)\mathcal B(100, 0.02) dan P(2)\mathcal P(2).

Solusi

Solusi Latihan 23.5.

Ambillah zn=pn(eiξ1)z_n = p_n(\eu^{\iu\xi} - 1), sehingga φXn(ξ)=(1+zn)n\varphi_{X_n}(\xi) = (1 + z_n)^n (Latihan 23.1) dan zn2pn0\abs{z_n} \leq 2p_n \to 0 (perhatikan pn=npnn0p_n = \frac{np_n}n \to 0). Baik 1+zn1 + z_n maupun ezn\eu^{z_n} bermodulus paling banyak 11: sebab 1+zn=(1pn)+pneiξ1\abs{1 + z_n} = \abs{(1 - p_n) + p_n\eu^{\iu\xi}} \leq 1 menurut ketaksamaan segitiga, sedangkan ezn=epn(cosξ1)1\abs{\eu^{z_n}} = \eu^{p_n(\cos\xi - 1)} \leq 1. Lalu ketaksamaan teleskopnya anbnnab\abs{a^n - b^n} \leq n\abs{a - b} (yakni bukti Teorema 23.8) dan batas deret pangkatnya ez1zz2ez\abs{\eu^z - 1 - z} \leq \abs z^2\eu^{\abs z} memberikan

(1+zn)nenznn1+zneznnzn2ezn4e2npn2=4e2(npn)pn0.\bigl|(1 + z_n)^n - \eu^{nz_n}\bigr| \leq n\bigl|1 + z_n - \eu^{z_n}\bigr| \leq n\,\abs{z_n}^2\,\eu^{\abs{z_n}} \leq 4\eu^2\,np_n^2 = 4\eu^2\,(np_n)\,p_n \longrightarrow 0 .

Karena nzn=npn(eiξ1)λ(eiξ1)nz_n = np_n(\eu^{\iu\xi} - 1) \to \lambda(\eu^{\iu\xi} - 1), kita simpulkan φXn(ξ)exp(λ(eiξ1))\varphi_{X_n}(\xi) \to \exp\bigl(\lambda(\eu^{\iu\xi} - 1)\bigr) bagi setiap ξ\xi: yakni fungsi karakteristik P(λ)\mathcal P(\lambda), sehingga Lévy (Teorema 23.7) memberikan XnP(λ)X_n \Rightarrow \mathcal P(\lambda). Secara numerik: P(B(100,0.02)=0)=0.98100=e100ln0.98e2.0200.1326\P\bigl(\mathcal B(100, 0.02) = 0\bigr) = 0.98^{100} = \eu^{100\ln 0.98} \approx \eu^{-2.020} \approx 0.1326, sedangkan P(P(2)=0)=e20.1353\P\bigl(\mathcal P(2) = 0\bigr) = \eu^{-2} \approx 0.1353: jadi selisihnya dua persen sudah pada nn yang kasar ini.

Latihan 23.6 ★★

(a) Sebuah dadu adil dilempar n=1000n = 1000 kali; hampirilah peluang bahwa totalnya melampaui 36003600 (dengan rata-rata 35003500 dan varians per lemparan 3512\frac{35}{12}). (b) Untuk SB(100,12)S \sim \mathcal B(100, \frac12), hampirilah P(45S55)\P(45 \leq S \leq 55) lewat teorema limit pusatnya dengan koreksi kekontinuan (±12\pm\frac12), lalu berilah komentar atas pengaruh koreksinya.

Solusi

Solusi Latihan 23.6.

(a) Satu lemparan berrata-rata 72\frac72 dan bervarians 3512\frac{35}{12}, sehingga SS berrata-rata 35003500, bervarians 35000122916.7\frac{35000}{12} \approx 2916.7 dan bersimpangan baku 54.0\approx 54.0. Lalu menurut teorema limit pusatnya,

P(S>3600)=P(S350054.0>1.85)1Φ(1.85)0.032:\P(S > 3600) = \P\Bigl(\frac{S - 3500}{54.0} > 1.85\Bigr) \approx 1 - \Phi(1.85) \approx 0.032 :

yakni peluang sekitar 3%3\%. (b) Untuk SB(100,12)S \sim \mathcal B(100, \frac12): rata-ratanya 5050 dan simpangan bakunya 55. Dengan koreksi kekontinuannya,

P(45S55)Φ(55.5505)Φ(44.5505)=2Φ(1.1)10.729,\P(45 \leq S \leq 55) \approx \Phi\Bigl(\frac{55.5 - 50}{5}\Bigr) - \Phi\Bigl(\frac{44.5 - 50}{5}\Bigr) = 2\Phi(1.1) - 1 \approx 0.729,

terhadap nilai persisnya 0.72870.7287; sedangkan tanpa koreksinya, 2Φ(1)10.6832\Phi(1) - 1 \approx 0.683, yang meleset hampir lima poin. Adapun koreksinya penting karena SS merupakan variabel kisi: sebab atom P(S=k)\P(S = k) terhampiri baik oleh massa Gauss [k12,k+12]\intcc{k - \frac12}{k + \frac12}, sehingga menggunting selangnya di bilangan bulat 4545 dan 5555 membuang separuh atom pada setiap ujungnya.

Latihan 23.7 ★★

(Galat Monte Carlo) Pada latar Soal 22.1, pertanyaan 11, dengan gL2([0,1]d)g \in L^2(\intcc01^d), ambillah σ2=V(g(U1))\sigma^2 = \V(g(U_1)) dan I=gI = \int g. Tunjukkanlah

n(1nkng(Uk)I)N(0,σ2),\sqrt n\,\Bigl(\frac1n\sum_{k\leq n}g(U_k) - I\Bigr) \Longrightarrow \mathcal N(0, \sigma^2),

lalu simpulkanlah batang galat 95%95\% asimtotiknya ±1.96σ/n\pm 1.96\,\sigma/\sqrt n — yang tak bergantung pada dimensi dd. Bandingkanlah dengan kaidah titik tengah deterministik pada dimensi dd (yang galatnya n2/d\sim n^{-2/d} bagi integran C2\mathcal C^2): mulai dimensi berapa pencuplikan acaknya menang?

Solusi

Solusi Latihan 23.7.

Variabel g(Uk)g(U_k) bersifat i.i.d. (yakni peta terukur variabel i.i.d.), terintegralkan kuadrat, berrata-rata II (menurut teorema transfer, Latihan 11.9) dan bervarians σ2\sigma^2. Jika σ>0\sigma > 0, maka Teorema 23.8 yang diterapkan padanya persis merupakan konvergensi yang dinyatakan

n(1nkng(Uk)I)=kn(g(Uk)I)nN(0,σ2)\sqrt n\,\Bigl(\frac1n\sum_{k\leq n}g(U_k) - I\Bigr) = \frac{\sum_{k\leq n}\bigl(g(U_k) - I\bigr)}{\sqrt n} \Longrightarrow \mathcal N(0, \sigma^2)

(sedangkan jika σ=0\sigma = 0, maka gg konstan secara h.p. dan ruas kirinya lenyap secara identik). Karena itu P(1ng(Uk)I1.96σ/n)0.95\P\bigl(\abs{\frac1n\sum g(U_k) - I} \leq 1.96\,\sigma/\sqrt n\bigr) \to 0.95: jadi batang galat ±1.96σ/n\pm 1.96\,\sigma/\sqrt n melihat dimensi dd hanya lewat konstanta σ\sigma-nya, tak pernah lewat lajunya terhadap nn. Sedangkan kaidah titik tengah dengan nn simpul pada dimensi dd berjala n1/dn^{-1/d} dan bergalat berorde n2/dn^{-2/d} bagi integran C2\mathcal C^2. Lalu n1/2n^{-1/2} milik Monte Carlo meluruh lebih cepat daripada n2/dn^{-2/d} tepat saat 12>2d\frac12 > \frac2d, yakni d>4d > 4: jadi mulai dimensi 55, pencuplikan acaknya secara asimtotik mengalahkan kisinya — sebab kutukan dimensinya mengampuni metode peluang, dan itulah sebabnya Monte Carlo menguasai pengintegralan berdimensi tinggi.

Latihan 23.8 ★★★

(Slutsky) Andaikanlah XnXX_n \Rightarrow X dan YncY_n \to c dalam peluang (dengan cc konstanta). Tunjukkanlah Xn+YnX+cX_n + Y_n \Rightarrow X + c dan YnXncXY_nX_n \Rightarrow cX. (Bekerjalah dengan fungsi karakteristiknya dan batas Eeiξ(Xn+Yn)eiξcEeiξXnEeiξ(Ync)1\abs{\E\eu^{\iu\xi (X_n+Y_n)} - \eu^{\iu\xi c}\E\eu^{\iu\xi X_n}} \leq \E\abs{\eu^{\iu\xi(Y_n - c)} - 1}, lalu belahlah pada Yncδ\abs{Y_n - c} \leq \delta.) Penerapannya: pada Contoh 23.9, benarkanlah penggantian σ=p(1p)\sigma = \sqrt{p(1-p)} yang tak diketahui oleh p^n(1p^n)\sqrt{\hat p_n(1 - \hat p_n)}.

Solusi

Solusi Latihan 23.8.

Jumlahnya. Bagi ξ\xi yang tetap:

Eeiξ(Xn+Yn)eiξcEeiξXn=E[eiξXn(eiξYneiξc)]Eeiξ(Ync)1.\bigl|\E\eu^{\iu\xi(X_n+Y_n)} - \eu^{\iu\xi c}\,\E\eu^{\iu\xi X_n}\bigr| = \bigl|\E\bigl[\eu^{\iu\xi X_n}\bigl(\eu^{\iu\xi Y_n} - \eu^{\iu\xi c}\bigr)\bigr]\bigr| \leq \E\bigl|\eu^{\iu\xi(Y_n - c)} - 1\bigr| .

Belahlah pada kejadian {Yncδ}\{\abs{Y_n - c} \leq \delta\}: di sana eiξ(Ync)1ξδ\abs{\eu^{\iu\xi(Y_n-c)} - 1} \leq \abs\xi\,\delta (sebab talinya lebih pendek daripada busurnya); sedangkan komplemennya menyumbang paling banyak 2P(Ync>δ)02\,\P(\abs{Y_n - c} > \delta) \to 0. Karena itu lim sup\limsup-nya ξδ\leq \abs\xi\,\delta bagi setiap δ>0\delta > 0: jadi selisihnya menuju 00. Lalu karena EeiξXnφX(ξ)\E\eu^{\iu\xi X_n} \to \varphi_X(\xi), kita peroleh φXn+Yn(ξ)eiξcφX(ξ)=φX+c(ξ)\varphi_{X_n+Y_n}(\xi) \to \eu^{\iu\xi c}\varphi_X(\xi) = \varphi_{X+c}(\xi), sehingga Lévy (Teorema 23.7) menghasilkan Xn+YnX+cX_n + Y_n \Rightarrow X + c.

Hasil kalinya. Pertama, cXncXcX_n \Rightarrow cX: sebab φcXn(ξ)=φXn(cξ)φX(cξ)=φcX(ξ)\varphi_{cX_n}(\xi) = \varphi_{X_n}(c\xi) \to \varphi_X(c\xi) = \varphi_{cX}(\xi). Berikutnya, (Ync)Xn0(Y_n - c)X_n \to 0 dalam peluang: sebab distribusi XnX_n bersifat ketat (karena fungsi karakteristiknya konvergen ke sebuah fungsi karakteristik; lihat langkah keketatan Teorema 23.7), sehingga diberikan ε>0\varepsilon > 0 pilihlah MM dengan P(Xn>M)ε\P(\abs{X_n} > M) \leq \varepsilon bagi setiap nn; maka

P((Ync)Xn>ε)P(Xn>M)+P(Ync>εM)ε+o(1).\P\bigl(\abs{(Y_n - c)X_n} > \varepsilon\bigr) \leq \P(\abs{X_n} > M) + \P\Bigl(\abs{Y_n - c} > \frac{\varepsilon}{M}\Bigr) \leq \varepsilon + o(1) .

Lalu dengan menulis YnXn=cXn+(Ync)XnY_nX_n = cX_n + (Y_n - c)X_n dan menerapkan bagian jumlahnya (yang buktinya hanya memakai Yn:=(Ync)Xn0Y_n' := (Y_n - c)X_n \to 0 dalam peluang, dengan konstanta 00): jadi YnXncXY_nX_n \Rightarrow cX.

Penerapannya. Menurut hukum kuat bilangan besar (Teorema 22.13), p^np\hat p_n \to p secara h.p., sehingga menurut kekontinuannya σ^n=p^n(1p^n)σ=p(1p)>0\hat\sigma_n = \sqrt{\hat p_n(1 - \hat p_n)} \to \sigma = \sqrt{p(1 - p)} > 0 secara h.p., jadi σσ^n1\frac{\sigma}{\hat\sigma_n} \to 1 dalam peluang. Lalu aturan hasil kali Slutsky menaikkan SnnpσnN(0,1)\frac{S_n - np}{\sigma\sqrt n} \Rightarrow \mathcal N(0,1) menjadi Snnpσ^nn=σσ^nSnnpσnN(0,1)\frac{S_n - np}{\hat\sigma_n\sqrt n} = \frac{\sigma}{\hat\sigma_n}\cdot \frac{S_n - np}{\sigma\sqrt n} \Rightarrow \mathcal N(0,1): yakni selang kepercayaan yang terpakai p^n±1.96σ^n/n\hat p_n \pm 1.96\,\hat\sigma_n/\sqrt n, yang dibangun dari datanya saja, dan tetap beraras asimtotik 95%95\%.

Latihan 23.9 ★★★

Misalkan XN(0,1)X \sim \mathcal N(0,1) dan ε\varepsilon bebas dengan P(ε=±1)=12\P(\varepsilon = \pm1) = \frac12; tetapkanlah Y=εXY = \varepsilon X. (a) Tunjukkanlah YN(0,1)Y \sim \mathcal N(0,1) dan Cov(X,Y)=0\operatorname{Cov}(X, Y) = 0. (b) Tunjukkanlah bahwa XX dan YY tidak bebas, dan bahwa (X,Y)(X, Y) bukan vektor Gauss (hitunglah P(X+Y=0)\P(X + Y = 0)). (c) Pelajarannya: Teorema 23.11(2) menuntut sifat Gauss bersamanya — sebab “Gauss yang tak berkorelasi” saja tak membuktikan apa pun.

Solusi

Solusi Latihan 23.9.

(a) Dengan membelah nilai harapannya atas kedua nilai ε\varepsilon (menurut kebebasannya): bagi BB yang Borel, P(YB)=12P(XB)+12P(XB)=P(XB)\P(Y \in B) = \frac12\P(X \in B) + \frac12\P(-X \in B) = \P(X \in B), sebab XX-X \sim X (karena N(0,1)\mathcal N(0,1) setangkup): jadi YN(0,1)Y \sim \mathcal N(0,1). Dan Cov(X,Y)=E[εX2]=E[ε]E[X2]=01=0\operatorname{Cov}(X, Y) = \E[\varepsilon X^2] = \E[\varepsilon]\,\E[X^2] = 0 \cdot 1 = 0. (b) Berlaku Y=X\abs Y = \abs X, sehingga P(X1, Y2)=0\P(\abs X \leq 1,\ \abs Y \geq 2) = 0 padahal P(X1)P(Y2)>0\P(\abs X \leq 1)\,\P(\abs Y \geq 2) > 0: jadi tak bebas. Seandainya (X,Y)(X, Y) merupakan vektor Gauss, maka X+Y=(1+ε)XX + Y = (1 + \varepsilon)X akan menjadi variabel Gauss real (Definisi 23.10 dengan t=(1,1)t = (1,1)); padahal P(X+Y=0)=P(ε=1)=12\P(X + Y = 0) = \P(\varepsilon = -1) = \frac12, sedangkan variabel Gauss beratom hanya jika ia konstan secara h.p. — dan X+YX + Y sama dengan 2X02X \neq 0 secara h.p. pada {ε=1}\{\varepsilon = 1\}. Jadi bertentangan: sehingga (X,Y)(X, Y) bukan Gauss. (c) Setiap marginalnya Gauss dan kovariansnya lenyap, padahal kebebasannya gagal — sebab pasangannya tak Gauss bersama. Jadi Teorema 23.11(2) tak dapat dilemahkan menjadi “marginal Gauss”.

Latihan 23.10 ★★

Distribusi Cauchy berkepadatan 1π(1+x2)\frac1{\pi(1 + x^2)}. (a) Tunjukkanlah bahwa fungsi karakteristiknya eξ\eu^{-\abs\xi} (Latihan 14.1 dan pembalikannya). (b) Tunjukkanlah bahwa jika X1,,XnX_1, \dots, X_n i.i.d. Cauchy, maka Snn\frac{S_n}n kembali Cauchy — yakni distribusi yang sama: sehingga rata-ratanya tak pernah memusat. (c) Damaikanlah dengan hukum bilangan besar dan teorema limit pusatnya: hipotesis mana yang gagal? (Hitunglah EX1\E\abs{X_1}.)

Solusi

Solusi Latihan 23.10.

(a) Latihan 14.1 menghitung e^(ξ)=21+ξ2\widehat{\eu^{-\abs\cdot}}(\xi) = \frac{2}{1 + \xi^2}; lalu karena kedua ruasnya terintegralkan, pembalikan Fourier (Teorema 14.5) membalikkan pernyataannya:

Reiξx ⁣dxπ(1+x2)=eξ,\int_\R\eu^{\iu\xi x}\,\frac{\dd x}{\pi(1 + x^2)} = \eu^{-\abs\xi},

yang persis merupakan φX(ξ)\varphi_X(\xi) bagi variabel Cauchy XX. (b) Menurut kebebasannya, φSn(ξ)=(eξ)n=enξ\varphi_{S_n}(\xi) = \bigl(\eu^{-\abs\xi}\bigr)^n = \eu^{-n\abs\xi}, sehingga φSn/n(ξ)=φSn(ξ/n)=eξ\varphi_{S_n/n}(\xi) = \varphi_{S_n}(\xi/n) = \eu^{-\abs\xi}: jadi rata-rata empiris Snn\frac{S_n}n kembali Cauchy baku bagi setiap nn (menurut keinjektifannya). Sehingga rata-ratanya tak pernah memusat: sebab fluktuasinya pada waktu 10610^6 sama dengan fluktuasi satu pengamatan. (c) Berlaku EX1=2π0x ⁣dx1+x2=+\E\abs{X_1} = \frac2\pi\int_0^\infty\frac{x\,\dd x}{1 + x^2} = +\infty: jadi distribusi Cauchy tak terintegralkan, sehingga hukum kuat bilangan besar (Teorema 22.13) tak berlaku, dan teorema limit pusatnya (yang menuntut varians berhingga) apalagi. Jadi di sini kesimpulannya sungguh gagal, bukan sekadar buktinya. Sebagai uji keselarasan: φ(ξ)=eξ\varphi(\xi) = \eu^{-\abs\xi} tak terdiferensialkan di 00, seperti yang diramalkan Proposisi 23.2(c) yang dibaca secara kontraposisi bagi variabel yang tak terintegralkan.

Latihan 23.11 ★★

(Distribusi stabil dalam kandungan) Misalkan (Xn)(X_n) i.i.d. Cauchy baku (Latihan 23.10). (a) Tunjukkanlah bahwa bagi sembarang a,b>0a, b > 0, aX1+bX2aX_1 + bX_2 berdistribusi seperti (a+b)X1(a + b)X_1: jadi keluarga Cauchy bersifat stabil sejati berindeks 11. (b) Tunjukkanlah bahwa keluarga Gaussnya stabil sejati berindeks 22: yakni aX1+bX2a2+b2X1aX_1 + bX_2 \sim \sqrt{a^2 + b^2}\,X_1 bagi XiX_i yang i.i.d. N(0,1)\mathcal N(0,1). (c) Jelaskanlah, lewat fungsi karakteristik berbentuk ecξα\eu^{-c\abs\xi^\alpha}, mengapa kestabilan berindeks-α\alpha memaksa penormalan n1/αn^{1/\alpha} bagi jumlahnya, dan apa artinya bagi cekungan tarikan teorema limit pusatnya: yakni jumlah i.i.d. mana yang dapat konvergen, setelah penormalan afin, ke distribusi Cauchy alih-alih ke Gauss?

Solusi

Solusi Latihan 23.11.

(a) Berlaku φaX1+bX2(ξ)=eaξebξ=e(a+b)ξ=φ(a+b)X1(ξ)\varphi_{aX_1 + bX_2}(\xi) = \eu^{-a\abs\xi}\eu^{-b\abs\xi} = \eu^{-(a+b)\abs\xi} = \varphi_{(a+b)X_1}(\xi) (menurut kebebasannya dan Latihan 23.10); lalu keinjektifannya mengenali distribusinya.

(b) Berlaku φaX1+bX2(ξ)=ea2ξ2/2eb2ξ2/2=e(a2+b2)ξ2/2\varphi_{aX_1+bX_2}(\xi) = \eu^{-a^2\xi^2/2} \eu^{-b^2\xi^2/2} = \eu^{-(a^2+b^2)\xi^2/2}: yakni distribusi a2+b2X1\sqrt{a^2+b^2}\,X_1.

(c) Jika φX(ξ)=ecξα\varphi_X(\xi) = \eu^{-c\abs\xi^\alpha}, maka Sn=X1++XnS_n = X_1 + \dots + X_n mempunyai φSn=ecnξα\varphi_{S_n} = \eu^{-cn\abs\xi^\alpha}, sedangkan Sn/n1/αS_n/n^{1/\alpha} mempunyai φ(ξ)=ecξα\varphi(\xi) = \eu^{-c\abs\xi^\alpha} lagi: yakni peranakan diri yang persis di bawah penskalaan n1/αn^{1/\alpha}n\sqrt n bagi Gaussnya (α=2\alpha = 2), dan nn itu sendiri bagi Cauchynya (α=1\alpha = 1, Latihan 23.10(b)). Jadi jumlah variabel i.i.d. hanya dapat konvergen (setelah penormalan afin) ke distribusi yang stabil terhadap konvolusi semacam itu; sedangkan teorema limit pusatnya mengatakan bahwa varians berhingga memaksa cekungan Gaussnya, dan cekungan Cauchynya tersedia bagi distribusi yang ekornya begitu berat sehingga EX2=\E X^2 = \infty bahkan EX=\E\abs X = \infty — misalnya jumlah variabel Cauchy itu sendiri. Jadi keuniversalannya berpulau-pulau, yang terindeks eksponen ekornya α(0,2]\alpha \in \intoc02.

Latihan 23.12 ★★

(Fungsi distribusi empiris) Misalkan (Xn)(X_n) i.i.d. berfungsi distribusi FF, dan Fn(t)=1n#{kn:Xkt}F_n(t) = \frac1n\#\{k \leq n : X_k \leq t\}. (a) Tetapkanlah tt. Tunjukkanlah bahwa nFn(t)B(n,F(t))n F_n(t) \sim \mathcal B(n, F(t)), bahwa Fn(t)F(t)F_n(t) \to F(t) secara h.p. (Teorema 22.13), dan bahwa

n(Fn(t)F(t))N(0, F(t)(1F(t))).\sqrt n\,\bigl(F_n(t) - F(t)\bigr) \Longrightarrow \mathcal N\bigl(0,\ F(t)(1 - F(t))\bigr) .

(b) Pada tt manakah varians asimtotiknya maksimal? Tafsirkanlah: bahwa medianlah tempat sebuah distribusi empiris paling sukar dipastikan. (c) Untuk FF yang kontinu, tunjukkanlah bahwa distribusi suptFn(t)F(t)\sup_t\abs{F_n(t) - F(t)} tak bergantung pada FF (reduksikanlah ke variabel seragam lewat Latihan 22.1) — yakni mukjizat bebas-distribusi di balik uji Kolmogorov–Smirnov; dan tak diminta perhitungan distribusi itu.

Solusi

Solusi Latihan 23.12.

(a) Indikator 1Xkt\mathbf 1_{X_k \leq t} bersifat i.i.d. Bernoulli berparameter p=F(t)p = F(t): sehingga jumlahnya nFn(t)nF_n(t) binomial B(n,p)\mathcal B(n, p); lalu hukum kuatnya memberikan Fn(t)pF_n(t) \to p secara h.p., sedangkan teorema limit pusatnya (Teorema 23.8) yang diterapkan pada indikator yang sama (bervarians p(1p)p(1-p)) memberikan limit Gauss yang dinyatakan itu.

(b) Nilai p(1p)p(1 - p) maksimal di p=12p = \frac12, yakni di tempat F(t)=12F(t) = \frac12: yaitu di mediannya. Jadi menaksir peluang ekornya mudah secara asimtotik (sebab variansnya 0\to 0 saat p0,1p \to 0, 1); sedangkan daerah mediannya mengangkut derau statistik terbesar — yakni kurva empirisnya paling bergoyang di tengahnya.

(c) Untuk FF yang kontinu, variabel Uk=F(Xk)U_k = F(X_k) bersifat seragam i.i.d. pada (0,1)\intoo01 (Latihan 22.1), lalu kemonotonan FF memberikan, dengan menulis GnG_n bagi fungsi distribusi empiris UkU_k-nya:

suptRFn(t)F(t)=supuimFGn(u)u=supu[0,1]Gn(u)u:\sup_{t\in\R}\,\abs{F_n(t) - F(t)} = \sup_{u \in \operatorname{im}F}\,\abs{G_n(u) - u} = \sup_{u\in\intcc01}\abs{G_n(u) - u} :

yakni kesamaan pertamanya karena {Xkt}={UkF(t)}\{X_k \leq t\} = \{U_k \leq F(t)\} sampai kejadian nol (menurut kemonotonannya; sebab ketaksamaan sejatinya hanya dapat gagal pada bagian datar FF, yang kedua ruasnya tak berubah di sana), sedangkan yang kedua karena FF yang kontinu, yang berjalan dari 00 ke 11, mencapai setiap nilai (0,1)\intoo01 (menurut teorema nilai antaranya), dan ujungnya tak menambah apa pun (sebab Gn(0)0=0G_n(0) - 0 = 0 dan Gn(1)1=0G_n(1) - 1 = 0). Jadi ruas kanannya hanya melibatkan variabel seragam: yakni satu distribusi bagi setiap FF — sehingga satu tabel nilai kritis (yakni tabel distribusi Kolmogorov) menguji sembarang model kontinu terhadap datanya.

23.6 Soal: bukti Lindeberg bagi teorema limit pusatnya, dengan laju

Soal 23.1

Soal akhir pekan — metode penggantian

Lindeberg (1922) membuktikan teorema limit pusatnya lewat gagasan yang sederhananya melucuti: tukarlah sukunya satu per satu dengan variabel Gauss lalu kendalikan setiap penukaran lewat uraian Taylor. Metodenya tak memerlukan analisis Fourier, menghasilkan laju galat yang eksplisit, dan hari ini menjalankan bukti keuniversalan di seluruh teori peluang. Misalkan (Xi)(X_i) i.i.d., terpusat, dengan V(X1)=1\V(X_1) = 1 dan β=EX13<\beta = \E\abs{X_1}^3 < \infty; lalu misalkan (Ni)(N_i) i.i.d. N(0,1)\mathcal N(0,1), yang bebas dari XiX_i-nya (keberadaannya: Teorema 22.6). Tetapkanlah

Tn=X1++Xnn,Gn=N1++NnnN(0,1).T_n = \frac{X_1 + \dots + X_n}{\sqrt n}, \qquad G_n = \frac{N_1 + \dots + N_n}{\sqrt n} \sim \mathcal N(0,1).

Bagian I — Identitas penukarannya. Tetapkanlah fCb3(R)f \in \mathcal C^3_b(\R) (yakni tiga turunan kontinu yang terbatas; dengan M3=supfM_3 = \sup\abs{f'''}). Lalu bagi 0in0 \leq i \leq n definisikanlah jumlah hibridanya

Hi=X1++Xi+Ni+1++Nnn,H_i = \frac{X_1 + \dots + X_i + N_{i+1} + \dots + N_n}{\sqrt n},

sehingga Hn=TnH_n = T_n dan H0=GnH_0 = G_n.

  1. Tulislah Hi=Wi+XinH_i = W_i + \frac{X_i}{\sqrt n} dan Hi1=Wi+NinH_{i-1} = W_i + \frac{N_i}{\sqrt n} dengan Wi=1n(j<iXj+j>iNj)W_i = \frac{1}{\sqrt n}\bigl(\sum_{j<i}X_j + \sum_{j>i}N_j\bigr), lalu perhatikan bahwa WiW_i bebas dari pasangan (Xi,Ni)(X_i, N_i). Benarkanlah.
  2. Taylor dengan sisa integral atau sisa Lagrange: bagi sembarang w,hw, h yang real:

    f(w+h)f(w)f(w)h12f(w)h2M3h36.\Bigl|f(w + h) - f(w) - f'(w)h - \tfrac12f''(w)h^2\Bigr| \leq \frac{M_3\,\abs h^3}{6} .
  3. Terapkanlah pertanyaan 2 dua kali (dengan h=Xinh = \frac{X_i}{\sqrt n} dan h=Ninh = \frac{N_i}{\sqrt n} di w=Wiw = W_i), ambillah nilai harapannya, lalu pakailah kebebasannya ditambah kecocokan dua momen pertama XiX_i dan NiN_i untuk menunjukkan

    Ef(Hi)Ef(Hi1)M36β+γn3/2,γ=EN13=22π.\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{M_3}{6}\cdot \frac{\beta + \gamma}{n^{3/2}}, \qquad \gamma = \E\abs{N_1}^3 = \frac{2\sqrt2}{\sqrt\pi} .
  4. Teleskopkanlah atas ii lalu simpulkan batas Lindeberg-nya:

    Ef(Tn)Ef(Gn)M3(β+γ)6n.\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{M_3\,(\beta + \gamma)}{6\,\sqrt n} .

Bagian II — Dari ff yang mulus ke teorema limit pusatnya.

  1. Tunjukkanlah bahwa Ef(Tn)Ef(N)\E f(T_n) \to \E f(N) bagi setiap fCb3f \in \mathcal C_b^3, lalu naikkanlah ke setiap ff yang kontinu terbatas: yakni diberikan ff semacam itu dan ε\varepsilon, bangunlah fεCb3f_\varepsilon \in \mathcal C^3_b dengan ffεε\norm{f - f_\varepsilon}_\infty \leq \varepsilon pada selang yang besar — misalnya konvolusikanlah ff dengan gundukan C\mathcal C^\infty (Teorema 12.9) — lalu tanganilah ekornya lewat keketatannya (V(Tn)=1\V(T_n) = 1 dan Chebyshev). Simpulkanlah TnN(0,1)T_n \Rightarrow \mathcal N(0, 1): yakni teorema limit pusatnya, yang dibuktikan ulang.
  2. Di manakah buktinya memakai bahwa XiX_i berdistribusi identik? Tunjukkanlah bahwa ia nyaris tak memakainya: nyatakan lalu buktikanlah versinya bagi XiX_i yang bebas, terpusat, dan tak identik dengan iV(Xi)=sn2\sum_i\V(X_i) = s_n^2 beserta momen ketiganya, lalu perolehlah galat M36sn3i(EXi3+V(Xi)3/2γ)\frac{M_3}{6s_n^3}\sum_i\bigl(\E\abs{X_i}^3 + \V(X_i)^{3/2}\gamma\bigr) — yakni teorema Lindeberg yang sebenarnya dalam bentuk Lyapunovnya.

Bagian III — Dividen kuantitatifnya.

  1. (Fungsi distribusinya) Misalkan tRt \in \R lalu hampirilah 1(,t]\mathbf 1_{\intoc{-\infty}t} dari atas dan dari bawah oleh landaian Cb3\mathcal C^3_b berlebar δ\delta (bangunlah landaiannya, dengan M3=O(δ3)M_3 = O(\delta^{-3})). Lalu dengan menggabungkannya dengan Bagian I, turunkanlah batas dua sukunya

    suptRP(Tnt)Φ(t)    C1(β+γ)δ3n+C2δ(bagi setiap δ>0),\sup_{t\in\R}\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \;\leq\; \frac{C_1(\beta + \gamma)}{\delta^3\sqrt n} + C_2\,\delta \qquad (\text{bagi setiap } \delta > 0),

    dengan konstanta yang eksplisit (sebab suku C2δC_2\delta-nya memakai bahwa Φ\Phi berkepadatan terbatas oleh 12π\frac1{\sqrt{2\pi}}), lalu optimumkanlah δn1/8\delta \sim n^{-1/8} untuk memperoleh laju seragam berorde n1/8n^{-1/8}. (n1/2n^{-1/2} yang optimum — yakni Berry–Esseen — memerlukan perkakas yang lebih halus; sedangkan intinya adalah laju yang eksplisit dari penukaran yang elementer.)

  2. (De Moivre–Laplace, yang dikuantifikasi) Khususkanlah pada Xi=2Bi1X_i = 2B_i - 1 (yakni tanda koin adil): lalu bandingkanlah kesimpulannya dengan taksiran lokal Soal 11.1, pertanyaan 7 — apa yang diberikan masing-masing metode yang tak diberikan yang lain?
  3. (Keuniversalan) Jelaskanlah dalam satu paragraf mengapa metode penggantiannya menunjukkan lebih dari teorema limit pusatnya: bahwa sembarang statistik berbentuk Ef(jumlah)\E f(\text{jumlah}) dengan ff yang mulus tak peka, pada orde n1/2n^{-1/2}, terhadap seluruh distribusi sukunya di luar dua momen pertamanya — yakni “asas invariansi” yang melandasi hasil keuniversalan modern (matriks acak, polinomial acak), dan teorema limit pusatnya adalah contoh pertamanya.

Bagian IV — Pemulusan, yang didorong: laju yang lebih baik. Kehilangan dari n1/2n^{-1/2} (bagi ff yang mulus) ke n1/8n^{-1/8} (bagi fungsi distribusinya) berasal dari membebankan ff''' dalam norma sup. Padahal hibridanya dapat memperbaiki sebagiannya: sebab di dalamnya ada suku Gauss, dan Gauss memuluskan.

  1. (Gauss yang tersembunyi) Untuk 1in11 \leq i \leq n - 1, dengan h=Xinh = \frac{X_i}{\sqrt n} atau Nin\frac{N_i}{\sqrt n}, dan θ[0,1]\theta \in \intcc01, tulislah Wi+θh=A+ZW_i + \theta h = A + Z dengan Z=Ni+1++NnnZ = \frac{N_{i+1} + \dots + N_n}{\sqrt n}. Tunjukkanlah bahwa ZN(0,nin)Z \sim \mathcal N\bigl(0, \frac{n-i}n\bigr) bebas dari pasangan (A,h)(A, h), lalu simpulkanlah, bagi setiap gL1(R)g \in L^1(\R) yang kontinu,

    E[h3g(Wi+θh)]    n2π(ni)  gL1  Eh3.\E\bigl[\abs h^3\,\abs{g(W_i + \theta h)}\bigr] \;\leq\; \sqrt{\frac{n}{2\pi(n - i)}}\; \norm{g}_{L^1}\;\E\abs h^3 .
  2. Gabungkanlah pertanyaan 10 dengan bentuk integral sisa Taylornya,

    f(w+h)=f(w)+f(w)h+12f(w)h2+01(1θ)22f(w+θh)h3 ⁣dθ,f(w + h) = f(w) + f'(w)h + \tfrac12f''(w)h^2 + \int_0^1\frac{(1 - \theta)^2}2\,f'''(w + \theta h)\,h^3\,\dd\theta,

    untuk mengulangi pertanyaan 3–4: bahwa bagi fCb3f \in \mathcal C^3_b yang terlebih lagi fL1(R)f''' \in L^1(\R),

    Ef(Tn)Ef(Gn)β+γ32πfL1n+M3(β+γ)6n3/2\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta + \gamma}{3\sqrt{2\pi}}\cdot \frac{\norm{f'''}_{L^1}}{\sqrt n} + \frac{M_3(\beta + \gamma)}{6\,n^{3/2}}

    (pertanyaan 10 menangani penukaran in1i \leq n - 1 — pakailah m=1n1m1/22n\sum_{m=1}^{n-1}m^{-1/2} \leq 2\sqrt n — sedangkan batas kasar pertanyaan 3 menangani yang terakhir). Periksalah bahwa landaian pertanyaan 7 memenuhi ψδL1=K1δ2\norm{\psi_\delta'''}_{L^1} = K_1\delta^{-2} sedangkan M3=Kδ3M_3 = K\delta^{-3}, masukkanlah keduanya, lalu optimumkanlah δ\delta: sehingga laju seragam fungsi distribusinya membaik menjadi O(n1/6)O(n^{-1/6}).

  3. (Mencocokkan satu momen lagi) Andaikanlah pula EX13=0\E X_1^3 = 0 dan β4=EX14<\beta_4 = \E X_1^4 < \infty. Hitunglah EN13\E N_1^3 dan EN14\E N_1^4, uraikan sampai orde keempat, lalu buktikanlah dengan cara yang sama bahwa laju fungsi distribusinya menjadi O(n1/4)O(n^{-1/4}) (kini ψδ(4)L1=K2δ3\norm{\psi_\delta^{(4)}}_{L^1} = K_2\delta^{-3} dan M4=Kδ4M_4 = K'\delta^{-4}; pilihlah δ=n1/4\delta = n^{-1/4}).
  4. (Halangannya) Andaikanlah kk momen pertama X1X_1 cocok dengan momen Gaussnya (k=2k = 2 selalu; k=3k = 3 tepat saat EX13=0\E X_1^3 = 0; sedangkan k4k \geq 4 pada dasarnya tak pernah, sebab EN14=3\E N_1^4 = 3). Periksalah bahwa skema pertanyaan 10–12 memberikan laju fungsi distribusinya n(k1)/(2k+2)n^{-(k-1)/(2k+2)}, lewat menyeimbangkan δkn(k1)/2\delta^{-k}n^{-(k-1)/2} terhadap δ\delta, lalu amatilah bahwa eksponennya mendekati nilai Berry–Esseen 12\frac12 hanya saat kk \to \infty. Jelaskanlah dalam beberapa kalimat mengapa metode penukarannya menjenuh: sebab setiap penukarannya dibebankan dalam nilai mutlak, sedangkan jalur Fouriernya (yakni ketaksamaan pemulusan Esseen) memanfaatkan ayunan selisih fungsi karakteristiknya lalu mencapai Cβn1/2C\beta n^{-1/2} dengan tiga momen saja.

Bagian V — Dua dimensi: teorema limit pusat berdimensi banyak, lewat penukaran. Kini misalkan XiX_i merupakan vektor acak i.i.d. yang terpusat di R2\R^2 dengan matriks kovarians Σ\Sigma dan β=EX13<\beta' = \E\norm{X_1}^3 < \infty (menurut norma Euclidnya).

  1. (Vektor Gauss, sesuai pesanan) Diagonalkanlah Σ=PDPT\Sigma = PDP^{\mathsf T} (Latihan 20.8) lalu tetapkan C=PDPTC = P\sqrt DP^{\mathsf T}. Lalu bagi Z=(Z1,Z2)Z = (Z^1, Z^2) sepasang variabel Gauss baku yang bebas (Teorema 22.6), tunjukkanlah bahwa N=CZN = CZ merupakan vektor Gauss (Definisi 23.10) berrata-rata 00, berkovarians Σ\Sigma, dengan γ=EN3<\gamma' = \E\norm N^3 < \infty; dan bahwa Gn=N1++NnnG_n = \frac{N_1 + \dots + N_n}{\sqrt n} berdistribusi N(0,Σ)\mathcal N(0, \Sigma) secara persis bagi salinan NiN_i yang i.i.d.
  2. (Taylor dalam dua variabel) Untuk f ⁣:R2Rf \colon \R^2 \to \R berkelas C3\mathcal C^3 dengan M3=maxα=3supαf<M_3 = \max_{\abs\alpha = 3}\sup\abs{\partial^\alpha f} < \infty, buktikanlah

    f(w+h)f(w)f(w),h12h,D2f(w)hM36(h1+h2)32M33h3\Bigl|f(w + h) - f(w) - \langle\nabla f(w), h\rangle - \tfrac12\langle h, D^2f(w)\,h\rangle \Bigr| \leq \frac{M_3}6\,\bigl(\abs{h_1} + \abs{h_2}\bigr)^3 \leq \frac{\sqrt2\,M_3}3\, \norm h^3

    (pelajarilah tf(w+th)t \mapsto f(w + th) pada [0,1]\intcc01).

  3. (Teorema limit pusatnya di R2\R^2) Jalankanlah skema penggantiannya pada hibrida vektornya HiH_i: tunjukkanlah bahwa suku orde pertama dan keduanya meniadakan diri (sebab rata-rata dan kovariansnya cocok), teleskopkanlah, lalu naikkanlah seperti pada pertanyaan 5 (dengan keketatan dari ETn2=trΣ\E\norm{T_n}^2 = \operatorname{tr}\Sigma; dan pemulusannya kini di R2\R^2, Teorema 12.9) untuk menyimpulkan: bahwa bagi setiap f ⁣:R2Rf \colon \R^2 \to \R yang kontinu terbatas,

    Ef(X1++Xnn)Ef(N),NN(0,Σ):\E\,f\Bigl(\frac{X_1 + \dots + X_n}{\sqrt n}\Bigr) \longrightarrow \E\,f(N), \qquad N \sim \mathcal N(0, \Sigma) :

    yakni Teorema 23.12 pada dimensi 22, dengan laju bagi ff yang mulus dan tanpa analisis Fourier.

  4. (Cramér–Wold, dan sebuah fluktuasi bersama) Simpulkanlah bahwa t,SnnN(0,tTΣt)\langle t, \frac{S_n}{\sqrt n}\rangle \Rightarrow \mathcal N(0, t^{\mathsf T}\Sigma t) bagi setiap tR2t \in \R^2 yang tetap. Penerapannya: bagi (ξi)(\xi_i) real i.i.d. yang terpusat, Eξ12=1\E\xi_1^2 = 1, Eξ16<\E\xi_1^6 < \infty (sehingga Bagian V berlaku bagi Vi=(ξi,ξi21)V_i = (\xi_i, \xi_i^2 - 1)), tunjukkanlah

    1n(inξi, in(ξi21))N(0,(1Eξ13Eξ13Eξ141)):\frac1{\sqrt n}\Bigl(\sum_{i\leq n}\xi_i,\ \sum_{i\leq n}(\xi_i^2 - 1)\Bigr) \Longrightarrow \mathcal N\Bigl(0, \begin{pmatrix} 1 & \E\xi_1^3\\ \E\xi_1^3 & \E\xi_1^4 - 1\end{pmatrix}\Bigr) :

    yakni rata-rata empiris dan momen kedua empirisnya berfluktuasi bersama secara Gauss — dan bebas pada limitnya jika dan hanya jika Eξ13=0\E\xi_1^3 = 0 (Teorema 23.11).

Bagian VI — Metode delta.

  1. Misalkan (θ^n)(\hat\theta_n) peubah acak dengan n(θ^nθ)N(0,σ2)\sqrt n(\hat\theta_n - \theta) \Rightarrow \mathcal N(0, \sigma^2) bagi parameter real θ\theta, dan misalkan gg terdiferensialkan di θ\theta. Buktikanlah metode delta-nya:

    n(g(θ^n)g(θ))N(0,g(θ)2σ2)\sqrt n\bigl(g(\hat\theta_n) - g(\theta)\bigr) \Longrightarrow \mathcal N\bigl(0, g'(\theta)^2\sigma^2\bigr)

    (tulislah g(x)g(θ)=(g(θ)+η(x))(xθ)g(x) - g(\theta) = (g'(\theta) + \eta(x))(x - \theta) dengan η0\eta \to 0 di θ\theta; tunjukkanlah θ^nθ\hat\theta_n \to \theta, lalu η(θ^n)0\eta(\hat\theta_n) \to 0, dalam peluang; lalu selesaikanlah dengan Slutsky, Latihan 23.8, dan Latihan 23.4(b)).

  2. Penerapannya. (a) Bagi (ξi)(\xi_i) real i.i.d. yang berrata-rata μ\mu dan bervarians σ2\sigma^2, dan Xˉn=1ninξi\bar X_n = \frac1n\sum_{i\leq n}\xi_i: tunjukkanlah n(Xˉn2μ2)N(0,4μ2σ2)\sqrt n(\bar X_n^2 - \mu^2) \Rightarrow \mathcal N(0, 4\mu^2\sigma^2) bila μ0\mu \neq 0, dan bahwa bagi μ=0\mu = 0 pernyataan yang benar hidup pada skala lain: yakni nXˉn2σ2N2n\bar X_n^2 \Rightarrow \sigma^2N^2 dengan NN(0,1)N \sim \mathcal N(0,1) (kenalilah fungsi distribusi limitnya). (b) (Penstabilan varians) Bagi p^n\hat p_n sebagai frekuensi keberhasilan cuplikan B(1,p)\mathcal B(1, p), dengan p(0,1)p \in \intoo01: tunjukkanlah bahwa g(p)=arcsinpg(p) = \arcsin\sqrt p memenuhi

    n(g(p^n)g(p))N(0,14)\sqrt n\,\bigl(g(\hat p_n) - g(p)\bigr) \Longrightarrow \mathcal N\Bigl(0, \frac14\Bigr)

    apa pun pp-nya — yakni batang galat asimtotik yang bebas dari parameter tak diketahuinya; bandingkanlah dengan Contoh 23.9.

Bagian VII — Poisson, lewat metode yang sama: teorema Le Cam. Penggantiannya mengenal kelas keuniversalan kedua: yakni jumlah banyak kejadian langka yang bebas. Bagi distribusi pada N\N, jarak yang tepat adalah variasi total,

dTV(μ,ν)=supANμ(A)ν(A).d_{\mathrm{TV}}(\mu, \nu) = \sup_{A\subseteq\N}\, \abs{\mu(A) - \nu(A)} .
  1. Tunjukkanlah bahwa dTV(μ,ν)=12k0μ({k})ν({k})d_{\mathrm{TV}}(\mu, \nu) = \frac12\sum_{k\geq0}\abs{\mu(\{k\}) - \nu(\{k\})}, lalu buktikanlah batas penggandengannya: bahwa bagi sembarang pasangan (X,Y)(X, Y) peubah acak yang berdistribusi μ\mu dan ν\nu pada ruang yang sama, dTV(μ,ν)P(XY)d_{\mathrm{TV}}(\mu, \nu) \leq \P(X \neq Y).
  2. Hitunglah secara persis, bagi p(0,1)p \in \intoo01:

    dTV(B(1,p),P(p))=p(1ep)p2.d_{\mathrm{TV}}\bigl(\mathcal B(1, p), \mathcal P(p)\bigr) = p\bigl(1 - \eu^{-p}\bigr) \leq p^2 .
  3. (Le Cam, lewat penukaran) Misalkan XiB(1,pi)X_i \sim \mathcal B(1, p_i) dan YiP(pi)Y_i \sim \mathcal P(p_i), dengan 2n2n variabelnya bebas; lalu S=X1++XnS = X_1 + \dots + X_n, dan ingatlah Y1++YnP(λ)Y_1 + \dots + Y_n \sim \mathcal P(\lambda) dengan λ=ipi\lambda = \sum_ip_i (Latihan 23.1). Tukarlah satu koordinat setiap kali pada hibrida bulatnya Hi=Y1++Yi+Xi+1++XnH_i = Y_1 + \dots + Y_i + X_{i+1} + \dots + X_n: tunjukkanlah, bagi setiap ANA \subseteq \N,

    P(Hi1A)P(HiA)dTV(B(1,pi),P(pi)),\abs{\P(H_{i-1} \in A) - \P(H_i \in A)} \leq d_{\mathrm{TV}}\bigl(\mathcal B(1, p_i), \mathcal P(p_i)\bigr),

    lalu simpulkanlah ketaksamaan Le Cam:

    dTV(distribusi S, P(λ))i=1npi2.d_{\mathrm{TV}}\bigl(\text{distribusi } S,\ \mathcal P(\lambda)\bigr) \leq \sum_{i=1}^np_i^2 .
  4. Dividennya. (a) Untuk pi=λnp_i = \frac\lambda n: batasnya adalah λ2n\frac{\lambda^2}n — yakni hukum kejadian langka (Latihan 23.5) yang dinaikkan ke laju eksplisit, seragam atas semua kejadian, dan sahih bagi pip_i yang tak sama pula. (b) Sebanyak 500500 surat dikirimkan, masing-masing tersesat secara bebas dengan peluang 1500\frac1{500}: batasilah galat model Poisson berparameter 11, lalu taksirlah peluang bahwa tak ada surat yang tersesat. (c) Tutuplah soalnya: bandingkanlah kedua kelas keuniversalan yang ditemui di sini — Gauss (banyak sumbangan kecil yang terhampar; dua momen yang cocok; Taylor) dan Poisson (banyak sumbangan langka; satu rata-rata yang cocok; penggandengan variasi-total yang persis) — beserta satu metode penggantian di balik keduanya.
  5. (Galat relatif dan transformasi log) Misalkan (Xn)(X_n) i.i.d., positif, berrata-rata μ>0\mu > 0, bervarians σ2\sigma^2, dan Xˉn\bar X_n rata-rata empirisnya. Tunjukkanlah lewat metode delta bahwa

    n(lnXˉnlnμ)N(0, σ2μ2):\sqrt n\,\bigl(\ln\bar X_n - \ln\mu\bigr) \Longrightarrow \mathcal N\Bigl(0,\ \frac{\sigma^2}{\mu^2}\Bigr) :

    yakni parameter asimtotik lnXˉn\ln\bar X_n adalah koefisien variasinya σ/μ\sigma/\mu — yakni galat relatif yang bebas skala. Lalu simpulkanlah selang kepercayaan 95%95\% bagi μ\mu yang berbentuk perkalian Xˉne±1.96σ/(μn)\bar X_n\cdot\eu^{\pm1.96\,\sigma/(\mu\sqrt n)}, lalu jelaskanlah kapan ia lebih disukai daripada yang aditif.

  6. (Momen ketiga mengemudikan galatnya) Untuk XX \sim Bernoulli(pp) yang terpusat, hitunglah E[(Xp)3]=p(1p)(12p)\E\bigl[(X - p)^3\bigr] = p(1-p)(1-2p). Lalu dengan memakai analisis Bagian IV (sebab galat penukarannya dikemudikan momen ketiganya), jelaskanlah mengapa hampiran normal B(n,p)\mathcal B(n, p) bersifat tak setangkup bagi p12p \neq \frac12 — yakni melampaui pada satu sisi dan kurang pada sisi lainnya — dan mengapa p=12p = \frac12 menikmati laju momen-cocok yang lebih cepat. Periksalah tanda kemencengannya secara numerik pada B(20,0.1)\mathcal B(20, 0.1) terhadap N(2,1.8)\mathcal N(2, 1.8): bandingkanlah P(S=0)=0.920\P(S = 0) = 0.9^{20} dengan massa Gauss (,0.5)\intoo{-\infty}{0.5}.
Solusi

Solusi Soal 23.1.

1. Keluarga (X1,,Xn,N1,,Nn)(X_1, \dots, X_n, N_1, \dots, N_n) bersifat bebas: sebab kedua bloknya saling bebas menurut konstruksinya dan setiap bloknya i.i.d. Lalu WiW_i merupakan fungsi terukur variabel (Xj)j<i(X_j)_{j<i} dan (Nj)j>i(N_j)_{j>i} saja, yang semuanya berbeda dari XiX_i dan NiN_i: sehingga menurut asas koalisinya (Teorema 22.5), WiW_i bersifat bebas dari pasangan (Xi,Ni)(X_i, N_i). Adapun penguraian Hi=Wi+XinH_i = W_i + \frac{X_i}{\sqrt n} dan Hi1=Wi+NinH_{i-1} = W_i + \frac{N_i}{\sqrt n} langsung dari definisinya: sebab berpindah dari HiH_i ke Hi1H_{i-1} menukar satu suku XiX_i dengan NiN_i.

2. Taylor–Lagrange pada orde 33: ada cc di antara ww dan w+hw + h dengan f(w+h)=f(w)+f(w)h+12f(w)h2+16f(c)h3f(w + h) = f(w) + f'(w)h + \frac12f''(w)h^2 + \frac16f'''(c)h^3, lalu f(c)M3\abs{f'''(c)} \leq M_3 memberikan batasnya.

3. Dengan mengurangkan kedua uraiannya pada titik pangkal bersamanya w=Wiw = W_i:

f(Hi)f(Hi1)=f(Wi)XiNin+f(Wi)2Xi2Ni2n+Ri,RiM36Xi3+Ni3n3/2.f(H_i) - f(H_{i-1}) = f'(W_i)\,\frac{X_i - N_i}{\sqrt n} + \frac{f''(W_i)}{2}\,\frac{X_i^2 - N_i^2}{n} + R_i, \qquad \abs{R_i} \leq \frac{M_3}{6}\cdot \frac{\abs{X_i}^3 + \abs{N_i}^3}{n^{3/2}} .

Lalu ambillah nilai harapannya. Menurut pertanyaan 1, f(Wi)f'(W_i) dan f(Wi)f''(W_i) bebas dari (Xi,Ni)(X_i, N_i), sehingga nilai harapan campurannya memfaktor:

E[f(Wi)XiNin]=E[f(Wi)]EXiENin=0,E[f(Wi)Xi2Ni2n]=E[f(Wi)]11n=0:\begin{align*} \E\Bigl[f'(W_i)\,\frac{X_i - N_i}{\sqrt n}\Bigr] &= \E\bigl[f'(W_i)\bigr]\,\frac{\E X_i - \E N_i}{\sqrt n} = 0, \\ \E\Bigl[f''(W_i)\,\frac{X_i^2 - N_i^2}{n}\Bigr] &= \E\bigl[f''(W_i)\bigr]\,\frac{1 - 1}{n} = 0 : \end{align*}

yakni dua momen pertama XiX_i dan NiN_i cocok, sehingga hanya sisanya yang bertahan:

Ef(Hi)Ef(Hi1)ERiM36β+γn3/2.\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \E\abs{R_i} \leq \frac{M_3}{6}\cdot\frac{\beta + \gamma}{n^{3/2}} .

Adapun momen ketiga Gaussnya: γ=EN13=20x3ex2/22π ⁣dx=22π02ueu ⁣du=42π=22π\gamma = \E\abs{N_1}^3 = 2\int_0^\infty x^3\,\frac{\eu^{-x^2/2}}{\sqrt{2\pi}}\,\dd x = \frac{2}{\sqrt{2\pi}}\int_0^\infty 2u\,\eu^{-u}\dd u = \frac{4}{\sqrt{2\pi}} = \frac{2\sqrt2}{\sqrt\pi} (lewat substitusi u=x2/2u = x^2/2, lalu Γ(2)=1\Gamma(2) = 1).

4. Dengan menteleskopkan Ef(Tn)Ef(Gn)=i=1n(Ef(Hi)Ef(Hi1))\E f(T_n) - \E f(G_n) = \sum_{i=1}^n\bigl(\E f(H_i) - \E f(H_{i-1})\bigr) lalu menerapkan pertanyaan 3 pada masing-masing nn sukunya:

Ef(Tn)Ef(Gn)nM3(β+γ)6n3/2=M3(β+γ)6n.\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq n \cdot \frac{M_3(\beta + \gamma)}{6\,n^{3/2}} = \frac{M_3\,(\beta + \gamma)}{6\,\sqrt n} .

5. Variabel GnG_n bersifat N(0,1)\mathcal N(0,1) secara persis bagi setiap nn (sebab jumlah ternormalkan variabel Gauss baku yang bebas, Latihan 23.3), sehingga Ef(Gn)=Ef(N)\E f(G_n) = \E f(N) dan pertanyaan 4 berbunyi Ef(Tn)Ef(N)M3(β+γ)6n0\abs{\E f(T_n) - \E f(N)} \leq \frac{M_3(\beta+\gamma)}{6\sqrt n} \to 0 bagi fCb3f \in \mathcal C^3_b. Untuk kenaikannya. Misalkan ff kontinu terbatas, M=supfM = \sup\abs f, dan ε>0\varepsilon > 0. Pilihlah A1A \geq 1 dengan 1A2ε\frac1{A^2} \leq \varepsilon: lalu Chebyshev beserta V(Tn)=1\V(T_n) = 1 memberikan P(Tn>A)ε\P(\abs{T_n} > A) \leq \varepsilon bagi setiap nn, dan demikian pula P(N>A)ε\P(\abs N > A) \leq \varepsilon. Misalkan χ\chi bersifat C\mathcal C^\infty dengan 1[A,A]χ1[A1,A+1]\mathbf 1_{\intcc{-A}A} \leq \chi \leq \mathbf 1_{\intcc{-A-1}{A+1}} (yakni dataran mulus, yang dibangun dengan memuluskan 1[A12,A+12]\mathbf 1_{\intcc{-A-\frac12}{A+\frac12}}, Teorema 12.9); maka g=fχg = f\chi kontinu bertumpuan kompak, jadi kontinu seragam, sehingga pemulusannya gη=gρηg_\eta = g * \rho_\eta bersifat C\mathcal C^\infty dengan turunan terbatas pada setiap orde dan ggηε\norm{g - g_\eta}_\infty \leq \varepsilon bagi η\eta yang cukup kecil. Lalu bagi T=TnT = T_n atau NN, karena f=gf = g pada [A,A]\intcc{-A}A dan fg2M\abs{f - g} \leq 2M di mana-mana:

Ef(T)Egη(T)E(fg)(T)+ggη2MP(T>A)+ε(2M+1)ε.\bigl|\E f(T) - \E g_\eta(T)\bigr| \leq \E\abs{(f - g)(T)} + \norm{g - g_\eta}_\infty \leq 2M\,\P(\abs T > A) + \varepsilon \leq (2M + 1)\,\varepsilon .

Lalu dengan menggabungkannya dengan Egη(Tn)Egη(N)\E g_\eta(T_n) \to \E g_\eta(N) (sebab pertanyaan 4 berlaku: gηCb3g_\eta \in \mathcal C^3_b):

lim supn  Ef(Tn)Ef(N)2(2M+1)ε,\limsup_n\;\bigl|\E f(T_n) - \E f(N)\bigr| \leq 2(2M + 1)\,\varepsilon ,

sedangkan ε\varepsilon-nya sembarang: jadi Ef(Tn)Ef(N)\E f(T_n) \to \E f(N) bagi setiap ff yang kontinu terbatas, yakni TnN(0,1)T_n \Rightarrow \mathcal N(0,1).

6. Distribusi yang identik masuk hanya lewat satu kalimat: “XiX_i dan NiN_i mempunyai dua momen pertama yang sama”. Jadi misalkan X1,,XnX_1, \dots, X_n bebas, terpusat, bervarians σi2\sigma_i^2 dan bermomen ketiga berhingga, dengan sn2=iσi2>0s_n^2 = \sum_i\sigma_i^2 > 0, lalu ambillah NiN(0,σi2)N_i \sim \mathcal N(0, \sigma_i^2) yang bebas dari segalanya. Definisikanlah hibridanya dengan penormalan sns_n: Hi=1sn(jiXj+j>iNj)H_i = \frac1{s_n}(\sum_{j\leq i}X_j + \sum_{j>i}N_j). Lalu pada penukaran ke-ii, EXi=ENi=0\E X_i = \E N_i = 0 dan EXi2=ENi2=σi2\E X_i^2 = \E N_i^2 = \sigma_i^2 kembali membunuh suku ff' dan ff''-nya, sedangkan sisanya memberikan (dengan memakai ENi3=σi3γ\E\abs{N_i}^3 = \sigma_i^3\gamma lewat penskalaan):

Ef(Hi)Ef(Hi1)M36sn3(EXi3+σi3γ).\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{M_3}{6\,s_n^3}\bigl(\E\abs{X_i}^3 + \sigma_i^3\gamma\bigr) .

Lalu dengan menteleskopkannya:

Ef(X1++Xnsn)Ef(N)M36sn3i=1n(EXi3+V(Xi)3/2γ).\Bigl|\E f\Bigl(\frac{X_1 + \dots + X_n}{s_n}\Bigr) - \E f(N)\Bigr| \leq \frac{M_3}{6\,s_n^3}\sum_{i=1}^n \Bigl(\E\abs{X_i}^3 + \V(X_i)^{3/2}\,\gamma\Bigr) .

Karena σi3=(EXi2)3/2EXi3\sigma_i^3 = (\E X_i^2)^{3/2} \leq \E\abs{X_i}^3 (menurut ketaksamaan rata-rata pangkatnya, yakni Jensen bagi tt3/2t \mapsto t^{3/2} yang diterapkan pada Xi2X_i^2), ruas kanannya paling banyak M3(1+γ)6iEXi3sn3\frac{M_3(1 + \gamma)}{6}\cdot \frac{\sum_i\E\abs{X_i}^3}{s_n^3}: sehingga di bawah syarat Lyapunov 1sn3iEXi30\frac1{s_n^3}\sum_i\E\abs{X_i}^3 \to 0, jumlah ternormalkannya konvergen dalam distribusi ke N(0,1)\mathcal N(0,1) — yakni teorema limit pusatnya tanpa distribusi yang identik.

7. Misalkan ρCc((0,1))\rho \in \mathcal C^\infty_c(\intoo01) dengan ρ=1\int\rho = 1 lalu tetapkan ψ(x)=x1ρ(s) ⁣ds\psi(x) = \int_x^1\rho(s)\dd s: maka ψ\psi bersifat C\mathcal C^\infty, tak naik, dengan ψ=1\psi = 1 pada R\R_- dan ψ=0\psi = 0 pada [1,)\intco1\infty; lalu ambillah K=ψK = \norm{\psi'''}_\infty. Lalu bagi tRt \in \R dan δ>0\delta > 0 definisikanlah ψδ(x)=ψ(xtδ)\psi_\delta(x) = \psi\bigl(\frac{x - t}\delta\bigr) dan ψ~δ(x)=ψ(xtδ+1)\tilde\psi_\delta(x) = \psi\bigl(\frac{x - t}\delta + 1\bigr): keduanya Cb3\mathcal C^3_b dengan turunan ketiga terbatas oleh K/δ3K/\delta^3, dan

1(,tδ]ψ~δ1(,t]ψδ1(,t+δ].\mathbf 1_{\intoc{-\infty}{t-\delta}} \leq \tilde\psi_\delta \leq \mathbf 1_{\intoc{-\infty}t} \leq \psi_\delta \leq \mathbf 1_{\intoc{-\infty}{t+\delta}} .

Untuk batas atasnya: menurut pertanyaan 4 yang diterapkan pada ψδ\psi_\delta (dengan M3=K/δ3M_3 = K/\delta^3),

P(Tnt)Eψδ(Tn)Eψδ(N)+K(β+γ)6δ3nΦ(t+δ)+K(β+γ)6δ3nΦ(t)+δ2π+K(β+γ)6δ3n,\P(T_n \leq t) \leq \E\psi_\delta(T_n) \leq \E\psi_\delta(N) + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n} \leq \Phi(t + \delta) + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n} \leq \Phi(t) + \frac{\delta}{\sqrt{2\pi}} + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n},

sebab Φ\Phi bersifat Lipschitz berkonstanta 12π\frac1{\sqrt{2\pi}} (karena kepadatannya terbatas oleh 12π\frac1{\sqrt{2\pi}}). Lalu batas bawah setangkupnya lewat ψ~δ\tilde\psi_\delta memberikan taksiran dua sukunya

suptRP(Tnt)Φ(t)K(β+γ)61δ3n+δ2π(δ>0 sembarang).\sup_{t\in\R}\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \leq \frac{K(\beta + \gamma)}{6}\cdot\frac{1}{\delta^3\sqrt n} + \frac{\delta}{\sqrt{2\pi}} \qquad(\delta > 0\ \text{sembarang}).

Kedua sukunya berimbang saat δ3n1/2δ\delta^{-3}n^{-1/2} \asymp \delta, yakni δ=n1/8\delta = n^{-1/8}: sehingga keduanya menjadi O(n1/8)O(n^{-1/8}), yakni laju seragam eksplisit yang sahih bagi setiap nn. (Sedangkan laju Berry–Esseen yang optimum Cβ/nC\beta/\sqrt n menuntut ketaksamaan pemulusan Fouriernya; jadi penukarannya menukar ketajaman dengan keelementeran yang tuntas.)

8. Untuk Xi=2Bi1X_i = 2B_i - 1 (yakni tanda adil): ia terpusat, bervarians 11, dan Xi=1\abs{X_i} = 1 sehingga β=1\beta = 1. Lalu pertanyaan 7 membatasi suptP(Snnt)Φ(t)\sup_t\abs{\P(\frac{S_n}{\sqrt n} \leq t) - \Phi(t)} secara eksplisit dan seragam bagi setiap nn yang berhingga — yakni pernyataan global dan tak asimtotik tentang fungsi distribusinya. Sedangkan taksiran lokal Soal 11.1, pertanyaan 7, justru memberikan asimtotik persis sebuah atom tunggal, P(S2n=2k)ek2/nπn\P(S_{2n} = 2k) \sim \frac{\eu^{-k^2/n}}{\sqrt{\pi n}}: sehingga ia menguraikan peluang berukuran n1/2n^{-1/2}, jauh di bawah resolusi n1/8n^{-1/8} pertanyaan 7, tetapi ia bersifat titik demi titik, asimtotik (tanpa galat eksplisit pada nn yang tetap) dan terikat pada distribusi kisi tertentu ini. Jadi ketelitian lokal lawan keseragaman global: kedua metodenya saling melengkapi, dan menjumlahkan taksiran lokalnya atas k[ ⁣[an,bn] ⁣]k \in \intint{a\sqrt n}{b\sqrt n} memulihkan de Moivre–Laplace pada selangnya — dengan laju yang lebih tajam, tetapi hanya bagi distribusi ini.

9. Argumen penukarannya sama sekali tak memakai apa pun dari distribusi XiX_i-nya di luar EXi=0\E X_i = 0, EXi2=1\E X_i^2 = 1 dan keberhinggaan EXi3\E\abs{X_i}^3: sehingga seandainya kita mengganti Gaussnya NiN_i dengan keluarga i.i.d. lain yang dua momen pertamanya sama dan momen ketiganya berhingga, teleskop yang sama akan membatasi Ef(jumlahX)Ef(jumlahY)\abs{\E f(\text{jumlah}_X) - \E f(\text{jumlah}_Y)} oleh O(n1/2)O(n^{-1/2}) bagi setiap ff yang mulus. Jadi statistik mulus atas jumlah bebas yang besar bersifat universal: yakni sampai galat yang terkuantifikasi, ia bergantung pada distribusi sukunya hanya lewat dua bilangan. Inilah asas invariansinya: buktikanlah sebuah teorema limit bagi distribusi yang paling terhitungkan (yakni Gaussnya, yang segalanya persis di sana), lalu pindahkanlah ke setiap distribusi lewat penukaran. Skema yang sama — dengan jumlahnya diganti fungsional yang lebih rumit — menjalankan hukum setengah lingkaran Wigner bagi matriks acak, keuniversalan akar polinomial acak, dan sebagian besar peluang modern; sedangkan teorema limit pusatnya adalah contohnya yang pertama dan paling sederhana.

10. Variabel ZZ merupakan fungsi Borel (Ni+1,,Nn)(N_{i+1}, \dots, N_n) saja, sedangkan A=Wi+θhZA = W_i + \theta h - Z dan hh merupakan fungsi variabel sisa keluarga bebasnya (X1,,Xn,N1,,Nn)(X_1, \dots, X_n, N_1, \dots, N_n): sehingga menurut asas koalisinya (Teorema 22.5), ZZ bebas dari (A,h)(A, h). Lalu sebagai jumlah Nj/nN(0,1n)N_j/\sqrt n \sim \mathcal N(0, \frac1n) yang bebas, ZN(0,s2)Z \sim \mathcal N(0, s^2) dengan s2=nins^2 = \frac{n-i}n (Latihan 23.3), yang berkepadatan terbatas oleh 1s2π\frac1{s\sqrt{2\pi}}. Sedangkan distribusi ((A,h),Z)((A, h), Z) adalah hasil kali kedua distribusi marginalnya, sehingga Tonelli (lewat transfernya) membekukan blok pertamanya: dengan G(a)=Eg(a+Z)=g(a+z)φs(z) ⁣dzgL1s2πG(a) = \E\abs{g(a + Z)} = \int\abs{g(a + z)}\,\varphi_s(z)\,\dd z \leq \frac{\norm g_{L^1}}{s\sqrt{2\pi}} bagi setiap aa,

E[h3g(A+Z)]=E[h3G(A)]gL1s2πEh3=n2π(ni)gL1Eh3.\E\bigl[\abs h^3\abs{g(A + Z)}\bigr] = \E\bigl[\abs h^3\,G(A)\bigr] \leq \frac{\norm g_{L^1}}{s\sqrt{2\pi}}\,\E\abs h^3 = \sqrt{\frac{n}{2\pi(n-i)}}\,\norm g_{L^1}\,\E\abs h^3 .

11. Bentuk integral rumus Taylornya menyusul lewat mengintegralkan f(w+h)f(w)=h01f(w+θh) ⁣dθf(w + h) - f(w) = h\int_0^1f'(w + \theta h)\,\dd\theta secara parsial dua kali terhadap θ\theta. Lalu dengan mengambil nilai harapannya pada penukaran ke-ii, orde 0,1,20, 1, 2-nya meniadakan diri persis seperti pada pertanyaan 3, sedangkan kedua sisanya (bagi h=Xi/nh = X_i/\sqrt n dan Ni/nN_i/\sqrt n) terbatas, bagi in1i \leq n - 1, menurut pertanyaan 10 dengan g=fg = f''':

Ef(Hi)Ef(Hi1)01(1θ)22 ⁣dθ  n2π(ni)fL1β+γn3/2=β+γ6n3/2n2π(ni)fL1.\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \int_0^1\frac{(1-\theta)^2}2\,\dd\theta\; \sqrt{\frac{n}{2\pi(n-i)}}\,\norm{f'''}_{L^1} \frac{\beta + \gamma}{n^{3/2}} = \frac{\beta + \gamma}{6\,n^{3/2}} \sqrt{\frac{n}{2\pi(n-i)}}\,\norm{f'''}_{L^1} .

Lalu menjumlahkannya, dengan i=1n1nni=nm=1n1m1/22n\sum_{i=1}^{n-1}\sqrt{\frac n{n-i}} = \sqrt n\sum_{m=1}^{n-1}m^{-1/2} \leq 2n, lalu menambahkan batas pertanyaan 3 bagi penukaran terakhirnya (i=ni = n, sebab tak ada Gauss yang tersisa):

Ef(Tn)Ef(Gn)β+γ32πfL1n+M3(β+γ)6n3/2.\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta + \gamma}{3\sqrt{2\pi}}\cdot \frac{\norm{f'''}_{L^1}}{\sqrt n} + \frac{M_3(\beta + \gamma)}{6\,n^{3/2}} .

Untuk landaiannya: ψδ(x)=δ3ψ(xtδ)\psi_\delta'''(x) = \delta^{-3}\psi'''\bigl(\frac{x - t}\delta\bigr), sehingga M3=Kδ3M_3 = K\delta^{-3} dengan K=ψK = \norm{\psi'''}_\infty dan ψδL1=δ2ψL1=K1δ2\norm{\psi_\delta'''}_{L^1} = \delta^{-2} \norm{\psi'''}_{L^1} = K_1\delta^{-2} (lewat substitusinya). Lalu apitan pertanyaan 7 memberikan

suptP(Tnt)Φ(t)K1(β+γ)32π1δ2n+K(β+γ)61δ3n3/2+δ2π.\sup_t\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \leq \frac{K_1(\beta + \gamma)}{3\sqrt{2\pi}}\cdot \frac1{\delta^2\sqrt n} + \frac{K(\beta + \gamma)}{6}\cdot \frac1{\delta^3n^{3/2}} + \frac\delta{\sqrt{2\pi}} .

Pada δ=n1/6\delta = n^{-1/6} suku pertama dan ketiganya bernilai O(n1/6)O(n^{-1/6}) sedangkan yang tengah O(n1)O(n^{-1}): yakni laju seragam O(n1/6)O(n^{-1/6}), yang sejati lebih baik daripada n1/8n^{-1/8} pertanyaan 7 — sebab paruh Gauss hibridanya mengerjakan pemulusan tambahannya.

12. Berlaku EN13=0\E N_1^3 = 0 (sebab integrannya ganjil), sedangkan pengintegralan parsial memberikan EN14=3EN12=3\E N_1^4 = 3\,\E N_1^2 = 3 (sebab x3xφ(x) ⁣dx=3x2φ\int x^3\cdot x\varphi(x)\dd x = 3\int x^2\varphi). Lalu bagi ff berkelas C4\mathcal C^4 dengan turunan yang terbatas, uraikanlah setiap penukaran sampai orde keempat: maka suku orde ketiganya mengangkut faktor EXi3ENi3=0\E X_i^3 - \E N_i^3 = 0 (sebab kebebasannya memfaktorkannya seperti pada pertanyaan 3), sehingga hanya sisa orde keempatnya 01(1θ)36f(4)(w+θh)h4 ⁣dθ\int_0^1\frac{(1-\theta)^3}6f^{(4)}(w + \theta h)h^4\dd\theta yang bertahan, dengan 01(1θ)36 ⁣dθ=124\int_0^1 \frac{(1-\theta)^3}6\dd\theta = \frac1{24} dan Eh4=β4n2\E h^4 = \beta_4n^{-2} atau 3n23n^{-2}. Lalu pertanyaan 10 (dengan g=f(4)g = f^{(4)}) membatasi penukaran in1i \leq n - 1, dan menjumlahkannya seperti pada pertanyaan 11:

Ef(Tn)Ef(Gn)β4+3122πf(4)L1n+M4(β4+3)24n2.\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta_4 + 3}{12\sqrt{2\pi}}\cdot \frac{\norm{f^{(4)}}_{L^1}}{n} + \frac{M_4(\beta_4 + 3)}{24\,n^2} .

Dengan ψδ(4)L1=K2δ3\norm{\psi_\delta^{(4)}}_{L^1} = K_2\delta^{-3} dan M4=Kδ4M_4 = K'\delta^{-4}, batas fungsi distribusinya menjadi Cδ3n1+Cδ4n2+δ2πC\delta^{-3}n^{-1} + C'\delta^{-4}n^{-2} + \frac\delta{\sqrt{2\pi}}; lalu di δ=n1/4\delta = n^{-1/4} suku luarnya bernilai O(n1/4)O(n^{-1/4}) dan yang tengah O(n1)O(n^{-1}): jadi lajunya O(n1/4)O(n^{-1/4}).

13. Dengan kk momen yang cocok, sisa yang bertahan per penukaran berorde Ehk+1n(k+1)/2\E\abs h^{k+1} \asymp n^{-(k+1)/2}; sedangkan batas Gauss tersembunyinya membebankan f(k+1)L1\norm{f^{(k+1)}}_{L^1} dan jumlah atas penukarannya menyumbang faktor 2n2n, sehingga memberikan f(k+1)L1n(k1)/2\asymp\norm{f^{(k+1)}}_{L^1}\, n^{-(k-1)/2} bagi ff yang mulus. Lalu landaiannya berharga ψδ(k+1)L1δk\norm{\psi_\delta^{(k+1)}}_{L^1} \asymp \delta^{-k}, sehingga galat fungsi distribusinya δkn(k1)/2+δ\asymp \delta^{-k}n^{-(k-1)/2} + \delta, yang berimbang di δ=n(k1)/(2k+2)\delta = n^{-(k-1)/(2k+2)}: jadi lajunya n(k1)/(2k+2)n^{-(k-1)/(2k+2)}, yaitu n1/6n^{-1/6} bagi k=2k = 2, n1/4n^{-1/4} bagi k=3k = 3, dan menuju n1/2n^{-1/2} hanya saat kk \to \infty — padahal k4k \geq 4 akan memaksa EX14=3\E X_1^4 = 3 dan seterusnya, yakni distribusi yang sudah meniru Gaussnya. Kejenuhannya bersifat struktural: sebab penukarannya menjumlahkan nn galat penukaran dalam nilai mutlak, dengan melepaskan semua peniadaan antar penukarannya. Sedangkan bukti Fouriernya membandingkan fungsi karakteristiknya, yang galatnya muncul beserta fase berayunnya; lalu ketaksamaan pemulusan Esseen mengubah φTnφN\abs{\varphi_{T_n} - \varphi_N}, yang diintegralkan terhadap  ⁣dξξ\frac{\dd\xi}{\abs\xi}, menjadi batas fungsi distribusinya dengan ongkos logaritmik belaka, dan menghasilkan Cβn1/2C\beta n^{-1/2} milik Berry–Esseen dari tiga momen. Jadi penggantiannya menukar keoptimuman dengan ketegaran — dan, seperti yang ditunjukkan Bagian VII, dengan kemudahtularannya.

14. Matriks Σ\Sigma setangkup dan semidefinit positif; lalu dengan Σ=PDPT\Sigma = PDP^{\mathsf T} (dengan PP ortogonal, D0D \geq 0 diagonal, Latihan 20.8), matriks setangkup C=PDPTC = P\sqrt DP^{\mathsf T} memenuhi C2=ΣC^2 = \Sigma. Lalu bagi sembarang tR2t \in \R^2, t,CZ=Ct,Z=(Ct)1Z1+(Ct)2Z2\langle t, CZ\rangle = \langle Ct, Z\rangle = (Ct)_1Z^1 + (Ct)_2Z^2 merupakan kombinasi linear variabel Gauss yang bebas, jadi Gauss (Latihan 23.3): sehingga N=CZN = CZ merupakan vektor Gauss; dengan rata-rata 00 dan kovarians E[NNT]=CE[ZZT]CT=CCT=Σ\E[NN^{\mathsf T}] = C\,\E[ZZ^{\mathsf T}]\,C^{\mathsf T} = CC^{\mathsf T} = \Sigma. Untuk momennya: N3(N1+N2)34(N13+N23)\norm N^3 \leq (\abs{N_1} + \abs{N_2})^3 \leq 4(\abs{N_1}^3 + \abs{N_2}^3) (menurut kecembungan x3x^3 pada R+\R_+), sedangkan setiap koordinatnya merupakan Gauss real yang bermomen pada setiap orde (Latihan 11.10): jadi γ<\gamma' < \infty. Akhirnya setiap t,Gn=1nit,Ni\langle t, G_n\rangle = \frac1{\sqrt n}\sum_i\langle t, N_i\rangle merupakan jumlah ternormalkan N(0,tTΣt)\mathcal N(0, t^{\mathsf T}\Sigma t) yang i.i.d., jadi persis N(0,tTΣt)\mathcal N(0, t^{\mathsf T}\Sigma t): sehingga GnG_n merupakan vektor Gauss berrata-rata 00 dan berkovarians Σ\Sigma, dan distribusinya N(0,Σ)\mathcal N(0, \Sigma) (Definisi 23.10: sebab distribusinya ditentukan oleh data itu).

15. Misalkan ϕ(t)=f(w+th)\phi(t) = f(w + th), dengan t[0,1]t \in \intcc01: maka ϕ\phi bersifat C3\mathcal C^3 dengan

ϕ(t)=j,k,l{1,2}jklf(w+th)hjhkhl,ϕ(t)M3(jhj)3=M3(h1+h2)3.\phi'''(t) = \sum_{j,k,l\in\{1,2\}}\partial_{jkl}f(w + th)\,h_jh_kh_l, \qquad \abs{\phi'''(t)} \leq M_3\Bigl(\sum_j\abs{h_j}\Bigr)^3 = M_3(\abs{h_1} + \abs{h_2})^3 .

Lalu Taylor–Lagrange pada orde 33 bagi ϕ\phi antara 00 dan 11 memberikan ketaksamaan pertamanya; sedangkan Cauchy–Schwarz memberikan h1+h22h\abs{h_1} + \abs{h_2} \leq \sqrt2\norm h, dari sanalah konstanta 22M36=2M33\frac{2\sqrt2M_3}6 = \frac{\sqrt2M_3}3.

16. Definisikanlah HiH_i dan WiW_i seperti pada pertanyaan 1, kini di R2\R^2; sedangkan argumen koalisinya tak berubah. Lalu pada penukaran ke-ii, suku orde pertamanya memberikan jE[jf(Wi)](EXi,jENi,j)/n=0\sum_j\E[\partial_jf(W_i)]\,(\E X_{i,j} - \E N_{i,j})/ \sqrt n = 0 sedangkan suku orde keduanya memberikan 12nj,kE[jkf(Wi)](ΣjkΣjk)=0\frac1{2n}\sum_{j,k}\E[\partial_{jk}f(W_i)]\,(\Sigma_{jk} - \Sigma_{jk}) = 0: yakni rata-rata dan kovariansnya cocok. Lalu pertanyaan 15 membatasi kedua sisanya:

Ef(Hi)Ef(Hi1)2M33EXi3+ENi3n3/2=2M3(β+γ)3n3/2,\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{\sqrt2M_3}3\cdot\frac{\E\norm{X_i}^3 + \E\norm{N_i}^3}{n^{3/2}} = \frac{\sqrt2M_3(\beta' + \gamma')}{3\,n^{3/2}},

lalu dengan menteleskopkannya atas nn penukarannya:

Ef(Snn)Ef(Gn)2M3(β+γ)3n,GnN(0,Σ) secara persis.\Bigl|\E f\Bigl(\frac{S_n}{\sqrt n}\Bigr) - \E f(G_n)\Bigr| \leq \frac{\sqrt2\,M_3(\beta' + \gamma')}{3\sqrt n}, \qquad G_n \sim \mathcal N(0, \Sigma)\ \text{secara persis} .

Untuk kenaikannya: ETn2=EX12=trΣ\E\norm{T_n}^2 = \E\norm{X_1}^2 = \operatorname{tr}\Sigma (sebab suku silangnya lenyap menurut kebebasan dan pemusatannya), sehingga P(Tn>A)trΣ/A2\P(\norm{T_n} > A) \leq \operatorname{tr}\Sigma/A^2, dan demikian pula bagi NN: yakni keketatannya. Lalu diberikan ff yang kontinu terbatas dan ε>0\varepsilon > 0, kalikanlah dengan dataran mulus χ\chi yang sama dengan 11 pada bola berjari-jari AA dan bertumpu pada jari-jari A+1A + 1 (muluskanlah sebuah indikator di R2\R^2, Teorema 12.9); maka g=fχg = f\chi kontinu seragam dengan tumpuan kompak, sehingga pemulusan dua dimensinya gηg_\eta bersifat C\mathcal C^\infty dengan turunan terbatas pada setiap orde dan ggηε\norm{g - g_\eta}_\infty \leq \varepsilon bagi η\eta yang kecil. Lalu rantai tiga-ε\varepsilon pertanyaan 5 berpindah kata demi kata: Ef(Tn)Ef(N)\E f(T_n) \to \E f(N) bagi setiap f ⁣:R2Rf \colon \R^2 \to \R yang kontinu terbatas. Inilah Teorema 23.12 bagi d=2d = 2, yang kini terbukti — sebab penukarannya mengelakkan teorema Lévy dua dimensi yang dibiarkan diakui oleh babnya.

17. Bagi g ⁣:RRg \colon \R \to \R yang kontinu terbatas, pemetaan xg(t,x)x \mapsto g(\langle t, x\rangle) bersifat kontinu terbatas pada R2\R^2, sehingga pertanyaan 16 memberikan Eg(t,Tn)Eg(t,N)\E g(\langle t, T_n\rangle) \to \E g(\langle t, N\rangle): jadi setiap proyeksinya konvergen dalam distribusi, dan t,NN(0,tTΣt)\langle t, N\rangle \sim \mathcal N(0, t^{\mathsf T}\Sigma t). (Inilah arah mudah Cramér–Wold: bahwa konvergensi bersama mengakibatkan konvergensi setiap peta linearnya.) Penerapannya: Vi=(ξi,ξi21)V_i = (\xi_i, \xi_i^2 - 1) merupakan vektor terpusat i.i.d. (sebab Eξ12=1\E\xi_1^2 = 1), dengan entri kovarians V(ξ1)=1\V(\xi_1) = 1, Cov(ξ1,ξ121)=Eξ13\operatorname{Cov}(\xi_1, \xi_1^2 - 1) = \E\xi_1^3 dan V(ξ121)=Eξ141\V(\xi_1^2 - 1) = \E\xi_1^4 - 1; sedangkan momen ketiganya EV134(Eξ13+Eξ1213)\E\norm{V_1}^3 \leq 4\bigl(\E\abs{\xi_1}^3 + \E\abs{\xi_1^2 - 1}^3\bigr) berhingga bila ξ1L6\xi_1 \in L^6. Lalu pertanyaan 16 menghasilkan limit Gauss bersama yang ditampilkan itu, dan Teorema 23.11(2): yakni kedua koordinat limitnya bebas tepat saat kovarians Eξ13\E\xi_1^3 lenyap — jadi bagi distribusi setangkup, rata-rata empiris dan varians empirisnya terurai secara asimtotik.

18. Tulislah g(x)g(θ)=(g(θ)+η(x))(xθ)g(x) - g(\theta) = (g'(\theta) + \eta(x))(x - \theta) dengan η(x)=g(x)g(θ)xθg(θ)\eta(x) = \frac{g(x) - g(\theta)}{x - \theta} - g'(\theta) bagi xθx \neq \theta dan η(θ)=0\eta(\theta) = 0: sebab terdiferensialkan di θ\theta tepat berarti η(x)0\eta(x) \to 0 saat xθx \to \theta. Langkah 1: θ^nθ\hat\theta_n \to \theta dalam peluang: sebab bagi ε>0\varepsilon > 0 dan sembarang A>0A > 0, pada akhirnya εnA\varepsilon\sqrt n \geq A, sehingga P(θ^nθ>ε)P(n(θ^nθ)>A)P(σN>A)\P(\abs{\hat\theta_n - \theta} > \varepsilon) \leq \P(\abs{\sqrt n(\hat\theta_n - \theta)} > A) \to \P(\sigma\abs N > A) (sebab fungsi distribusinya konvergen pada titik kekontinuan ±A\pm A), sedangkan ruas kanannya menuju 00 saat AA \to \infty. Langkah 2: η(θ^n)0\eta(\hat\theta_n) \to 0 dalam peluang: sebab diberikan ε>0\varepsilon' > 0, pilihlah δ\delta dengan ηε\abs\eta \leq \varepsilon' pada xθδ\abs{x - \theta} \leq \delta; maka P(η(θ^n)>ε)P(θ^nθ>δ)0\P(\abs{\eta(\hat\theta_n)} > \varepsilon') \leq \P(\abs{\hat\theta_n - \theta} > \delta) \to 0. Langkah 3:

n(g(θ^n)g(θ))=g(θ)n(θ^nθ)+η(θ^n)n(θ^nθ).\sqrt n\bigl(g(\hat\theta_n) - g(\theta)\bigr) = g'(\theta)\,\sqrt n(\hat\theta_n - \theta) + \eta(\hat\theta_n)\cdot\sqrt n(\hat\theta_n - \theta) .

Lalu menurut aturan hasil kali Slutsky (Latihan 23.8, dengan barisan η(θ^n)0\eta(\hat\theta_n) \to 0 dalam peluang dan n(θ^nθ)\sqrt n(\hat\theta_n - \theta) yang konvergen dalam distribusi), suku keduanya konvergen dalam distribusi ke 0N(0,σ2)=00\cdot\mathcal N(0, \sigma^2) = 0, jadi ke 00 dalam peluang (Latihan 23.4(b)); sedangkan yang pertama konvergen dalam distribusi ke g(θ)N(0,σ2)g'(\theta)\mathcal N(0, \sigma^2) (lewat Slutsky lagi, atau lewat aturan afin fungsi karakteristiknya); lalu aturan jumlah Slutsky merakit keduanya: jadi limitnya N(0,g(θ)2σ2)\mathcal N(0, g'(\theta)^2\sigma^2).

19. (a) Teorema limit pusatnya memberikan n(Xˉnμ)N(0,σ2)\sqrt n(\bar X_n - \mu) \Rightarrow \mathcal N(0, \sigma^2); lalu metode deltanya dengan g(x)=x2g(x) = x^2 dan g(μ)=2μg'(\mu) = 2\mu memberikan n(Xˉn2μ2)N(0,4μ2σ2)\sqrt n(\bar X_n^2 - \mu^2) \Rightarrow \mathcal N(0, 4\mu^2\sigma^2) — yang merosot (berlimit 00) saat μ=0\mu = 0. Dalam hal itu fluktuasinya hidup satu skala di atasnya: nXˉn2=(nXˉn)2n\bar X_n^2 = (\sqrt n\,\bar X_n)^2, sehingga bagi t>0t > 0

P(nXˉn2t)=P(tnXˉnt)Φ(tσ)Φ(tσ)=P(σ2N2t):\P\bigl(n\bar X_n^2 \leq t\bigr) = \P\bigl(-\sqrt t \leq \sqrt n\,\bar X_n \leq \sqrt t\bigr) \longrightarrow \Phi\Bigl(\frac{\sqrt t}\sigma\Bigr) - \Phi\Bigl(-\frac{\sqrt t}\sigma\Bigr) = \P(\sigma^2N^2 \leq t) :

yakni nXˉn2σ2N2n\bar X_n^2 \Rightarrow \sigma^2N^2, kuadrat sebuah Gauss (yakni distribusi “khi-kuadrat”) — jadi saat turunan pertamanya mati, suku orde kedua Taylornya mendiktekan limit yang tak Gauss. (b) Di sini n(p^np)N(0,p(1p))\sqrt n(\hat p_n - p) \Rightarrow \mathcal N(0, p(1 - p)) dan g(p)=arcsinpg(p) = \arcsin\sqrt p mempunyai g(p)=12p(1p)g'(p) = \frac1{2\sqrt{p(1 - p)}}, sehingga g(p)2p(1p)=14g'(p)^2\,p(1 - p) = \frac14: jadi limitnya N(0,14)\mathcal N(0, \frac14) bagi setiap p(0,1)p \in \intoo01. Pada skala arcsin\arcsin-nya, batang galat 95%95\% asimtotiknya adalah ±0.98n\pm \frac{0.98}{\sqrt n}, yang diketahui di muka — sedangkan pada Contoh 23.9 lebarnya melibatkan σ=p(1p)\sigma = \sqrt{p(1-p)} yang tak diketahui, yang harus dikasuskan terburuk oleh 12\frac12 atau ditaksir: jadi transformasinya menstabilkan variansnya.

20. Misalkan A={k:μ({k})>ν({k})}A^* = \{k : \mu(\{k\}) > \nu(\{k\})\} dan Δk=μ({k})ν({k})\Delta_k = \mu(\{k\}) - \nu(\{k\}), sehingga kΔk=0\sum_k\Delta_k = 0. Lalu bagi sembarang ANA \subseteq \N: μ(A)ν(A)=kAΔkkAΔk\mu(A) - \nu(A) = \sum_{k\in A}\Delta_k \leq \sum_{k\in A^*}\Delta_k, dengan kesamaannya di A=AA = A^*; dan karena bagian positif dan negatif (Δk)(\Delta_k) bermassa total sama, AΔk=12kΔk\sum_{A^*}\Delta_k = \frac12\sum_k\abs{\Delta_k}. Lalu menukar μ,ν\mu, \nu menangani tandanya: jadi dTV(μ,ν)=12kΔkd_{\mathrm{TV}}(\mu, \nu) = \frac12\sum_k\abs{\Delta_k}. Untuk penggandengannya: bagi sembarang AA,

μ(A)ν(A)=E[1A(X)1A(Y)]=E[(1A(X)1A(Y))1XY]P(XY),\mu(A) - \nu(A) = \E\bigl[\mathbf 1_A(X) - \mathbf 1_A(Y)\bigr] = \E\bigl[(\mathbf 1_A(X) - \mathbf 1_A(Y))\,\mathbf 1_{X\neq Y}\bigr] \leq \P(X \neq Y),

lalu ambillah supremumnya atas AA.

21. Kedua distribusinya membebani: pada k=0k = 0: 1p1 - p lawan ep\eu^{-p}, dengan ep>1p\eu^{-p} > 1 - p; pada k=1k = 1: pp lawan pep<pp\,\eu^{-p} < p; pada k2k \geq 2: 00 lawan sisa Poissonnya 1eppep01 - \eu^{-p} - p\eu^{-p} \geq 0. Karena itu

dTV=12[(ep1+p)+(ppep)+(1eppep)]=12(2p2pep)=p(1ep),d_{\mathrm{TV}} = \tfrac12\bigl[(\eu^{-p} - 1 + p) + (p - p\eu^{-p}) + (1 - \eu^{-p} - p\eu^{-p})\bigr] = \tfrac12\bigl(2p - 2p\eu^{-p}\bigr) = p(1 - \eu^{-p}),

sedangkan 1epp1 - \eu^{-p} \leq p memberikan batasnya p2p^2.

22. Tulislah Hi1=Wi+XiH_{i-1} = W_i + X_i dan Hi=Wi+YiH_i = W_i + Y_i dengan Wi=j<iYj+j>iXjW_i = \sum_{j<i}Y_j + \sum_{j>i}X_j, yang bebas dari pasangan (Xi,Yi)(X_i, Y_i) (menurut koalisinya). Lalu bagi ANA \subseteq \N, dengan menyaratkan pada terbilang banyak nilainya menurut kebebasannya,

P(Hi1A)=k0P(Xi=k)P(Wi+kA),\P(H_{i-1} \in A) = \sum_{k\geq0}\P(X_i = k)\,\P(W_i + k \in A),

dan demikian pula bagi HiH_i dengan YiY_i. Lalu dengan mengurangkannya, dengan ck=P(Wi+kA)[0,1]c_k = \P(W_i + k \in A) \in \intcc01 dan Δk=P(Xi=k)P(Yi=k)\Delta_k = \P(X_i = k) - \P(Y_i = k) yang berjumlah nol:

P(Hi1A)P(HiA)=kΔk(ck12)12kΔk=dTV(B(1,pi),P(pi)).\abs{\P(H_{i-1} \in A) - \P(H_i \in A)} = \Bigl|\sum_k\Delta_k\bigl(c_k - \tfrac12\bigr)\Bigr| \leq \tfrac12\sum_k\abs{\Delta_k} = d_{\mathrm{TV}}\bigl(\mathcal B(1, p_i), \mathcal P(p_i)\bigr) .

Lalu dengan menteleskopkannya dari H0=SH_0 = S ke Hn=iYiP(λ)H_n = \sum_iY_i \sim \mathcal P(\lambda) (Latihan 23.1, yang diiterasi) dan memakai pertanyaan 21:

P(SA)P(P(λ)A)i=1npi(1epi)i=1npi2bagi setiap A:\abs{\P(S \in A) - \P(\mathcal P(\lambda) \in A)} \leq \sum_{i=1}^np_i\bigl(1 - \eu^{-p_i}\bigr) \leq \sum_{i=1}^np_i^2 \qquad\text{bagi setiap } A :

yakni ketaksamaan Le Cam. (Sedangkan batas penggandengan pertanyaan 20 memberikan jalur alternatif: gandengkanlah setiap pasangannya pada satu variabel seragam sehingga P(XiYi)pi2\P(X_i \neq Y_i) \leq p_i^2 lalu batasilah P(SYi)\P(S \neq \sum Y_i); padahal penukarannya tak memerlukan konstruksi sama sekali.)

23. (a) Dengan pi=λnp_i = \frac\lambda n: dTV(distribusi S,P(λ))λ2nd_{\mathrm{TV}}(\text{distribusi }S, \mathcal P(\lambda)) \leq \frac{\lambda^2}n. Ini mempertajam Latihan 23.5 tiga kali lipat: yakni galat eksplisit pada setiap nn yang berhingga, keseragaman atas semua kejadian AA sekaligus (bukan satu selang setiap kali), dan tanpa menuntut kesamaan pip_i-nya — melainkan hanya ipi2\sum_ip_i^2 yang kecil, misalnya pi2λmaxipi\sum p_i^2 \leq \lambda\max_ip_i: yakni banyak kejadian langka, tak satu pun yang dominan. (b) Di sini n=500n = 500, pi=1500p_i = \frac1{500}, λ=1\lambda = 1: sehingga model Poissonnya keliru paling banyak 50015002=0.002500\cdot\frac1{500^2} = 0.002 pada setiap kejadiannya; khususnya, dengan mengambil A={0}A = \{0\},

P(tak ada surat tersesat)=(11500)500,P(tak ada surat tersesat)e10.002,\P(\text{tak ada surat tersesat}) = \Bigl(1 - \frac1{500}\Bigr)^{500}, \qquad \Bigl|\P(\text{tak ada surat tersesat}) - \eu^{-1}\Bigr| \leq 0.002,

sehingga jawabannya e10.368\eu^{-1} \approx 0.368 sampai selisih terjamin 0.0020.002 (sedangkan selisih sebenarnya sekitar 41044\cdot10^{-4}). (c) Jadi soalnya ditutup pada satu metode dengan dua rezim. Saat nn sumbangan yang sebanding masing-masing membawa varians 1n\frac1n, mencocokkan dua momen terhadap Gaussnya membuat galat penukarannya o(1n)o(\frac1n) masing-masing: sehingga jumlahnya menjadi Gauss — dengan Taylor sebagai alat perbandingan lokalnya. Sedangkan saat nn sumbangannya berupa indikator berpeluang pip_i, mencocokkan rata-ratanya terhadap atom Poissonnya membuat setiap penukarannya berharga pi2p_i^2: sehingga cacahan kejadian langkanya menjadi Poisson — dengan variasi total sebagai perbandingan lokal yang persis. Jadi hibrida yang sama, teleskop yang sama, taksiran lokal yang berbeda: penggantiannya adalah sebuah strategi, bukan sebuah teorema, dan limit Gauss serta Poissonnya adalah dua dividennya yang tertua.

24. Teorema limit pusatnya memberikan n(Xˉnμ)N(0,σ2)\sqrt n(\bar X_n - \mu) \Rightarrow \mathcal N(0, \sigma^2), sedangkan g(x)=lnxg(x) = \ln x terdiferensialkan di μ>0\mu > 0 dengan g(μ)=1μg'(\mu) = \frac1\mu: sehingga metode deltanya (Bagian VI) menghasilkan n(lnXˉnlnμ)N(0,σ2/μ2)\sqrt n(\ln\bar X_n - \ln\mu) \Rightarrow \mathcal N(0, \sigma^2/\mu^2). Lalu dengan membuka selang lnXˉnlnμ1.96σμn\abs{\ln\bar X_n - \ln\mu} \leq \frac{1.96\,\sigma}{\mu\sqrt n} lewat pemangkatan:

μXˉne±1.96σ/(μn)dengan peluang asimtotik 95%\mu \in \bar X_n\cdot \eu^{\pm1.96\,\sigma/(\mu\sqrt n)} \qquad\text{dengan peluang asimtotik } 95\%

(dalam praktiknya σ/μ\sigma/\mu diganti oleh versi empirisnya, lewat Slutsky seperti pada Latihan 23.8). Adapun selang perkaliannya adalah yang alami saat datanya positif dengan galat yang sebanding dengan ukurannya — pendapatan, konsentrasi, waktu paruh: yakni besaran yang hidup pada skala log, yang selang aditif setangkupnya bahkan bisa melewati nol di sana.

25. Berlaku E[(Xp)3]=(1p)3p+(p)3(1p)=p(1p)[(1p)2p2]=p(1p)(12p)\E[(X - p)^3] = (1-p)^3p + (-p)^3(1 - p) = p(1-p)\bigl[(1-p)^2 - p^2\bigr] = p(1-p)(1 - 2p). Lalu pada analisis penukarannya (Bagian IV), suku galat yang utama setelah mencocokkan dua momen mengangkut momen ketiga yang bertanda: sebab bagi p<12p < \frac12 ia positif (yakni distribusinya condong ke kanan: dengan gerak jauh besar yang langka di atas rata-ratanya), sehingga hampiran normalnya menempatkan massanya secara keliru dan sistematis — dengan mengecilkan ekor kiri yang pendek dan membesarkan yang kanan — bergalat berorde n1/2n^{-1/2}; sedangkan di p=12p = \frac12 momen ketiganya lenyap, Bernoullinya cocok dengan Gaussnya sampai orde ketiga, dan lajunya membaik (yakni pertanyaan momen-cocok Bagian IV). Secara numerik: P(S=0)=0.920=0.1216\P(S = 0) = 0.9^{20} = 0.1216, sedangkan Gaussnya N(2,1.8)\mathcal N(2, 1.8) memberikan Φ(0.521.8)=Φ(1.118)0.132\Phi\bigl(\frac{0.5 - 2}{\sqrt{1.8}}\bigr) = \Phi(-1.118) \approx 0.132: jadi kurva normalnya, yang tak tahu akan dinding di 00 dan akan kemencengan ke kanannya, menaruh terlalu banyak massa di dasarnya — yakni tanda galat yang diramalkan, yang sudah terlihat di n=20n = 20.

Istilah yang didefinisikan dalam bab ini

Lihat semua 395 istilah di glosarium