Mathematics · الكتاب 5 · Bachelor Year 3

الرياضيات الجامعية — السنة 3

الرياضيات الجامعية — السنة 3 · Bachelor Year 3

23الدوال المميِّزة ومبرهنة النهاية المركزية

يقول قانون الأعداد الكبيرة إن المتوسطات تتقارب؛ وتقول مبرهنة النهاية المركزية كيف تتذبذب: أي إن الخطأ، مكبَّرًا بالعامل n\sqrt n، غاوسيٌّ مقاربًا — أيًّا كان القانون الذي انطلقنا منه. وهذا الشمول أعمق حقائق الاحتمالات الابتدائية، وبرهانه الطبيعي فورييهي: إذ تحوّل الدالة المميِّزة (أي تحويل فورييه للقانون) المجاميعَ المستقلة إلى جداءات، وتحوّل آلة الفصل 14 — التباين، والنقاط الصامدة الغاوسية — التقاربَ النقطي لهذه الجداءات إلى تقارب في القوانين (مبرهنة ليفي، مبرهَنًا عليها كاملةً). وينتهي الفصل بالمتجهات الغاوسية والاستنباط الأمين لفترات الثقة المستعملة في كل مكان من الإحصاء؛ وتعطي مسألة نهاية الأسبوع برهان ليندبرغ الثاني على مبرهنة النهاية المركزية، بمعدل خطأ صريح.

23.1 الدوال المميِّزة

تعريف 23.1

الدالة المميِّزة لمتغيّر عشوائي حقيقي XX هي

φX(ξ)=E[eiξX]=Reiξx ⁣dPX(x)(ξR)\varphi_X(\xi) = \E\bigl[\eu^{\iu\xi X}\bigr] = \int_\R \eu^{\iu\xi x}\,\dd\P_X(x) \qquad (\xi \in \R)

(وتحسبها مبرهنة النقل من القانون؛ ومن أجل كثافة ff، φX(ξ)=f^(ξ)\varphi_X(\xi) = \hat f(-\xi) باصطلاح الفصل 14).

قضية 23.2

(a) φX(0)=1\varphi_X(0) = 1، φX1\abs{\varphi_X} \leq 1، و φX\varphi_X متصلة بانتظام؛ و φaX+b(ξ)=eibξφX(aξ)\varphi_{aX + b}(\xi) = \eu^{\iu b\xi}\varphi_X(a\xi). (b) وإذا كان X,YX, Y مستقلين: φX+Y=φXφY\varphi_{X+Y} = \varphi_X\,\varphi_Y. (c) وإذا كان EXk<\E\abs X^k < \infty، فإن φXCk\varphi_X \in \mathcal C^k مع φX(j)(0)=ijE[Xj]\varphi_X^{(j)}(0) = \iu^j\,\E[X^j] من أجل jkj \leq k؛ وعلى وجه الخصوص، من أجل XL2X \in L^2 موسَّط بتباين σ2\sigma^2:

φX(ξ)=1σ2ξ22+o(ξ2)(ξ0).\varphi_X(\xi) = 1 - \frac{\sigma^2\xi^2}{2} + o(\xi^2) \qquad (\xi \to 0).

(d) الغاوسي: للمقدار XN(m,σ2)X \sim \mathcal N(m, \sigma^2) الدالةُ φX(ξ)=eimξσ2ξ2/2\varphi_X(\xi) = \eu^{\iu m\xi - \sigma^2\xi^2/2}.

برهان. (a) الحدود فورية؛ وأما الاتصال: φ(ξ+h)φ(ξ)EeihX10\abs{\varphi(\xi + h) - \varphi(\xi)} \leq \E\abs{\eu^{\iu hX} - 1} \to 0 حين h0h \to 0 بالتقارب المهيمن، بانتظام في ξ\xi. وقاعدة التآلف تعويض. (b) eiξ(X+Y)=eiξXeiξY\eu^{\iu\xi(X+Y)} = \eu^{\iu\xi X}\eu^{\iu\xi Y}، وتتحلّل آمال جداءات المتغيّرات المستقلة (المبرهنة 22.5، مطبَّقةً على الجزأين الحقيقي والتخيّلي). (c) بالاشتقاق تحت علامة الأمل، مهيمَنًا عليه بالمقدار EXj\E\abs X^j (المبرهنة 10.15)؛ ونشر تايلور عند 00 هو عندئذٍ تايلور–يونغ للدالة φ\varphi من الصنف C2\mathcal C^2. (d) من أجل N(0,1)\mathcal N(0,1): يعطي التحويل الغاوسي (المثال 14.2 مع a=12a = \frac12) أن eiξxex2/22π ⁣dx=eξ2/2\int\eu^{\iu\xi x}\frac{\eu^{-x^2/2}}{\sqrt{2\pi}}\dd x = \eu^{-\xi^2/2}؛ والحالة العامة بقاعدة التآلف.

مبرهنة 23.3 (التباين)

إذا كان φX=φY\varphi_X = \varphi_Y، فإن للمتغيّرين XX و YY القانون نفسه. وبمزيد من الدقة، من أجل NN(0,1)N \sim \mathcal N(0,1) مستقل عن XX ومن أجل ε>0\varepsilon > 0، يكون للمتغيّر المنعَّم X+εNX + \varepsilon N الكثافةُ

pε(x)=12πRφX(ξ)eε2ξ2/2eiξx ⁣dξ,p_\varepsilon(x) = \frac1{2\pi}\int_\R \varphi_X(-\xi)\,\eu^{-\varepsilon^2\xi^2/2}\, \eu^{\iu\xi x}\,\dd\xi ,

معيَّنةً بواسطة φX\varphi_X وحدها؛ وبجعل ε0\varepsilon \to 0 نستعيد قانون XX.

برهان. للمقدار X+εNX + \varepsilon N الكثافةُ pε(x)=E[gε(xX)]p_\varepsilon(x) = \E\bigl[g_\varepsilon(x - X)\bigr]، حيث gεg_\varepsilon كثافة N(0,ε2)\mathcal N(0, \varepsilon^2): إذ من أجل BB بوريلية، يعطي الاستقلال وتونيلي أن P(X+εNB)= ⁣ ⁣1B(x+εn)g1(n) ⁣dn ⁣dPX(x)=BE[gε(tX)] ⁣dt\P(X + \varepsilon N \in B) = \int\!\!\int\mathbf 1_B(x + \varepsilon n)g_1(n)\,\dd n\,\dd\P_X(x) = \int_B\E[g_\varepsilon(t - X)]\dd t (بالتعويض، ثم بتونيلي من جديد). وبكتابة gεg_\varepsilon بقلب فورييه لتحويلها (التمرين 14.4، معادةَ التحجيم): gε(u)=12πeε2ξ2/2eiξu ⁣dξg_\varepsilon(u) = \frac1{2\pi}\int \eu^{-\varepsilon^2\xi^2/2}\eu^{\iu\xi u}\dd\xi، وبفوبيني (إذ يُهيمَن على كل شيء بالعامل الغاوسي):

pε(x)=12πRφX(ξ)eε2ξ2/2eiξx ⁣dξ,p_\varepsilon(x) = \frac1{2\pi}\int_\R \varphi_X(-\xi)\,\eu^{-\varepsilon^2\xi^2/2}\, \eu^{\iu\xi x}\,\dd\xi ,

وهي مؤثّرة على φX\varphi_X وحدها. فإذا كان φX=φY\varphi_X = \varphi_Y: كان للمقدارين X+εNX + \varepsilon N و Y+εNY + \varepsilon N القوانين نفسها من أجل كل ε\varepsilon؛ ومن أجل ff محدودة متصلة، Ef(X+εN)Ef(X)\E f(X + \varepsilon N) \to \E f(X) حين ε0\varepsilon \to 0 (بالتقارب المهيمن، إذ X+εNXX + \varepsilon N \to X نقطةً نقطة على الفضاء الجدائي)، ومنه Ef(X)=Ef(Y)\E f(X) = \E f(Y) من أجل كل ff كهذه — وهذا يعيّن القانون: إذ من أجل كل tt، نحصر 1(,t]\mathbf 1_{\intoc{-\infty}t} بين المنحدرين المحدودين المتصلين fk±f_k^\pm (اللذين يساويان 11 على (,t1k]\intoc{-\infty}{t \mp \frac1k} و 00 وراء t±1kt \pm \frac1k، وتآلفيان بينهما)؛ وبالمرور إلى النهاية في Efk(X)FX(t)Efk+(X)\E f_k^-(X) \leq F_X(t) \leq \E f_k^+(X) نجد FX(t)=FY(t)F_X(t) = F_Y(t) عند كل tt يكون عندها كلاهما متصلًا، ومن ثَمّ في كل مكان بالاتصال من اليمين وبكثافة نقاط الاتصال المشتركة (إذ لكلتا الدالتين FF عددٌ قابل للعدّ من القفزات)؛ ودالتا توزيع متساويتان تفرضان قانونين متساويين (التمرين 9.3، قائمًا على المبرهنة 9.7).

23.2 التقارب في التوزيع

تعريف 23.4

يقال إن XnX_n تتقارب في التوزيع (أو في القانون) إلى XX، ويُكتب XnXX_n \Rightarrow X، إذا كان

E[f(Xn)]E[f(X)]من أجل كل دالة محدودة متصلةf ⁣:RR.\E\bigl[f(X_n)\bigr] \longrightarrow \E\bigl[f(X)\bigr] \qquad\text{من أجل كل دالة محدودة متصلة} f\colon\R\to\R .

أي، بالتكافؤ (التمرين 23.4): FXn(t)FX(t)F_{X_n}(t) \to F_X(t) عند كل نقطة اتصال tt للدالة FXF_X. ولا يلزم أن تعيش XnX_n على فضاء احتمالي مشترك: فالقوانين وحدها هي المهمة.

مبرهنة 23.5 (مبرهنة هيلي في الانتقاء)

لكل متتالية (Fn)(F_n) من دوال التوزيع متتاليةٌ جزئية تتقارب نقطةً نقطة، عند كل نقطة اتصال للنهاية، إلى دالة G ⁣:R[0,1]G \colon \R \to \intcc01 متزايدة بالمعنى الواسع ومتصلة من اليمين — وقد يكون G(+)G()<1G(+\infty) - G(-\infty) < 1 (إذ قد تهرب الكتلة إلى اللانهاية).

برهان. يعطي الاستخراج القطري Fnk(q)(q)F_{n_k}(q) \to \ell(q) من أجل كل qq ناطق (بقيم في المتراصة [0,1]\intcc01). ونعرّف G(t)=inf{(q):qQ,q>t}G(t) = \inf\{\ell(q) : q \in \Q, q > t\}: فهي متزايدة بالمعنى الواسع؛ ومتصلة من اليمين (بوصفها إنفيمومًا على جوارات ناطقة متقلّصة من اليمين). وعند نقطة اتصال tt للدالة GG: من أجل ناطقين q1<t<q2q_1 < t < q_2،

(q1)lim infFnk(t)lim supFnk(t)(q2),\ell(q_1) \leq \liminf F_{n_k}(t) \leq \limsup F_{n_k}(t) \leq \ell(q_2),

برتابة كل FnkF_{n_k}. ومن تعريف GG بوصفها إنفيمومًا ومن رتابة \ell على الأعداد الناطقة: G(s)(q)G(q)G(s) \leq \ell(q) \leq G(q) كلما كان s<qs < q. وبأخذ s<q1<ts < q_1 < t نجد (q1)G(s)\ell(q_1) \geq G(s)، و (q2)G(q2)\ell(q_2) \leq G(q_2)؛ وبجعل sts \uparrow t و q2tq_2 \downarrow t، يحصر اتصالُ GG عند tt كلًّا من lim inf\liminf و lim sup\limsup عند G(t)G(t).

مبرهنة مساعدة 23.6 (الإحكام انطلاقًا من الدالة المميِّزة)

من أجل أي متغيّر عشوائي XX ومن أجل u>0u > 0:

P(X2u)    1uuu(1ReφX(ξ)) ⁣dξ.\P\Bigl(\abs X \geq \frac2u\Bigr) \;\leq\; \frac1u\int_{-u}^{u}\bigl(1 - \operatorname{Re}\varphi_X(\xi)\bigr)\,\dd\xi .

برهان. بتونيلي–فوبيني (إذ المقدار المكامَل محدود والمنطقة منتهية في ξ\xi):

1uuu(1ReφX(ξ)) ⁣dξ=E[1uuu(1cos(ξX)) ⁣dξ]=2E[1sin(uX)uX]\frac1u\int_{-u}^u\bigl(1 - \operatorname{Re}\varphi_X(\xi)\bigr)\dd\xi = \E\Bigl[\frac1u\int_{-u}^u(1 - \cos(\xi X))\,\dd\xi\Bigr] = 2\,\E\Bigl[1 - \frac{\sin(uX)}{uX}\Bigr]

(ونفسّر المقدار بين القوسين بنهايته 00 عند X=0X = 0). والمقدار المكامَل غير سالب (sintt\abs{\sin t} \leq \abs t)، ومن أجل uX2\abs{uX} \geq 2: 1sin(uX)uX11uX121 - \frac{\sin(uX)}{uX} \geq 1 - \frac1{\abs{uX}} \geq \frac12. ومنه فإن الاحتفاظ بالحادثة {uX2}\{\abs{uX} \geq 2\} وحدها داخل الأمل يترك على الأقل 212P(X2u)2 \cdot \frac12\,\P(\abs X \geq \frac2u)، وهو الادعاء.

مبرهنة 23.7 (مبرهنة ليفي في الاتصال)

لتكن (Xn)(X_n) متغيّرات عشوائية تتقارب دوالها المميِّزة نقطةً نقطة: φXn(ξ)φ(ξ)\varphi_{X_n}(\xi) \to \varphi(\xi) من أجل كل ξ\xi، حيث φ=φX\varphi = \varphi_X هي الدالة المميِّزة لمتغيّر عشوائي XX ما. عندئذٍ XnXX_n \Rightarrow X.

برهان. الإحكام. نثبّت ε>0\varepsilon > 0. وبما أن φ\varphi متصلة عند 00 مع φ(0)=1\varphi(0) = 1، نختار u>0u > 0 يحقق 1uuu(1Reφ)<ε\frac1u\int_{-u}^u(1 - \operatorname{Re}\varphi) < \varepsilon؛ وبالتقارب المهيمن (إذ يُهيمَن على المقدار المكامَل بالعدد 22 على الفترة الثابتة [u,u][-u,u])، يكون التكامل نفسه من أجل φXn\varphi_{X_n} <2ε< 2\varepsilon من أجل nn كبير: فتعطي المبرهنة المساعدة 23.6 أن P(Xn2u)2ε\P(\abs{X_n} \geq \frac2u) \leq 2\varepsilon من أجل nn كبير، ويعالج توسيعُ الثابت العددَ المنتهي الباقي: فتكون القوانين محكمة — إذ لا تهرب أي كتلة.

المتتاليات الجزئية. لتكن (Fnk)(F_{n_k}) أي متتالية جزئية؛ فبهيلي (المبرهنة 23.5) نستخرج FnkjGF_{n_{k_j}} \to G عند نقاط الاتصال. ويفرض الإحكام أن G()=0G(-\infty) = 0 و G(+)=1G(+\infty) = 1 (G(2u)G(2u)12εG(\frac2u) - G(-\frac2u) \geq 1 - 2\varepsilon عند نقاط الاتصال): فتكون GG دالةَ توزيع فعلية لمتغيّر عشوائي YY ما. عندئذٍ XnkjYX_{n_{k_j}} \Rightarrow Y (التمرين 23.4، بالتقارب التوزيعي انطلاقًا من دوال FF)، ومنه φXnkjφY\varphi_{X_{n_{k_j}}} \to \varphi_Y نقطةً نقطة (إذ xeiξxx \mapsto \eu^{\iu\xi x} محدودة متصلة، بالجزأين الحقيقي والتخيّلي على حدة)؛ وبالمقارنة مع الفرضية: φY=φ=φX\varphi_Y = \varphi = \varphi_X، ويعطي التباين (المبرهنة 23.3) أن YXY \sim X، أي G=FXG = F_X.

الخاتمة. لكل متتالية جزئية من (Fn)(F_n) متتاليةٌ جزئية أخرى تتقارب إلى FXF_X نفسها (عند نقاط اتصالها)؛ ومن ثَمّ Fn(t)FX(t)F_n(t) \to F_X(t) عند كل نقطة اتصال tt (إذ متتالية حقيقية لكل متتالياتها الجزئية متتالياتٌ جزئية أخرى بالنهاية نفسها تتقارب): أي XnXX_n \Rightarrow X.

23.3 مبرهنة النهاية المركزية

مبرهنة 23.8 (مبرهنة النهاية المركزية)

لتكن (Xn)(X_n) مستقلة متماثلة مع EX1=m\E X_1 = m و V(X1)=σ2(0,)\V(X_1) = \sigma^2 \in \intoo0\infty. عندئذٍ

Snnmσn    N(0,1):P(aSnnmσnb)12πabex2/2 ⁣dx\frac{S_n - nm}{\sigma\sqrt n} \;\Longrightarrow\; \mathcal N(0, 1) : \qquad \P\Bigl(a \leq \frac{S_n - nm}{\sigma\sqrt n} \leq b\Bigr) \longrightarrow \frac{1}{\sqrt{2\pi}}\int_a^b\eu^{-x^2/2}\,\dd x

من أجل كل a<ba < b.

برهان. نوسّط ونعيّر: Zi=XimσZ_i = \frac{X_i - m}{\sigma} (مستقلة متماثلة، بمتوسط 00 وتباين 11) و Tn=1ninZiT_n = \frac1{\sqrt n}\sum_{i\leq n}Z_i. وبالاستقلال وقاعدة التآلف (القضية 23.2):

φTn(ξ)=φZ(ξn)n,φZ(η)=1η22+η2ρ(η),ρ(η)0.\varphi_{T_n}(\xi) = \varphi_{Z}\Bigl(\frac{\xi}{\sqrt n}\Bigr)^{n}, \qquad \varphi_Z(\eta) = 1 - \frac{\eta^2}2 + \eta^2\rho(\eta),\quad \rho(\eta)\to0 .

نثبّت ξ\xi ونضع an=φZ(ξ/n)a_n = \varphi_Z(\xi/\sqrt n)، bn=1ξ22nb_n = 1 - \frac{\xi^2}{2n}: فلكليهما طويلة 1\leq 1 من أجل nn كبير (إذ bn1\abs{b_n} \leq 1 بمجرد أن يكون ξ24n\xi^2 \leq 4n؛ و an1\abs{a_n} \leq 1 دائمًا). وتعطي المتراجحة الابتدائية anbnnab\abs{a^n - b^n} \leq n\abs{a - b} من أجل a,b1\abs a, \abs b \leq 1 (بتلسكب anbn=ak(ab)bn1ka^n - b^n = \sum a^k(a - b)b^{n-1-k}) أن

φTn(ξ)(1ξ22n)nnφZ(ξn)1+ξ22n=ξ2ρ(ξn)0,\Bigl|\varphi_{T_n}(\xi) - \Bigl(1 - \frac{\xi^2}{2n}\Bigr)^{n}\Bigr| \leq n\,\Bigl|\varphi_Z\Bigl(\frac\xi{\sqrt n}\Bigr) - 1 + \frac{\xi^2}{2n}\Bigr| = \xi^2\,\Bigl|\rho\Bigl(\frac{\xi}{\sqrt n}\Bigr)\Bigr| \longrightarrow 0,

بينما (1ξ22n)neξ2/2\bigl(1 - \frac{\xi^2}{2n}\bigr)^n \to \eu^{-\xi^2/2} (باللوغاريتم الحقيقي). ومنه φTn(ξ)eξ2/2=φN(0,1)(ξ)\varphi_{T_n}(\xi) \to \eu^{-\xi^2/2} = \varphi_{\mathcal N(0,1)}(\xi) (القضية 23.2(d)) من أجل كل ξ\xi: فتخلص ليفي (المبرهنة 23.7) إلى TnN(0,1)T_n \Rightarrow \mathcal N(0,1). وتنتج احتمالات الفترات لأن FNF_{\mathcal N} متصلة في كل مكان.

مثال 23.9 (فترات الثقة، مستنبطةً بأمانة)

نستطلع nn من الناخبين المستقلين؛ ويقدّر p^n=Sn/n\hat p_n = S_n/n النسبةَ الحقيقية pp، مع σ2=p(1p)14\sigma^2 = p(1-p) \leq \frac14. وتعطي مبرهنة النهاية المركزية، من أجل nn كبير،

P(p^npz2n)    P(Snnpσnz)Φ(z)Φ(z),\P\Bigl(\abs{\hat p_n - p} \leq \frac{z}{2\sqrt n}\Bigr) \;\geq\; \P\Bigl(\Bigl|\frac{S_n - np}{\sigma\sqrt n}\Bigr| \leq z\Bigr) \longrightarrow \Phi(z) - \Phi(-z),

حيث Φ\Phi دالة التوزيع الغاوسية المعيارية. ومع z=1.96z = 1.96: ثقةٌ مقاربة 95%95\%، ويتطلب الهامش 1.962n3%\frac{1.96}{2\sqrt n} \leq 3\% أن يكون n(1.960.06)21068n \geq \bigl(\frac{1.96}{0.06}\bigr)^2 \approx 1068 — أي العدد الكامن وراء كل «±3\pm3 نقاط، 95%95\%» يقرأها المرء؛ وقارن ذلك بعدد تشيبيشيف 55565556 (التمرين 22.7). والعامل n\sqrt n شامل: فلتنصيف الخطأ، ضاعف العيّنة أربع مرات — وهو القانون نفسه الذي يحدّد كلفة مونتي كارلو (التمرين 23.7).

23.4 المتجهات الغاوسية

تعريف 23.10

تكون المتجهة العشوائية X=(X1,,Xd)X = (X_1, \dots, X_d) غاوسية إذا كانت كل تركيبة خطية t,X=tiXi\langle t, X\rangle = \sum t_iX_i متغيّرًا غاوسيًّا حقيقيًّا (وقد يكون منحلًّا). ويتعيّن قانونها بمتجهة المتوسط m=(EXi)m = (\E X_i) ومصفوفة التغاير Σ=(Cov(Xi,Xj))\Sigma = \bigl(\operatorname{Cov} (X_i, X_j)\bigr): إذ إن الدالة المميِّزة للمتجهة، φX(t)=Eeit,X\varphi_X(t) = \E\eu^{\iu\langle t, X\rangle}، هي قيمة الدالة المميِّزة للمقدار t,X\langle t, X\rangle عند 11:

φX(t)=exp(it,m12tTΣt),\varphi_X(t) = \exp\Bigl(\iu\langle t, m\rangle - \tfrac12\,t^{\mathsf T}\Sigma\,t\Bigr),

والدوال المميِّزة ذات البُعد dd متباينة (ببرهان التنعيم نفسه كما في المبرهنة 23.3، بغاوسيات إحداثية).

مبرهنة 23.11

لتكن XX متجهةً غاوسية.

  1. كل صورة تآلفية AX+bAX + b متجهةٌ غاوسية.
  2. والمركّبات XiX_i مستقلة إذا وفقط إذا كانت Σ\Sigma قطرية: أي إنه من أجل متغيّرات غاوسية معًا، عدمُ الارتباط == الاستقلال.
  3. وإذا كانت Σ\Sigma قابلة للقلب، كانت للمتجهة XX الكثافةُ 1(2π)d/2detΣexp(12(xm)TΣ1(xm))\frac{1}{(2\pi)^{d/2}\sqrt{\det\Sigma}} \exp\bigl(-\frac12(x - m)^{\mathsf T}\Sigma^{-1}(x - m)\bigr).

برهان. (1) التركيبات الخطية لمركّبات AX+bAX + b دوالٌّ تآلفية لتركيبات خطية من XX: أي غاوسية (إذ الصورة التآلفية لمتغيّر غاوسي غاوسية). (2) إذا كانت Σ\Sigma قطرية، تحلّلت الدالة المميِّزة: φX(t)=iexp(itimi12Σiiti2)=φXi(ti)\varphi_X(t) = \prod_i\exp(\iu t_im_i - \frac12\Sigma_{ii}t_i^2) = \prod\varphi_{X_i}(t_i)، وهي الدالة المميِّزة للقانون الجدائي (المبرهنة 22.5 مقروءةً عبر التباين ذي البُعد dd): فتكون المركّبات مستقلة. والعكس هو انعدام تغايرات المتغيّرات المستقلة من L2L^2. (3) نقطرن Σ=PDPT\Sigma = P D P^{\mathsf T} (حيث PP متعامدة و D>0D > 0 قطرية — التمرين 20.8)؛ فتكون المتجهة Y=PT(Xm)Y = P^{\mathsf T}(X - m) غاوسية بتغاير DD: وحسب (2) تكون مركّباتها مستقلة N(0,di)\mathcal N(0, d_i)، ومنه تكون للمتجهة YY الكثافة الجدائية؛ ثم ندفعها بالتطبيق الحافظ للحجم x=m+PYx = m + PY (المبرهنة 11.10، detP=1\abs{\det P} = 1) ونعيد كتابة الأُسّ بكيفية صامدة.

مبرهنة 23.12 (مبرهنة النهاية المركزية المتعددة الأبعاد)

لتكن (Xn)(X_n) متجهات عشوائية مستقلة متماثلة قابلة للمكاملة بالمربّع من Rd\R^d بمتوسط mm ومصفوفة تغاير Σ\Sigma. عندئذٍ تتقارب Snnmn\frac{S_n - nm}{\sqrt n} في التوزيع إلى المتجهة الغاوسية N(0,Σ)\mathcal N(0, \Sigma).

برهان. نقبله في هذا المستوى.

ملاحظة 23.13

كل شيء تقريبًا بين أيدينا سلفًا. فمن أجل كل اتجاه tRdt \in \R^d، يكون المتغيّر الحقيقي t,Snnmn\langle t, \frac{S_n - nm}{\sqrt n}\rangle مجموعًا معيَّرًا لمتغيّرات حقيقية مستقلة متماثلة تباينها tTΣtt^{\mathsf T}\Sigma t، ومنه يعطي حساب المبرهنة 23.8 التقاربَ النقطي للدوال المميِّزة ذات البُعد dd إلى etTΣt/2\eu^{-t^{\mathsf T}\Sigma t/2}، وهي الدالة المميِّزة للمقدار N(0,Σ)\mathcal N(0, \Sigma) (التعريف 23.10). وما لم نعد البرهان عليه هو مبرهنة ليفي في الاتصال في Rd\R^d: إذ يُعمَّم انتقاء هيلي وتقدير الإحكام روتينيًّا (إحداثيًّا)، ويُنجَز إرجاع كرامر–وولد هذا بأمانة في أي مقرر احتمالات عليا؛ ولا يلزم شيء وراء طرق هذا الفصل.

طريقة 23.14

لتعيين قانون نهائي: احسب الدوال المميِّزة، وخذ النهاية النقطية، وتعرّف عليها (غاوسي eσ2ξ2/2\eu^{-\sigma^2\xi^2/2}، بواسون eλ(eiξ1)\eu^{\lambda(\eu^{\iu\xi}-1)}، أُسّي λλiξ\frac{\lambda} {\lambda - \iu\xi}، …) واستدعِ ليفي. والطقس ذو الخطوات الثلاث (الاستقلال \to الجداء؛ وتايلور عند 00 \to النهاية الأُسّية؛ وليفي \to التقارب في القانون) يبرهن على مبرهنة النهاية المركزية، وعلى قانون بواسون للحوادث النادرة (التمرين 23.5)، وعلى كل مبرهنة نهاية كلاسيكية في هذا المقرر. وأما العبارات شبه الأكيدة، فارجع إلى عدّة الفصل 22: فالفصلان يجيبان عن سؤالين مختلفين عن SnS_n نفسه.

23.5 تمارين

تمرين 23.1

احسب الدوال المميِّزة: للمنتظم على [1,1]\intcc{-1}1؛ وللأُسّي E(λ)\mathcal E(\lambda)؛ ولبواسون P(λ)\mathcal P(\lambda)؛ وللثنائي B(n,p)\mathcal B(n, p). واستنتج عبر المبرهنة 23.3 أن مجموع متغيّرين بواسونيين مستقلين (λ,μ\lambda, \mu) بواسونيٌّ (λ+μ)(\lambda + \mu).

حل

حل التمرين 23.1.

المنتظم على [1,1]\intcc{-1}1: φ(ξ)=1211eiξx ⁣dx=sinξξ\varphi(\xi) = \frac12\int_{-1}^1\eu^{\iu\xi x}\dd x = \frac{\sin\xi}{\xi} (وهي تساوي 11 عند ξ=0\xi = 0). والأُسّي E(λ)\mathcal E(\lambda): φ(ξ)=λ0e(iξλ)x ⁣dx=λλiξ\varphi(\xi) = \lambda\int_0^\infty\eu^{(\iu\xi - \lambda)x}\dd x = \frac{\lambda}{\lambda - \iu\xi} (إذ تنعدم الدالة الأصلية عند ++\infty لأن Re(iξλ)<0\operatorname{Re}(\iu\xi - \lambda) < 0). وبواسون P(λ)\mathcal P(\lambda): بمبرهنة النقل من أجل القوانين المتقطّعة،

φ(ξ)=k0eiξkeλλkk!=eλexp(λeiξ)=exp(λ(eiξ1)).\varphi(\xi) = \sum_{k\geq0}\eu^{\iu\xi k}\,\eu^{-\lambda}\frac{\lambda^k}{k!} = \eu^{-\lambda}\exp\bigl(\lambda\eu^{\iu\xi}\bigr) = \exp\bigl(\lambda(\eu^{\iu\xi} - 1)\bigr).

والثنائي B(n,p)\mathcal B(n, p): مجموعُ nn من متغيّرات برنولي المستقلة، لكلٍّ منها الدالةُ المميِّزة 1p+peiξ1 - p + p\eu^{\iu\xi}، ومنه φ(ξ)=(1p+peiξ)n\varphi(\xi) = \bigl(1 - p + p\eu^{\iu\xi}\bigr)^n (القضية 23.2(b)). وأما جمعية بواسون: فإذا كان XP(λ)X \sim \mathcal P(\lambda) و YP(μ)Y \sim \mathcal P(\mu) مستقلين،

φX+Y(ξ)=eλ(eiξ1)eμ(eiξ1)=e(λ+μ)(eiξ1),\varphi_{X+Y}(\xi) = \eu^{\lambda(\eu^{\iu\xi}-1)} \eu^{\mu(\eu^{\iu\xi}-1)} = \eu^{(\lambda+\mu)(\eu^{\iu\xi}-1)},

وهي الدالة المميِّزة للمقدار P(λ+μ)\mathcal P(\lambda + \mu)؛ ويعيّن التباين (المبرهنة 23.3) القانون.

تمرين 23.2 ★★

(a) برهن على أن φX\varphi_X ذات قيم حقيقية إذا وفقط إذا كان للمتغيّرين XX و X-X القانون نفسه (أي متغيّر متناظر). (b) لنفترض أن φX(ξ0)=1\abs{\varphi_X(\xi_0)} = 1 من أجل ξ00\xi_0 \neq 0 ما. برهن على أن حامل XX شبه أكيد على متتالية حسابية a+2πξ0Za + \frac{2\pi}{\xi_0}\Z (اكتب φX(ξ0)=eiθ\varphi_X(\xi_0) = \eu^{\iu\theta} واحسب E[1cos(ξ0Xθ)]\E[1 - \cos(\xi_0X - \theta)]). واستنتج أنه إذا قبل XX كثافة، فإن φX(ξ)<1\abs{\varphi_X(\xi)} < 1 من أجل كل ξ0\xi \neq 0.

حل

حل التمرين 23.2.

(a) φX(ξ)=EeiξX=φX(ξ)\overline{\varphi_X(\xi)} = \E\eu^{-\iu\xi X} = \varphi_{-X}(\xi). ومنه تكون φX\varphi_X حقيقية إذا وفقط إذا كان φX=φX\varphi_X = \varphi_{-X}، إذا وفقط إذا كان (بالتباين، المبرهنة 23.3) للمتغيّرين XX و X-X القانون نفسه. (b) نكتب φX(ξ0)=eiθ\varphi_X(\xi_0) = \eu^{\iu\theta}. عندئذٍ

E[1cos(ξ0Xθ)]=1Re(eiθφX(ξ0))=11=0.\E\bigl[1 - \cos(\xi_0X - \theta)\bigr] = 1 - \operatorname{Re}\bigl(\eu^{-\iu\theta} \varphi_X(\xi_0)\bigr) = 1 - 1 = 0 .

والمقدار المكامَل غير سالب، ومنه cos(ξ0Xθ)=1\cos(\xi_0X - \theta) = 1 شبه أكيد (إذ متغيّر غير سالب أمله معدوم ينعدم شبه أكيد)، أي ξ0Xθ2πZ\xi_0X - \theta \in 2\pi\Z شبه أكيد: فيأخذ XX قيمه في المتتالية الحسابية θξ0+2πξ0Z\frac{\theta}{\xi_0} + \frac{2\pi}{\xi_0}\Z شبه أكيد. وإذا قبل XX كثافة، كانت هذه المجموعة القابلة للعدّ معدومةَ القياس بمعنى لوبيغ، فتحمل الاحتمال 00 — وهو تناقض؛ ومن ثَمّ φX(ξ)<1\abs{\varphi_X(\xi)} < 1 من أجل كل ξ0\xi \neq 0.

تمرين 23.3 ★★

لتكن XN(m1,σ12)X \sim \mathcal N(m_1, \sigma_1^2) و YN(m2,σ22)Y \sim \mathcal N(m_2, \sigma_2^2) مستقلتين. برهن على X+YN(m1+m2,σ12+σ22)X + Y \sim \mathcal N(m_1 + m_2, \sigma_1^2 + \sigma_2^2)، وعمومًا على أن العائلة الغاوسية مستقرة بالمجاميع المستقلة وبالتطبيقات التآلفية. وقابل ذلك: هل مجموع غاوسيين تابعين غاوسيٌّ دائمًا؟ (التمرين 23.9.)

حل

حل التمرين 23.3.

بالاستقلال وباستعمال القضية 23.2:

φX+Y(ξ)=eim1ξσ12ξ2/2eim2ξσ22ξ2/2=ei(m1+m2)ξ(σ12+σ22)ξ2/2,\varphi_{X+Y}(\xi) = \eu^{\iu m_1\xi - \sigma_1^2\xi^2/2}\, \eu^{\iu m_2\xi - \sigma_2^2\xi^2/2} = \eu^{\iu(m_1+m_2)\xi - (\sigma_1^2+\sigma_2^2)\xi^2/2},

وهي الدالة المميِّزة للمقدار N(m1+m2,σ12+σ22)\mathcal N(m_1 + m_2, \sigma_1^2 + \sigma_2^2)؛ ويخلص التباين. والاستقرار بالتطبيقات التآلفية هو قاعدة التآلف (aX+bN(am1+b,a2σ12)aX + b \sim \mathcal N(am_1 + b, a^2\sigma_1^2)، مع السماح بالحالة المنحلّة a=0a = 0)، وينتج الاستقرار بالمجاميع المستقلة بالتراجع على الحساب أعلاه. وأما من أجل غاوسيين تابعين فلا يلزم أن يكون المجموع غاوسيًّا: ففي التمرين 23.9، يكون كلٌّ من XX و Y=εXY = \varepsilon X غاوسيًّا معياريًّا لكن X+YX + Y ينعدم باحتمال 12\frac12 دون أن يكون معدومًا شبه أكيد، ومنه فهو ليس غاوسيًّا.

تمرين 23.4 ★★

(a) برهن على التكافؤ في التعريف 23.4: أنه إذا كان Ef(Xn)Ef(X)\E f(X_n) \to \E f(X) من أجل كل ff محدودة متصلة، فإن FXn(t)FX(t)F_{X_n}(t) \to F_X(t) عند نقاط الاتصال (بحصر 1(,t]\mathbf 1_{\intoc{-\infty}t} بين منحدرين سلّميين متصلين)؛ وبالعكس (بتقريب دالة محدودة متصلة ff بمجاميع دوال منحدرة، أو بالشرطنة على شبكة دقيقة من نقاط الاتصال) — ويمكن معالجة العكس من أجل ff متصلة بانتظام أولًا، ثم في العموم. (b) برهن على أن XncX_n \Rightarrow c (وهو ثابت) يستلزم XncX_n \to c احتماليًّا.

حل

حل التمرين 23.4.

(a) الاستلزام المباشر. ليكن tt نقطةَ اتصال للدالة FXF_X وليكن δ>0\delta > 0. نأخذ المنحدرين المتصلين ff^- (=1= 1 على (,tδ]\intoc{-\infty}{t-\delta}، و 00 انطلاقًا من tt، وتآلفي بينهما) و f+f^+ (=1= 1 على (,t]\intoc{-\infty}t، و 00 انطلاقًا من t+δt + \delta، وتآلفي بينهما)؛ عندئذٍ f1(,t]f+f^- \leq \mathbf 1_{\intoc{-\infty}t} \leq f^+، ومنه

Ef(Xn)FXn(t)Ef+(Xn),\E f^-(X_n) \leq F_{X_n}(t) \leq \E f^+(X_n),

ويتقارب الحدّان الخارجيان إلى Ef±(X)\E f^\pm(X)، وهما نفسهما محصوران بين FX(tδ)F_X(t - \delta) و FX(t+δ)F_X(t + \delta). وبجعل nn \to \infty ثم δ0\delta \to 0 وباستعمال اتصال FXF_X عند tt: FXn(t)FX(t)F_{X_n}(t) \to F_X(t).

العكس. لتكن ff محدودة متصلة، مع M=supfM = \sup\abs f، ε>0\varepsilon > 0. ونقاط اتصال FXF_X كثيفة (إذ للدالة FXF_X عدد قابل للعدّ من القفزات على الأكثر)، فنختار نقطتَي اتصال a<ba < b تحققان FX(a)<εF_X(a) < \varepsilon و 1FX(b)<ε1 - F_X(b) < \varepsilon. وعلى المتراصة [a,b]\intcc ab تكون ff متصلة بانتظام: فنختار نقاط اتصال a=t0<t1<<tm=ba = t_0 < t_1 < \dots < t_m = b للدالة FXF_X بحيث لا يتجاوز تذبذب ff على كل (tj1,tj]\intoc{t_{j-1}}{t_j} المقدارَ ε\varepsilon، ونضع g=jf(tj)1(tj1,tj]g = \sum_j f(t_j)\,\mathbf 1_{\intoc{t_{j-1}}{t_j}}. عندئذٍ fgε\abs{f - g} \leq \varepsilon على (a,b]\intoc ab، و gM\abs g \leq M، ومن أجل T=XnT = X_n أو XX:

Ef(T)Eg(T)ε+2M(FT(a)+1FT(b)).\bigl|\E f(T) - \E g(T)\bigr| \leq \varepsilon + 2M\bigl(F_T(a) + 1 - F_T(b)\bigr).

وفوق ذلك Eg(Xn)=jf(tj)(FXn(tj)FXn(tj1))Eg(X)\E g(X_n) = \sum_j f(t_j)\bigl(F_{X_n}(t_j) - F_{X_n}(t_{j-1})\bigr) \to \E g(X) (بمجموع منتهٍ من الحدود المتقاربة، إذ جميع tjt_j نقاط اتصال)، و FXn(a)FX(a)<εF_{X_n}(a) \to F_X(a) < \varepsilon، 1FXn(b)1FX(b)<ε1 - F_{X_n}(b) \to 1 - F_X(b) < \varepsilon. وبالتركيب: lim supnEf(Xn)Ef(X)2ε+8Mε\limsup_n\abs{\E f(X_n) - \E f(X)} \leq 2\varepsilon + 8M\varepsilon؛ ثم نجعل ε0\varepsilon \to 0.

(b) دالة توزيع الثابت cc هي 1[c,)\mathbf 1_{\intco c\infty}، وهي متصلة إلا عند cc. ومن أجل ε>0\varepsilon > 0، تكون النقطتان cεc - \varepsilon و c+ε2c + \frac\varepsilon2 نقطتَي اتصال، ومنه

P(Xnc>ε)FXn(cε)+1FXn(c+ε2)0+11=0.\P(\abs{X_n - c} > \varepsilon) \leq F_{X_n}(c - \varepsilon) + 1 - F_{X_n}\Bigl(c + \frac\varepsilon2\Bigr) \longrightarrow 0 + 1 - 1 = 0 .

تمرين 23.5 ★★

(قانون الحوادث النادرة) لتكن XnB(n,pn)X_n \sim \mathcal B(n, p_n) مع npnλ>0np_n \to \lambda > 0. برهن، عبر الدوال المميِّزة والمبرهنة 23.7، على أن XnP(λ)X_n \Rightarrow \mathcal P(\lambda). وفحص سلامة عددي: قارن P(X=0)\P(X = 0) من أجل B(100,0.02)\mathcal B(100, 0.02) و P(2)\mathcal P(2).

حل

حل التمرين 23.5.

لتكن zn=pn(eiξ1)z_n = p_n(\eu^{\iu\xi} - 1)، ومنه φXn(ξ)=(1+zn)n\varphi_{X_n}(\xi) = (1 + z_n)^n (التمرين 23.1) و zn2pn0\abs{z_n} \leq 2p_n \to 0 (ولاحظ pn=npnn0p_n = \frac{np_n}n \to 0). ولكلٍّ من 1+zn1 + z_n و ezn\eu^{z_n} طويلةٌ لا تتجاوز 11: إذ 1+zn=(1pn)+pneiξ1\abs{1 + z_n} = \abs{(1 - p_n) + p_n\eu^{\iu\xi}} \leq 1 بمتراجحة المثلث، و ezn=epn(cosξ1)1\abs{\eu^{z_n}} = \eu^{p_n(\cos\xi - 1)} \leq 1. وتعطي متراجحة التلسكب anbnnab\abs{a^n - b^n} \leq n\abs{a - b} (برهان المبرهنة 23.8) وحدُّ متسلسلة القوى ez1zz2ez\abs{\eu^z - 1 - z} \leq \abs z^2\eu^{\abs z}

(1+zn)nenznn1+zneznnzn2ezn4e2npn2=4e2(npn)pn0.\bigl|(1 + z_n)^n - \eu^{nz_n}\bigr| \leq n\bigl|1 + z_n - \eu^{z_n}\bigr| \leq n\,\abs{z_n}^2\,\eu^{\abs{z_n}} \leq 4\eu^2\,np_n^2 = 4\eu^2\,(np_n)\,p_n \longrightarrow 0 .

وبما أن nzn=npn(eiξ1)λ(eiξ1)nz_n = np_n(\eu^{\iu\xi} - 1) \to \lambda(\eu^{\iu\xi} - 1)، نخلص إلى φXn(ξ)exp(λ(eiξ1))\varphi_{X_n}(\xi) \to \exp\bigl(\lambda(\eu^{\iu\xi} - 1)\bigr) من أجل كل ξ\xi: أي الدالة المميِّزة للمقدار P(λ)\mathcal P(\lambda)، وتعطي ليفي (المبرهنة 23.7) أن XnP(λ)X_n \Rightarrow \mathcal P(\lambda). وعدديًّا: P(B(100,0.02)=0)=0.98100=e100ln0.98e2.0200.1326\P\bigl(\mathcal B(100, 0.02) = 0\bigr) = 0.98^{100} = \eu^{100\ln 0.98} \approx \eu^{-2.020} \approx 0.1326، بينما P(P(2)=0)=e20.1353\P\bigl(\mathcal P(2) = 0\bigr) = \eu^{-2} \approx 0.1353: أي بفارق اثنين في المئة عند هذا العدد nn الخشن أصلًا.

تمرين 23.6 ★★

(a) يُرمى حجر نرد عادل n=1000n = 1000 مرة؛ قرّب احتمال أن يتجاوز المجموع 36003600 (بمتوسط 35003500 وتباين 3512\frac{35}{12} لكل رمية). (b) ومن أجل SB(100,12)S \sim \mathcal B(100, \frac12)، قرّب P(45S55)\P(45 \leq S \leq 55) بمبرهنة النهاية المركزية مع تصحيح الاتصال (±12\pm\frac12)، وعلّق على أثر التصحيح.

حل

حل التمرين 23.6.

(a) لرمية واحدة المتوسطُ 72\frac72 والتباين 3512\frac{35}{12}، ومنه للمجموع SS المتوسطُ 35003500 والتباين 35000122916.7\frac{35000}{12} \approx 2916.7 والانحراف المعياري 54.0\approx 54.0. وبمبرهنة النهاية المركزية،

P(S>3600)=P(S350054.0>1.85)1Φ(1.85)0.032:\P(S > 3600) = \P\Bigl(\frac{S - 3500}{54.0} > 1.85\Bigr) \approx 1 - \Phi(1.85) \approx 0.032 :

أي نحو 3%3\% من الفرصة. (b) SB(100,12)S \sim \mathcal B(100, \frac12): بمتوسط 5050 وانحراف معياري 55. ومع تصحيح الاتصال،

P(45S55)Φ(55.5505)Φ(44.5505)=2Φ(1.1)10.729,\P(45 \leq S \leq 55) \approx \Phi\Bigl(\frac{55.5 - 50}{5}\Bigr) - \Phi\Bigl(\frac{44.5 - 50}{5}\Bigr) = 2\Phi(1.1) - 1 \approx 0.729,

مقابل القيمة المضبوطة 0.72870.7287؛ وبدون التصحيح، 2Φ(1)10.6832\Phi(1) - 1 \approx 0.683، بفارق خمس نقاط تقريبًا. ويهمّ التصحيح لأن SS متغيّر شبكي: إذ تُقرَّب الذرّة P(S=k)\P(S = k) جيدًا بالكتلة الغاوسية للمقدار [k12,k+12]\intcc{k - \frac12}{k + \frac12}، ويسقط قصُّ الفترة عند العددين الصحيحين 4545 و 5555 نصفَ ذرّة عند كل طرف.

تمرين 23.7 ★★

(خطأ مونتي كارلو) في إطار المسألة 22.1، السؤال 11، مع gL2([0,1]d)g \in L^2(\intcc01^d)، لتكن σ2=V(g(U1))\sigma^2 = \V(g(U_1)) ولتكن I=gI = \int g. برهن على

n(1nkng(Uk)I)N(0,σ2),\sqrt n\,\Bigl(\frac1n\sum_{k\leq n}g(U_k) - I\Bigr) \Longrightarrow \mathcal N(0, \sigma^2),

واستنتج شريط الخطأ المقارب 95%95\% ±1.96σ/n\pm 1.96\,\sigma/\sqrt n — وهو مستقل عن البُعد dd. وقارن ذلك بقاعدة النقطة الوسطى الحتمية في البُعد dd (بخطأ n2/d\sim n^{-2/d} من أجل مقادير مكامَلة من الصنف C2\mathcal C^2): فمن أي بُعد فصاعدًا تفوز المعاينة العشوائية؟

حل

حل التمرين 23.7.

المتغيّرات g(Uk)g(U_k) مستقلة متماثلة (بوصفها صورًا قابلة للقياس لمتغيّرات مستقلة متماثلة)، وقابلة للمكاملة بالمربّع، بمتوسط II (بمبرهنة النقل، التمرين 11.9) وتباين σ2\sigma^2. فإذا كان σ>0\sigma > 0، كانت المبرهنة 23.8 مطبَّقةً عليها هي بالضبط التقاربَ المذكور

n(1nkng(Uk)I)=kn(g(Uk)I)nN(0,σ2)\sqrt n\,\Bigl(\frac1n\sum_{k\leq n}g(U_k) - I\Bigr) = \frac{\sum_{k\leq n}\bigl(g(U_k) - I\bigr)}{\sqrt n} \Longrightarrow \mathcal N(0, \sigma^2)

(وإذا كان σ=0\sigma = 0، كانت gg ثابتة شبه أكيد وانعدم الطرف الأيسر انعدامًا تامًّا). ومن ثَمّ P(1ng(Uk)I1.96σ/n)0.95\P\bigl(\abs{\frac1n\sum g(U_k) - I} \leq 1.96\,\sigma/\sqrt n\bigr) \to 0.95: فلا يرى شريط الخطأ ±1.96σ/n\pm 1.96\,\sigma/\sqrt n البُعدَ dd إلا عبر الثابت σ\sigma، لا عبر المعدل في nn أبدًا. ولقاعدة النقطة الوسطى ذات nn عقدة في البُعد dd خطوةٌ n1/dn^{-1/d} وخطأٌ من رتبة n2/dn^{-2/d} من أجل مقادير مكامَلة من الصنف C2\mathcal C^2. ويتناقص معدل مونتي كارلو n1/2n^{-1/2} أسرع من n2/dn^{-2/d} بالضبط حين 12>2d\frac12 > \frac2d، أي d>4d > 4: فمن البُعد 55 فصاعدًا، تغلب المعاينة العشوائية الشبكةَ مقاربًا — إذ تعفي لعنةُ الأبعاد الطرقَ الاحتمالية، ولهذا تسود مونتي كارلو المكاملةَ العالية الأبعاد.

تمرين 23.8 ★★★

(سلوتسكي) لنفترض أن XnXX_n \Rightarrow X وأن YncY_n \to c احتماليًّا (حيث cc ثابت). برهن على Xn+YnX+cX_n + Y_n \Rightarrow X + c وعلى YnXncXY_nX_n \Rightarrow cX. (اعمل بالدوال المميِّزة وبالحدّ Eeiξ(Xn+Yn)eiξcEeiξXnEeiξ(Ync)1\abs{\E\eu^{\iu\xi (X_n+Y_n)} - \eu^{\iu\xi c}\E\eu^{\iu\xi X_n}} \leq \E\abs{\eu^{\iu\xi(Y_n - c)} - 1}، بالشطر على Yncδ\abs{Y_n - c} \leq \delta.) وتطبيقٌ: في المثال 23.9، برّر استبدال σ=p(1p)\sigma = \sqrt{p(1-p)} المجهول بالمقدار p^n(1p^n)\sqrt{\hat p_n(1 - \hat p_n)}.

حل

حل التمرين 23.8.

المجموع. من أجل ξ\xi مثبَّت:

Eeiξ(Xn+Yn)eiξcEeiξXn=E[eiξXn(eiξYneiξc)]Eeiξ(Ync)1.\bigl|\E\eu^{\iu\xi(X_n+Y_n)} - \eu^{\iu\xi c}\,\E\eu^{\iu\xi X_n}\bigr| = \bigl|\E\bigl[\eu^{\iu\xi X_n}\bigl(\eu^{\iu\xi Y_n} - \eu^{\iu\xi c}\bigr)\bigr]\bigr| \leq \E\bigl|\eu^{\iu\xi(Y_n - c)} - 1\bigr| .

ونشطر على الحادثة {Yncδ}\{\abs{Y_n - c} \leq \delta\}: فهناك eiξ(Ync)1ξδ\abs{\eu^{\iu\xi(Y_n-c)} - 1} \leq \abs\xi\,\delta (إذ الوتر أقصر من القوس)؛ وتسهم المتممة بما لا يتجاوز 2P(Ync>δ)02\,\P(\abs{Y_n - c} > \delta) \to 0. ومنه يكون lim sup\limsup أصغر من أو يساوي ξδ\leq \abs\xi\,\delta من أجل كل δ>0\delta > 0: فيؤول الفرق إلى 00. وبما أن EeiξXnφX(ξ)\E\eu^{\iu\xi X_n} \to \varphi_X(\xi)، نجد φXn+Yn(ξ)eiξcφX(ξ)=φX+c(ξ)\varphi_{X_n+Y_n}(\xi) \to \eu^{\iu\xi c}\varphi_X(\xi) = \varphi_{X+c}(\xi)، وتعطي ليفي (المبرهنة 23.7) أن Xn+YnX+cX_n + Y_n \Rightarrow X + c.

الجداء. أولًا، cXncXcX_n \Rightarrow cX: φcXn(ξ)=φXn(cξ)φX(cξ)=φcX(ξ)\varphi_{cX_n}(\xi) = \varphi_{X_n}(c\xi) \to \varphi_X(c\xi) = \varphi_{cX}(\xi). ثم (Ync)Xn0(Y_n - c)X_n \to 0 احتماليًّا: إذ قوانين XnX_n محكمة (لأن دوالها المميِّزة تتقارب إلى دالة مميِّزة؛ انظر خطوة الإحكام في المبرهنة 23.7)، ومنه بإعطاء ε>0\varepsilon > 0 نختار MM يحقق P(Xn>M)ε\P(\abs{X_n} > M) \leq \varepsilon من أجل كل nn؛ عندئذٍ

P((Ync)Xn>ε)P(Xn>M)+P(Ync>εM)ε+o(1).\P\bigl(\abs{(Y_n - c)X_n} > \varepsilon\bigr) \leq \P(\abs{X_n} > M) + \P\Bigl(\abs{Y_n - c} > \frac{\varepsilon}{M}\Bigr) \leq \varepsilon + o(1) .

وبكتابة YnXn=cXn+(Ync)XnY_nX_n = cX_n + (Y_n - c)X_n وبتطبيق جزء المجموع (وبرهانه لم يستعمل سوى Yn:=(Ync)Xn0Y_n' := (Y_n - c)X_n \to 0 احتماليًّا، بالثابت 00): YnXncXY_nX_n \Rightarrow cX.

التطبيق. بقانون الأعداد الكبيرة القوي (المبرهنة 22.13p^np\hat p_n \to p شبه أكيد، ومنه بالاتصال σ^n=p^n(1p^n)σ=p(1p)>0\hat\sigma_n = \sqrt{\hat p_n(1 - \hat p_n)} \to \sigma = \sqrt{p(1 - p)} > 0 شبه أكيد، ومن ثَمّ σσ^n1\frac{\sigma}{\hat\sigma_n} \to 1 احتماليًّا. وترقّي قاعدة الجداء لسلوتسكي المقدارَ SnnpσnN(0,1)\frac{S_n - np}{\sigma\sqrt n} \Rightarrow \mathcal N(0,1) إلى Snnpσ^nn=σσ^nSnnpσnN(0,1)\frac{S_n - np}{\hat\sigma_n\sqrt n} = \frac{\sigma}{\hat\sigma_n}\cdot \frac{S_n - np}{\sigma\sqrt n} \Rightarrow \mathcal N(0,1): فتحتفظ فترة الثقة القابلة للاستعمال p^n±1.96σ^n/n\hat p_n \pm 1.96\,\hat\sigma_n/\sqrt n، المبنية من المعطيات وحدها، بمستواها المقارب 95%95\%.

تمرين 23.9 ★★★

لتكن XN(0,1)X \sim \mathcal N(0,1) و ε\varepsilon مستقلين مع P(ε=±1)=12\P(\varepsilon = \pm1) = \frac12؛ ونضع Y=εXY = \varepsilon X. (a) برهن على YN(0,1)Y \sim \mathcal N(0,1) وعلى Cov(X,Y)=0\operatorname{Cov}(X, Y) = 0. (b) برهن على أن XX و YY ليسا مستقلين، وعلى أن (X,Y)(X, Y) ليست متجهةً غاوسية (احسب P(X+Y=0)\P(X + Y = 0)). (c) العبرة: أن المبرهنة 23.11(2) تتطلب الغاوسية المشتركة — أما «غاوسيان غير مرتبطان» وحدهما لا يبرهنان على شيء.

حل

حل التمرين 23.9.

(a) بشطر الأمل على قيمتَي ε\varepsilon (بالاستقلال): من أجل BB بوريلية، P(YB)=12P(XB)+12P(XB)=P(XB)\P(Y \in B) = \frac12\P(X \in B) + \frac12\P(-X \in B) = \P(X \in B)، لأن XX-X \sim X (إذ N(0,1)\mathcal N(0,1) متناظر): YN(0,1)Y \sim \mathcal N(0,1). و Cov(X,Y)=E[εX2]=E[ε]E[X2]=01=0\operatorname{Cov}(X, Y) = \E[\varepsilon X^2] = \E[\varepsilon]\,\E[X^2] = 0 \cdot 1 = 0. (b) Y=X\abs Y = \abs X، ومنه P(X1, Y2)=0\P(\abs X \leq 1,\ \abs Y \geq 2) = 0 بينما P(X1)P(Y2)>0\P(\abs X \leq 1)\,\P(\abs Y \geq 2) > 0: أي غير مستقلين. ولو كانت (X,Y)(X, Y) متجهةً غاوسية، لكان X+Y=(1+ε)XX + Y = (1 + \varepsilon)X متغيّرًا غاوسيًّا حقيقيًّا (التعريف 23.10 مع t=(1,1)t = (1,1))؛ لكن P(X+Y=0)=P(ε=1)=12\P(X + Y = 0) = \P(\varepsilon = -1) = \frac12، بينما لا تكون للمتغيّر الغاوسي ذرّةٌ إلا إذا كان ثابتًا شبه أكيد — و X+YX + Y يساوي 2X02X \neq 0 شبه أكيد على {ε=1}\{\varepsilon = 1\}. وهو تناقض: فليست (X,Y)(X, Y) غاوسية. (c) كل توزيع هامشي غاوسي والتغاير منعدم، ومع ذلك يخفق الاستقلال — لأن الزوج ليس غاوسيًّا معًا. فلا يمكن إضعاف المبرهنة 23.11(2) إلى «توزيعات هامشية غاوسية».

تمرين 23.10 ★★

لقانون كوشي الكثافةُ 1π(1+x2)\frac1{\pi(1 + x^2)}. (a) برهن على أن دالته المميِّزة eξ\eu^{-\abs\xi} (التمرين 14.1 والقلب). (b) برهن على أنه إذا كانت X1,,XnX_1, \dots, X_n مستقلة متماثلة كوشية، فإن Snn\frac{S_n}n كوشيةٌ من جديد — بالقانون نفسه: فالمتوسط لا يتركّز أبدًا. (c) ووفّق ذلك مع قانونَي الأعداد الكبيرة ومع مبرهنة النهاية المركزية: فأي الفرضيات تخفق؟ (احسب EX1\E\abs{X_1}.)

حل

حل التمرين 23.10.

(a) يحسب التمرين 14.1 المقدارَ e^(ξ)=21+ξ2\widehat{\eu^{-\abs\cdot}}(\xi) = \frac{2}{1 + \xi^2}؛ وبكون الطرفين قابلين للمكاملة، يقلب قلبُ فورييه (المبرهنة 14.5) ذلك:

Reiξx ⁣dxπ(1+x2)=eξ,\int_\R\eu^{\iu\xi x}\,\frac{\dd x}{\pi(1 + x^2)} = \eu^{-\abs\xi},

وهي بالضبط φX(ξ)\varphi_X(\xi) من أجل متغيّر كوشي XX. (b) وبالاستقلال، φSn(ξ)=(eξ)n=enξ\varphi_{S_n}(\xi) = \bigl(\eu^{-\abs\xi}\bigr)^n = \eu^{-n\abs\xi}، ومنه φSn/n(ξ)=φSn(ξ/n)=eξ\varphi_{S_n/n}(\xi) = \varphi_{S_n}(\xi/n) = \eu^{-\abs\xi}: فالمتوسط التجريبي Snn\frac{S_n}n كوشيٌّ معياري من جديد من أجل كل nn (بالتباين). فالمتوسط لا يتركّز أبدًا: وتذبذباته عند الزمن 10610^6 هي تذبذبات مشاهدة واحدة. (c) EX1=2π0x ⁣dx1+x2=+\E\abs{X_1} = \frac2\pi\int_0^\infty\frac{x\,\dd x}{1 + x^2} = +\infty: فقانون كوشي غير قابل للمكاملة، ومنه لا ينطبق قانون الأعداد الكبيرة القوي (المبرهنة 22.13)، ولا مبرهنة النهاية المركزية (وهي تحتاج إلى تباين منتهٍ) من باب أولى. فهنا تخفق نتائجهما فعلًا، لا مجرّد براهينهما. وفحص الاتساق: φ(ξ)=eξ\varphi(\xi) = \eu^{-\abs\xi} غير قابل للاشتقاق عند 00، كما يتنبّأ القضية 23.2(c) مقروءًا بنقيض النقيض من أجل متغيّر غير قابل للمكاملة.

تمرين 23.11 ★★

(القوانين المستقرة في المهد) لتكن (Xn)(X_n) مستقلة متماثلة كوشية معيارية (التمرين 23.10). (a) برهن على أنه من أجل أي a,b>0a, b > 0، يكون للمقدار aX1+bX2aX_1 + bX_2 قانونُ (a+b)X1(a + b)X_1: أي إن عائلة كوشي مستقرة تمامًا بالدليل 11. (b) برهن على أن العائلة الغاوسية مستقرة تمامًا بالدليل 22: aX1+bX2a2+b2X1aX_1 + bX_2 \sim \sqrt{a^2 + b^2}\,X_1 من أجل XiX_i مستقلة متماثلة N(0,1)\mathcal N(0,1). (c) اشرح، عبر الدوال المميِّزة من الشكل ecξα\eu^{-c\abs\xi^\alpha}، لماذا يفرض الاستقرار بالدليل α\alpha التعييرَ n1/αn^{1/\alpha} من أجل المجاميع، وماذا يقول ذلك عن أحواض جذب مبرهنة النهاية المركزية: أي المجاميع المستقلة المتماثلة يمكنها أن تتقارب، بعد تعيير تآلفي، إلى قانون كوشي بدل الغاوسي؟

حل

حل التمرين 23.11.

(a) φaX1+bX2(ξ)=eaξebξ=e(a+b)ξ=φ(a+b)X1(ξ)\varphi_{aX_1 + bX_2}(\xi) = \eu^{-a\abs\xi}\eu^{-b\abs\xi} = \eu^{-(a+b)\abs\xi} = \varphi_{(a+b)X_1}(\xi) (بالاستقلال والتمرين 23.10)؛ ويعيّن التباين القوانين.

(b) φaX1+bX2(ξ)=ea2ξ2/2eb2ξ2/2=e(a2+b2)ξ2/2\varphi_{aX_1+bX_2}(\xi) = \eu^{-a^2\xi^2/2} \eu^{-b^2\xi^2/2} = \eu^{-(a^2+b^2)\xi^2/2}: أي قانون a2+b2X1\sqrt{a^2+b^2}\,X_1.

(c) إذا كان φX(ξ)=ecξα\varphi_X(\xi) = \eu^{-c\abs\xi^\alpha}، كان للمقدار Sn=X1++XnS_n = X_1 + \dots + X_n الدالةُ φSn=ecnξα\varphi_{S_n} = \eu^{-cn\abs\xi^\alpha}، وكان للمقدار Sn/n1/αS_n/n^{1/\alpha} الدالةُ φ(ξ)=ecξα\varphi(\xi) = \eu^{-c\abs\xi^\alpha} من جديد: أي إعادة إنتاج ذاتية مضبوطة تحت التحجيم n1/αn^{1/\alpha} — أي n\sqrt n من أجل الغاوسي (α=2\alpha = 2)، و nn نفسه من أجل كوشي (α=1\alpha = 1، التمرين 23.10(b)). ولا يمكن لمجموع متغيّرات مستقلة متماثلة أن يتقارب (بعد تعيير تآلفي) إلا إلى قانون مستقر تحت هذه الالتفافات؛ وتقول مبرهنة النهاية المركزية إن التباين المنتهي يفرض الحوض الغاوسي، ويكون حوض كوشي محجوزًا للقوانين ذات الذيول الثقيلة إلى حدّ أن EX2=\E X^2 = \infty بل و EX=\E\abs X = \infty — مثل مجاميع متغيّرات كوشي نفسها. فللشمول جزرٌ عدة، مفهرَسة بأُسّ الذيل α(0,2]\alpha \in \intoc02.

تمرين 23.12 ★★

(دالة التوزيع التجريبية) لتكن (Xn)(X_n) مستقلة متماثلة بدالة توزيع FF، ولتكن Fn(t)=1n#{kn:Xkt}F_n(t) = \frac1n\#\{k \leq n : X_k \leq t\}. (a) نثبّت tt. برهن على أن nFn(t)B(n,F(t))n F_n(t) \sim \mathcal B(n, F(t))، وعلى أن Fn(t)F(t)F_n(t) \to F(t) شبه أكيد (المبرهنة 22.13)، وعلى أن

n(Fn(t)F(t))N(0, F(t)(1F(t))).\sqrt n\,\bigl(F_n(t) - F(t)\bigr) \Longrightarrow \mathcal N\bigl(0,\ F(t)(1 - F(t))\bigr) .

(b) وعند أي tt يكون التباين المقارب أعظميًّا؟ فسّر: أن الوسيط هو الموضع الذي يصعب فيه تثبيت توزيع تجريبي أكثر ما يكون. (c) ومن أجل FF متصلة، برهن على أن قانون suptFn(t)F(t)\sup_t\abs{F_n(t) - F(t)} لا يتعلق بالدالة FF (بالإرجاع إلى متغيّرات منتظمة عبر التمرين 22.1) — أي المعجزة الخالية من التوزيع وراء اختبار كولموغوروف–سميرنوف؛ ولا يُطلب حساب ذلك القانون.

حل

حل التمرين 23.12.

(a) الدوال المميّزة 1Xkt\mathbf 1_{X_k \leq t} مستقلة متماثلة برنولية بالوسيط p=F(t)p = F(t): فمجموعها nFn(t)nF_n(t) ثنائيٌّ B(n,p)\mathcal B(n, p)؛ ويعطي القانون القوي أن Fn(t)pF_n(t) \to p شبه أكيد، وتعطي مبرهنة النهاية المركزية (المبرهنة 23.8) مطبَّقةً على الدوال المميّزة نفسها (بتباين p(1p)p(1-p)) النهايةَ الغاوسية المذكورة.

(b) والمقدار p(1p)p(1 - p) أعظمي عند p=12p = \frac12، أي حيث F(t)=12F(t) = \frac12: أي عند الوسيط. فتقدير احتمالات الذيل سهل مقاربًا (إذ التباين 0\to 0 حين p0,1p \to 0, 1)؛ وتحمل منطقة الوسيط أكبر ضجيج إحصائي — فالمنحني التجريبي يتمايل أشد ما يتمايل في وسطه.

(c) ومن أجل FF متصلة، تكون المتغيّرات Uk=F(Xk)U_k = F(X_k) مستقلة متماثلة منتظمة على (0,1)\intoo01 (التمرين 22.1)، وتعطي رتابة FF، بكتابة GnG_n لدالة التوزيع التجريبية للمتغيّرات UkU_k:

suptRFn(t)F(t)=supuimFGn(u)u=supu[0,1]Gn(u)u:\sup_{t\in\R}\,\abs{F_n(t) - F(t)} = \sup_{u \in \operatorname{im}F}\,\abs{G_n(u) - u} = \sup_{u\in\intcc01}\abs{G_n(u) - u} :

والمساواة الأولى لأن {Xkt}={UkF(t)}\{X_k \leq t\} = \{U_k \leq F(t)\} إلى غاية حوادث معدومة (بالرتابة؛ إذ لا تخفق المتراجحة الأكيدة إلا على الأجزاء المسطّحة من FF، حيث لا يتغيّر الطرفان)، والثانية لأن FF المتصلة، وهي تجري من 00 إلى 11، تبلغ كل قيمة من (0,1)\intoo01 (بمبرهنة القيم الوسطى)، ولا يضيف الطرفان شيئًا (Gn(0)0=0G_n(0) - 0 = 0 و Gn(1)1=0G_n(1) - 1 = 0). ولا يتضمّن الطرف الأيمن سوى منتظمات: أي قانونٌ واحد من أجل كل FF — فيختبر جدولٌ واحد من القيم الحرجة (أي جدول قانون كولموغوروف) أي نموذج متصل مقابل المعطيات.

23.6 مسألة: برهان ليندبرغ على مبرهنة النهاية المركزية، بمعدل

مسألة 23.1

مسألة نهاية الأسبوع — طريقة الاستبدال

برهن ليندبرغ (1922) على مبرهنة النهاية المركزية بفكرة مخلوعة البساطة: استبدل الحدود واحدًا تلو الآخر بغاوسيات وتحكم في كل استبدال بنشر تايلور. ولا تحتاج الطريقة إلى أي تحليل فورييهي، وتنتج معدل خطأ صريحًا، وهي تشغّل اليوم براهين الشمول في أنحاء نظرية الاحتمالات. لتكن (Xi)(X_i) مستقلة متماثلة موسَّطة مع V(X1)=1\V(X_1) = 1 و β=EX13<\beta = \E\abs{X_1}^3 < \infty؛ ولتكن (Ni)(N_i) مستقلة متماثلة N(0,1)\mathcal N(0,1)، مستقلة عن XiX_i (والوجود: المبرهنة 22.6). ونضع

Tn=X1++Xnn,Gn=N1++NnnN(0,1).T_n = \frac{X_1 + \dots + X_n}{\sqrt n}, \qquad G_n = \frac{N_1 + \dots + N_n}{\sqrt n} \sim \mathcal N(0,1).

الجزء الأول — متطابقة الاستبدال. نثبّت fCb3(R)f \in \mathcal C^3_b(\R) (بثلاث مشتقات محدودة متصلة؛ M3=supfM_3 = \sup\abs{f'''}). ومن أجل 0in0 \leq i \leq n نعرّف المجاميع الهجينة

Hi=X1++Xi+Ni+1++Nnn,H_i = \frac{X_1 + \dots + X_i + N_{i+1} + \dots + N_n}{\sqrt n},

بحيث Hn=TnH_n = T_n و H0=GnH_0 = G_n.

  1. اكتب Hi=Wi+XinH_i = W_i + \frac{X_i}{\sqrt n} و Hi1=Wi+NinH_{i-1} = W_i + \frac{N_i}{\sqrt n} مع Wi=1n(j<iXj+j>iNj)W_i = \frac{1}{\sqrt n}\bigl(\sum_{j<i}X_j + \sum_{j>i}N_j\bigr)، ولاحظ أن WiW_i مستقل عن الزوج (Xi,Ni)(X_i, N_i). برّر ذلك.
  2. تايلور بباقٍ تكاملي أو باقي لاغرانج: من أجل أي w,hw, h حقيقيين:

    f(w+h)f(w)f(w)h12f(w)h2M3h36.\Bigl|f(w + h) - f(w) - f'(w)h - \tfrac12f''(w)h^2\Bigr| \leq \frac{M_3\,\abs h^3}{6} .
  3. طبّق السؤال 2 مرتين (h=Xinh = \frac{X_i}{\sqrt n} و h=Ninh = \frac{N_i}{\sqrt n} عند w=Wiw = W_i)، وخذ الآمال، واستعمل الاستقلال مع تطابق العزمين الأولين للمتغيّرين XiX_i و NiN_i لتبرهن على

    Ef(Hi)Ef(Hi1)M36β+γn3/2,γ=EN13=22π.\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{M_3}{6}\cdot \frac{\beta + \gamma}{n^{3/2}}, \qquad \gamma = \E\abs{N_1}^3 = \frac{2\sqrt2}{\sqrt\pi} .
  4. تلسكب على ii واخلص إلى حدّ ليندبرغ:

    Ef(Tn)Ef(Gn)M3(β+γ)6n.\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{M_3\,(\beta + \gamma)}{6\,\sqrt n} .

الجزء الثاني — من ff الناعمة إلى مبرهنة النهاية المركزية.

  1. برهن على Ef(Tn)Ef(N)\E f(T_n) \to \E f(N) من أجل كل fCb3f \in \mathcal C_b^3، وارقَ إلى جميع الدوال المحدودة المتصلة ff: بإعطاء ff كهذه ومع ε\varepsilon، ابنِ fεCb3f_\varepsilon \in \mathcal C^3_b تحقق ffεε\norm{f - f_\varepsilon}_\infty \leq \varepsilon على فترة كبيرة — مثلًا بالتفاف ff مع نتوء C\mathcal C^\infty (المبرهنة 12.9) — وعالج الذيول بالإحكام (V(Tn)=1\V(T_n) = 1 وتشيبيشيف). واخلص إلى TnN(0,1)T_n \Rightarrow \mathcal N(0, 1): أي مبرهنة النهاية المركزية، معادًا البرهان عليها.
  2. وأين استعمل البرهان كون XiX_i متماثلة التوزيع؟ برهن على أنه بالكاد فعل: صُغ وبرهن على الصيغة من أجل XiX_i مستقلة موسَّطة غير متماثلة مع iV(Xi)=sn2\sum_i\V(X_i) = s_n^2 وبعزوم ثالثة، فتحصل على الخطأ M36sn3i(EXi3+V(Xi)3/2γ)\frac{M_3}{6s_n^3}\sum_i\bigl(\E\abs{X_i}^3 + \V(X_i)^{3/2}\gamma\bigr) — أي مبرهنة ليندبرغ الحقيقية في صيغتها لليابونوف.

الجزء الثالث — عوائد كمّية.

  1. (دوال التوزيع) ليكن tRt \in \R وقرّب 1(,t]\mathbf 1_{\intoc{-\infty}t} من الأعلى ومن الأسفل بمنحدرات من الصنف Cb3\mathcal C^3_b عرضها δ\delta (ابنِها، مع M3=O(δ3)M_3 = O(\delta^{-3})). وبضمّ ذلك إلى الجزء الأول، استنبط الحدَّ ذا الحدّين

    suptRP(Tnt)Φ(t)    C1(β+γ)δ3n+C2δ(من أجل كلδ>0),\sup_{t\in\R}\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \;\leq\; \frac{C_1(\beta + \gamma)}{\delta^3\sqrt n} + C_2\,\delta \qquad (\text{من أجل كل} \delta > 0),

    بثوابت صريحة (ويستعمل الحدّ C2δC_2\delta أن للدالة Φ\Phi كثافةً محدودة بالمقدار 12π\frac1{\sqrt{2\pi}})، وأمثِل δn1/8\delta \sim n^{-1/8} لتحصل على معدل منتظم من رتبة n1/8n^{-1/8}. (والمعدل الأمثل n1/2n^{-1/2} — أي بيري–إسين — يتطلب أدوات أدق؛ والمقصود هو معدلٌ صريح بالاستبدال الابتدائي.)

  2. (دي موافر–لابلاس، مكمَّمة) خصّص إلى Xi=2Bi1X_i = 2B_i - 1 (أي إشارات قطع نقدية عادلة): وقارن النتيجة بالتقدير المحلي في المسألة 11.1، السؤال 7 — فماذا تعطي كل طريقة ولا تعطيه الأخرى؟
  3. (الشمول) اشرح في فقرة لماذا تبيّن طريقة الاستبدال أكثر من مبرهنة النهاية المركزية: أن أي إحصاءة من الشكل Ef(مجموع)\E f(\text{مجموع}) مع ff ناعمة غير حساسة، عند الرتبة n1/2n^{-1/2}، لكامل قانون الحدود وراء عزميه الأولين — أي «مبدأ الصمود» الذي تقوم عليه نتائج الشمول الحديثة (المصفوفات العشوائية، وكثيرات الحدود العشوائية)، ومبرهنة النهاية المركزية أول حالاته.

الجزء الرابع — التنعيم، مدفوعًا: معدلات أفضل. جاءت الخسارة من n1/2n^{-1/2} (من أجل ff ناعمة) إلى n1/8n^{-1/8} (من أجل دوال التوزيع) من تحميل ff''' بمعيار السوپريموم. ويمكن للهجينات أن تصلح جزءًا منها: فهي تحتوي حدودًا غاوسية، والغاوسيات تنعّم.

  1. (غاوسي مختبئ) من أجل 1in11 \leq i \leq n - 1، ومن أجل h=Xinh = \frac{X_i}{\sqrt n} أو Nin\frac{N_i}{\sqrt n}، ومن أجل θ[0,1]\theta \in \intcc01، اكتب Wi+θh=A+ZW_i + \theta h = A + Z مع Z=Ni+1++NnnZ = \frac{N_{i+1} + \dots + N_n}{\sqrt n}. برهن على أن ZN(0,nin)Z \sim \mathcal N\bigl(0, \frac{n-i}n\bigr) مستقل عن الزوج (A,h)(A, h)، واستنتج، من أجل كل gL1(R)g \in L^1(\R) متصلة،

    E[h3g(Wi+θh)]    n2π(ni)  gL1  Eh3.\E\bigl[\abs h^3\,\abs{g(W_i + \theta h)}\bigr] \;\leq\; \sqrt{\frac{n}{2\pi(n - i)}}\; \norm{g}_{L^1}\;\E\abs h^3 .
  2. اجمع السؤال 10 مع الصيغة التكاملية لباقي تايلور،

    f(w+h)=f(w)+f(w)h+12f(w)h2+01(1θ)22f(w+θh)h3 ⁣dθ,f(w + h) = f(w) + f'(w)h + \tfrac12f''(w)h^2 + \int_0^1\frac{(1 - \theta)^2}2\,f'''(w + \theta h)\,h^3\,\dd\theta,

    لإعادة إجراء السؤالين 3 و4: فمن أجل fCb3f \in \mathcal C^3_b مع فوق ذلك fL1(R)f''' \in L^1(\R)،

    Ef(Tn)Ef(Gn)β+γ32πfL1n+M3(β+γ)6n3/2\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta + \gamma}{3\sqrt{2\pi}}\cdot \frac{\norm{f'''}_{L^1}}{\sqrt n} + \frac{M_3(\beta + \gamma)}{6\,n^{3/2}}

    (ويعالج السؤال 10 الاستبدالات in1i \leq n - 1 — باستعمال m=1n1m1/22n\sum_{m=1}^{n-1}m^{-1/2} \leq 2\sqrt n — ويعالج الحدّ الخشن في السؤال 3 الاستبدالَ الأخير). وتحقق من أن منحدرات السؤال 7 تحقق ψδL1=K1δ2\norm{\psi_\delta'''}_{L^1} = K_1\delta^{-2} بينما M3=Kδ3M_3 = K\delta^{-3}، وأدخلها، وأمثِل δ\delta: فيتحسّن معدل دالة التوزيع المنتظم إلى O(n1/6)O(n^{-1/6}).

  3. (مطابقة عزم إضافي) لنفترض فوق ذلك EX13=0\E X_1^3 = 0 و β4=EX14<\beta_4 = \E X_1^4 < \infty. احسب EN13\E N_1^3 و EN14\E N_1^4، وانشر حتى الرتبة الرابعة، وبرهن على المنوال نفسه على أن معدل دالة التوزيع يصير O(n1/4)O(n^{-1/4}) (فالآن ψδ(4)L1=K2δ3\norm{\psi_\delta^{(4)}}_{L^1} = K_2\delta^{-3} و M4=Kδ4M_4 = K'\delta^{-4}؛ واختر δ=n1/4\delta = n^{-1/4}).
  4. (العائق) لنفترض أن العزوم kk الأولى للمتغيّر X1X_1 توافق العزوم الغاوسية (k=2k = 2 دائمًا؛ و k=3k = 3 إذا وفقط إذا كان EX13=0\E X_1^3 = 0؛ و k4k \geq 4 في لا حالة تقريبًا، إذ EN14=3\E N_1^4 = 3). تحقق من أن مخطط الأسئلة 10–12 يسلّم معدلَ دالة التوزيع n(k1)/(2k+2)n^{-(k-1)/(2k+2)}، بموازنة δkn(k1)/2\delta^{-k}n^{-(k-1)/2} مقابل δ\delta، ولاحظ أن الأُسّ لا يقارب قيمة بيري–إسين 12\frac12 إلا حين kk \to \infty. واشرح في بضع جمل لماذا تتشبّع طريقة الاستبدال: إذ يُحمَّل كل استبدال بالقيمة المطلقة، بينما يستثمر الطريق الفورييهي (متراجحة إسين في التنعيم) تذبذبَ فرق الدوال المميِّزة ويبلغ Cβn1/2C\beta n^{-1/2} بثلاثة عزوم فقط.

الجزء الخامس — بُعدان: مبرهنة النهاية المركزية المتعددة الأبعاد، بالاستبدال. ولتكن الآن XiX_i متجهات عشوائية مستقلة متماثلة موسَّطة من R2\R^2 بمصفوفة تغاير Σ\Sigma ومع β=EX13<\beta' = \E\norm{X_1}^3 < \infty (بالمعيار الإقليدي).

  1. (المتجهات الغاوسية، إلى الرتبة) قطرِن Σ=PDPT\Sigma = PDP^{\mathsf T} (التمرين 20.8) وضع C=PDPTC = P\sqrt DP^{\mathsf T}. ومن أجل Z=(Z1,Z2)Z = (Z^1, Z^2) زوجًا من الغاوسيات المعيارية المستقلة (المبرهنة 22.6)، برهن على أن N=CZN = CZ متجهةٌ غاوسية (التعريف 23.10) بمتوسط 00 وتغاير Σ\Sigma، مع γ=EN3<\gamma' = \E\norm N^3 < \infty؛ وعلى أن للمقدار Gn=N1++NnnG_n = \frac{N_1 + \dots + N_n}{\sqrt n} القانونَ N(0,Σ)\mathcal N(0, \Sigma) بالضبط من أجل نسخ مستقلة متماثلة NiN_i.
  2. (تايلور بمتغيّرين) من أجل f ⁣:R2Rf \colon \R^2 \to \R من الصنف C3\mathcal C^3 مع M3=maxα=3supαf<M_3 = \max_{\abs\alpha = 3}\sup\abs{\partial^\alpha f} < \infty، برهن على

    f(w+h)f(w)f(w),h12h,D2f(w)hM36(h1+h2)32M33h3\Bigl|f(w + h) - f(w) - \langle\nabla f(w), h\rangle - \tfrac12\langle h, D^2f(w)\,h\rangle \Bigr| \leq \frac{M_3}6\,\bigl(\abs{h_1} + \abs{h_2}\bigr)^3 \leq \frac{\sqrt2\,M_3}3\, \norm h^3

    (بدراسة tf(w+th)t \mapsto f(w + th) على [0,1]\intcc01).

  3. (مبرهنة النهاية المركزية في R2\R^2) أجرِ مخطط الاستبدال على الهجينات المتجهية HiH_i: برهن على أن حدود الرتبتين الأولى والثانية تتلاشى (إذ تتطابق المتوسطات والتغايرات)، وتلسكب، وارقَ كما في السؤال 5 (بالإحكام من ETn2=trΣ\E\norm{T_n}^2 = \operatorname{tr}\Sigma؛ وبالتمليف الآن في R2\R^2، المبرهنة 12.9) لتخلص إلى: أنه من أجل كل f ⁣:R2Rf \colon \R^2 \to \R محدودة متصلة،

    Ef(X1++Xnn)Ef(N),NN(0,Σ):\E\,f\Bigl(\frac{X_1 + \dots + X_n}{\sqrt n}\Bigr) \longrightarrow \E\,f(N), \qquad N \sim \mathcal N(0, \Sigma) :

    أي المبرهنة 23.12 في البُعد 22، بمعدل من أجل ff الناعمة ودون أي تحليل فورييهي.

  4. (كرامر–وولد، وتذبذب مشترك) استنتج أن t,SnnN(0,tTΣt)\langle t, \frac{S_n}{\sqrt n}\rangle \Rightarrow \mathcal N(0, t^{\mathsf T}\Sigma t) من أجل كل tR2t \in \R^2 مثبَّت. وتطبيقٌ: من أجل (ξi)(\xi_i) حقيقية مستقلة متماثلة موسَّطة مع Eξ12=1\E\xi_1^2 = 1 و Eξ16<\E\xi_1^6 < \infty (بحيث ينطبق الجزء الخامس على Vi=(ξi,ξi21)V_i = (\xi_i, \xi_i^2 - 1))، برهن على

    1n(inξi, in(ξi21))N(0,(1Eξ13Eξ13Eξ141)):\frac1{\sqrt n}\Bigl(\sum_{i\leq n}\xi_i,\ \sum_{i\leq n}(\xi_i^2 - 1)\Bigr) \Longrightarrow \mathcal N\Bigl(0, \begin{pmatrix} 1 & \E\xi_1^3\\ \E\xi_1^3 & \E\xi_1^4 - 1\end{pmatrix}\Bigr) :

    أي إن المتوسط التجريبي والعزم الثاني التجريبي يتذبذبان غاوسيًّا معًا — ومستقلَّين في النهاية إذا وفقط إذا كان Eξ13=0\E\xi_1^3 = 0 (المبرهنة 23.11).

الجزء السادس — طريقة دلتا.

  1. لتكن (θ^n)(\hat\theta_n) متغيّرات عشوائية تحقق n(θ^nθ)N(0,σ2)\sqrt n(\hat\theta_n - \theta) \Rightarrow \mathcal N(0, \sigma^2) من أجل وسيط حقيقي θ\theta، ولتكن gg قابلة للاشتقاق عند θ\theta. برهن على طريقة دلتا:

    n(g(θ^n)g(θ))N(0,g(θ)2σ2)\sqrt n\bigl(g(\hat\theta_n) - g(\theta)\bigr) \Longrightarrow \mathcal N\bigl(0, g'(\theta)^2\sigma^2\bigr)

    (اكتب g(x)g(θ)=(g(θ)+η(x))(xθ)g(x) - g(\theta) = (g'(\theta) + \eta(x))(x - \theta) مع η0\eta \to 0 عند θ\theta؛ وبرهن على θ^nθ\hat\theta_n \to \theta، ثم على η(θ^n)0\eta(\hat\theta_n) \to 0، احتماليًّا؛ وأنهِ بسلوتسكي، التمرين 23.8، والتمرين 23.4(b)).

  2. التطبيقات. (a) من أجل (ξi)(\xi_i) حقيقية مستقلة متماثلة بمتوسط μ\mu وتباين σ2\sigma^2، ومن أجل Xˉn=1ninξi\bar X_n = \frac1n\sum_{i\leq n}\xi_i: برهن على n(Xˉn2μ2)N(0,4μ2σ2)\sqrt n(\bar X_n^2 - \mu^2) \Rightarrow \mathcal N(0, 4\mu^2\sigma^2) حين μ0\mu \neq 0، وعلى أن العبارة الصحيحة من أجل μ=0\mu = 0 تعيش عند سلّم آخر: nXˉn2σ2N2n\bar X_n^2 \Rightarrow \sigma^2N^2 مع NN(0,1)N \sim \mathcal N(0,1) (وعيّن دالة توزيع النهاية). (b) (تثبيت التباين) من أجل p^n\hat p_n تواترَ النجاح لعيّنة B(1,p)\mathcal B(1, p)، حيث p(0,1)p \in \intoo01: برهن على أن g(p)=arcsinpg(p) = \arcsin\sqrt p يحقق

    n(g(p^n)g(p))N(0,14)\sqrt n\,\bigl(g(\hat p_n) - g(p)\bigr) \Longrightarrow \mathcal N\Bigl(0, \frac14\Bigr)

    أيًّا كان pp — أي شريط خطأ مقارب خالٍ من الوسيط المجهول؛ وقارن ذلك مع المثال 23.9.

الجزء السابع — بواسون، بالطريقة نفسها: مبرهنة لوكام. يعرف الاستبدال صنف شمول ثانيًا: مجاميع عدد كبير من الحوادث النادرة المستقلة. ومن أجل القوانين على N\N تكون المسافة الصحيحة التغيّر الكلي،

dTV(μ,ν)=supANμ(A)ν(A).d_{\mathrm{TV}}(\mu, \nu) = \sup_{A\subseteq\N}\, \abs{\mu(A) - \nu(A)} .
  1. برهن على dTV(μ,ν)=12k0μ({k})ν({k})d_{\mathrm{TV}}(\mu, \nu) = \frac12\sum_{k\geq0}\abs{\mu(\{k\}) - \nu(\{k\})}، وبرهن على حدّ الاقتران: أنه من أجل أي زوج (X,Y)(X, Y) من المتغيّرات العشوائية بالقانونين μ\mu و ν\nu على الفضاء نفسه، dTV(μ,ν)P(XY)d_{\mathrm{TV}}(\mu, \nu) \leq \P(X \neq Y).
  2. احسب بالضبط، من أجل p(0,1)p \in \intoo01:

    dTV(B(1,p),P(p))=p(1ep)p2.d_{\mathrm{TV}}\bigl(\mathcal B(1, p), \mathcal P(p)\bigr) = p\bigl(1 - \eu^{-p}\bigr) \leq p^2 .
  3. (لوكام، بالاستبدال) لتكن XiB(1,pi)X_i \sim \mathcal B(1, p_i) ولتكن YiP(pi)Y_i \sim \mathcal P(p_i)، والمتغيّرات 2n2n مستقلة؛ و S=X1++XnS = X_1 + \dots + X_n، وتذكّر Y1++YnP(λ)Y_1 + \dots + Y_n \sim \mathcal P(\lambda) مع λ=ipi\lambda = \sum_ip_i (التمرين 23.1). واستبدل إحداثيًّا واحدًا في كل مرة في الهجينات الصحيحة Hi=Y1++Yi+Xi+1++XnH_i = Y_1 + \dots + Y_i + X_{i+1} + \dots + X_n: برهن، من أجل كل ANA \subseteq \N، على

    P(Hi1A)P(HiA)dTV(B(1,pi),P(pi)),\abs{\P(H_{i-1} \in A) - \P(H_i \in A)} \leq d_{\mathrm{TV}}\bigl(\mathcal B(1, p_i), \mathcal P(p_i)\bigr),

    واخلص إلى متراجحة لوكام:

    dTV(قانونS, P(λ))i=1npi2.d_{\mathrm{TV}}\bigl(\text{قانون} S,\ \mathcal P(\lambda)\bigr) \leq \sum_{i=1}^np_i^2 .
  4. العوائد. (a) من أجل pi=λnp_i = \frac\lambda n: يكون الحدّ λ2n\frac{\lambda^2}n — أي قانون الحوادث النادرة (التمرين 23.5) مرقًّى إلى معدل صريح، منتظم على جميع الحوادث، وصحيح من أجل pip_i غير متساوية أيضًا. (b) تُسلَّم 500500 رسالة، وتضلّ كلٌّ منها طريقها باستقلال باحتمال 1500\frac1{500}: حُدّ خطأ نموذج بواسون بالوسيط 11، وقدّر احتمال ألا تضلّ أي رسالة. (c) واختم المسألة: قارن صنفَي الشمول الملتقيَين هنا — الغاوسي (إسهامات كثيرة صغيرة منتشرة؛ بعزمين متطابقين؛ وتايلور) والبواسوني (إسهامات كثيرة نادرة؛ بمتوسط واحد متطابق؛ واقتران مضبوط بالتغيّر الكلي) — وطريقة الاستبدال الواحدة وراءهما معًا.
  5. (الخطأ النسبي وتحويل اللوغاريتم) لتكن (Xn)(X_n) مستقلة متماثلة موجبة بمتوسط μ>0\mu > 0 وتباين σ2\sigma^2، ولتكن Xˉn\bar X_n المتوسطَ التجريبي. برهن بطريقة دلتا على

    n(lnXˉnlnμ)N(0, σ2μ2):\sqrt n\,\bigl(\ln\bar X_n - \ln\mu\bigr) \Longrightarrow \mathcal N\Bigl(0,\ \frac{\sigma^2}{\mu^2}\Bigr) :

    فيكون الوسيط المقارب للمقدار lnXˉn\ln\bar X_n هو معامل التغيّر σ/μ\sigma/\mu — أي خطأ نسبي خالٍ من السلّم. واستنتج فترةَ ثقة 95%95\% للمتوسط μ\mu من الشكل الضربي Xˉne±1.96σ/(μn)\bar X_n\cdot\eu^{\pm1.96\,\sigma/(\mu\sqrt n)}، واشرح متى يكون مفضَّلًا على الشكل الجمعي.

  6. (العزم الثالث يوجّه الخطأ) من أجل XX \sim برنولي(pp) موسَّطًا، احسب E[(Xp)3]=p(1p)(12p)\E\bigl[(X - p)^3\bigr] = p(1-p)(1-2p). وباستعمال تحليل الجزء الرابع (إذ تقود العزوم الثالثة خطأ الاستبدال)، اشرح لماذا يكون التقريب الغاوسي للمقدار B(n,p)\mathcal B(n, p) لامتناظرًا من أجل p12p \neq \frac12 — متجاوزًا من جهة ومقصّرًا من الأخرى — ولماذا يتمتع p=12p = \frac12 بالمعدل الأسرع الموافق للعزوم المتطابقة. وتحقق من إشارة الالتواء عدديًّا على B(20,0.1)\mathcal B(20, 0.1) مقابل N(2,1.8)\mathcal N(2, 1.8): قارن P(S=0)=0.920\P(S = 0) = 0.9^{20} بالكتلة الغاوسية للمقدار (,0.5)\intoo{-\infty}{0.5}.
حل

حل المسألة 23.1.

1. العائلة (X1,,Xn,N1,,Nn)(X_1, \dots, X_n, N_1, \dots, N_n) مستقلة: إذ الكتلتان مستقلتان إحداهما عن الأخرى بحكم البناء وكل كتلة مستقلة متماثلة. و WiW_i دالةٌ قابلة للقياس للمتغيّرات (Xj)j<i(X_j)_{j<i} و (Nj)j>i(N_j)_{j>i} وحدها، وكلها متمايزة عن XiX_i و NiN_i: فبمبدأ الائتلافات (المبرهنة 22.5)، يكون WiW_i مستقلًّا عن الزوج (Xi,Ni)(X_i, N_i). والتفكيكان Hi=Wi+XinH_i = W_i + \frac{X_i}{\sqrt n} و Hi1=Wi+NinH_{i-1} = W_i + \frac{N_i}{\sqrt n} فوريان من التعاريف: إذ يستبدل المرورُ من HiH_i إلى Hi1H_{i-1} بالحدّ الواحد XiX_i الحدَّ NiN_i.

2. تايلور–لاغرانج من الرتبة 33: يوجد cc بين ww و w+hw + h يحقق f(w+h)=f(w)+f(w)h+12f(w)h2+16f(c)h3f(w + h) = f(w) + f'(w)h + \frac12f''(w)h^2 + \frac16f'''(c)h^3، ويعطي f(c)M3\abs{f'''(c)} \leq M_3 الحدَّ.

3. بطرح النشرين عند نقطة الأساس المشتركة w=Wiw = W_i:

f(Hi)f(Hi1)=f(Wi)XiNin+f(Wi)2Xi2Ni2n+Ri,RiM36Xi3+Ni3n3/2.f(H_i) - f(H_{i-1}) = f'(W_i)\,\frac{X_i - N_i}{\sqrt n} + \frac{f''(W_i)}{2}\,\frac{X_i^2 - N_i^2}{n} + R_i, \qquad \abs{R_i} \leq \frac{M_3}{6}\cdot \frac{\abs{X_i}^3 + \abs{N_i}^3}{n^{3/2}} .

ونأخذ الآمال. وحسب السؤال 1، يكون f(Wi)f'(W_i) و f(Wi)f''(W_i) مستقلَّين عن (Xi,Ni)(X_i, N_i)، ومنه تتحلّل الآمال المختلطة:

E[f(Wi)XiNin]=E[f(Wi)]EXiENin=0,E[f(Wi)Xi2Ni2n]=E[f(Wi)]11n=0:\begin{align*} \E\Bigl[f'(W_i)\,\frac{X_i - N_i}{\sqrt n}\Bigr] &= \E\bigl[f'(W_i)\bigr]\,\frac{\E X_i - \E N_i}{\sqrt n} = 0, \\ \E\Bigl[f''(W_i)\,\frac{X_i^2 - N_i^2}{n}\Bigr] &= \E\bigl[f''(W_i)\bigr]\,\frac{1 - 1}{n} = 0 : \end{align*}

ويتطابق العزمان الأولان للمتغيّرين XiX_i و NiN_i، فلا ينجو سوى الباقي:

Ef(Hi)Ef(Hi1)ERiM36β+γn3/2.\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \E\abs{R_i} \leq \frac{M_3}{6}\cdot\frac{\beta + \gamma}{n^{3/2}} .

وأما العزم الثالث الغاوسي: γ=EN13=20x3ex2/22π ⁣dx=22π02ueu ⁣du=42π=22π\gamma = \E\abs{N_1}^3 = 2\int_0^\infty x^3\,\frac{\eu^{-x^2/2}}{\sqrt{2\pi}}\,\dd x = \frac{2}{\sqrt{2\pi}}\int_0^\infty 2u\,\eu^{-u}\dd u = \frac{4}{\sqrt{2\pi}} = \frac{2\sqrt2}{\sqrt\pi} (بالتعويض u=x2/2u = x^2/2، ثم Γ(2)=1\Gamma(2) = 1).

4. بتلسكب Ef(Tn)Ef(Gn)=i=1n(Ef(Hi)Ef(Hi1))\E f(T_n) - \E f(G_n) = \sum_{i=1}^n\bigl(\E f(H_i) - \E f(H_{i-1})\bigr) وبتطبيق السؤال 3 على كلٍّ من الحدود nn:

Ef(Tn)Ef(Gn)nM3(β+γ)6n3/2=M3(β+γ)6n.\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq n \cdot \frac{M_3(\beta + \gamma)}{6\,n^{3/2}} = \frac{M_3\,(\beta + \gamma)}{6\,\sqrt n} .

5. GnG_n هو N(0,1)\mathcal N(0,1) بالضبط من أجل كل nn (بوصفه مجموعًا معيَّرًا لغاوسيات معيارية مستقلة، التمرين 23.3)، ومنه Ef(Gn)=Ef(N)\E f(G_n) = \E f(N) ويُقرأ السؤال 4 Ef(Tn)Ef(N)M3(β+γ)6n0\abs{\E f(T_n) - \E f(N)} \leq \frac{M_3(\beta+\gamma)}{6\sqrt n} \to 0 من أجل fCb3f \in \mathcal C^3_b. الترقية. لتكن ff محدودة متصلة، مع M=supfM = \sup\abs f و ε>0\varepsilon > 0. نختار A1A \geq 1 يحقق 1A2ε\frac1{A^2} \leq \varepsilon: فيعطي تشيبيشيف مع V(Tn)=1\V(T_n) = 1 أن P(Tn>A)ε\P(\abs{T_n} > A) \leq \varepsilon من أجل كل nn، وبالمثل P(N>A)ε\P(\abs N > A) \leq \varepsilon. ولتكن χ\chi من الصنف C\mathcal C^\infty مع 1[A,A]χ1[A1,A+1]\mathbf 1_{\intcc{-A}A} \leq \chi \leq \mathbf 1_{\intcc{-A-1}{A+1}} (أي هضبة ناعمة، مبنيّة بتمليف 1[A12,A+12]\mathbf 1_{\intcc{-A-\frac12}{A+\frac12}}، المبرهنة 12.9)؛ فتكون g=fχg = f\chi متصلة ذات حامل متراص، ومن ثَمّ متصلة بانتظام، ومنه يكون تمليفها gη=gρηg_\eta = g * \rho_\eta من الصنف C\mathcal C^\infty بمشتقات محدودة من كل الرتب مع ggηε\norm{g - g_\eta}_\infty \leq \varepsilon من أجل η\eta صغير بما يكفي. ومن أجل T=TnT = T_n أو NN، وبما أن f=gf = g على [A,A]\intcc{-A}A و fg2M\abs{f - g} \leq 2M في كل مكان:

Ef(T)Egη(T)E(fg)(T)+ggη2MP(T>A)+ε(2M+1)ε.\bigl|\E f(T) - \E g_\eta(T)\bigr| \leq \E\abs{(f - g)(T)} + \norm{g - g_\eta}_\infty \leq 2M\,\P(\abs T > A) + \varepsilon \leq (2M + 1)\,\varepsilon .

وبالضمّ إلى Egη(Tn)Egη(N)\E g_\eta(T_n) \to \E g_\eta(N) (إذ ينطبق السؤال 4: gηCb3g_\eta \in \mathcal C^3_b):

lim supn  Ef(Tn)Ef(N)2(2M+1)ε,\limsup_n\;\bigl|\E f(T_n) - \E f(N)\bigr| \leq 2(2M + 1)\,\varepsilon ,

و ε\varepsilon كيفي: أي Ef(Tn)Ef(N)\E f(T_n) \to \E f(N) من أجل كل ff محدودة متصلة، أي TnN(0,1)T_n \Rightarrow \mathcal N(0,1).

6. لم يدخل تماثل التوزيع إلا عبر جملة واحدة: «للمتغيّرين XiX_i و NiN_i العزمان الأولان نفسهما». فلتكن إذًا X1,,XnX_1, \dots, X_n مستقلة موسَّطة بتباينات σi2\sigma_i^2 وبعزوم ثالثة منتهية، sn2=iσi2>0s_n^2 = \sum_i\sigma_i^2 > 0، ولتكن NiN(0,σi2)N_i \sim \mathcal N(0, \sigma_i^2) مستقلة عن كل شيء. ونعرّف الهجينات بالتعيير sns_n: Hi=1sn(jiXj+j>iNj)H_i = \frac1{s_n}(\sum_{j\leq i}X_j + \sum_{j>i}N_j). وفي الاستبدال ذي الرتبة ii، يلغي EXi=ENi=0\E X_i = \E N_i = 0 و EXi2=ENi2=σi2\E X_i^2 = \E N_i^2 = \sigma_i^2 حدّي ff' و ff'' من جديد، ويعطي الباقي (باستعمال ENi3=σi3γ\E\abs{N_i}^3 = \sigma_i^3\gamma بالتحجيم):

Ef(Hi)Ef(Hi1)M36sn3(EXi3+σi3γ).\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{M_3}{6\,s_n^3}\bigl(\E\abs{X_i}^3 + \sigma_i^3\gamma\bigr) .

وبالتلسكب:

Ef(X1++Xnsn)Ef(N)M36sn3i=1n(EXi3+V(Xi)3/2γ).\Bigl|\E f\Bigl(\frac{X_1 + \dots + X_n}{s_n}\Bigr) - \E f(N)\Bigr| \leq \frac{M_3}{6\,s_n^3}\sum_{i=1}^n \Bigl(\E\abs{X_i}^3 + \V(X_i)^{3/2}\,\gamma\Bigr) .

وبما أن σi3=(EXi2)3/2EXi3\sigma_i^3 = (\E X_i^2)^{3/2} \leq \E\abs{X_i}^3 (بمتراجحة متوسطات القوى، أي ينسن من أجل tt3/2t \mapsto t^{3/2} مطبَّقةً على Xi2X_i^2)، يكون الطرف الأيمن على الأكثر M3(1+γ)6iEXi3sn3\frac{M_3(1 + \gamma)}{6}\cdot \frac{\sum_i\E\abs{X_i}^3}{s_n^3}: فتحت شرط ليابونوف 1sn3iEXi30\frac1{s_n^3}\sum_i\E\abs{X_i}^3 \to 0، تتقارب المجاميع المعيَّرة في القانون إلى N(0,1)\mathcal N(0,1) — أي مبرهنة النهاية المركزية دون تماثل التوزيع.

7. لتكن ρCc((0,1))\rho \in \mathcal C^\infty_c(\intoo01) مع ρ=1\int\rho = 1 ونضع ψ(x)=x1ρ(s) ⁣ds\psi(x) = \int_x^1\rho(s)\dd s: فتكون ψ\psi من الصنف C\mathcal C^\infty، ومتناقصة بالمعنى الواسع، و ψ=1\psi = 1 على R\R_-، و ψ=0\psi = 0 على [1,)\intco1\infty؛ ولتكن K=ψK = \norm{\psi'''}_\infty. ومن أجل tRt \in \R و δ>0\delta > 0 نعرّف ψδ(x)=ψ(xtδ)\psi_\delta(x) = \psi\bigl(\frac{x - t}\delta\bigr) و ψ~δ(x)=ψ(xtδ+1)\tilde\psi_\delta(x) = \psi\bigl(\frac{x - t}\delta + 1\bigr): فتكونان من الصنف Cb3\mathcal C^3_b بمشتقة ثالثة محدودة بالمقدار K/δ3K/\delta^3، و

1(,tδ]ψ~δ1(,t]ψδ1(,t+δ].\mathbf 1_{\intoc{-\infty}{t-\delta}} \leq \tilde\psi_\delta \leq \mathbf 1_{\intoc{-\infty}t} \leq \psi_\delta \leq \mathbf 1_{\intoc{-\infty}{t+\delta}} .

الحدّ الأعلى: بالسؤال 4 مطبَّقًا على ψδ\psi_\delta (مع M3=K/δ3M_3 = K/\delta^3

P(Tnt)Eψδ(Tn)Eψδ(N)+K(β+γ)6δ3nΦ(t+δ)+K(β+γ)6δ3nΦ(t)+δ2π+K(β+γ)6δ3n,\P(T_n \leq t) \leq \E\psi_\delta(T_n) \leq \E\psi_\delta(N) + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n} \leq \Phi(t + \delta) + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n} \leq \Phi(t) + \frac{\delta}{\sqrt{2\pi}} + \frac{K(\beta + \gamma)}{6\,\delta^3\sqrt n},

لأن Φ\Phi ليبشيتزية بالثابت 12π\frac1{\sqrt{2\pi}} (إذ كثافتها محدودة بالمقدار 12π\frac1{\sqrt{2\pi}}). ويعطي الحدّ الأدنى المتناظر عبر ψ~δ\tilde\psi_\delta التقديرَ ذا الحدّين

suptRP(Tnt)Φ(t)K(β+γ)61δ3n+δ2π(δ>0 كيفي).\sup_{t\in\R}\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \leq \frac{K(\beta + \gamma)}{6}\cdot\frac{1}{\delta^3\sqrt n} + \frac{\delta}{\sqrt{2\pi}} \qquad(\delta > 0\ \text{كيفي}).

ويتوازن الحدّان حين δ3n1/2δ\delta^{-3}n^{-1/2} \asymp \delta، أي δ=n1/8\delta = n^{-1/8}: فيكون كلاهما عندئذٍ O(n1/8)O(n^{-1/8})، أي معدلًا منتظمًا صريحًا صحيحًا من أجل كل nn. (ويتطلب معدل بيري–إسين الأمثل Cβ/nC\beta/\sqrt n متراجحةَ التنعيم الفورييهية؛ ويقايض الاستبدال الحدّةَ بالابتدائية التامة.)

8. من أجل Xi=2Bi1X_i = 2B_i - 1 (أي إشارات عادلة): موسَّطة، بتباين 11، و Xi=1\abs{X_i} = 1 ومنه β=1\beta = 1. وعندئذٍ يحدّ السؤال 7 المقدارَ suptP(Snnt)Φ(t)\sup_t\abs{\P(\frac{S_n}{\sqrt n} \leq t) - \Phi(t)} صراحةً وبانتظام من أجل كل nn منتهٍ — أي عبارة شاملة غير مقاربة عن دالة التوزيع. أما التقدير المحلي في المسألة 11.1، السؤال 7، فيعطي بدل ذلك العباراتِ المقاربة المضبوطة لذرّة مفردة، P(S2n=2k)ek2/nπn\P(S_{2n} = 2k) \sim \frac{\eu^{-k^2/n}}{\sqrt{\pi n}}: فيحلّ احتمالات من حجم n1/2n^{-1/2}، أي أدنى بكثير من دقة n1/8n^{-1/8} في السؤال 7، لكنه نقطيٌّ ومقارب (دون خطأ صريح عند nn مثبَّت) ومقيَّد بهذا القانون الشبكي بعينه. فالدقة المحلية مقابل الانتظام الشامل: الطريقتان متكاملتان، ويستعيد جمعُ التقدير المحلي على k[ ⁣[an,bn] ⁣]k \in \intint{a\sqrt n}{b\sqrt n} مبرهنةَ دي موافر–لابلاس على الفترات — بمعدل أحدّ، لكن من أجل هذا القانون وحده.

9. لم تستعمل حجة الاستبدال شيئًا عن قانون XiX_i وراء EXi=0\E X_i = 0 و EXi2=1\E X_i^2 = 1 وانتهاء EXi3\E\abs{X_i}^3: فلو استبدلنا بالغاوسيات NiN_i أي عائلة مستقلة متماثلة أخرى لها العزمان الأولان نفساهما وعزمٌ ثالث منتهٍ، لحدّ التلسكب نفسه المقدارَ Ef(مجموعX)Ef(مجموعY)\abs{\E f(\text{مجموع}_X) - \E f(\text{مجموع}_Y)} بالمقدار O(n1/2)O(n^{-1/2}) من أجل كل ff ناعمة. ومن ثَمّ فإن الإحصاءات الناعمة للمجاميع المستقلة الكبيرة شاملة: فهي، إلى غاية خطأ مكمَّم، لا تتعلق بقانون الحدود إلا عبر عددين. وهذا هو مبدأ الصمود: أن نبرهن على مبرهنة نهاية من أجل أسهل القوانين حسابًا (الغاوسي، حيث كل شيء مضبوط)، ثم ننقلها إلى جميع القوانين بالاستبدال. والمخطط نفسه — مع استبدال مؤثّرات أعقد بالمجاميع — يقود قانون نصف الدائرة لويغنر من أجل المصفوفات العشوائية، وشمولَ جذور كثيرات الحدود العشوائية، وجُلّ الاحتمالات الحديثة؛ ومبرهنة النهاية المركزية أول حالاته وأبسطها.

10. ZZ دالةٌ بوريلية للمتغيّرات (Ni+1,,Nn)(N_{i+1}, \dots, N_n) وحدها، بينما A=Wi+θhZA = W_i + \theta h - Z و hh دوالٌّ للمتغيّرات الباقية من العائلة المستقلة (X1,,Xn,N1,,Nn)(X_1, \dots, X_n, N_1, \dots, N_n): فبمبدأ الائتلافات (المبرهنة 22.5)، يكون ZZ مستقلًّا عن (A,h)(A, h). وبوصفه مجموعًا للمتغيّرات المستقلة Nj/nN(0,1n)N_j/\sqrt n \sim \mathcal N(0, \frac1n)، ZN(0,s2)Z \sim \mathcal N(0, s^2) مع s2=nins^2 = \frac{n-i}n (التمرين 23.3)، بكثافة محدودة بالمقدار 1s2π\frac1{s\sqrt{2\pi}}. وقانون ((A,h),Z)((A, h), Z) هو جداء القانونين الهامشيين، ومنه يجمّد تونيلي (بالنقل) الكتلةَ الأولى: فمع G(a)=Eg(a+Z)=g(a+z)φs(z) ⁣dzgL1s2πG(a) = \E\abs{g(a + Z)} = \int\abs{g(a + z)}\,\varphi_s(z)\,\dd z \leq \frac{\norm g_{L^1}}{s\sqrt{2\pi}} من أجل كل aa،

E[h3g(A+Z)]=E[h3G(A)]gL1s2πEh3=n2π(ni)gL1Eh3.\E\bigl[\abs h^3\abs{g(A + Z)}\bigr] = \E\bigl[\abs h^3\,G(A)\bigr] \leq \frac{\norm g_{L^1}}{s\sqrt{2\pi}}\,\E\abs h^3 = \sqrt{\frac{n}{2\pi(n-i)}}\,\norm g_{L^1}\,\E\abs h^3 .

11. تنتج الصيغة التكاملية لتايلور بمكاملة f(w+h)f(w)=h01f(w+θh) ⁣dθf(w + h) - f(w) = h\int_0^1f'(w + \theta h)\,\dd\theta بالتجزئة مرتين في θ\theta. وبأخذ الآمال في الاستبدال ذي الرتبة ii، تتلاشى الرتب 0,1,20, 1, 2 تمامًا كما في السؤال 3، ويُحدّ الباقيان (من أجل h=Xi/nh = X_i/\sqrt n ومن أجل Ni/nN_i/\sqrt n)، من أجل in1i \leq n - 1، بالسؤال 10 مع g=fg = f''':

Ef(Hi)Ef(Hi1)01(1θ)22 ⁣dθ  n2π(ni)fL1β+γn3/2=β+γ6n3/2n2π(ni)fL1.\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \int_0^1\frac{(1-\theta)^2}2\,\dd\theta\; \sqrt{\frac{n}{2\pi(n-i)}}\,\norm{f'''}_{L^1} \frac{\beta + \gamma}{n^{3/2}} = \frac{\beta + \gamma}{6\,n^{3/2}} \sqrt{\frac{n}{2\pi(n-i)}}\,\norm{f'''}_{L^1} .

وبالجمع، مع i=1n1nni=nm=1n1m1/22n\sum_{i=1}^{n-1}\sqrt{\frac n{n-i}} = \sqrt n\sum_{m=1}^{n-1}m^{-1/2} \leq 2n، وبإضافة حدّ السؤال 3 الخشن من أجل الاستبدال الأخير (i=ni = n، إذ لا غاوسي متبقٍّ):

Ef(Tn)Ef(Gn)β+γ32πfL1n+M3(β+γ)6n3/2.\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta + \gamma}{3\sqrt{2\pi}}\cdot \frac{\norm{f'''}_{L^1}}{\sqrt n} + \frac{M_3(\beta + \gamma)}{6\,n^{3/2}} .

وأما المنحدرات: ψδ(x)=δ3ψ(xtδ)\psi_\delta'''(x) = \delta^{-3}\psi'''\bigl(\frac{x - t}\delta\bigr)، ومنه M3=Kδ3M_3 = K\delta^{-3} مع K=ψK = \norm{\psi'''}_\infty و ψδL1=δ2ψL1=K1δ2\norm{\psi_\delta'''}_{L^1} = \delta^{-2} \norm{\psi'''}_{L^1} = K_1\delta^{-2} (بالتعويض). ويعطي حصر السؤال 7 عندئذٍ

suptP(Tnt)Φ(t)K1(β+γ)32π1δ2n+K(β+γ)61δ3n3/2+δ2π.\sup_t\,\bigl|\P(T_n \leq t) - \Phi(t)\bigr| \leq \frac{K_1(\beta + \gamma)}{3\sqrt{2\pi}}\cdot \frac1{\delta^2\sqrt n} + \frac{K(\beta + \gamma)}{6}\cdot \frac1{\delta^3n^{3/2}} + \frac\delta{\sqrt{2\pi}} .

وعند δ=n1/6\delta = n^{-1/6} يكون الحدّان الأول والثالث O(n1/6)O(n^{-1/6}) والأوسط O(n1)O(n^{-1}): أي معدل منتظم O(n1/6)O(n^{-1/6})، أفضل تمامًا من n1/8n^{-1/8} في السؤال 7 — إذ أنجز النصف الغاوسي من الهجين التنعيم الإضافي.

12. EN13=0\E N_1^3 = 0 (لأن المقدار المكامَل فردي)، وتعطي المكاملة بالتجزئة أن EN14=3EN12=3\E N_1^4 = 3\,\E N_1^2 = 3 (x3xφ(x) ⁣dx=3x2φ\int x^3\cdot x\varphi(x)\dd x = 3\int x^2\varphi). ومن أجل ff من الصنف C4\mathcal C^4 بمشتقات محدودة، ننشر كل استبدال حتى الرتبة الرابعة: فتحمل حدود الرتبة الثالثة العاملَ EXi3ENi3=0\E X_i^3 - \E N_i^3 = 0 (إذ يحلّلها الاستقلال كما في السؤال 3)، فلا ينجو سوى باقي الرتبة الرابعة 01(1θ)36f(4)(w+θh)h4 ⁣dθ\int_0^1\frac{(1-\theta)^3}6f^{(4)}(w + \theta h)h^4\dd\theta، مع 01(1θ)36 ⁣dθ=124\int_0^1 \frac{(1-\theta)^3}6\dd\theta = \frac1{24} و Eh4=β4n2\E h^4 = \beta_4n^{-2} أو 3n23n^{-2}. ويحدّ السؤال 10 (مع g=f(4)g = f^{(4)}) الاستبدالاتِ in1i \leq n - 1، وبالجمع كما في السؤال 11:

Ef(Tn)Ef(Gn)β4+3122πf(4)L1n+M4(β4+3)24n2.\bigl|\E f(T_n) - \E f(G_n)\bigr| \leq \frac{\beta_4 + 3}{12\sqrt{2\pi}}\cdot \frac{\norm{f^{(4)}}_{L^1}}{n} + \frac{M_4(\beta_4 + 3)}{24\,n^2} .

ومع ψδ(4)L1=K2δ3\norm{\psi_\delta^{(4)}}_{L^1} = K_2\delta^{-3} و M4=Kδ4M_4 = K'\delta^{-4}، يصير حدّ دالة التوزيع Cδ3n1+Cδ4n2+δ2πC\delta^{-3}n^{-1} + C'\delta^{-4}n^{-2} + \frac\delta{\sqrt{2\pi}}؛ وعند δ=n1/4\delta = n^{-1/4} يكون الحدّان الخارجيان O(n1/4)O(n^{-1/4}) والأوسط O(n1)O(n^{-1}): أي معدل O(n1/4)O(n^{-1/4}).

13. مع kk من العزوم المتطابقة يكون الباقي الناجي لكل استبدال من رتبة Ehk+1n(k+1)/2\E\abs h^{k+1} \asymp n^{-(k+1)/2}؛ ويحمّل حدُّ الغاوسي المختبئ f(k+1)L1\norm{f^{(k+1)}}_{L^1} ويسهم المجموع على الاستبدالات بالعامل 2n2n، فيعطي f(k+1)L1n(k1)/2\asymp\norm{f^{(k+1)}}_{L^1}\, n^{-(k-1)/2} من أجل ff الناعمة. وتكلّف المنحدرات ψδ(k+1)L1δk\norm{\psi_\delta^{(k+1)}}_{L^1} \asymp \delta^{-k}، ومنه يكون خطأ دالة التوزيع δkn(k1)/2+δ\asymp \delta^{-k}n^{-(k-1)/2} + \delta، متوازنًا عند δ=n(k1)/(2k+2)\delta = n^{-(k-1)/(2k+2)}: أي معدل n(k1)/(2k+2)n^{-(k-1)/(2k+2)}، وهو n1/6n^{-1/6} من أجل k=2k = 2، و n1/4n^{-1/4} من أجل k=3k = 3، ولا يؤول إلى n1/2n^{-1/2} إلا حين kk \to \infty — لكن k4k \geq 4 كان سيفرض EX14=3\E X_1^4 = 3 وما بعده، أي قانونًا يحاكي الغاوسي أصلًا. والتشبّع بنيوي: إذ يجمع الاستبدال nn من أخطاء الاستبدال بالقيمة المطلقة، متخليًّا عن كل تلاشٍ بين الاستبدالات. أما البرهان الفورييهي فيقارن الدوال المميِّزة، حيث تظهر الأخطاء بأطوارها المتذبذبة؛ وتحوّل متراجحة إسين في التنعيم المقدارَ φTnφN\abs{\varphi_{T_n} - \varphi_N}، مكامَلًا مقابل  ⁣dξξ\frac{\dd\xi}{\abs\xi}، إلى حدّ على دالة التوزيع بكلفة لوغاريتمية فقط، وتسلّم معدل بيري–إسين Cβn1/2C\beta n^{-1/2} بثلاثة عزوم. فيقايض الاستبدال الأمثلية بالمتانة — وبالقابلية للنقل، كما يبيّن الجزء السابع.

14. Σ\Sigma متناظرة موجبة شبه معيَّنة؛ ومع Σ=PDPT\Sigma = PDP^{\mathsf T} (حيث PP متعامدة و D0D \geq 0 قطرية، التمرين 20.8)، تحقق المتناظرة C=PDPTC = P\sqrt DP^{\mathsf T} أن C2=ΣC^2 = \Sigma. ومن أجل أي tR2t \in \R^2، يكون t,CZ=Ct,Z=(Ct)1Z1+(Ct)2Z2\langle t, CZ\rangle = \langle Ct, Z\rangle = (Ct)_1Z^1 + (Ct)_2Z^2 تركيبةً خطية لغاوسيات مستقلة، ومن ثَمّ غاوسيًّا (التمرين 23.3): فتكون N=CZN = CZ متجهةً غاوسية؛ ومتوسطها 00 وتغايرها E[NNT]=CE[ZZT]CT=CCT=Σ\E[NN^{\mathsf T}] = C\,\E[ZZ^{\mathsf T}]\,C^{\mathsf T} = CC^{\mathsf T} = \Sigma. وأما العزوم: N3(N1+N2)34(N13+N23)\norm N^3 \leq (\abs{N_1} + \abs{N_2})^3 \leq 4(\abs{N_1}^3 + \abs{N_2}^3) (بتحدّب x3x^3 على R+\R_+)، وكل إحداثي غاوسيٌّ حقيقي بعزوم من كل الرتب (التمرين 11.10): γ<\gamma' < \infty. وأخيرًا كل t,Gn=1nit,Ni\langle t, G_n\rangle = \frac1{\sqrt n}\sum_i\langle t, N_i\rangle مجموعٌ معيَّر لمتغيّرات مستقلة متماثلة N(0,tTΣt)\mathcal N(0, t^{\mathsf T}\Sigma t)، ومن ثَمّ N(0,tTΣt)\mathcal N(0, t^{\mathsf T}\Sigma t) بالضبط: فيكون GnG_n متجهةً غاوسية بمتوسط 00 وتغاير Σ\Sigma، وقانونها N(0,Σ)\mathcal N(0, \Sigma) (التعريف 23.10: إذ يتعيّن القانون بهذه المعطيات).

15. لتكن ϕ(t)=f(w+th)\phi(t) = f(w + th) مع t[0,1]t \in \intcc01: فتكون ϕ\phi من الصنف C3\mathcal C^3 مع

ϕ(t)=j,k,l{1,2}jklf(w+th)hjhkhl,ϕ(t)M3(jhj)3=M3(h1+h2)3.\phi'''(t) = \sum_{j,k,l\in\{1,2\}}\partial_{jkl}f(w + th)\,h_jh_kh_l, \qquad \abs{\phi'''(t)} \leq M_3\Bigl(\sum_j\abs{h_j}\Bigr)^3 = M_3(\abs{h_1} + \abs{h_2})^3 .

ويعطي تايلور–لاغرانج من الرتبة 33 من أجل ϕ\phi بين 00 و 11 المتراجحةَ الأولى؛ وتعطي كوشي–شوارتز أن h1+h22h\abs{h_1} + \abs{h_2} \leq \sqrt2\norm h، ومن هنا الثابت 22M36=2M33\frac{2\sqrt2M_3}6 = \frac{\sqrt2M_3}3.

16. نعرّف HiH_i و WiW_i كما في السؤال 1، لكن في R2\R^2؛ وحجة الائتلافات دون تغيير. وفي الاستبدال ذي الرتبة ii، تعطي حدود الرتبة الأولى jE[jf(Wi)](EXi,jENi,j)/n=0\sum_j\E[\partial_jf(W_i)]\,(\E X_{i,j} - \E N_{i,j})/ \sqrt n = 0 وتعطي حدود الرتبة الثانية 12nj,kE[jkf(Wi)](ΣjkΣjk)=0\frac1{2n}\sum_{j,k}\E[\partial_{jk}f(W_i)]\,(\Sigma_{jk} - \Sigma_{jk}) = 0: أي تتطابق المتوسطات والتغايرات. ويحدّ السؤال 15 الباقيين:

Ef(Hi)Ef(Hi1)2M33EXi3+ENi3n3/2=2M3(β+γ)3n3/2,\bigl|\E f(H_i) - \E f(H_{i-1})\bigr| \leq \frac{\sqrt2M_3}3\cdot\frac{\E\norm{X_i}^3 + \E\norm{N_i}^3}{n^{3/2}} = \frac{\sqrt2M_3(\beta' + \gamma')}{3\,n^{3/2}},

وبالتلسكب على الاستبدالات nn:

Ef(Snn)Ef(Gn)2M3(β+γ)3n,GnN(0,Σ) بالضبط.\Bigl|\E f\Bigl(\frac{S_n}{\sqrt n}\Bigr) - \E f(G_n)\Bigr| \leq \frac{\sqrt2\,M_3(\beta' + \gamma')}{3\sqrt n}, \qquad G_n \sim \mathcal N(0, \Sigma)\ \text{بالضبط} .

والترقية: ETn2=EX12=trΣ\E\norm{T_n}^2 = \E\norm{X_1}^2 = \operatorname{tr}\Sigma (إذ تتلاشى الحدود المتقاطعة بالاستقلال والتوسيط)، ومنه P(Tn>A)trΣ/A2\P(\norm{T_n} > A) \leq \operatorname{tr}\Sigma/A^2، وبالمثل من أجل NN: أي الإحكام. وبإعطاء ff محدودة متصلة و ε>0\varepsilon > 0، نضرب في هضبة ناعمة χ\chi تساوي 11 على الكرة ذات نصف القطر AA وحاملها في نصف القطر A+1A + 1 (بتمليف دالة مميّزة في R2\R^2، المبرهنة 12.9)؛ فتكون g=fχg = f\chi متصلة بانتظام ذات حامل متراص، ومنه يكون تمليفها الثنائي البُعد gηg_\eta من الصنف C\mathcal C^\infty بمشتقات محدودة من كل الرتب مع ggηε\norm{g - g_\eta}_\infty \leq \varepsilon من أجل η\eta صغير. وعندئذٍ تنتقل سلسلة ε\varepsilon الثلاثية في السؤال 5 حرفيًّا: أي Ef(Tn)Ef(N)\E f(T_n) \to \E f(N) من أجل كل f ⁣:R2Rf \colon \R^2 \to \R محدودة متصلة. وهذه هي المبرهنة 23.12 من أجل d=2d = 2، مبرهَنًا عليها الآن — إذ يتفادى الاستبدال مبرهنةَ ليفي الثنائية البُعد التي تركها الفصل مسلَّمًا بها.

17. من أجل g ⁣:RRg \colon \R \to \R محدودة متصلة، يكون التطبيق xg(t,x)x \mapsto g(\langle t, x\rangle) محدودًا متصلًا على R2\R^2، ومنه يعطي السؤال 16 أن Eg(t,Tn)Eg(t,N)\E g(\langle t, T_n\rangle) \to \E g(\langle t, N\rangle): أي يتقارب كل إسقاط في التوزيع، و t,NN(0,tTΣt)\langle t, N\rangle \sim \mathcal N(0, t^{\mathsf T}\Sigma t). (وهذا هو الاتجاه السهل من كرامر–وولد: أن التقارب المشترك يستلزم تقارب جميع الصور الخطية.) وتطبيقٌ: Vi=(ξi,ξi21)V_i = (\xi_i, \xi_i^2 - 1) متجهات مستقلة متماثلة موسَّطة (إذ Eξ12=1\E\xi_1^2 = 1)، بعناصر تغاير V(ξ1)=1\V(\xi_1) = 1، Cov(ξ1,ξ121)=Eξ13\operatorname{Cov}(\xi_1, \xi_1^2 - 1) = \E\xi_1^3 و V(ξ121)=Eξ141\V(\xi_1^2 - 1) = \E\xi_1^4 - 1؛ والعزم الثالث EV134(Eξ13+Eξ1213)\E\norm{V_1}^3 \leq 4\bigl(\E\abs{\xi_1}^3 + \E\abs{\xi_1^2 - 1}^3\bigr) منتهٍ حين ξ1L6\xi_1 \in L^6. ويعطي السؤال 16 النهايةَ الغاوسية المشتركة المعروضة، وتعطي المبرهنة 23.11(2): أن إحداثيَي النهاية مستقلان بالضبط حين ينعدم التغاير Eξ13\E\xi_1^3 — فمن أجل القوانين المتناظرة، ينفصل المتوسط التجريبي والتباين التجريبي مقاربًا.

18. نكتب g(x)g(θ)=(g(θ)+η(x))(xθ)g(x) - g(\theta) = (g'(\theta) + \eta(x))(x - \theta) حيث η(x)=g(x)g(θ)xθg(θ)\eta(x) = \frac{g(x) - g(\theta)}{x - \theta} - g'(\theta) من أجل xθx \neq \theta و η(θ)=0\eta(\theta) = 0: فتعني القابلية للاشتقاق عند θ\theta بالضبط أن η(x)0\eta(x) \to 0 حين xθx \to \theta. الخطوة 1: θ^nθ\hat\theta_n \to \theta احتماليًّا: فمن أجل ε>0\varepsilon > 0 ومن أجل أي A>0A > 0، يكون في النهاية εnA\varepsilon\sqrt n \geq A، ومنه P(θ^nθ>ε)P(n(θ^nθ)>A)P(σN>A)\P(\abs{\hat\theta_n - \theta} > \varepsilon) \leq \P(\abs{\sqrt n(\hat\theta_n - \theta)} > A) \to \P(\sigma\abs N > A) (إذ تتقارب دوال التوزيع عند نقطتَي الاتصال ±A\pm A)، ويؤول الطرف الأيمن إلى 00 حين AA \to \infty. الخطوة 2: η(θ^n)0\eta(\hat\theta_n) \to 0 احتماليًّا: فبإعطاء ε>0\varepsilon' > 0، نختار δ\delta يحقق ηε\abs\eta \leq \varepsilon' على xθδ\abs{x - \theta} \leq \delta؛ عندئذٍ P(η(θ^n)>ε)P(θ^nθ>δ)0\P(\abs{\eta(\hat\theta_n)} > \varepsilon') \leq \P(\abs{\hat\theta_n - \theta} > \delta) \to 0. الخطوة 3:

n(g(θ^n)g(θ))=g(θ)n(θ^nθ)+η(θ^n)n(θ^nθ).\sqrt n\bigl(g(\hat\theta_n) - g(\theta)\bigr) = g'(\theta)\,\sqrt n(\hat\theta_n - \theta) + \eta(\hat\theta_n)\cdot\sqrt n(\hat\theta_n - \theta) .

وبقاعدة الجداء لسلوتسكي (التمرين 23.8، مع المتتالية η(θ^n)0\eta(\hat\theta_n) \to 0 احتماليًّا ومع n(θ^nθ)\sqrt n(\hat\theta_n - \theta) المتقاربة في القانون)، يتقارب الحدّ الثاني في القانون إلى 0N(0,σ2)=00\cdot\mathcal N(0, \sigma^2) = 0، ومن ثَمّ إلى 00 احتماليًّا (التمرين 23.4(b))؛ ويتقارب الأول في القانون إلى g(θ)N(0,σ2)g'(\theta)\mathcal N(0, \sigma^2) (بسلوتسكي من جديد، أو بقاعدة التآلف للدوال المميِّزة)؛ وتركّب قاعدة المجموع لسلوتسكي بينهما: فتكون النهاية N(0,g(θ)2σ2)\mathcal N(0, g'(\theta)^2\sigma^2).

19. (a) تعطي مبرهنة النهاية المركزية n(Xˉnμ)N(0,σ2)\sqrt n(\bar X_n - \mu) \Rightarrow \mathcal N(0, \sigma^2)؛ وتعطي طريقة دلتا مع g(x)=x2g(x) = x^2 و g(μ)=2μg'(\mu) = 2\mu أن n(Xˉn2μ2)N(0,4μ2σ2)\sqrt n(\bar X_n^2 - \mu^2) \Rightarrow \mathcal N(0, 4\mu^2\sigma^2) — وهي منحلّة (بنهاية 00) حين μ=0\mu = 0. وفي تلك الحالة يعيش التذبذب عند سلّم أعلى: nXˉn2=(nXˉn)2n\bar X_n^2 = (\sqrt n\,\bar X_n)^2، ومن أجل t>0t > 0

P(nXˉn2t)=P(tnXˉnt)Φ(tσ)Φ(tσ)=P(σ2N2t):\P\bigl(n\bar X_n^2 \leq t\bigr) = \P\bigl(-\sqrt t \leq \sqrt n\,\bar X_n \leq \sqrt t\bigr) \longrightarrow \Phi\Bigl(\frac{\sqrt t}\sigma\Bigr) - \Phi\Bigl(-\frac{\sqrt t}\sigma\Bigr) = \P(\sigma^2N^2 \leq t) :

أي nXˉn2σ2N2n\bar X_n^2 \Rightarrow \sigma^2N^2، وهو مربّع غاوسي (أي قانون «مربّع كاي») — فحين تموت المشتقة الأولى، يملي حدُّ تايلور من الرتبة الثانية نهايةً غير غاوسية. (b) وهنا n(p^np)N(0,p(1p))\sqrt n(\hat p_n - p) \Rightarrow \mathcal N(0, p(1 - p))، وللمقدار g(p)=arcsinpg(p) = \arcsin\sqrt p القيمةُ g(p)=12p(1p)g'(p) = \frac1{2\sqrt{p(1 - p)}}، ومنه g(p)2p(1p)=14g'(p)^2\,p(1 - p) = \frac14: فتكون النهاية N(0,14)\mathcal N(0, \frac14) من أجل كل p(0,1)p \in \intoo01. وعلى سلّم arcsin\arcsin يكون شريط الخطأ المقارب 95%95\% هو ±0.98n\pm \frac{0.98}{\sqrt n}، معروفًا سلفًا — بينما تضمّن العرض في المثال 23.9 المقدارَ المجهول σ=p(1p)\sigma = \sqrt{p(1-p)}، ليُعالَج بأسوأ حالة 12\frac12 أو يُقدَّر: فالتحويل يثبّت التباين.

20. لتكن A={k:μ({k})>ν({k})}A^* = \{k : \mu(\{k\}) > \nu(\{k\})\} ولتكن Δk=μ({k})ν({k})\Delta_k = \mu(\{k\}) - \nu(\{k\})، ومنه kΔk=0\sum_k\Delta_k = 0. ومن أجل أي ANA \subseteq \N: μ(A)ν(A)=kAΔkkAΔk\mu(A) - \nu(A) = \sum_{k\in A}\Delta_k \leq \sum_{k\in A^*}\Delta_k، مع التساوي عند A=AA = A^*؛ وبما أن للجزأين الموجب والسالب من (Δk)(\Delta_k) الكتلةَ الكلية نفسها، AΔk=12kΔk\sum_{A^*}\Delta_k = \frac12\sum_k\abs{\Delta_k}. وبتبادل μ,ν\mu, \nu نعالج الإشارة: dTV(μ,ν)=12kΔkd_{\mathrm{TV}}(\mu, \nu) = \frac12\sum_k\abs{\Delta_k}. وأما الاقتران: فمن أجل أي AA،

μ(A)ν(A)=E[1A(X)1A(Y)]=E[(1A(X)1A(Y))1XY]P(XY),\mu(A) - \nu(A) = \E\bigl[\mathbf 1_A(X) - \mathbf 1_A(Y)\bigr] = \E\bigl[(\mathbf 1_A(X) - \mathbf 1_A(Y))\,\mathbf 1_{X\neq Y}\bigr] \leq \P(X \neq Y),

ثم نأخذ السوپريموم على AA.

21. يشحن القانونان: k=0k = 0: 1p1 - p مقابل ep\eu^{-p}، مع ep>1p\eu^{-p} > 1 - p؛ و k=1k = 1: pp مقابل pep<pp\,\eu^{-p} < p؛ و k2k \geq 2: 00 مقابل باقي بواسون 1eppep01 - \eu^{-p} - p\eu^{-p} \geq 0. ومنه

dTV=12[(ep1+p)+(ppep)+(1eppep)]=12(2p2pep)=p(1ep),d_{\mathrm{TV}} = \tfrac12\bigl[(\eu^{-p} - 1 + p) + (p - p\eu^{-p}) + (1 - \eu^{-p} - p\eu^{-p})\bigr] = \tfrac12\bigl(2p - 2p\eu^{-p}\bigr) = p(1 - \eu^{-p}),

ويعطي 1epp1 - \eu^{-p} \leq p الحدَّ p2p^2.

22. نكتب Hi1=Wi+XiH_{i-1} = W_i + X_i و Hi=Wi+YiH_i = W_i + Y_i مع Wi=j<iYj+j>iXjW_i = \sum_{j<i}Y_j + \sum_{j>i}X_j، مستقلًّا عن الزوج (Xi,Yi)(X_i, Y_i) (بالائتلافات). ومن أجل ANA \subseteq \N، بالشرطنة على القيم القابلة للعدّ بالاستقلال،

P(Hi1A)=k0P(Xi=k)P(Wi+kA),\P(H_{i-1} \in A) = \sum_{k\geq0}\P(X_i = k)\,\P(W_i + k \in A),

وبالمثل من أجل HiH_i مع YiY_i. وبالطرح، مع ck=P(Wi+kA)[0,1]c_k = \P(W_i + k \in A) \in \intcc01 و Δk=P(Xi=k)P(Yi=k)\Delta_k = \P(X_i = k) - \P(Y_i = k) ذات المجموع المعدوم:

P(Hi1A)P(HiA)=kΔk(ck12)12kΔk=dTV(B(1,pi),P(pi)).\abs{\P(H_{i-1} \in A) - \P(H_i \in A)} = \Bigl|\sum_k\Delta_k\bigl(c_k - \tfrac12\bigr)\Bigr| \leq \tfrac12\sum_k\abs{\Delta_k} = d_{\mathrm{TV}}\bigl(\mathcal B(1, p_i), \mathcal P(p_i)\bigr) .

وبالتلسكب من H0=SH_0 = S إلى Hn=iYiP(λ)H_n = \sum_iY_i \sim \mathcal P(\lambda) (التمرين 23.1، مكرَّرة) وباستعمال السؤال 21:

P(SA)P(P(λ)A)i=1npi(1epi)i=1npi2من أجل كلA:\abs{\P(S \in A) - \P(\mathcal P(\lambda) \in A)} \leq \sum_{i=1}^np_i\bigl(1 - \eu^{-p_i}\bigr) \leq \sum_{i=1}^np_i^2 \qquad\text{من أجل كل} A :

أي متراجحة لوكام. (ويعطي حدُّ الاقتران في السؤال 20 طريقًا بديلًا: أن نقرن كل زوج على متغيّر منتظم واحد بحيث P(XiYi)pi2\P(X_i \neq Y_i) \leq p_i^2 ونحدّ P(SYi)\P(S \neq \sum Y_i)؛ ولا يحتاج الاستبدال إلى أي بناء البتة.)

23. (a) مع pi=λnp_i = \frac\lambda n: dTV(قانونS,P(λ))λ2nd_{\mathrm{TV}}(\text{قانون}S, \mathcal P(\lambda)) \leq \frac{\lambda^2}n. وهذا يحدّ التمرين 23.5 ثلاث مرات: بخطأ صريح عند كل nn منتهٍ، وبانتظام على جميع الحوادث AA دفعةً واحدة (لا فترةً فترةً)، ودون حاجة إلى pip_i متساوية — بل يكفي أن يكون ipi2\sum_ip_i^2 صغيرًا، مثلًا pi2λmaxipi\sum p_i^2 \leq \lambda\max_ip_i: أي حوادث نادرة كثيرة، لا مهيمن فيها. (b) وهنا n=500n = 500 و pi=1500p_i = \frac1{500} و λ=1\lambda = 1: فيخطئ نموذج بواسون بما لا يتجاوز 50015002=0.002500\cdot\frac1{500^2} = 0.002 على كل حادثة؛ وعلى وجه الخصوص، بأخذ A={0}A = \{0\}،

P(لا رسالة تضلّ)=(11500)500,P(لا رسالة تضلّ)e10.002,\P(\text{لا رسالة تضلّ}) = \Bigl(1 - \frac1{500}\Bigr)^{500}, \qquad \Bigl|\P(\text{لا رسالة تضلّ}) - \eu^{-1}\Bigr| \leq 0.002,

ومنه يكون الجواب e10.368\eu^{-1} \approx 0.368 إلى غاية 0.0020.002 مضمونة (والفارق الحقيقي نحو 41044\cdot10^{-4}). (c) وتُختتم المسألة على طريقة واحدة بنظامين. فحين تحمل nn من الإسهامات المتقارنة تباينًا 1n\frac1n لكلٍّ منها، تجعل مطابقةُ عزمين مقابل الغاوسي أخطاءَ الاستبدال o(1n)o(\frac1n) لكلٍّ منها: فتذهب المجاميع إلى الغاوسي — بتايلور أداةً للمقارنة المحلية. وحين تكون nn من الإسهامات دوالًّا مميّزة باحتمالات pip_i، تجعل مطابقةُ المتوسط مقابل ذرّة بواسونية كلفةَ كل استبدال pi2p_i^2: فتذهب عدّادات الحوادث النادرة إلى بواسون — بالتغيّر الكلي أداةً للمقارنة المحلية المضبوطة. فالهجينات نفسها، والتلسكب نفسه، وتقديرٌ محلي مختلف: فالاستبدال استراتيجية لا مبرهنة، والنهايتان الغاوسية والبواسونية أقدم عوائده.

24. تعطي مبرهنة النهاية المركزية أن n(Xˉnμ)N(0,σ2)\sqrt n(\bar X_n - \mu) \Rightarrow \mathcal N(0, \sigma^2)، و g(x)=lnxg(x) = \ln x قابل للاشتقاق عند μ>0\mu > 0 مع g(μ)=1μg'(\mu) = \frac1\mu: فتعطي طريقة دلتا (الجزء السادس) أن n(lnXˉnlnμ)N(0,σ2/μ2)\sqrt n(\ln\bar X_n - \ln\mu) \Rightarrow \mathcal N(0, \sigma^2/\mu^2). وبفكّ الفترة lnXˉnlnμ1.96σμn\abs{\ln\bar X_n - \ln\mu} \leq \frac{1.96\,\sigma}{\mu\sqrt n} بأخذ الأُسّي:

μXˉne±1.96σ/(μn)باحتمال مقارب95%\mu \in \bar X_n\cdot \eu^{\pm1.96\,\sigma/(\mu\sqrt n)} \qquad\text{باحتمال مقارب} 95\%

(وعمليًّا يُستبدل بالمقدار σ/μ\sigma/\mu نظيرُه التجريبي، وبسلوتسكي كما في التمرين 23.8). والفترة الضربية هي الطبيعية حين تكون المعطيات موجبة بأخطاء متناسبة مع حجمها — المداخيل، والتراكيز، وأزمنة نصف العمر: أي كميات تعيش على سلّم لوغاريتمي، حيث قد تعبر الفتراتُ الجمعية المتناظرة الصفرَ.

25. E[(Xp)3]=(1p)3p+(p)3(1p)=p(1p)[(1p)2p2]=p(1p)(12p)\E[(X - p)^3] = (1-p)^3p + (-p)^3(1 - p) = p(1-p)\bigl[(1-p)^2 - p^2\bigr] = p(1-p)(1 - 2p). وفي تحليل الاستبدال (الجزء الرابع)، يحمل حدّ الخطأ الرئيسي بعد مطابقة عزمين العزمَ الثالث بإشارته: فمن أجل p<12p < \frac12 يكون موجبًا (إذ يميل القانون يمينًا: بنزوات كبيرة نادرة فوق المتوسط)، ويسيء التقريبُ الغاوسي وضعَ الكتلة نظاميًّا — فيقلّل من الذيل الأيسر القصير ويبالغ في الأيمن — بخطأ من رتبة n1/2n^{-1/2}؛ وعند p=12p = \frac12 ينعدم العزم الثالث، ويوافق قانون برنولي الغاوسيَّ حتى الرتبة الثالثة، ويتحسّن المعدل (أي سؤال العزوم المتطابقة في الجزء الرابع). وعدديًّا: P(S=0)=0.920=0.1216\P(S = 0) = 0.9^{20} = 0.1216، بينما يعطي الغاوسي N(2,1.8)\mathcal N(2, 1.8) المقدارَ Φ(0.521.8)=Φ(1.118)0.132\Phi\bigl(\frac{0.5 - 2}{\sqrt{1.8}}\bigr) = \Phi(-1.118) \approx 0.132: فيضع المنحني الطبيعي، جاهلًا الجدارَ عند 00 والالتواءَ نحو اليمين، كتلةً أكبر مما ينبغي عند الأسفل — أي إشارة الخطأ المتنبَّأ بها، مرئيةً عند n=20n = 20.

المصطلحات المعرَّفة في هذا الفصل

عرض كل المصطلحات (395) في المسرد