Mathematics · الكتاب 5 · Bachelor Year 3

الرياضيات الجامعية — السنة 3

الرياضيات الجامعية — السنة 3 · Bachelor Year 3

22الاحتمالات: الأسس وقانون الأعداد الكبيرة

بنت السنة الجامعية 2 الاحتمالات على الفضاءات القابلة للعدّ؛ وترفع نظرية القياس الآن كل قيد. فالفضاء الاحتمالي فضاءٌ قياسي كتلته الكلية 11، والمتغيّرات العشوائية تطبيقات قابلة للقياس، والأمل هو تكامل لوبيغ — وفورًا تنطبق الترسانة التحليلية كلها (الفصول 9، 10 و11) على الصدفة. ويركّب هذا الفصل المعجم، ويبني متتاليات لانهائية من المتغيّرات العشوائية المستقلة (على [0,1]\intcc01، انطلاقًا من الأرقام الثنائية: فالعشوائية مختبئة داخل قياس لوبيغ)، ويبرهن على مبرهنتَي بوريل–كانتيلي المساعدتين وعلى قانون كولموغوروف صفر–واحد، ويرتّب أنماط التقارب، ويبرهن على قانون الأعداد الكبيرة — أي المبرهنة التي تجعل التواترات تتقارب إلى الاحتمالات وتجعل الإحصاء ممكنًا. وتعطي مسألة نهاية الأسبوع برهان إتِمادي على القانون القوي في صيغته النهائية L1L^1.

22.1 المعجم

تعريف 22.1

الفضاء الاحتمالي فضاءٌ قياسي (Ω,A,P)(\Omega, \mathcal A, \P) مع P(Ω)=1\P(\Omega) = 1؛ وتسمّى عناصر A\mathcal A حوادث، ويقال إن خاصيةً تصح شبه أكيد إذا كان احتمال حادثتها 11. والمتغيّر العشوائي تطبيقٌ قابل للقياس X ⁣:ΩRX \colon \Omega \to \R (أو إلى Rd\R^d: أي متجهة عشوائية)؛ وقانونه هو القياس الاحتمالي المدفوع PX=XP\P_X = X_*\P على R\R (التمرين 11.9)، معيَّنًا بواسطة دالة التوزيع FX(t)=P(Xt)F_X(t) = \P(X \leq t) (التمرين 9.3). ويقبل XX كثافة ff إذا كان PX=f ⁣dλ\P_X = f\,\dd\lambda؛ ويكون متقطّعًا إذا كان PX\P_X تركيبةً قابلة للعدّ من كتل ديراك. والأمل هو

E[X]=ΩX ⁣dP(X0 أو XL1(P)),\E[X] = \int_\Omega X\,\dd\P \qquad (X \geq 0 \text{ أو } X \in L^1(\P)),

وتحسبه مبرهنة النقل (التمرين 11.9) في القانون: E[g(X)]=Rg ⁣dPX\E[g(X)] = \int_\R g\,\dd\P_X — أي =g(xk)pk= \sum g(x_k)p_k في الحالة المتقطّعة، و =g(x)f(x) ⁣dx= \int g(x)f(x)\dd x في حالة الكثافة: أي صيغ السنة الجامعية 2، وقد صارت مبرهنات نظرية واحدة. والتباين هو V(X)=E[(XEX)2]=E[X2](EX)2\V(X) = \E[(X - \E X)^2] = \E[X^2] - (\E X)^2 من أجل XL2X \in L^2.

مثال 22.2

القوانين المعيارية وتحويلاتها الجديرة بالذكر: برنولي B(p)\mathcal B(p)، والثنائي B(n,p)\mathcal B(n, p)، والهندسي، وبواسون P(λ)\mathcal P(\lambda) (وهي متقطّعة: وتبقى جداول السنة الجامعية 2 صحيحة)؛ والمنتظم على [0,1]\intcc01 (أي قياس لوبيغ نفسه)؛ والأُسّي E(λ)\mathcal E(\lambda) (بكثافة λeλx1x>0\lambda\eu^{-\lambda x}\mathbf 1_{x>0})؛ والقانون الغاوسي N(m,σ2)\mathcal N(m, \sigma^2) بكثافة 1σ2πexp((xm)22σ2)\frac1{\sigma\sqrt{2\pi}}\exp\bigl(-\frac{(x - m)^2}{2\sigma^2}\bigr) — وهي كثافة احتمالية حسب المسألة 10.1، بمتوسط mm وتباين σ2\sigma^2 (العزوم الغاوسية، التمرين 11.10).

قضية 22.3 (ماركوف وتشيبيشيف)

من أجل X0X \geq 0 و a>0a > 0: P(Xa)EXa\P(X \geq a) \leq \frac{\E X}{a}؛ ومن أجل XL2X \in L^2: P(XEXa)V(X)a2\P\bigl(\abs{X - \E X} \geq a\bigr) \leq \frac{\V(X)}{a^2}.

برهان. التمرين 10.5(a)؛ وتشيبيشيف هي ماركوف مطبَّقة على (XEX)2(X - \E X)^2.

22.2 الاستقلال

تعريف 22.4

تكون الجبور الجزئية من النمط σ\sigma A1,,AnA\mathcal A_1, \dots, \mathcal A_n \subseteq \mathcal A مستقلة إذا كان P(A1An)=P(Ai)\P(A_1\cap\dots\cap A_n) = \prod\P(A_i) من أجل كل AiAiA_i \in \mathcal A_i؛ وتكون الحوادث مستقلة إذا كانت الجبور من النمط σ\sigma {,Ai,Aic,Ω}\{\varnothing, A_i, A_i^c, \Omega\} كذلك؛ وتكون المتغيّرات العشوائية X1,,XnX_1, \dots, X_n مستقلة إذا كانت الجبور من النمط σ\sigma σ(Xi)=Xi1(B(R))\sigma(X_i) = X_i^{-1}(\mathcal B(\R)) كذلك. وتكون عائلة لانهائية مستقلة إذا كانت كل عائلة جزئية منتهية منها مستقلة.

مبرهنة 22.5

تكون X1,,XnX_1, \dots, X_n مستقلة إذا وفقط إذا كان قانون المتجهة (X1,,Xn)(X_1, \dots, X_n) هو القياس الجدائي PX1PXn\P_{X_1}\otimes\cdots\otimes\P_{X_n}. وفي تلك الحالة، من أجل gi0g_i \geq 0 (أو بحيث تكون الجداءات قابلة للمكاملة):

E[igi(Xi)]=iE[gi(Xi)],\E\Bigl[\prod_ig_i(X_i)\Bigr] = \prod_i\E[g_i(X_i)],

وعلى وجه الخصوص E[XY]=EXEY\E[XY] = \E X\,\E Y و V(X1++Xn)=V(Xi)\V(X_1 + \dots + X_n) = \sum\V(X_i) من أجل متغيّرات مستقلة من L2L^2.

برهان. إذا كانت XiX_i مستقلة، توافق القياسان الاحتماليان P(X1,,Xn)\P_{(X_1,\dots,X_n)} و PXi\bigotimes\P_{X_i} على جميع الجداءات B1××BnB_1\times\dots\times B_n للمجموعات البوريلية — وهي نظام من النمط π\pi يولّد B(Rn)\mathcal B(\R^n) (القضية 11.2(b)) — ومن ثَمّ في كل مكان (المبرهنة 9.7). وبالعكس، يحلّل قانونٌ جدائي جميع الحوادث iXi1(Bi)\bigcap_iX_i^{-1}(B_i): أي الاستقلال. وصيغة الأمل هي عندئذٍ تونيلي/فوبيني (المبرهنة 11.5) عبر مبرهنة النقل؛ و E[XY]=EXEY\E[XY] = \E X\E Y هي الحالة gi=idg_i = \mathrm{id}، ويعطي نشر المربّع جمعيةَ التباينات (إذ الحدود المتقاطعة E[(XiEXi)(XjEXj)]=0\E[(X_i - \E X_i)(X_j - \E X_j)] = 0).

مبرهنة 22.6 (وجود المتتاليات المستقلة)

على ([0,1],L,λ)\bigl(\intcc01, \mathcal L, \lambda\bigr) توجد متتالية (Un)n1(U_n)_{n\geq1} من المتغيّرات العشوائية المستقلة، كلٌّ منها منتظم على [0,1]\intcc01. ومن ثَمّ، من أجل أي قوانين مقرَّرة (μn)(\mu_n) على R\R توجد متغيّرات مستقلة (Xn)(X_n) تحقق PXn=μn\P_{X_n} = \mu_n.

برهان. الأرقام. من أجل ω[0,1]\omega \in \intcc01، لتكن (bk(ω))(b_k(\omega)) أرقامَه الثنائية (ω=bk2k\omega = \sum b_k2^{-k}؛ ونختار النشر الذي لا ينتهي بأرقام 11 كلها — فالالتباس لا يعني سوى مجموعة قابلة للعدّ، ومن ثَمّ معدومة). وكل bkb_k متغيّر عشوائي (إذ {bk=1}\{b_k = 1\} اتحادٌ منتهٍ لفترات ثنائية)، وتأخذ المتجهة (b1,,bm)(b_1, \dots, b_m) كل قيمة في {0,1}m\{0,1\}^m على فترة ثنائية طولها 2m2^{-m}: ومنه تكون bkb_k مستقلة برنولية (12)(\frac12).

إعادة التجميع. نشطر N\N^* إلى عدد لانهائي من المجموعات اللانهائية المنفصلة (In)(I_n) (مثلًا بقوى الأعداد الأولية، أو بالأقطار)؛ ولتعدّد (kjn)j(k^n_j)_j المجموعةَ InI_n ونضع

Un=j1bkjn2j.U_n = \sum_{j\geq1} b_{k^n_j}\,2^{-j} .

فيكون كل UnU_n منتظمًا: إذ أرقامه الثنائية بتّاتٌ عادلة مستقلة، ومنه P(Un[l2m,(l+1)2m))=2m\P(U_n \in [l2^{-m}, (l+1)2^{-m})) = 2^{-m} من أجل كل فترة ثنائية، والفترات الثنائية تعيّن القانون (المبرهنة 9.7). و UnU_n مستقلة: فهي دوال لكتل منفصلة من العائلة المستقلة (bk)(b_k) — وشكليًّا، تتعلق الحوادث {UnDn}\{U_n \in D_n\} من أجل DnD_n ثنائية بعدد منتهٍ من الأرقام من مجموعات منفصلة، وتتحلّل؛ وترقّي حجةُ النظام من النمط π\pi ذلك إلى جميع المجموعات البوريلية.

القوانين الكيفية. لتكن Gn(u)=inf{t:Fμn(t)u}G_n(u) = \inf\{t : F_{\mu_n}(t) \geq u\} (أي دالة الرباعي لدالة التوزيع FμnF_{\mu_n})؛ ويبيّن التكافؤ المفتاحي Gn(u)t    uFμn(t)G_n(u) \leq t \iff u \leq F_{\mu_n}(t) (بالاتصال من اليمين للدالة FF، وبالرتابة) أن Xn=Gn(Un)X_n = G_n(U_n) قابل للقياس مع P(Xnt)=P(UnFμn(t))=Fμn(t)\P(X_n \leq t) = \P(U_n \leq F_{\mu_n}(t)) = F_{\mu_n}(t): أي بالقانون μn\mu_n؛ والاستقلال موروث (إذ هي دوال لمتغيّرات مستقلة، التمرين 22.3).

مثال 22.7 (مسألة أعياد الميلاد، بأمانة)

بين nn من الأشخاص بأعياد ميلاد مستقلة منتظمة على N=365N = 365 يومًا، يكون احتمال اختلاف جميع أعياد الميلاد

pn=k=1n1(1kN),p_n = \prod_{k=1}^{n-1}\Bigl(1 - \frac kN\Bigr),

بالشرطنة المتتالية (أو مباشرةً: بقسمة الحالات المواتية N(N1)(Nn+1)N(N-1)\cdots(N - n + 1) على المجموع NnN^n، وهي حجة عدّ تجعلها صيغةُ جداء الاستقلال صارمة). وبأخذ اللوغاريتمات وباستعمال ln(1x)=x+O(x2)-\ln(1 - x) = x + O(x^2):

lnpn=n(n1)2N+O(n3N2),ومنهpnen2/2N.\ln p_n = -\frac{n(n-1)}{2N} + O\Bigl(\frac{n^3}{N^2}\Bigr), \qquad\text{ومنه}\qquad p_n \approx \eu^{-n^2/2N} .

وتقع نقطة الانقلاب pn=12p_n = \frac12 عند n2Nln21.18Nn \approx \sqrt{2N\ln2} \approx 1.18\sqrt N: فمن أجل N=365N = 365، n=23n = 23 (p23=0.4927p_{23} = 0.4927). وعبرتان. أولًا، تظهر التصادمات بين nn من العناصر في NN من الصناديق عند السلّم nNn \sim \sqrt N، لا عند nNn \sim N — وهو تحجيم أعياد الميلاد الذي يحكم تصادمات التجزئة وكلفةَ N\sqrt N لهجمات أعياد الميلاد في التعمية. وثانيًا، الحساب قالبٌ: فحوادث تصادم الأزواج البالغة (n2)\binom n2 ليست مستقلة، ومع ذلك يسلك الجواب كأنها مستقلة (إذ e(n2)/N\eu^{-\binom n2/N} هو بالضبط الحدس القائم على استقلال الأزواج) — وهي أول حالة لتقريب بواسون، مصوغةً بصرامة في مسألة نهاية الأسبوع في الفصل 23 (متراجحة لوكام).

22.3 بوريل–كانتيلي وقانون صفر–واحد

مبرهنة 22.8 (بوريل–كانتيلي)

لتكن (An)(A_n) حوادث ولتكن lim supAn=NnNAn\limsup A_n = \bigcap_N \bigcup_{n\geq N}A_n («تقع AnA_n عددًا لانهائيًّا من المرات»).

  1. إذا كان P(An)<\sum\P(A_n) < \infty، فإن P(lim supAn)=0\P(\limsup A_n) = 0.
  2. وإذا كان P(An)=\sum\P(A_n) = \infty وكانت AnA_n مستقلة، فإن P(lim supAn)=1\P(\limsup A_n) = 1.

برهان. (1) هي التمرين 9.4. و(2): من أجل NMN \leq M، يعطي استقلال المتممات (التمرين 22.3)

P(n=NMAnc)=n=NM(1P(An))exp(n=NMP(An))M0\P\Bigl(\bigcap_{n=N}^{M}A_n^c\Bigr) = \prod_{n=N}^M\bigl(1 - \P(A_n)\bigr) \leq \exp\Bigl(-\sum_{n=N}^M\P(A_n)\Bigr) \xrightarrow[M \to \infty]{} 0

(1xex1 - x \leq \eu^{-x}؛ إذ تتباعد المتسلسلة). ومنه P(nNAn)=1\P\bigl(\bigcup_{n\geq N}A_n\bigr) = 1 من أجل كل NN، ويبقى للتقاطع المتناقص على NN الاحتمالُ 11 (بالاتصال من الأعلى، القضية 9.6).

مبرهنة 22.9 (قانون كولموغوروف صفر–واحد)

لتكن (Xn)(X_n) مستقلة ولتكن T=Nσ(XN,XN+1,)\mathcal T = \bigcap_N\sigma(X_N, X_{N+1}, \dots) الجبر الذيلي من النمط σ\sigma (أي الحوادث غير الحساسة لأي عدد منتهٍ من XnX_n: تقارب Xn\sum X_n، وتقارب Snn\frac{S_n}n، وقيم النهايات العليا، …). عندئذٍ يحقق كل TTT \in \mathcal T أن P(T){0,1}\P(T) \in \{0, 1\}.

برهان. نثبّت NN. الجبران من النمط σ\sigma σ(X1,,XN)\sigma(X_1, \dots, X_N) و σ(XN+1,)\sigma(X_{N+1}, \dots) مستقلان: إذ تتحلّل الحوادث المتعلقة بكتل منفصلة على الأنظمة المولِّدة من النمط π\pi (الأسطوانات iN{XiBi}\bigcap_{i\leq N}\{X_i \in B_i\}، وعلى التوالي الشروط المنتهية على المتغيّرات اللاحقة)، وتمدّد دينكين (المبرهنة 9.4، مطبَّقة مرتين، جهةً في كل مرة) التحليلَ. وتقع حادثة ذيلية TT في σ(XN+1,)\sigma(X_{N+1}, \dots) من أجل كل NN: فتكون TT مستقلة عن كل σ(X1,,XN)\sigma(X_1, \dots, X_N)، ومن ثَمّ عن الجبر من النمط σ\sigma الذي تولّده، أي σ(X1,X2,)\sigma(X_1, X_2, \dots) (بدينكين مرة أخرى: إذ اتحاد σ(X1,,XN)\sigma(X_1,\dots,X_N) نظامٌ من النمط π\pi يولّده). لكن Tσ(X1,X2,)T \in \sigma(X_1, X_2, \dots) أيضًا: فتكون TT مستقلة عن نفسها، أي P(T)=P(TT)=P(T)2\P(T) = \P(T\cap T) = \P(T)^2: ومنه P(T){0,1}\P(T) \in \{0, 1\}.

22.4 أنماط التقارب

تعريف 22.10

يكون XnXX_n \to X شبه أكيد إذا كان P(XnX)=1\P(X_n \to X) = 1؛ واحتماليًّا إذا كان P(XnXε)0\P(\abs{X_n - X} \geq \varepsilon) \to 0 من أجل كل ε>0\varepsilon > 0؛ وفي LpL^p إذا كان EXnXp0\E\abs{X_n - X}^p \to 0.

قضية 22.11

(a) يستلزم التقارب شبه الأكيد التقاربَ الاحتمالي؛ (b) ويستلزم التقارب في LpL^p التقاربَ الاحتمالي؛ (c) ويستلزم التقارب الاحتمالي التقاربَ شبه الأكيد على امتداد متتالية جزئية؛ (d) ولا يصح أي استلزام آخر عمومًا.

برهان. (a) P(XnXε)P(supmnXmXε)P(lim sup{XmXε})=0\P(\abs{X_n - X} \geq \varepsilon) \leq \P\bigl(\sup_{m\geq n}\abs{X_m - X} \geq \varepsilon\bigr) \downarrow \P\bigl(\limsup\{\abs{X_m - X} \geq \varepsilon\}\bigr) = 0 تحت التقارب شبه الأكيد (بالاتصال من الأعلى؛ إذ تستبعد حادثة lim sup\limsup التقاربَ). (b) بماركوف: P(XnXε)εpEXnXp\P(\abs{X_n - X} \geq \varepsilon) \leq \varepsilon^{-p}\,\E\abs{X_n - X}^p. (c) نختار nkn_k تحقق P(XnkX2k)2k\P(\abs{X_{n_k} - X} \geq 2^{-k}) \leq 2^{-k}؛ وتجعل بوريل–كانتيلي (1) XnkX<2k\abs{X_{n_k} - X} < 2^{-k} في النهاية، شبه أكيد. (d) تتقارب الآلة الكاتبة (التمرين 12.3) على ([0,1],λ)(\intcc01, \lambda) في L1L^1 واحتماليًّا لكنها لا تتقارب نقطةً نقطة في أي مكان؛ و n1(0,1/n)0n\mathbf 1_{\intoo0{1/n}} \to 0 شبه أكيد لا في L1L^1؛ والتفاصيل والأمثلة المضادة الباقية في التمرين 22.6.

22.5 قانون الأعداد الكبيرة

في كل ما يلي، تكون (Xn)(X_n) مستقلة بالقانون نفسه (أي مستقلة متماثلة التوزيع)، مع Sn=X1++XnS_n = X_1 + \dots + X_n.

مبرهنة 22.12 (قانون الأعداد الكبيرة الضعيف)

إذا كان X1L2X_1 \in L^2، مع m=EX1m = \E X_1:

P(Snnmε)V(X1)nε2n0:\P\Bigl(\Bigl|\frac{S_n}{n} - m\Bigr| \geq \varepsilon\Bigr) \leq \frac{\V(X_1)}{n\,\varepsilon^2} \xrightarrow[n\to\infty]{} 0 :

Snnm\frac{S_n}n \to m احتماليًّا (وفي L2L^2).

برهان. ESnn=m\E\frac{S_n}n = m و V(Snn)=nV(X1)n2\V\bigl(\frac{S_n}n\bigr) = \frac{n\V(X_1)}{n^2} (المبرهنة 22.5)؛ ثم تشيبيشيف.

مبرهنة 22.13 (قانون الأعداد الكبيرة القوي)

إذا كان X1L1X_1 \in L^1، فإن

Snnnشبه أكيدE[X1].\frac{S_n}{n} \xrightarrow[n\to\infty]{\text{شبه أكيد}} \E[X_1].

ونبرهن عليه هنا تحت الفرضية الأقوى X1L4X_1 \in L^4؛ وأما الحالة العامة (L1L^1: أي برهان إتِمادي) فهي مسألة نهاية الأسبوع.

البرهان تحت الفرضية EX14<\E X_1^4 < \infty. بالتوسيط (XiXimX_i \mapsto X_i - m)، نفترض m=0m = 0. وننشر:

E[Sn4]=i,j,k,lE[XiXjXkXl]=nE[X14]+3n(n1)(E[X12])2Cn2,\E[S_n^4] = \sum_{i,j,k,l}\E[X_iX_jX_kX_l] = n\,\E[X_1^4] + 3n(n-1)\,\bigl(\E[X_1^2]\bigr)^2 \leq C\,n^2 ,

إذ يلغي الاستقلال والتوسيط كل حدّ يحتوي عاملًا منعزلًا (إذ E[XiXjXkXl]=E[Xi]E[]=0\E[X_iX_jX_kX_l] = \E[X_i]\E[\cdots] = 0 ما لم تتزاوج الأدلّة: فلا ينجو سوى الحدود nn التي i=j=k=li=j=k=l والحدود 3n(n1)3n(n-1) ذات الزوجين المتمايزين). وبماركوف:

P(Snnε)=P(Sn4n4ε4)Cn2n4ε4=Cε4n2,\P\Bigl(\Bigl|\frac{S_n}n\Bigr| \geq \varepsilon\Bigr) = \P\bigl(S_n^4 \geq n^4\varepsilon^4\bigr) \leq \frac{Cn^2}{n^4\varepsilon^4} = \frac{C}{\varepsilon^4n^2},

وهي قابلة للجمع: فتعطي بوريل–كانتيلي (1)، من أجل كل ε\varepsilon ناطق، أن Sn/n<ε\abs{S_n/n} < \varepsilon في النهاية، شبه أكيد؛ وبالتقاطع على εQ+\varepsilon \in \Q_+^* (وهي عدد قابل للعدّ من الحوادث ذات الاحتمال 11): Sn/n0S_n/n \to 0 شبه أكيد.

مثال 22.14 (ما يشتريه القانون القوي)

(a) التواترات: من أجل رميات قطعة نقدية مستقلة متماثلة التوزيع، يتقارب التواتر المرصود للوجه شبه أكيد إلى pp — أي التبرير التجريبي للاحتمال نفسه. (b) مونتي كارلو: من أجل gL1([0,1])g \in L^1(\intcc01) ومن أجل (Un)(U_n) مستقلة متماثلة منتظمة (المبرهنة 22.61nkng(Uk)01g\frac1n\sum_{k\leq n}g(U_k) \to \int_0^1g شبه أكيد: أي التكاملات بالمعاينة، في أي بُعد، بالمعدل المستقل عن البُعد n1/2\sim n^{-1/2} المضبوط في الفصل 23. (c) الأعداد الناظمية: لكل عدد حقيقي تقريبًا، في نشره الثنائي، تواترٌ مقارب 12\frac12 من الآحاد (بتطبيق القانون القوي على متغيّرات الأرقام في المبرهنة 22.6) — أي مبرهنة بوريل، وهي عبارة عن أعداد كل يوم مبرهَنٌ عليها بالقياس: ويكملها المسألة 22.1 في جميع الأسس.

طريقة 22.15

الترتيب العملي للعبارات المقاربة عن المتتاليات العشوائية: (1) هل الحادثة ذيلية؟ فاحتمالها عندئذٍ 00 أو 11 (المبرهنة 22.9) ولا يبقى إلا أن نقرّر أيهما. (2) ولتبرهن على عبارات شبه أكيدة: بوريل–كانتيلي — باحتمالات قابلة للجمع للحوادث «السيئة»، عبر حدود من نمط ماركوف أو تشيبيشيف على العزوم المتاحة أيًّا كانت؛ ولا يلزم الاستقلال إلا في الاتجاه العكسي. (3) المتتالية الجزئية مع الحصر: برهن على التقارب على امتداد متتالية جزئية قابلة للمعالجة، وتحكم في التذبذب بينها بالرتابة أو بمتراجحات عظمى — وهو هيكل برهان إتِمادي. (4) ومن أجل النهايات التوزيعية، انتظر الفصل 23.

22.6 تمارين

تمرين 22.1

(a) ليكن XX ذا دالة توزيع FF متصلة ومتزايدة تمامًا. برهن على أن F(X)F(X) منتظم على [0,1]\intcc01، وعلى أن G(U)FG(U) \sim F من أجل UU منتظم و G=F1G = F^{-1}: أي المحاكاة بالقلب. (b) احسب دالة التوزيع والكثافة للمقدار X2X^2 من أجل XX منتظم على [1,1]\intcc{-1}1، وللمقدار 1λlnU-\frac1\lambda\ln U من أجل UU منتظم على (0,1)\intoo01.

حل

حل التمرين 22.1.

(a) من أجل u(0,1)u \in \intoo01: P(F(X)u)=P(XF1(u))=F(F1(u))=u\P(F(X) \leq u) = \P(X \leq F^{-1}(u)) = F(F^{-1}(u)) = u (إذ يجعل الاتصال والرتابة الأكيدة FF تقابلًا على (0,1)\intoo01 مع {F(X)u}={XF1(u)}\{F(X) \leq u\} = \{X \leq F^{-1}(u)\}): فيكون F(X)F(X) منتظمًا. وبالعكس P(G(U)t)=P(UF(t))=F(t)\P(G(U) \leq t) = \P(U \leq F(t)) = F(t): أي لمحاكاة قانون، نطبّق دالة التوزيع المقلوبة على عيّنة منتظمة.

(b) Y=X2Y = X^2 مع XX منتظم على [1,1]\intcc{-1}1: فمن أجل t[0,1]t \in \intcc01، FY(t)=P(tXt)=tF_Y(t) = \P(-\sqrt t \leq X \leq \sqrt t) = \sqrt t: بكثافة 12t1(0,1)\frac1{2\sqrt t}\mathbf 1_{\intoo01}. و P(1λlnUt)=P(Ueλt)=1eλt\P\bigl(-\frac1\lambda\ln U \leq t\bigr) = \P(U \geq \eu^{-\lambda t}) = 1 - \eu^{-\lambda t}: أي الأُسّي E(λ)\mathcal E(\lambda) — والقلب في العمل.

تمرين 22.2

(a) احسب المتوسط والتباين لقانون بواسون P(λ)\mathcal P(\lambda) وللقانون الهندسي عبر مبرهنة النقل. (b) برهن على أن متغيّرًا عشوائيًّا موجبًا TT يحقق P(T>t)>0\P(T > t) > 0 من أجل كل tt يحقق خاصية انعدام الذاكرة P(T>t+sT>t)=P(T>s)\P(T > t + s \mid T > t) = \P(T > s) من أجل كل s,t0s, t \geq 0 إذا وفقط إذا كان TT أُسّيًّا. (إذ تحقق دالة البقاء معادلة كوشي الدالية؛ وتحلّ الرتابة محلّ الاتصال.)

حل

حل التمرين 22.2.

(a) بواسون: EX=k0keλλkk!=λ\E X = \sum_{k\geq0}k\,\eu^{-\lambda} \frac{\lambda^k}{k!} = \lambda، E[X(X1)]=λ2\E[X(X-1)] = \lambda^2، ومنه V=λ2+λλ2=λ\V = \lambda^2 + \lambda - \lambda^2 = \lambda. والهندسي (P(X=k)=p(1p)k1\P(X = k) = p(1-p)^{k-1}): EX=1p\E X = \frac1p، V=1pp2\V = \frac{1-p}{p^2} (باشتقاق المتسلسلة الهندسية مرتين).

(b) G(t)=P(T>t)G(t) = \P(T > t) متناقصة بالمعنى الواسع مع G(0+)G(0^+)\dots G ⁣:[0,)(0,1]G \colon \intco0\infty \to \intoc01؛ ويُقرأ انعدام الذاكرة G(t+s)=G(t)G(s)G(t + s) = G(t)G(s). عندئذٍ G(nt)=G(t)nG(n t) = G(t)^n و G(t/n)=G(t)1/nG(t/n) = G(t)^{1/n}: أي G(q)=G(1)qG(q) = G(1)^q من أجل q0q \geq 0 ناطق؛ وبكتابة G(1)=eλG(1) = \eu^{-\lambda} ((0,1)\in \intoo01: إذ G(1)=1G(1) = 1 كان سيفرض G1G \equiv 1، وهو مستحيل من أجل متغيّر عشوائي منتهٍ؛ و G(1)=0G(1) = 0 مستبعد بالفرضية) وبحصر tt كيفي بين ناطقين (بالرتابة): G(t)=eλtG(t) = \eu^{-\lambda t} — أي القانون الأُسّي. والعكس حساب.

تمرين 22.3 ★★

(a) برهن على أنه إذا كانت X1,,XnX_1, \dots, X_n مستقلة وكانت fif_i دوالًّا بوريلية، كانت fi(Xi)f_i(X_i) مستقلة. (b) برهن على أن الحوادث A1,,AnA_1, \dots, A_n مستقلة إذا وفقط إذا كانت متمماتها كذلك، إذا وفقط إذا كانت الدوال المميّزة 1Ai\mathbf 1_{A_i} متغيّرات عشوائية مستقلة. (c) (الاستقلال المثنى أضعف) قطعتان نقديتان عادلتان: فلتكن AA حادثةَ أن الأولى وجه، ولتكن BB حادثةَ أن الثانية وجه، ولتكن CC حادثةَ أن الاثنتين متوافقتان. برهن على أن A,B,CA, B, C مستقلة مثنى مثنى لكنها ليست مستقلة.

حل

حل التمرين 22.3.

(a) σ(fi(Xi))=fi(Xi)1(B)Xi1(B)=σ(Xi)\sigma(f_i(X_i)) = f_i(X_i)^{-1}(\mathcal B) \subseteq X_i^{-1}(\mathcal B) = \sigma(X_i) (إذ fif_i بورييلة)، والجبور الجزئية من النمط σ\sigma لجبور مستقلة من النمط σ\sigma مستقلةٌ (إذ تصح المتطابقة المعرِّفة من باب أولى).

(b) σ(Ai)={,Ai,Aic,Ω}=σ(Aic)=σ(1Ai)\sigma(A_i) = \{\varnothing, A_i, A_i^c, \Omega\} = \sigma(A_i^c) = \sigma(\mathbf 1_{A_i}): فالعبارات الثلاث تؤكد استقلال الجبور من النمط σ\sigma نفسها. (وأما انتشار التحليل على AiA_i إلى المتممات فهو حجة النظام من النمط λ\lambda داخل تكافؤ التعريف 22.4 — أو بالضمّ والاستبعاد المباشر.)

(c) P(A)=P(B)=P(C)=12\P(A) = \P(B) = \P(C) = \frac12؛ و AB=AC=BCA\cap B = A\cap C = B\cap C على الأزواج: إذ كل تقاطع هو «الاثنتان وجه» أو ما يماثله، باحتمال 14\frac14: أي مستقلة مثنى مثنى. لكن P(ABC)=P(وجه وجه)=1418\P(A\cap B\cap C) = \P(\text{وجه وجه}) = \frac14 \neq \frac18: فليست مستقلة — إذ يتعيّن CC بواسطة AA و BB.

تمرين 22.4 ★★

(a) (القرد اللانهائي) متتالية مستقلة متماثلة من ضغطات المفاتيح المنتظمة على أبجدية منتهية تحتوي شبه أكيد كل نص منتهٍ عددًا لانهائيًّا من المرات: برهن على ذلك ببوريل–كانتيلي (2) على كتل منفصلة. (b) (السلاسل) من أجل بتّات عادلة مستقلة متماثلة، ليكن RnR_n طولَ سلسلة الآحاد التي تبدأ عند الموضع nn. برهن على أن Rn(1+ε)log2nR_n \geq (1+\varepsilon)\log_2n شبه أكيد عددًا منتهيًا من المرات، وأن Rnlog2nR_n \geq \log_2 n عددًا لانهائيًّا من المرات (بشقّي بوريل–كانتيلي؛ ومن أجل الثاني، انتقل إلى كتل منفصلة لتكسب الاستقلال): فأطول سلسلة في الأرقام nn الأولى تنمو مثل log2n\log_2n.

حل

حل التمرين 22.4.

(a) ليكن للنص TT الطولُ LL وليكن q=aLq = a^{-L} (حيث aa حجم الأبجدية). الحوادث Ek={E_k = \{المواضع kL+1,,(k+1)LkL+1, \dots, (k+1)L تهجّي T}T\} مستقلة (لأنها كتل منفصلة من الحروف المستقلة المتماثلة)، وكلٌّ منها باحتمال q>0q > 0: أي P(Ek)=\sum\P(E_k) = \infty، وتعطي بوريل–كانتيلي (2) عددًا لانهائيًّا من الوقوعات شبه أكيد.

(b) الأعلى: P(Rn(1+ε)log2n)2(1+ε)log2n=n(1+ε)\P\bigl(R_n \geq (1+\varepsilon)\log_2n\bigr) \leq 2^{-(1+\varepsilon)\log_2n} = n^{-(1+\varepsilon)}، وهو قابل للجمع: فببوريل–كانتيلي (1)، لا يوجد شبه أكيد سوى عدد منتهٍ من nn كهذه. والأدنى: نرصّ كتلًا منفصلة — الكتلة jj طولها j=log2sj\ell_j = \lceil\log_2s_j\rceil وتبدأ عند sj=i<jis_j = \sum_{i<j}\ell_i؛ وحوادث «الكتلة jj كلها آحاد» مستقلة باحتمال 2j1sj1jlog2j2^{-\ell_j} \asymp \frac1{s_j} \asymp \frac1{j\log_2 j}، ومجموعها متباعد: فتعطي بوريل–كانتيلي (2) عددًا لانهائيًّا من الكتل ذات الآحاد كلها، أي Rsjlog2sjR_{s_j} \geq \log_2 s_j عددًا لانهائيًّا من المرات. ومعًا: يكون طول السلسلة الأعظمي في الأرقام nn الأولى (1+o(1))log2n(1 + o(1))\log_2n شبه أكيد.

تمرين 22.5 ★★

لتكن (Xn)(X_n) مستقلة. (a) برهن على أن نصف قطر تقارب Xnzn\sum X_n z^n ثابتٌ شبه أكيد (وقد يكون 00 أو \infty). (b) برهن على P(Xn يتقارب){0,1}\P(\sum X_n \text{ يتقارب}) \in \{0, 1\} وعلى P(Sn/nm){0,1}\P(S_n/n \to m) \in \{0,1\}. (c) أعطِ حادثةً عن (Xn)(X_n) ليست ذيلية، وتحقق من أن قانون صفر–واحد قد يخفق من أجلها.

حل

حل التمرين 22.5.

(a) لا يتغيّر R=(lim supXn1/n)1R = \bigl(\limsup\abs{X_n}^{1/n}\bigr)^{-1} إذا عُدِّل عدد منتهٍ من XnX_n: فمن أجل كل NN، يكون RR قابلًا للقياس بالمعنى σ(XN,XN+1,)\sigma(X_N, X_{N+1}, \dots)، أي ذيليًّا. وعندئذٍ لكل حادثة {Rc}\{R \leq c\} الاحتمالُ 00 أو 11 (المبرهنة 22.9)، ومنه لا تأخذ دالة توزيع RR سوى القيمتين 0,10, 1: فتقفز عند نقطة واحدة c0[0,+]c_0 \in \intcc0{+\infty}، ويكون R=c0R = c_0 شبه أكيد.

(b) تقارب Xn\sum X_n وتقارب Snn\frac{S_n}n غير حساسين لتغيير عدد منتهٍ من الحدود (ومن أجل الثاني: تسهم الحدود المعدَّلة بالمقدار O(1/n)0O(1/n) \to 0): أي حادثتان ذيليتان؛ وقانون صفر–واحد.

(c) الحادثة {X1>0}\{X_1 > 0\} تتعلق بالمتغيّر X1X_1: فمن أجل إشارات مستقلة متماثلة (P(X1=±1)=12\P(X_1 = \pm1) = \frac12)، احتمالها 12{0,1}\frac12 \notin \{0,1\} — ولا تناقض، إذ ليست حادثة ذيلية.

تمرين 22.6 ★★

على ([0,1],λ)(\intcc01, \lambda)، أبرز — مع البراهين — متغيّرات عشوائية بحيث: (a) Xn0X_n \to 0 احتماليًّا وفي كل LpL^p، لكن في لا مكان شبه أكيد؛ (b) Xn0X_n \to 0 شبه أكيد لكن في أي LpL^p لا؛ (c) Xn0X_n \to 0 في L1L^1 لا في L2L^2؛ (d) وبرهن على: أنه إذا كان XnXX_n \to X احتماليًّا وكان XnYL1\abs{X_n} \leq Y \in L^1، فإن XnXX_n \to X في L1L^1 (بالمتتاليات الجزئية مع التقارب المهيمن وحيلة المتتالية الجزئية للمتتالية الجزئية).

حل

حل التمرين 22.6.

نعمل على ([0,1],λ)(\intcc01, \lambda). (a) الآلة الكاتبة 1In\mathbf 1_{I_n} (التمرين 12.3): Xnpp=λ(In)0\norm{X_n}_p^p = \lambda(I_n) \to 0 (من أجل كل p<p < \infty)، ومن ثَمّ احتماليًّا أيضًا؛ وعند كل ω\omega تتكرر القيمتان 00 و 11 معًا: فلا تقارب نقطةً نقطة في أي مكان. (b) Xn=n1(0,1/n)0X_n = n\mathbf 1_{\intoo0{1/n}} \to 0 خارج 00، لكن Xnpn11/p1\norm{X_n}_p \geq n^{1 - 1/p} \geq 1. (c) Xn=n1(0,1/n)X_n = \sqrt n\,\mathbf 1_{\intoo0{1/n}}: EXn=n1/20\E\abs{X_n} = n^{-1/2} \to 0، EXn2=1\E X_n^2 = 1. (d) من أي متتالية جزئية نستخرج (بالتقارب الاحتمالي) متتاليةً جزئية أخرى تتقارب شبه أكيد (القضية 22.11(c))؛ ويعطي التقارب المهيمن التقاربَ في L1L^1 على امتدادها، بالنهاية نفسها XX. ومن ثَمّ يكون لكل متتالية جزئية من المتتالية العددية EXnX\E\abs{X_n - X} متتاليةٌ جزئية أخرى تؤول إلى 00: فتؤول المتتالية كلها إلى 00.

تمرين 22.7 ★★

يقدّر استطلاعُ رأي نسبةً مجهولة pp بالتواتر التجريبي p^n\hat p_n لعدد nn من السحوب المستقلة. (a) بتشيبيشيف: برهن على P(p^npε)14nε2\P(\abs{\hat p_n - p} \geq \varepsilon) \leq \frac1{4n\varepsilon^2} (باستعمال p(1p)14p(1-p) \leq \frac14). (b) وكم سحبًا يضمن خطأً 3%\leq 3\% باحتمال 95%\geq 95\% بهذا الحدّ؟ (والجواب الحقيقي، عبر الفصل 23، نحو 10701070: فتشيبيشيف أمينة لكنها خشنة.)

حل

حل التمرين 22.7.

(a) p^n=Snn\hat p_n = \frac{S_n}n مع SnS_n ثنائي: V(p^n)=p(1p)n14n\V(\hat p_n) = \frac{p(1-p)}n \leq \frac1{4n}، ويعطي تشيبيشيف (القضية 22.3) الحدَّ. (b) نحل 14n(0.03)20.05\frac1{4n(0.03)^2} \leq 0.05: n140.00090.055556n \geq \frac{1}{4\cdot0.0009\cdot0.05} \approx 5556. وستبرّر مبرهنة النهاية المركزية n1070n \approx 1070 من أجل الضمانة نفسها: فتدفع تشيبيشيف ثمنَ عمومها بعامل 5\approx 5.

تمرين 22.8 ★★★

(برنشتاين) من أجل fC([0,1])f \in \mathcal C(\intcc01) نعرّف كثير حدود برنشتاين Bnf(x)=k=0n(nk)xk(1x)nkf(kn)B_nf(x) = \sum_{k=0}^n\binom nkx^k(1-x)^{n-k}f\bigl(\frac kn\bigr). (a) تعرّف على Bnf(x)=E[f(Snn)]B_nf(x) = \E\bigl[f\bigl(\frac {S_n}n\bigr)\bigr] من أجل SnS_n ثنائي B(n,x)\mathcal B(n, x). (b) برهن على أن BnffB_nf \to f بانتظام على [0,1]\intcc01: بالشطر على {Snnxδ}\{\abs{\frac{S_n}n - x} \leq \delta\} ومتممتها، باستعمال الاتصال المنتظم وتشيبيشيف مع الحدّ المنتظم V(Snn)14n\V(\frac{S_n}n) \leq \frac1{4n}. (c) اخلص: برهانًا ثانيًا احتماليًّا على مبرهنة فايرشتراس في التقريب (النتيجة 7.16)، بالمعدل الصريح Bnff32ωf(n1/2)\norm{B_nf - f}_\infty \leq \frac32\,\omega_f(n^{-1/2}) من أجل معامل الاتصال ωf\omega_f — وبرهن على الأقل على الصيغة O(ωf(n1/2))O(\omega_f(n^{-1/2})).

حل

حل التمرين 22.8.

(a) إذا كان SnB(n,x)S_n \sim \mathcal B(n, x)، أعطت مبرهنة النقل أن E[f(Snn)]=k(nk)xk(1x)nkf(kn)=Bnf(x)\E\bigl[f(\frac{S_n}n)\bigr] = \sum_k\binom nkx^k(1-x)^{n-k}f(\frac kn) = B_nf(x).

(b)–(c) ليكن ω=ωf\omega = \omega_f معامل الاتصال (f(u)f(v)ω(uv)\abs{f(u) - f(v)} \leq \omega(\abs{u - v})، و ω(cδ)(1+c)ω(δ)\omega(c \delta) \leq (1 + c)\,\omega(\delta) بتسلسل الخطوات). عندئذٍ، من أجل أي δ>0\delta > 0،

f(u)f(x)(1+(ux)2δ2)ω(δ)\abs{f(u) - f(x)} \leq \Bigl(1 + \frac{(u - x)^2}{\delta^2}\Bigr)\omega(\delta)

(فإذا كان uxδ\abs{u - x} \leq \delta فذلك واضح؛ وإلا ω(ux)(1+uxδ)ω(δ)(1+(ux)2δ2)ω(δ)\omega(\abs{u-x}) \leq (1 + \frac{\abs{u-x}}\delta) \omega(\delta) \leq (1 + \frac{(u-x)^2}{\delta^2}) \omega(\delta)). ونأخذ الآمال عند u=Snnu = \frac{S_n}n:

Bnf(x)f(x)(1+V(Sn/n)δ2)ω(δ)(1+14nδ2)ω(δ);\abs{B_nf(x) - f(x)} \leq \Bigl(1 + \frac{\V(S_n/n)}{\delta^2}\Bigr)\omega(\delta) \leq \Bigl(1 + \frac{1}{4n\delta^2}\Bigr)\omega(\delta) ;

مع δ=n1/2\delta = n^{-1/2}: أي Bnff54ω(n1/2)32ω(n1/2)0\norm{B_nf - f}_\infty \leq \frac54\,\omega\bigl(n^{-1/2}\bigr) \leq \frac32\,\omega\bigl(n^{-1/2}\bigr) \to 0 (بالاتصال المنتظم على المتراصة): أي مبرهنة فايرشتراس احتماليًّا، بمعدل صريح ومنتظم.

تمرين 22.9 ★★★

(جامع القسائم) تُسحب بطاقات من nn نوعًا بانتظام مع الإرجاع؛ وليكن TnT_n عددَ السحوب حتى تُرى جميع الأنواع. (a) اكتب Tn=k=1nτkT_n = \sum_{k=1}^{n}\tau_k مع τk\tau_k هندسيًّا بالوسيط nk+1n\frac{n - k + 1}n، و τk\tau_k مستقلة، واستنتج ETn=nHnnlnn\E T_n = n\,H_n \sim n\ln n (HnH_n العددُ التوافقي) و V(Tn)π26n2\V(T_n) \leq \frac{\pi^2}6n^2. (b) بتشيبيشيف: Tnnlnn1\frac{T_n}{n\ln n} \to 1 احتماليًّا. (c) وحدّد أكثر ببوريل–كانتيلي: برهن مباشرةً على P(Tn>βnlnn)n1β\P(T_n > \beta n\ln n) \leq n^{1 - \beta} من أجل β>1\beta > 1 (بحدّ الاتحاد على حادثة تفويت نوع ما بعد βnlnn\beta n\ln n سحبة، باستعمال 1xex1 - x \leq \eu^{-x})، واستنتج أنه على امتداد n=2mn = 2^m، يكون شبه أكيد TnβnlnnT_n \leq \beta n\ln n في النهاية، من أجل كل β>2\beta > 2.

حل

حل التمرين 22.9.

(a) بعد جمع k1k - 1 نوعًا، تكون كل سحبة جديدة باحتمال pk=nk+1np_k = \frac{n-k+1}n: فيكون τk\tau_k هندسيًّا بالوسيط (pk)(p_k)، و τk\tau_k مستقلة (إذ السحوب كذلك). والمجاميع: ETn=knnk+1=nHnnlnn\E T_n = \sum_k\frac n{n-k+1} = nH_n \sim n\ln n؛ و V(Tn)=1pkpk2n2j=1n1j2π26n2\V(T_n) = \sum\frac{1 - p_k}{p_k^2} \leq n^2\sum_{j=1}^n\frac1{j^2} \leq \frac{\pi^2}6n^2.

(b) بتشيبيشيف: P(TnnHnεnlnn)π2n2/6ε2n2ln2n0\P\bigl(\abs{T_n - nH_n} \geq \varepsilon n\ln n\bigr) \leq \frac{\pi^2n^2/6}{\varepsilon^2n^2\ln^2n} \to 0، و nHnnlnn1\frac{nH_n}{n\ln n} \to 1: ومنه Tnnlnn1\frac{T_n}{n\ln n} \to 1 احتماليًّا.

(c) بحدّ الاتحاد: يعني Tn>tT_n > t أن نوعًا ما لم يُرَ بعد t\lceil t\rceil سحبة، ومنه P(Tn>t)n(11n)tnet/n\P(T_n > t) \leq n(1 - \frac1n)^{t} \leq n\,\eu^{-t/n}؛ وعند t=βnlnnt = \beta n\ln n: n1β\leq n^{1 - \beta}. ومن أجل β>1\beta > 1، m2m(1β)<\sum_m 2^{m(1-\beta)} < \infty: فتعطي بوريل–كانتيلي، على امتداد n=2mn = 2^m، أن شبه أكيد TnβnlnnT_n \leq \beta n\ln n في النهاية — وعلى وجه الخصوص من أجل كل β>2\beta > 2 كما ذُكر (بل يصلح أي β>1\beta > 1 على امتداد المتتالية الجزئية).

تمرين 22.10 ★★

باستعمال بناء الأرقام (المبرهنة 22.6): (a) تحقق بالحساب المباشر من أن U=b2k2kU = \sum b_{2k}2^{-k} (أي الأرقام ذات الأدلّة الزوجية لمتغيّر منتظم ω\omega) منتظم ومستقل عن V=b2k12kV = \sum b_{2k-1}2^{-k}؛ (b) استنتج تقابلًا قابلًا للقياس إلى غاية مجموعات معدومة بين [0,1]\intcc01 و [0,1]2\intcc01^2 يحفظ القياس، وعلّق: أن عددًا عشوائيًّا منتظمًا واحدًا يحتوي عددين (بل عددًا قابلًا للعدّ) مستقلين — وقارن ذلك بمنحني پيانو (المسألة 6.1)، الذي حقق الغمر دون حفظ القياس ولا التباين.

حل

حل التمرين 22.10.

(a) الأرقام ذات الأدلّة الزوجية (b2k)k(b_{2k})_k بتّاتٌ عادلة مستقلة متماثلة (لأنها عائلة جزئية من عائلة الأرقام المستقلة)، ومنه يعطي U=kb2k2kU = \sum_kb_{2k}2^{-k} كلَّ فترة ثنائية احتمالَها الصحيح (كما في المبرهنة 22.6): أي منتظم؛ وبالمثل VV؛ و (U,V)(U, V) يتعلقان بكتل أرقام منفصلة: أي مستقلان (بالتحليل على المستطيلات الثنائية، ثم بدينكين).

(b) التطبيق Φ(ω)=(U(ω),V(ω))\Phi(\omega) = (U(\omega), V(\omega)) قابل للقياس مع Φλ=λλ=λ2\Phi_*\lambda = \lambda\otimes\lambda = \lambda_2 (بالتوافق على المستطيلات الثنائية مع الوحدانية). ويعرّف تشابكُ الأرقام مقلوبًا معرَّفًا خارج المجموعة (المعدومة) للأعداد الناطقة الثنائية في أي من العاملين: أي تقابلٌ حافظ للقياس بين جزأين تامّي القياس من [0,1]\intcc01 و [0,1]2\intcc01^2. وقابل ذلك بمنحني پيانو (المسألة 6.1): إذ فرض الاتصالُ الغمرَ دون التباين؛ وبإسقاط الاتصال مقابل مجرّد القابلية للقياس نشتري تماثلًا قياسيًّا — فالبُعد غير مرئي لنظرية القياس، ومرئيٌّ للطوبولوجيا.

تمرين 22.11 ★★

(الأرقام القياسية) لتكن (Xn)n1(X_n)_{n\geq1} مستقلة متماثلة بدالة توزيع متصلة، ولنقل إن رقمًا قياسيًّا يقع عند الزمن nn إذا كان Xn>max(X1,,Xn1)X_n > \max(X_1, \dots, X_{n-1}) (والزمن 11 رقم قياسي). وليكن RnR_n الدالةَ المميّزة للرقم القياسي. (a) برهن على P(Rn=1)=1n\P(R_n = 1) = \frac1n (بالتناظر، إذ يكون كلٌّ من ترتيبات X1,,XnX_1, \dots, X_n البالغة n!n! متساوي الاحتمال والتعادلات ذات احتمال 00). (b) برهن على أن RnR_n مستقلة (بعدّ الترتيبات المتوافقة مع مواضع أرقام قياسية مقرَّرة، أو بالحجة القائلة إن الترتيب النسبي للمتغيّرات X1,,Xn1X_1, \dots, X_{n-1} مستقل عن رتبة XnX_n بينها). (c) استنتج من بوريل–كانتيلي (المبرهنة 22.8، بشقّيها) أن عددًا لانهائيًّا من الأرقام القياسية يقع شبه أكيد، لكن الأرقام القياسية عند زمنين متتاليين n,n+1n, n+1 تقع عددًا لانهائيًّا من المرات باحتمال — قرّر أيهما! — واحسب nP(Rn=1,Rn+1=1)\sum_n\P(R_n = 1, R_{n+1} = 1).

حل

حل التمرين 22.11.

(a) يجعل اتصال التوزيع التعادلاتِ حوادثَ معدومة (كما في حجج الإحصاءات الرتبية في الفصل)، وتكون الترتيبات النسبية البالغة n!n! للمتغيّرات (X1,,Xn)(X_1, \dots, X_n) متبادلة، ومن ثَمّ متساوية الاحتمال. ويعني Rn=1R_n = 1 أن القيمة العظمى تجلس في الموضع الأخير: باحتمال (n1)!n!=1n\frac{(n-1)!}{n!} = \frac1n.

(b) نثبّت nn ونشرط على الترتيب النسبي للمتغيّرات X1,,Xn1X_1, \dots, X_{n-1}: فإدخال XnX_n في مواضع الرتب الممكنة nn منتظمٌ ومستقل عن ذلك الترتيب (بتبادلية الثلاثية ذات nn عنصرًا). ومن ثَمّ يكون RnR_n (أي حادثة «يأخذ XnX_n الموضع الأعلى») مستقلًّا عن تاريخ الأرقام القياسية كله (R1,,Rn1)(R_1, \dots, R_{n-1})، وهو دالةٌ للترتيب النسبي للمتغيّرات n1n - 1 الأولى. ويعطي التراجع الاستقلال الكامل مع P(Rn=1)=1n\P(R_n = 1) = \frac1n.

(c) P(Rn=1)=1n=\sum\P(R_n = 1) = \sum\frac1n = \infty مع الاستقلال: فيعطي الشقّ الثاني من بوريل–كانتيلي أرقامًا قياسية عددًا لانهائيًّا من المرات شبه أكيد (فالأرقام القياسية لا تتوقف أبدًا — لكنها تخفّ لوغاريتميًّا: E[#الأرقام القياسية عند الأزمنةn]=Hnlnn\E[\#\text{الأرقام القياسية عند الأزمنة} \leq n] = H_n \approx \ln n). وأما الأرقام القياسية المتتالية: P(Rn=Rn+1=1)=1n(n+1)\P(R_n = R_{n+1} = 1) = \frac1{n(n+1)} (بالاستقلال)، و

n1n(n+1)=n(1n1n+1)=1<:\sum_n\frac1{n(n+1)} = \sum_n\Bigl(\frac1n - \frac1{n+1}\Bigr) = 1 < \infty :

فينطبق الشقّ الأول من بوريل–كانتيلي — فلا يقع سوى عدد منتهٍ من أزواج الأرقام القياسية المتتالية، شبه أكيد.

تمرين 22.12 ★★

(أطول سلسلة وجوه) نرمي قطعة نقدية عادلة عددًا لانهائيًّا من المرات، وليكن LnL_n طولَ أطول سلسلة وجوه متتالية ضمن الرميات nn الأولى. (a) برهن على أنه من أجل كل ε>0\varepsilon > 0، يكون شبه أكيد Ln(1+ε)log2nL_n \leq (1 + \varepsilon)\log_2n في النهاية (إذ احتمال أن تبدأ سلسلة طولها \ell ضمن الرميات nn الأولى هو على الأكثر n2n2^{-\ell}؛ وبوريل–كانتيلي على امتداد n=2kn = 2^k). (b) برهن على أنه شبه أكيد Ln(1ε)log2nL_n \geq (1 - \varepsilon)\log_2n في النهاية (بتقطيع الرميات nn الأولى إلى n/\lfloor n/\ell\rfloor كتلة منفصلة طولها =(1ε)log2n\ell = \lceil(1 - \varepsilon)\log_2n\rceil؛ والكتل مستقلة، وكلٌّ منها كلها وجوه باحتمال 22^{-\ell}، واحتمال ألا تكون أي منها كلها وجوه هو على الأكثر exp(n2/)\exp(-n2^{-\ell}/\ell)؛ ثم اجمع على امتداد n=2kn = 2^k من جديد). (c) اخلص إلى Lnlog2n1\frac{L_n}{\log_2n} \to 1 شبه أكيد: أي إنه في مليون رمية عادلة يجب توقّع سلسلة نحو 2020 وجهًا — ومجموعةُ بيانات بلا واحدة منها مصطنعةٌ على الأرجح.

حل

حل التمرين 22.12.

(a) لسلسلة طولها \ell تبدأ عند الموضع ini \leq n الاحتمالُ 22^{-\ell}؛ وبحدّ الاتحاد: P(Ln)n2\P(L_n \geq \ell) \leq n2^{-\ell}. ومع n=(1+ε)log2n\ell_n = (1 + \varepsilon)\log_2n: P(Lnn)nε\P(L_n \geq \ell_n) \leq n^{-\varepsilon}. وعلى امتداد n=2kn = 2^k: k2kε<\sum_k2^{-k\varepsilon} < \infty، ومنه شبه أكيد L2k<(1+ε)kL_{2^k} < (1+\varepsilon)k في النهاية (ببوريل–كانتيلي)؛ ومن أجل nn عام نختار 2k1<n2k2^{k-1} < n \leq 2^k ونستعمل رتابة LnL_n مع log22k1log2n\log_22^{k-1} \leq \log_2n: أي LnL2k<(1+ε)k(1+ε)kk1log2nL_n \leq L_{2^k} < (1 + \varepsilon)k \leq (1 + \varepsilon)\frac{k}{k-1} \log_2n، ويُمتصّ العامل الإضافي بتوسيع ε\varepsilon قليلًا.

(b) مع =(1ε)log2n\ell = \lceil(1 - \varepsilon)\log_2n\rceil و m=n/m = \lfloor n/\ell\rfloor كتلة منفصلة: تكون الكتل مستقلة، وكلٌّ منها كلها وجوه باحتمال 2n(1ε)/22^{-\ell} \geq n^{-(1-\varepsilon)}/2، ومنه

P(Ln<)(12)mexp(m2)exp(cnεlog2n)\P(L_n < \ell) \leq \bigl(1 - 2^{-\ell}\bigr)^{m} \leq \exp\bigl(-m2^{-\ell}\bigr) \leq \exp\Bigl(-c\,\frac{n^{\varepsilon}}{\log_2n}\Bigr)

من أجل ثابت c>0c > 0 ومن أجل nn كبير. وهذه الاحتمالات قابلة للجمع على امتداد n=2kn = 2^k (بل على امتداد كل nn): فتعطي بوريل–كانتيلي شبه أكيد Ln(1ε)log2nL_n \geq (1 - \varepsilon)\log_2n في النهاية (وتملأ الرتابة ما بين 2k2^k كما في (a)، دون ضرر).

(c) الحدّان على امتداد متتالية ε=1j\varepsilon = \frac1j، وبتقاطع عدد قابل للعدّ من الحوادث تامة القياس: Lnlog2n1\frac{L_n}{\log_2n} \to 1 شبه أكيد. ومن أجل n=106n = 10^6: log2n19.9\log_2n \approx 19.9 — فسلسلة 20\approx 20 وجهًا ليست شذوذًا مريبًا بل يقينًا رياضيًّا، وغيابها دليلٌ على إنسان يزيّف «العشوائية» (إذ نادرًا ما يجرؤ البشر على كتابة أكثر من 55 أو 66 وجوه متتالية).

22.7 مسألة: برهان إتِمادي على القانون القوي

مسألة 22.1

مسألة نهاية الأسبوع — قانون الأعداد الكبيرة القوي من أجل متغيّرات مستقلة متماثلة قابلة للمكاملة

لم يكن لقانون كولموغوروف القوي — SnnEX1\frac{S_n}n \to \E X_1 شبه أكيد من أجل XnL1X_n \in L^1 مستقلة متماثلة — طويلًا سوى براهين معقّدة؛ وفي 1981 وجد ن. إتِمادي برهانًا لافت الاقتصاد، لا يستعمل شيئًا وراء هذا الفصل (بل يضعّف الاستقلال إلى استقلال مثنى مثنى). ونتتبّعه. لتكن (Xn)(X_n) مستقلة مثنى مثنى، متماثلة التوزيع، قابلة للمكاملة؛ و m=EX1m = \E X_1، Sn=X1++XnS_n = X_1 + \dots + X_n.

الجزء الأول — الإرجاعات.

  1. برهن على أنه يكفي معالجة Xn0X_n \geq 0 (بالشطر Xn=Xn+XnX_n = X_n^+ - X_n^-: وتحقق من أن الشقّين مستقلان مثنى مثنى ومتماثلان وقابلان للمكاملة من جديد). ولنفترض من الآن فصاعدًا أن Xn0X_n \geq 0.
  2. (البتر) لتكن Yn=Xn1XnnY_n = X_n\,\mathbf 1_{X_n \leq n} ولتكن Sn=Y1++YnS_n^* = Y_1 + \dots + Y_n. برهن على

    n1P(XnYn)=n1P(X1>n)E[X1]<\sum_{n\geq1}\P(X_n \neq Y_n) = \sum_{n\geq1}\P(X_1 > n) \leq \E[X_1] < \infty

    (التمرين 11.3)، واستنتج ببوريل–كانتيلي أن SnSnn0\frac{S_n - S_n^*}{n} \to 0 شبه أكيد: فيكفي أن نبرهن على Snnm\frac{S^*_n}n \to m شبه أكيد.

  3. برهن على EYn=E[X11X1n]m\E Y_n = \E\bigl[X_1\mathbf 1_{X_1\leq n}\bigr] \to m (بالتقارب الرتيب)، ومن ثَمّ على 1nknEYkm\frac1n\sum_{k\leq n}\E Y_k \to m (بتشيزارو): فيكفي أن نبرهن على SnESnn0\frac{S_n^* - \E S_n^*}{n} \to 0 شبه أكيد.

الجزء الثاني — تقدير التباين.

  1. برهن على

    V(Yn)E[Yn2]=E[X121X1n]\V(Y_n) \leq \E[Y_n^2] = \E\bigl[X_1^2\,\mathbf 1_{X_1 \leq n}\bigr]

    وعلى الحدّ المفتاحي، باستعمال كعكة الطبقات (القضية 11.8

    n1V(Yn)n2n11n2E[X121X1n]CE[X1]<\sum_{n\geq1}\frac{\V(Y_n)}{n^2} \leq \sum_{n\geq1}\frac1{n^2}\, \E\bigl[X_1^2\mathbf 1_{X_1\leq n}\bigr] \leq C\,\E[X_1] < \infty

    (بتبديل المجموع والأمل — بتونيلي للمتسلسلات — وبحدّ nx1n22max(x,1)\sum_{n \geq x}\frac1{n^2} \leq \frac2{\max(x,1)} من أجل التقدير الداخلي x2nxn22xx^2\sum_{n\geq x}n^{-2} \leq 2x).

الجزء الثالث — التقارب على امتداد المتتاليات الجزئية الهندسية. نثبّت α>1\alpha > 1 ولتكن kj=αjk_j = \lfloor\alpha^j\rfloor.

  1. باستعمال الاستقلال المثنى (إذ تُجمع التباينات، المبرهنة 22.5 — وتحقق من أن جمعية التباينات لا تحتاج إلا إلى الاستقلال المثنى) وتشيبيشيف، برهن من أجل كل ε>0\varepsilon > 0 على:

    j1P(SkjESkjkjε)1ε2j11kj2nkjV(Yn)=1ε2n1V(Yn)j:kjn1kj2.\sum_{j\geq1}\P\Bigl(\Bigl| \frac{S^*_{k_j} - \E S^*_{k_j}}{k_j}\Bigr| \geq \varepsilon\Bigr) \leq \frac1{\varepsilon^2}\sum_{j\geq1}\frac1{k_j^2} \sum_{n\leq k_j}\V(Y_n) = \frac1{\varepsilon^2}\sum_{n\geq1}\V(Y_n) \sum_{j\,:\,k_j\geq n}\frac1{k_j^2} .
  2. برهن على j:kjnkj2Cαn2\sum_{j : k_j \geq n}k_j^{-2} \leq \frac{C_\alpha}{n^2} (بالمتسلسلة الهندسية؛ واحذر الجزء الصحيح: kjαj2k_j \geq \frac{\alpha^j}2 من أجل عناية من نمط αj2\alpha^j \geq 2)، واخلص مع السؤال 4 وبوريل–كانتيلي:

    SkjESkjkjjشبه أكيد0,ومنهSkjkjm شبه أكيد\frac{S^*_{k_j} - \E S^*_{k_j}}{k_j} \xrightarrow[j\to\infty]{\text{شبه أكيد}} 0, \qquad\text{ومنه}\qquad \frac{S^*_{k_j}}{k_j} \to m \ \text{شبه أكيد}

الجزء الرابع — الحصر والخاتمة.

  1. من أجل kjnkj+1k_j \leq n \leq k_{j+1}، استعمل رتابة SnS^*_n (فالحدود غير سالبة!) لتبرهن على

    kjkj+1Skjkj    Snn    kj+1kjSkj+1kj+1,\frac{k_j}{k_{j+1}}\,\frac{S^*_{k_j}}{k_j} \;\leq\; \frac{S^*_n}{n} \;\leq\; \frac{k_{j+1}}{k_j}\,\frac{S^*_{k_{j+1}}}{k_{j+1}},

    واستنتج، شبه أكيد:

    mαlim infSnnlim supSnnαm.\frac m\alpha \leq \liminf\frac{S^*_n}n \leq \limsup\frac{S^*_n}n \leq \alpha\,m .
  2. اجعل α1\alpha \downarrow 1 على امتداد متتالية واخلص إلى Snnm\frac{S_n^*}n \to m شبه أكيد، ومن ثَمّ (بالجزء الأول) إلى قانون الأعداد الكبيرة القوي:

     Snnnشبه أكيدE[X1]. \boxed{\ \frac{S_n}{n} \xrightarrow[n\to\infty]{\text{شبه أكيد}} \E[X_1].\ }
  3. وأين بالضبط كفى الاستقلال المثنى (بدل الاستقلال الكامل)؟ اذكر المواضع الثلاثة التي استُدعيت فيها فرضيات من نمط الاستقلال.

الجزء الخامس — العوائد.

  1. (أعداد بوريل الناظمية) برهن على أن كل x[0,1]x \in \intcc01 تقريبًا بالمعنى λ\lambda ناظمي في كل أساس b2b \geq 2: أي إن كل رقم 0,,b10, \dots, b-1 يظهر بتواتر مقارب 1b\frac1b (ثبّت bb ورقمًا، وطبّق القانون القوي على متغيّرات الدوال المميّزة — وبرّر أن أرقام الأساس bb لمتغيّر منتظم مستقلة متماثلة منتظمة على {0,,b1}\{0,\dots,b-1\} كما في المبرهنة 22.6 — ثم قاطع الحوادث القابلة للعدّ ذات الاحتمال واحد). وأبرز عددًا واحدًا صريحًا غير ناظمي، وتأمّل: أن المبرهنة تؤكد ناظمية جميع الأعداد تقريبًا، ومع ذلك يبقى برهان ناظمية 2\sqrt2 أو π\pi مفتوحًا.
  2. (مونتي كارلو، مضمونًا) برّر كاملًا طريقةَ المثال 22.14(b) من أجل gL1([0,1]d)g \in L^1(\intcc01^d): ابنِ العيّنة المستقلة المتماثلة المنتظمة على [0,1]d\intcc01^d من المبرهنة 22.6 و التمرين 22.10، وصُغ ما يسلّمه القانون القوي.

الجزء السادس — ما يشتريه الاستقلال الكامل: المتراجحات العظمى والمتسلسلات العشوائية. ينفق إتِمادي الاستقلالَ المثنى وحده؛ وتستثمر بقية الأجزاء الصيغة الكاملة (المتبادلة). لتكن (Zn)(Z_n) متغيّرات مستقلة موسَّطة من L2L^2 ولتكن Sk=Z1++ZkS_k = Z_1 + \dots + Z_k (وهو اصطلاح جديد، لا علاقة له بالمتغيّرات XnX_n أعلاه).

  1. (متراجحة كولموغوروف العظمى) من أجل ε>0\varepsilon > 0 برهن على

    P(max1knSkε)    1ε2k=1nV(Zk):\P\Bigl(\max_{1\leq k\leq n}\abs{S_k} \geq \varepsilon\Bigr) \;\leq\; \frac1{\varepsilon^2}\sum_{k=1}^n\V(Z_k) :

    فيشتري ثمنُ تشيبيشيف القيمةَ العظمى (بتجزئة الحادثة حسب أول دليل kk يحقق Skε\abs{S_k} \geq \varepsilon؛ وعلى تلك القطعة اكتب Sn2Sk2+2Sk(SnSk)S_n^2 \geq S_k^2 + 2S_k(S_n - S_k) واستعمل استقلال الائتلافين (Z1,,Zk)(Z_1, \dots, Z_k) و (Zk+1,,Zn)(Z_{k+1}, \dots, Z_n)، المبرهنة 22.5). وبيّن الخطوة التي لم يعد فيها الاستقلال المثنى كافيًا.

  2. (مبرهنة خينتشين–كولموغوروف في المتسلسلة الواحدة) استنتج: أنه إذا كان nV(Zn)<\sum_n\V(Z_n) < \infty، تقاربت nZn\sum_nZ_n شبه أكيد (برهن على أن المجاميع الجزئية تشكّل شبه أكيد متتالية كوشية: اجعل mm \to \infty في المتراجحة العظمى مطبَّقةً على ZN+1,,ZN+mZ_{N+1}, \dots, Z_{N+m}، ثم اجعل NN \to \infty).
  3. (متسلسلات رادماخر) لتكن (εn)(\varepsilon_n) إشارات مستقلة متماثلة، P(εn=±1)=12\P(\varepsilon_n = \pm1) = \frac12 (المبرهنة 22.6)، ولتكن (xn)(x_n) أعدادًا حقيقية. برهن على أن nxnεn\sum_nx_n\varepsilon_n تتقارب شبه أكيد بمجرد أن يكون nxn2<\sum_nx_n^2 < \infty؛ وبرهن أيضًا على أنه، أيًّا كانت (xn)(x_n)، يكون احتمال تقارب nxnεn\sum_nx_n\varepsilon_n إما 00 وإما 11 (المبرهنة 22.9).
  4. العكس، ابتدائيًّا. نضع Tn=knxkεkT_n = \sum_{k\leq n}x_k\varepsilon_k و sn2=knxk2s_n^2 = \sum_{k\leq n}x_k^2، ونفترض sns_n \to \infty. (a) برهن على متراجحة بيلي–زيغموند: أنه من أجل Z0Z \geq 0 يحقق EZ2<\E Z^2 < \infty و 0<θ<10 < \theta < 1،

    P(Z>θEZ)    (1θ)2(EZ)2EZ2\P\bigl(Z > \theta\,\E Z\bigr) \;\geq\; (1 - \theta)^2\,\frac{(\E Z)^2}{\E Z^2}

    (اشطر EZ\E Z عند المستوى θEZ\theta\E Z وطبّق كوشي–شوارتز على القطعة العليا). (b) برهن على ETn43sn4\E T_n^4 \leq 3s_n^4. (c) استنتج P(Tn>sn2)316\P\bigl(\abs{T_n} > \frac{s_n}2\bigr) \geq \frac3{16} واخلص إلى أن nxnεn\sum_nx_n\varepsilon_n تتباعد شبه أكيد؛ ومن ثَمّ الثنائية

    nxnεn  يتقارب شبه أكيد    nxn2<.\sum_nx_n\varepsilon_n\ \text{ يتقارب شبه أكيد} \iff \sum_nx_n^2 < \infty .
  5. (المتسلسلة التوافقية العشوائية) اخلص إلى أن nεnns\sum_n\frac{\varepsilon_n}{n^s} تتقارب شبه أكيد إذا وفقط إذا كان s>12s > \frac12. ومن أجل 12<s1\frac12 < s \leq 1 تتقارب المتسلسلة شبه أكيد بينما nns=\sum_nn^{-s} = \infty: أي إن الإشارات العشوائية تنتج تلاشيًا بقوة الجذر التربيعي — وقارن ذلك بالمتسلسلة المتناوبة n(1)nns\sum_n\frac{(-1)^n}{n^s}، وهي تتقارب من أجل كل s>0s > 0.

الجزء السابع — التركّز: متراجحة هوفدنغ. يقول القانون القوي إن Snnm\frac{S_n}n \to m؛ وتقول متراجحات التركّز كم يكون انحرافٌ ما غير محتمل عند كل nn مثبَّت.

  1. (المبرهنة المساعدة لهوفدنغ) (a) برهن على coshλeλ2/2\cosh\lambda \leq \eu^{\lambda^2/2} من أجل كل λR\lambda \in \R، بمقارنة المتسلسلتين حدًّا حدًّا. (b) ليكن ZZ موسَّطًا مع aZba \leq Z \leq b، حيث a<ba < b. برهن على

    EeλZexp(λ2(ba)28)\E\,\eu^{\lambda Z} \leq \exp\Bigl(\frac{\lambda^2(b - a)^2}8\Bigr)

    (حُدّ eλz\eu^{\lambda z} على [a,b]\intcc ab بوترها، وخذ الآمال، وادرس φ(t)=pt+log(1p+pet)\varphi(t) = -pt + \log(1 - p + p\eu^t) مع p=abap = \frac{-a}{b-a} و t=λ(ba)t = \lambda(b - a): برهن على φ(0)=φ(0)=0\varphi(0) = \varphi'(0) = 0 وعلى φ14\varphi'' \leq \frac14).

  2. (متراجحة هوفدنغ) لتكن X1,,XnX_1, \dots, X_n مستقلة مع aiXibia_i \leq X_i \leq b_i ولتكن Sn=X1++XnS_n = X_1 + \dots + X_n. برهن، من أجل t>0t > 0، على

    P(SnESnt)exp(2t2i=1n(biai)2),\P\bigl(S_n - \E S_n \geq t\bigr) \leq \exp\Bigl(\frac{-2t^2}{\sum_{i=1}^n(b_i - a_i)^2}\Bigr),

    وعلى الحدّ نفسه من أجل الذيل السفلي (بتشيبيشيف الأُسّية: حُدّ Eeλ(SnESn)\E\,\eu^{\lambda(S_n - \E S_n)} باستعمال الاستقلال والسؤال 17، ثم أمثِل على λ>0\lambda > 0).

  3. (القانون القوي، الحالة المحدودة، بمعدل) لتكن XiX_i مستقلة متماثلة بقيم في [a,b]\intcc ab ومع m=EX1m = \E X_1. برهن على

    P(Snnmε)2exp(2nε2(ba)2)\P\Bigl(\Bigl|\frac{S_n}n - m\Bigr| \geq \varepsilon\Bigr) \leq 2\exp\Bigl(\frac{-2n\varepsilon^2}{(b - a)^2}\Bigr)

    واستعد Snnm\frac{S_n}n \to m شبه أكيد ببوريل–كانتيلي: أي برهانًا ثانيًا على القانون القوي من أجل المتغيّرات المحدودة — دون بتر، بمعدل أُسّي عند كل nn منتهٍ، لكن بحدود محدودة وباستقلال كامل. وقارن الفرضيات بفرضيات إتِمادي.

  4. (مونتي كارلو، مضمونًا عند nn مثبَّت) لتكن g ⁣:[0,1]d[0,1]g \colon \intcc01^d \to \intcc01 قابلة للقياس ولتكن (Uk)(U_k) العيّنة المستقلة المتماثلة المنتظمة في السؤال 11. وبإعطاء ε,δ>0\varepsilon, \delta > 0، برهن على

    nlog(2/δ)2ε2    P(1nk=1ng(Uk)g ⁣dλdε)δ,n \geq \frac{\log(2/\delta)}{2\varepsilon^2} \implies \P\Bigl(\Bigl|\frac1n\sum_{k=1}^ng(U_k) - \int g\,\dd\lambda_d\Bigr| \geq \varepsilon\Bigr) \leq \delta,

    وقيّم العتبة من أجل ε=δ=102\varepsilon = \delta = 10^{-2}. والحدّ لا يتضمّن dd: فقارنه بالسؤال 11 وبالشبكات الحتمية.

الجزء الثامن — كم يكبر مشي عشوائي؟ نحو اللوغاريتم المكرَّر. لتكن Sn=ε1++εnS_n = \varepsilon_1 + \dots + \varepsilon_n المشيَ العشوائي البسيط المبني من إشارات عادلة مستقلة متماثلة.

  1. (ذيول تحت غاوسية) برهن على EeλSn=(coshλ)nenλ2/2\E\,\eu^{\lambda S_n} = (\cosh\lambda)^n \leq \eu^{n\lambda^2/2} واستنتج، من أجل x>0x > 0،

    P(Snx)ex2/(2n),P(Snx)2ex2/(2n).\P(S_n \geq x) \leq \eu^{-x^2/(2n)}, \qquad \P(\abs{S_n} \geq x) \leq 2\,\eu^{-x^2/(2n)} .
  2. استنتج، ببوريل–كانتيلي،

    lim supnSn2nlogn1شبه أكيد\limsup_{n\to\infty}\frac{\abs{S_n}} {\sqrt{2n\log n}} \leq 1 \quad\text{شبه أكيد}

    (من أجل η>0\eta > 0، اجمع حدود الذيل عند x=(1+η)2nlognx = (1 + \eta)\sqrt{2n\log n}، ثم قاطع على η=1p\eta = \frac1p). وعلى وجه الخصوص يعيش المشي على سلّم مبرهنة النهاية المركزية n\sqrt n إلى غاية عامل لوغاريتمي — أي أدنى بكثير من الحدّ الخشن Snn\abs{S_n} \leq n.

  3. وعلى امتداد المتتالية الجزئية المضاعِفة nj=2jn_j = 2^j، برهن على

    lim supjSnj2njloglognj1شبه أكيد,\limsup_{j\to\infty}\frac{S_{n_j}} {\sqrt{2n_j\log\log n_j}} \leq 1 \quad\text{شبه أكيد},

    وتأمّل: أن قانون اللوغاريتم المكرَّر (خينتشين؛ وهارتمان–وينتنر من أجل حدود موسَّطة عامة من L2L^2) ينص على أن

    lim supnSn2nloglogn=1شبه أكيد\limsup_{n\to\infty}\frac{S_n} {\sqrt{2n\log\log n}} = 1 \quad\text{شبه أكيد}

    واشرح بالضبط ما يفصل تقدير المتتالية الجزئية المبرهَن عليه للتوّ عن الشقّ الأعلى من هذه العبارة (إذ يجب التحكم في maxnjnnj+1Sn\max_{n_j \leq n \leq n_{j+1}}S_n داخل كل كتلة، وهو ما يتطلب متراجحةً عظمى على السلّم الأُسّي) وتحقق كمّيًّا من أن متراجحة السؤال 12 أضعف من أن تفي بذلك الغرض. ويقوم الشقّ الأدنى على المبرهنة المساعدة الثانية لبوريل–كانتيلي مطبَّقةً على كتل مستقلة؛ والشقّان معًا مادةٌ أمينة من مواد السنة الثالثة من أجل مقرر احتمالات مخصَّص.

  4. (الانحراف المنتظم على صنف منتهٍ) لتكن A1,,ANA_1, \dots, A_N حوادث في تجربة قابلة للتكرار، ولنقدّر كل احتمال بتواتره التجريبي p^i\hat p_i على nn من التكرارات المستقلة المتماثلة. وبضمّ متراجحة هوفدنغ إلى حدّ الاتحاد، برهن على

    P(maxiNp^iP(Ai)>ε)    2Ne2nε2,\P\Bigl(\max_{i\leq N}\,\abs{\hat p_i - \P(A_i)} > \varepsilon\Bigr) \;\leq\; 2N\,\eu^{-2n\varepsilon^2},

    واستنتج قاعدة حجم العيّنة: أن nln(2N/δ)2ε2n \geq \frac{\ln(2N/\delta)}{2\varepsilon^2} يضمن دقة ε\varepsilon لجميع التقديرات NN في آن واحد باحتمال 1δ\geq 1 - \delta. واحسب nn من أجل N=106N = 10^6 و ε=0.01\varepsilon = 0.01 و δ=0.05\delta = 0.05: أي الثمن اللوغاريتمي للانتظام.

  5. (النافذة التوافقية العشوائية) بضمّ شقّي نظرية المتسلسلات العشوائية، برهن على أنه من أجل إشارات مستقلة متماثلة (εn)(\varepsilon_n) تتقارب المتسلسلة nεnnα\sum_n\frac{\varepsilon_n}{n^\alpha} شبه أكيد إذا كان α>12\alpha > \frac12 وتتباعد شبه أكيد إذا كان α12\alpha \leq \frac12؛ وقابل ذلك بالتقارب المطلق (الذي يتطلب α>1\alpha > 1): أي إنه على النافذة α(12,1]\alpha \in \intoc{\frac12}1، يكون التقارب ظاهرةً احتمالية فعلًا — تلاشيًا لا حجمًا.
حل

حل المسألة 22.1.

1. Xn±X_n^{\pm} دوالٌّ بورييلة للمتغيّر XnX_n: فتبقى مستقلة مثنى مثنى (التمرين 22.3(a)) ومتماثلة التوزيع وقابلة للمكاملة، مع EX1=EX1+EX1\E X_1 = \E X_1^+ - \E X_1^-. فإذا صحّت المبرهنة من أجل المتغيّرات غير السالبة، طبّقناها على الشقّين وطرحنا: Snn=Sn+nSnnEX1+EX1=m\frac{S_n}n = \frac{S_n^+}n - \frac{S_n^-}n \to \E X_1^+ - \E X_1^- = m شبه أكيد.

2. P(XnYn)=P(Xn>n)=P(X1>n)\P(X_n \neq Y_n) = \P(X_n > n) = \P(X_1 > n) (بالقوانين المتماثلة)، و nP(X1>n)nP(X1n)EX1<\sum_n\P(X_1 > n) \leq \sum_n\P(X_1 \geq n) \leq \E X_1 < \infty (التمرين 11.3(a)). وبوريل–كانتيلي (1): شبه أكيد Xn=YnX_n = Y_n من أجل كل nn كبير، ومنه يكون SnSnS_n - S_n^* ثابتًا في nn في النهاية: أي SnSnn0\frac{S_n - S_n^*}n \to 0 شبه أكيد، ويتقاسم المجموعان المعيَّران سلوكهما المقارب.

3. X11X1nX1X_1\mathbf 1_{X_1 \leq n} \nearrow X_1: فيعطي التقارب الرتيب EYnm\E Y_n \to m؛ ومتوسطات تشيزارو لمتتالية متقاربة تتقارب إلى النهاية نفسها: أي ESnn=1nknEYkm\frac{\E S_n^*}n = \frac1n\sum_{k\leq n}\E Y_k \to m. ومن ثَمّ يكفي أن نبرهن على SnESnn0\frac{S^*_n - \E S^*_n}{n} \to 0 شبه أكيد.

4. V(Yn)EYn2=E[X121X1n]\V(Y_n) \leq \E Y_n^2 = \E[X_1^2\mathbf 1_{X_1\leq n}]. وبتونيلي للمتسلسلات،

nE[X121X1n]n2=E[X12 ⁣ ⁣nmax(X1,1) ⁣1n2]E[X124max(X1,1)]4E[X1]<,\sum_n\frac{\E[X_1^2\mathbf 1_{X_1\leq n}]}{n^2} = \E\Bigl[X_1^2\!\!\sum_{n \geq \max(X_1, 1)}\!\frac1{n^2} \Bigr] \leq \E\Bigl[X_1^2\cdot\frac{4}{\max(X_1,1)}\Bigr] \leq 4\,\E[X_1] < \infty,

باستعمال nxn24x\sum_{n\geq x}n^{-2} \leq \frac4x من أجل x1x \geq 1 (فمن أجل x2x \geq 2: 1x12x\leq \frac1{x-1} \leq \frac2x؛ ومن أجل 1x<21 \leq x < 2: π264x\leq \frac{\pi^2}6 \leq \frac4x لأن 4x>2\frac4x > 2)، و X12/max(X1,1)X1X_1^2/\max(X_1, 1) \leq X_1 في الحالتين X11X_1 \gtrless 1.

5. يعطي الاستقلال المثنى أن E[(YiEYi)(YjEYj)]=0\E[(Y_i - \E Y_i)(Y_j - \E Y_j)] = 0 من أجل iji \neq j (بصيغة الجداء لمتغيّرين)، ومنه تُجمع التباينات: V(Sk)=nkV(Yn)\V(S^*_k) = \sum_{n\leq k}\V(Y_n). وبتشيبيشيف على كل kjk_j وبالجمع:

jP(SkjESkjεkj)1ε2j1kj2nkjV(Yn)=1ε2nV(Yn) ⁣ ⁣j:kjn ⁣1kj2\sum_j\P\Bigl(\abs{S^*_{k_j} - \E S^*_{k_j}} \geq \varepsilon k_j\Bigr) \leq \frac1{\varepsilon^2}\sum_j\frac1{k_j^2}\sum_{n\leq k_j}\V(Y_n) = \frac1{\varepsilon^2}\sum_n\V(Y_n)\!\!\sum_{j : k_j\geq n}\!\frac1{k_j^2}

(بتونيلي للمتسلسلة المزدوجة غير السالبة).

6. kj=αjαj2k_j = \lfloor\alpha^j\rfloor \geq \frac{\alpha^j}2 (وهي صحيحة بمجرد أن يكون αj1\alpha^j \geq 1، أي من أجل كل j0j \geq 0: xx2\lfloor x\rfloor \geq \frac x2 من أجل x1x \geq 1). ومنه

j:kjn1kj24j:αjnα2j41α21n2=Cαn2,\sum_{j : k_j \geq n}\frac1{k_j^2} \leq 4\sum_{j : \alpha^j \geq n}\alpha^{-2j} \leq \frac{4}{1 - \alpha^{-2}}\cdot\frac1{n^2} = \frac{C_\alpha}{n^2},

(بالمتسلسلة الهندسية انطلاقًا من أول jj يحقق αjn\alpha^j \geq n). وبضمّ ذلك إلى السؤالين 4 و5، يكون المجموع المزدوج منتهيًا؛ وتعطي بوريل–كانتيلي (1)، مطبَّقةً من أجل كل ε\varepsilon ناطق ومقاطَعةً، أن SkjESkjkj0\frac{S^*_{k_j} - \E S^*_{k_j}}{k_j} \to 0 شبه أكيد، ومع السؤال 3: Skjkjm\frac{S^*_{k_j}}{k_j} \to m شبه أكيد.

7. يجعل Yn0Y_n \geq 0 المقدارَ nSnn \mapsto S^*_n متزايدًا بالمعنى الواسع: فمن أجل kjnkj+1k_j \leq n \leq k_{j+1}،

Skjkj+1SnnSkj+1kj,\frac{S^*_{k_j}}{k_{j+1}} \leq \frac{S^*_n}{n} \leq \frac{S^*_{k_{j+1}}}{k_j},

وهو الحصر المعروض بعد إدخال kjkj+1\frac{k_j}{k_{j+1}} و kj+1kj\frac{k_{j+1}}{k_j}. وبما أن kj+1kjα\frac{k_{j+1}}{k_j} \to \alpha، يعطي السؤال 6 شبه أكيد

mαlim infnSnnlim supnSnnαm.\frac m\alpha \leq \liminf_n\frac{S^*_n}n \leq \limsup_n\frac{S^*_n}n \leq \alpha m .

8. نطبّق السؤال 7 من أجل α=1+1p\alpha = 1 + \frac1p، pNp \in \N^*: فنجد عددًا قابلًا للعدّ من الحوادث شبه الأكيدة؛ وعلى تقاطعها، بجعل pp \to \infty: limSnn=m\lim\frac{S^*_n}n = m شبه أكيد. ومع الأسئلة 1–3، SnnEX1\frac{S_n}n \to \E X_1 شبه أكيد: أي قانون الأعداد الكبيرة القوي، تحت الاستقلال المثنى.

9. ظهرت الفرضيات من نمط الاستقلال ثلاث مرات: (أ) جمعية التباينات (السؤال 5) — ويكفي المثنى؛ (ب) وتماثل التوزيع، في مجاميع البتر (السؤال 2) وفي حساب المتوسط (السؤال 3) — ولا استقلال البتة؛ (ج) وبوريل–كانتيلي (1) (السؤالان 2 و6) — وهي صحيحة دون أي استقلال. فلم يُستدعَ الاستقلال المتبادل الكامل قط: وهي ملاحظة إتِمادي.

10. نثبّت أساسًا bb ورقمًا rr. أرقام الأساس bb (dk)(d_k) لمتغيّر منتظم ω\omega مستقلة متماثلة منتظمة على {0,,b1}\{0, \dots, b-1\} (إذ تشغل كل قيمة لمتجهة الأرقام فترةً طولها bmb^{-m}: أي حجة المبرهنة 22.6 حرفيًّا). ويعطي القانون القوي مطبَّقًا على المتغيّرات المستقلة المتماثلة المحدودة 1dk=r\mathbf 1_{d_k = r} أن تواتر الرقم rr يؤول شبه أكيد إلى 1b\frac1b. وبالتقاطع على الأزواج القابلة للعدّ (b,r)(b, r): يكون كل عدد تقريبًا ناظميًّا ببساطة في كل أساس. وعددٌ غير ناظمي صريح: x=0.1001001002x = 0.100100100\ldots_2 (بتواتر آحاد 1312\frac13 \neq \frac12). والتباين مذلّ: فجميع الأعداد تقريبًا ناظمية، ومع ذلك تبقى ناظمية 2\sqrt2 أو e\eu أو π\pi غير مبرهَن عليها — فنظرية القياس تعدّ دون أن تُبرز.

11. بتكرار التمرين 22.10، يعطي متغيّرٌ منتظم واحد متتاليةً من المتجهات المستقلة المتماثلة المنتظمة UkU_k على [0,1]d\intcc01^d (بشطر مجموعة أرقام كل UnU_n في المبرهنة 22.6 إلى dd من العائلات الجزئية). ومن أجل gL1([0,1]d)g \in L^1(\intcc01^d)، تكون المتغيّرات g(Uk)g(U_k) مستقلة متماثلة قابلة للمكاملة بمتوسط g ⁣dλd\int g\,\dd\lambda_d (بالنقل): فيعطي القانون القوي

1nk=1ng(Uk)nشبه أكيد[0,1]dg ⁣dλd:\frac1n\sum_{k=1}^ng(U_k) \xrightarrow[n\to\infty]{\text{شبه أكيد}} \int_{\intcc01^d}g\,\dd\lambda_d :

فتتقارب مكاملة مونتي كارلو شبه أكيد، في كل بُعد — وحجم الخطأ من شأن مبرهنة النهاية المركزية (الفصل 23).

12. لتكن Ak={Skε}j<k{Sj<ε}A_k = \{\abs{S_k} \geq \varepsilon\} \cap \bigcap_{j<k}\{\abs{S_j} < \varepsilon\}: فتكون AkA_k منفصلة واتحادها A={maxknSkε}A = \{\max_{k\leq n}\abs{S_k} \geq \varepsilon\}. عندئذٍ

ESn2k=1nE[Sn21Ak]=k=1nE[(Sk2+2Sk(SnSk)+(SnSk)2)1Ak]k=1nE[Sk21Ak],\E S_n^2 \geq \sum_{k=1}^n\E\bigl[S_n^2\mathbf 1_{A_k}\bigr] = \sum_{k=1}^n\E\Bigl[\bigl(S_k^2 + 2S_k(S_n - S_k) + (S_n - S_k)^2\bigr)\mathbf 1_{A_k}\Bigr] \geq \sum_{k=1}^n\E\bigl[S_k^2\mathbf 1_{A_k}\bigr],

لأن الحدّ المتقاطع ينعدم: إذ Sk1AkS_k\mathbf 1_{A_k} دالةٌ بوريلية للائتلاف (Z1,,Zk)(Z_1, \dots, Z_k)، وهو مستقل عن SnSkS_n - S_k، وهي دالة للائتلاف (Zk+1,,Zn)(Z_{k+1}, \dots, Z_n) (المبرهنة 22.5)، ومنه E[Sk1Ak(SnSk)]=E[Sk1Ak]E[SnSk]=0\E[S_k\mathbf 1_{A_k}(S_n - S_k)] = \E[S_k\mathbf 1_{A_k}]\,\E[S_n - S_k] = 0. وعلى AkA_k، Sk2ε2S_k^2 \geq \varepsilon^2، ومن ثَمّ ESn2ε2kP(Ak)=ε2P(A)\E S_n^2 \geq \varepsilon^2\sum_k\P(A_k) = \varepsilon^2\P(A)؛ و ESn2=knV(Zk)\E S_n^2 = \sum_{k\leq n}\V(Z_k) (إذ تُجمع التباينات). والخطوة الحاسمة هي التحليل: فإن Sk1AkS_k\mathbf 1_{A_k} دالةٌ غير خطية للكتلة الأولى كلها، واستقلالها عن الكتلة الثانية استقلالُ ائتلافات — بينما الاستقلال المثنى للمتغيّرات ZiZ_i لا يزيل الارتباط إلا بين الأزواج ولن يبرّر ذلك.

13. نثبّت NN ونطبّق السؤال 12 على ZN+1,,ZN+mZ_{N+1}, \dots, Z_{N+m}:

P(maxN<kN+mSkSN>ε)1ε2j=N+1N+mV(Zj)rNε2,rN=j>NV(Zj).\P\Bigl(\max_{N < k \leq N+m}\abs{S_k - S_N} > \varepsilon\Bigr) \leq \frac1{\varepsilon^2}\sum_{j=N+1}^{N+m}\V(Z_j) \leq \frac{r_N}{\varepsilon^2}, \qquad r_N = \sum_{j>N}\V(Z_j) .

وتتزايد الحوادث مع mm؛ ويعطي الاتصال من الأسفل P(supk>NSkSN>ε)rN/ε2\P(\sup_{k>N}\abs{S_k - S_N} > \varepsilon) \leq r_N/\varepsilon^2، و rN0r_N \to 0 بالفرضية. ومن ثَمّ من أجل كل pNp \in \N^*، P(N{supk>NSkSN>1p})infNp2rN=0\P\bigl(\bigcap_N\{\sup_{k>N} \abs{S_k - S_N} > \frac1p\}\bigr) \leq \inf_Np^2r_N = 0: أي شبه أكيد، من أجل كل pp يوجد NN يحقق supk>NSkSN1p\sup_{k>N}\abs{S_k - S_N} \leq \frac1p (بتقاطع الحوادث شبه الأكيدة القابلة للعدّ على pp)، بحيث يكون SkSl2p\abs{S_k - S_l} \leq \frac2p من أجل كل k,l>Nk, l > N: فتكون المجاميع الجزئية كوشية شبه أكيد، ومن ثَمّ متقاربة شبه أكيد.

14. المتغيّرات Zn=xnεnZ_n = x_n\varepsilon_n مستقلة (لأنها دوال بورييلة لمتغيّرات مستقلة، التمرين 22.3(a))، وموسَّطة، مع V(Zn)=xn2\V(Z_n) = x_n^2: فينطبق السؤال 13 حين يكون nxn2<\sum_nx_n^2 < \infty ويعطي التقارب شبه الأكيد. وعمومًا، من أجل كل NN لا يتأثر تقارب nxnεn\sum_nx_n\varepsilon_n بقيم ε1,,εN\varepsilon_1, \dots, \varepsilon_N: فتقع حادثة التقارب في الجبر الذيلي من النمط σ\sigma للمتتالية المستقلة (εn)(\varepsilon_n)، ومنه يفرض قانون كولموغوروف صفر–واحد (المبرهنة 22.9) أن يكون احتمالها 00 أو 11.

15. (a) بالشطر عند المستوى θEZ\theta\E Z وباستعمال كوشي–شوارتز على القطعة العليا،

EZ=E[Z1ZθEZ]+E[Z1Z>θEZ]θEZ+EZ2P(Z>θEZ),\E Z = \E\bigl[Z\mathbf 1_{Z \leq \theta\E Z}\bigr] + \E\bigl[Z\mathbf 1_{Z > \theta\E Z}\bigr] \leq \theta\,\E Z + \sqrt{\E Z^2}\, \sqrt{\P(Z > \theta\E Z)} ,

ومنه (1θ)EZEZ2P(Z>θEZ)(1 - \theta)\E Z \leq \sqrt{\E Z^2\,\P(Z > \theta\E Z)}؛ ثم نربّع. (b) وبنشر Tn4=i,j,k,lxixjxkxlE[εiεjεkεl]T_n^4 = \sum_{i,j,k,l}x_ix_jx_kx_l\, \E[\varepsilon_i\varepsilon_j\varepsilon_k\varepsilon_l]: يكون الأمل 11 حين تتزاوج الأدلّة (بأن تتساوى الأربعة، أو بزوجين متمايزين، وهذا الأخير في 33 ترتيبات) و 00 في غير ذلك (إذ لإشارة غير مزاوَجة متوسطٌ معدوم وتتحلّل بالاستقلال). ومنه

ETn4=kxk4+3ijxi2xj2=3sn42kxk43sn4.\E T_n^4 = \sum_kx_k^4 + 3\sum_{i\neq j}x_i^2x_j^2 = 3s_n^4 - 2\sum_kx_k^4 \leq 3s_n^4 .

(c) وبيلي–زيغموند مع Z=Tn2Z = T_n^2 و EZ=sn2\E Z = s_n^2 و θ=14\theta = \frac14:

P(Tn>sn2)=P(Tn2>sn24)(34)2sn43sn4=316.\P\Bigl(\abs{T_n} > \frac{s_n}2\Bigr) = \P\Bigl(T_n^2 > \frac{s_n^2}4\Bigr) \geq \Bigl(\frac34\Bigr)^2 \frac{s_n^4}{3s_n^4} = \frac3{16} .

فلو تقاربت المتسلسلة باحتمال موجب، لتقاربت شبه أكيد (السؤال 14)، ومنه supnTn<\sup_n\abs{T_n} < \infty شبه أكيد، ولحقق MM ما أن P(supnTn>M)<316\P(\sup_n\abs{T_n} > M) < \frac3{16}؛ لكن بمجرد أن يكون sn>2Ms_n > 2M، P(Tn>M)P(Tn>sn2)316\P(\abs{T_n} > M) \geq \P(\abs{T_n} > \frac{s_n}2) \geq \frac3{16}: وهو تناقض. ومنه يكون التباعد شبه أكيد، ومع السؤال 14 تكتمل الثنائية.

16. هنا xn=nsx_n = n^{-s} ويكون nn2s<\sum_nn^{-2s} < \infty إذا وفقط إذا كان s>12s > \frac12: فحسب السؤالين 14 و15، تتقارب nεnns\sum_n\frac{\varepsilon_n}{n^s} شبه أكيد إذا وفقط إذا كان s>12s > \frac12 (ومن أجل s12s \leq \frac12، تباعد شبه أكيد). ومن أجل 12<s1\frac12 < s \leq 1 لا يكون التقارب مطلقًا أبدًا. والمقارنة مفيدة: فالإشارات المتناوبة تمامًا تتلاشى بقوة nsn^{-s} من أجل كل s>0s > 0، بينما لا تتلاشى الإشارات العشوائية النمطية إلا بقوة الجذر التربيعي — إذ ينمو المشي العشوائي في السؤال 21 مثل n\sqrt n، ويحوّل جمعُ أبيل ذلك النمو بالضبط إلى تقارب εnns\sum\varepsilon_nn^{-s} من أجل s>12s > \frac12.

17. (a) coshλ=kλ2k(2k)!\cosh\lambda = \sum_k\frac{\lambda^{2k}}{(2k)!} و eλ2/2=kλ2k2kk!\eu^{\lambda^2/2} = \sum_k\frac{\lambda^{2k}}{2^kk!}؛ ويصح (2k)!2kk!(2k)! \geq 2^kk! حدًّا حدًّا، لأن (2k)!k!=i=1k(k+i)i=1k(2i)=2kk!\frac{(2k)!}{k!} = \prod_{i=1}^k(k + i) \geq \prod_{i=1}^k(2i) = 2^kk! (إذ يحقق كل عامل k+i2ik + i \geq 2i من أجل iki \leq k)، بحيث يكون في الواقع (2k)!2k(k!)22kk!(2k)! \geq 2^k(k!)^2 \geq 2^kk!. (b) ولاحظ a0ba \leq 0 \leq b (إذ ZZ موسَّط)، وبتحدّب zeλzz \mapsto \eu^{\lambda z}، من أجل z[a,b]z \in \intcc ab:

eλzbzbaeλa+zabaeλb,ومنهEeλZbeλaaeλbba=(1p)ept+pe(1p)t=eφ(t)\eu^{\lambda z} \leq \frac{b - z}{b - a}\,\eu^{\lambda a} + \frac{z - a}{b - a}\,\eu^{\lambda b}, \qquad\text{ومنه}\qquad \E\,\eu^{\lambda Z} \leq \frac{b\,\eu^{\lambda a} - a\,\eu^{\lambda b}}{b - a} = (1 - p)\eu^{-pt} + p\,\eu^{(1-p)t} = \eu^{\varphi(t)}

مع p=aba[0,1]p = \frac{-a}{b-a} \in \intcc01، t=λ(ba)t = \lambda(b - a)، φ(t)=pt+log(1p+pet)\varphi(t) = -pt + \log(1 - p + p\eu^t). عندئذٍ φ(0)=0\varphi(0) = 0، وينعدم φ(t)=p+pet1p+pet\varphi'(t) = -p + \frac{p\eu^t}{1 - p + p\eu^t} عند 00، و φ(t)=ρ(1ρ)14\varphi''(t) = \rho(1 - \rho) \leq \frac14 من أجل ρ=pet1p+pet[0,1]\rho = \frac{p\eu^t}{1 - p + p\eu^t} \in \intcc01: فيعطي تايلور من الرتبة 22 أن φ(t)t28=λ2(ba)28\varphi(t) \leq \frac{t^2}8 = \frac{\lambda^2(b-a)^2}8.

18. من أجل λ>0\lambda > 0، تعطي ماركوف مطبَّقةً على المتغيّر الموجب eλ(SnESn)\eu^{\lambda(S_n - \E S_n)} (القضية 22.3) وصيغةُ الجداء للمتغيّرات المستقلة

P(SnESnt)eλti=1nEeλ(XiEXi)exp(λt+λ28i(biai)2),\P(S_n - \E S_n \geq t) \leq \eu^{-\lambda t}\prod_{i=1}^n\E\,\eu^{\lambda(X_i - \E X_i)} \leq \exp\Bigl(-\lambda t + \frac{\lambda^2}8\sum_i(b_i - a_i)^2\Bigr),

حسب السؤال 17(b) مطبَّقًا على كل XiEXi[aiEXi,biEXi]X_i - \E X_i \in \intcc{a_i - \E X_i}{b_i - \E X_i} موسَّط (بالعرض نفسه). وبتصغير الأُسّ عند λ=4tD\lambda = \frac{4t}{D}، D=i(biai)2D = \sum_i(b_i - a_i)^2، نجد 2t2D-\frac{2t^2}D. ويتبع الذيل السفلي بتطبيق النتيجة على (Xi)(-X_i).

19. نأخذ t=nεt = n\varepsilon و D=n(ba)2D = n(b - a)^2:

P(Snnmε)2exp(2n2ε2n(ba)2)=2exp(2nε2(ba)2),\P\Bigl(\Bigl|\frac{S_n}n - m\Bigr| \geq \varepsilon\Bigr) \leq 2\exp\Bigl(\frac{-2n^2\varepsilon^2}{n(b-a)^2}\Bigr) = 2\exp\Bigl(\frac{-2n\varepsilon^2}{(b-a)^2}\Bigr),

وهو قابل للجمع في nn (متسلسلة من نمط هندسي): فتعطي بوريل–كانتيلي (المبرهنة 22.8) أنه شبه أكيد Snnm<ε\abs{\frac{S_n}n - m} < \varepsilon في النهاية؛ وبالتقاطع على ε=1p\varepsilon = \frac1p نجد Snnm\frac{S_n}n \to m شبه أكيد. والمقارنة: يطلب إتِمادي X1L1X_1 \in L^1 والاستقلال المثنى فحسب، ولا يسلّم أي معدل؛ ويطلب هوفدنغ الحدّية والاستقلال الكامل، ويسلّم ضمانةً أُسّية صريحة عند كل nn منتهٍ — فالمبرهنتان تجيبان عن سؤالين مختلفين عن النهاية نفسها.

20. المتغيّرات g(Uk)g(U_k) مستقلة متماثلة بقيم في [0,1]\intcc01 ومتوسط g ⁣dλd\int g\,\dd\lambda_d (بالنقل)، ومنه يعطي السؤال 18 مع biai=1b_i - a_i = 1 و t=nεt = n\varepsilon الحدَّ ذا الطرفين 2e2nε2δ2\eu^{-2n\varepsilon^2} \leq \delta بمجرد أن يكون e2nε22δ\eu^{2n\varepsilon^2} \geq \frac2\delta، أي nlog(2/δ)2ε2n \geq \frac{\log(2/\delta)}{2\varepsilon^2}. ومن أجل ε=δ=102\varepsilon = \delta = 10^{-2}:

nlog2002104=5.29830.000226492:n \geq \frac{\log 200}{2\cdot10^{-4}} = \frac{5.2983\ldots}{0.0002} \approx 26\,492 :

أي نحو 2650026\,500 عيّنة تضمن دقة 1%1\% بثقة 99%99\% — في كل بُعد dd، ومن أجل كل مقدار مكامَل قابل للقياس بقيم في [0,1]\intcc01. وقد وعد القانون القوي في السؤال 11 بالتقارب دون أي ضمانة عند nn منتهٍ؛ وشبكةٌ حتمية ذات kk نقطة على كل محور تكلّف kdk^d من التقييمات، وهو أُسّي في dd. فالتركّز هو ما يجعل مونتي كارلو طريقةً لا أملًا.

21. بالاستقلال وصيغة الجداء: EeλSn=(Eeλε1)n=(coshλ)nenλ2/2\E\,\eu^{\lambda S_n} = (\E\,\eu^{\lambda\varepsilon_1})^n = (\cosh\lambda)^n \leq \eu^{n\lambda^2/2} حسب السؤال 17(a). وبماركوف على eλSn\eu^{\lambda S_n}:

P(Snx)eλx+nλ2/2=ex2/(2n)عند الأمثليةλ=xn,\P(S_n \geq x) \leq \eu^{-\lambda x + n\lambda^2/2} = \eu^{-x^2/(2n)} \qquad\text{عند الأمثلية} \lambda = \frac xn,

والحدّ المتناظر من أجل Sn-S_n (بالقانون نفسه) يضاعف الثابت من أجل Sn\abs{S_n}.

22. نثبّت η>0\eta > 0 ونضع xn=(1+η)2nlognx_n = (1 + \eta)\sqrt{2n\log n} من أجل n2n \geq 2:

P(Snxn)2exp((1+η)2logn)=2n(1+η)2,\P(\abs{S_n} \geq x_n) \leq 2\exp\bigl(-(1 + \eta)^2\log n\bigr) = \frac{2}{n^{(1+\eta)^2}},

وهو قابل للجمع لأن (1+η)2>1(1 + \eta)^2 > 1. وببوريل–كانتيلي: شبه أكيد Sn<(1+η)2nlogn\abs{S_n} < (1 + \eta)\sqrt{2n\log n} من أجل كل nn كبير، ومنه lim supnSn2nlogn1+η\limsup_n\frac{\abs{S_n}}{\sqrt{2n\log n}} \leq 1 + \eta شبه أكيد؛ وبتقاطع الحوادث شبه الأكيدة من أجل η=1p\eta = \frac1p حيث pNp \in \N^*، نجد الادعاء. فللمشي ذي الحجم nn سعةٌ نمطية n\sqrt n (أي تباينه)، وحتى أسوأ نزواته لا تتجاوز ذلك السلّم إلا بالعامل 2logn\sqrt{2\log n}.

23. مع nj=2jn_j = 2^j و x=(1+η)2njloglognjx = (1 + \eta)\sqrt{2n_j\log\log n_j} (معرَّفًا من أجل j2j \geq 2)، يعطي السؤال 21

P(Snjx)exp((1+η)2loglognj)=(jlog2)(1+η)2,\P\bigl(S_{n_j} \geq x\bigr) \leq \exp\bigl(-(1 + \eta)^2\log\log n_j\bigr) = (j\log 2)^{-(1+\eta)^2},

وهو قابل للجمع في jj لأن (1+η)2>1(1 + \eta)^2 > 1: فتعطي بوريل–كانتيلي و η=1p\eta = \frac1p أن lim supjSnj/2njloglognj1\limsup_jS_{n_j}/\sqrt{2n_j \log\log n_j} \leq 1 شبه أكيد. وما ينقص للشقّ الأعلى الكامل هو الجسر بين نقاط الفحص: إذ يجب أن نبرهن على أن maxnjnnj+1Sn\max_{n_j\leq n\leq n_{j+1}}S_n لا يتجاوز (1+η)2njloglognj(1+\eta)\sqrt{2n_j\log\log n_j} إلا عددًا منتهيًا من المرات، وهو ما يتطلب متراجحةً عظمى بذيول غاوسية (متراجحة الانعكاس لليفي أو متراجحة أوتافياني، وليستا مبرهَنًا عليهما هنا). والسؤال 12 أضعف كمّيًّا من ذلك: إذ يحدّ الاحتمال بالمقدار

nj(1+η)22njloglognj=12(1+η)2log(jlog2),\frac{n_j}{(1+\eta)^2\,2n_j\log\log n_j} = \frac{1}{2(1+\eta)^2\log(j\log2)},

وهو يؤول إلى 00 لكنه غير قابل للجمع في jj: فلا تستطيع بوريل–كانتيلي أن تخلص. ويطبّق الشقّ الأدنى من قانون اللوغاريتم المكرَّر المبرهنةَ المساعدة الثانية لبوريل–كانتيلي على الزيادات المستقلة Snj+1SnjS_{n_{j+1}} - S_{n_j}، باستعمال حدود دنيا موافقة للذيول من النمط الغاوسي. وكلا التحسينين احتمالاتٌ حقيقية من السنة الثالثة، بمقرر إضافي؛ وما تسلّمه هذه المسألة بلا عون هو سلّم اللوغاريتم المكرَّر المضبوط على امتداد الأزمنة الهندسية.

24. كل p^i\hat p_i متوسطٌ لعدد nn من الدوال المميّزة المستقلة المتماثلة بقيم في [0,1]\intcc01 ومتوسط P(Ai)\P(A_i): فيعطي هوفدنغ P(p^iP(Ai)>ε)2e2nε2\P(\abs{\hat p_i - \P(A_i)} > \varepsilon) \leq 2\eu^{-2n\varepsilon^2}. ويضرب حدُّ الاتحاد ذلك في NN. وبحل 2Ne2nε2δ2N\eu^{-2n\varepsilon^2} \leq \delta: nln(2N/δ)2ε2n \geq \frac{\ln(2N/\delta)}{2\varepsilon^2}. وعدديًّا: ln21060.05=ln(4107)17.5\ln\frac{2\cdot10^6}{0.05} = \ln(4\cdot10^7) \approx 17.5، ومنه n17.5210487600n \geq \frac{17.5}{2\cdot10^{-4}} \approx 87\,600: أي إن تقدير احتمال واحد إلى غاية ±1%\pm1\% يتطلب نحو 1850018\,500 عيّنة (ln(2/δ)/2ε2\ln(2/\delta)/2\varepsilon^2)، وتقدير مليون احتمال لا يتطلب سوى 4.7\approx 4.7 أضعاف — فالانتظام يكلّف lnN\ln N لا NN: وهي الملاحظة التي تجعل تصغير الخطر التجريبي، ومعه تعلّم الآلة، ممكنًا إحصائيًّا.

25. المتغيّرات Xn=εnnαX_n = \frac{\varepsilon_n} {n^\alpha} مستقلة وموسَّطة ومحدودة، مع nV(Xn)=nn2α\sum_n\V(X_n) = \sum_nn^{-2\alpha}. فإذا كان α>12\alpha > \frac12: تقاربت متسلسلة التباينات، وأعطت مبرهنة المتسلسلة الواحدة (الجزء السادس) التقاربَ شبه الأكيد للمتسلسلة Xn\sum X_n. وإذا كان α12\alpha \leq \frac12: تباعدت متسلسلة التباينات، وأعطى الشقّ العكسي (حجة بيلي–زيغموند في الجزء السادس، وهي منطبقة لأن الحدود محدودة بالعدد 11) التباعدَ شبه الأكيد. وأما التقارب المطلق فيطلب nα<\sum n^{-\alpha} < \infty: أي α>1\alpha > 1. وعلى (12,1]\intoc{\frac12}1، تتقارب المتسلسلة شبه أكيد رغم أن Xn=\sum\abs{X_n} = \infty أكيدًا: فتتآمر الإشارات على التلاشي، باحتمال واحد — أي تقاربٌ بالتلاشي، غير مرئي لأي اختبار مطلق، و(بقانون صفر–واحد) بحكم حتمي مع ذلك.

المصطلحات المعرَّفة في هذا الفصل

عرض كل المصطلحات (395) في المسرد