विश्वविद्यालय गणित — स्नातक वर्ष 2 · Bachelor jaar 2

22विविक्त यादृच्छिक चर

यादृच्छिक चर प्रायिकता के परिकलनों को घटनाओं के बजाय फलनों के चारों ओर व्यवस्थित कर देते हैं। गणनीय समष्टियों पर सिद्धांत को अध्याय 7 के योग्य कुल चलाते हैं: प्रत्याशा प्रतिदर्श समष्टि से अनुक्रमित किसी कुल का योग है, और उसके सारे गुणधर्म — रैखिकता, अंतरण, स्वतंत्र चरों के लिए गुणनफल सूत्र — योग्य कुलों के विषय में प्रमेय हैं। यह अध्याय मार्कोव, चेबिशेव, कोशी–श्वार्ज़ तथा जेनसन की मुख्य असमिकाएँ सिद्ध करता है, और शास्त्रीय नियमों तथा बृहत् संख्याओं के दुर्बल नियम पर समाप्त होता है, जिसकी उपपत्ति चेबिशेव के उपलब्ध होते ही दो पंक्तियों की रह जाती है।

22.1 यादृच्छिक चर और उनके नियम

परिभाषा 22.1 (विविक्त यादृच्छिक चर; नियम)

मान लीजिए $(\Omega, \P)$ कोई गणनीय प्रायिकता समष्टि है। यादृच्छिक चर कोई प्रतिचित्रण $X \colon \Omega \to E$ है ( $E$ कोई भी समुच्चय; $E = \R$ होने पर वास्तविक यादृच्छिक चर)। उसका नियम (या बंटन) गणनीय समुच्चय $X(\Omega)$ पर वह प्रायिकता माप $\P_X$ है जो इस प्रकार परिभाषित है:

\P_X(\{x\}) = \P(X = x) = \P\bigl(\{\omega : X(\omega) = x\}\bigr) .

उदाहरण 22.2 (शास्त्रीय नियम)

बर्नूली $\mathcal{B}(p)$ : $X \in \{0, 1\}$ , $\P(X = 1) = p$ । किसी घटना का सूचक।
द्विपद $\mathcal{B}(n, p)$ : $\P(X = k) = \binom nk p^k(1-p)^{n-k}$ , $0 \leq k \leq n$ : $n$ स्वतंत्र बर्नूली प्रयासों में सफलताओं की संख्या (हाई स्कूल खंड; नीचे स्वतंत्र चरों के योग के द्वारा फिर से सिद्ध)।
ज्यामितीय $\mathcal{G}(p)$ : $\P(X = k) = (1-p)^{k-1}p$ , $k \in \N^*$ : पहली सफलता की कोटि (उदाहरण 21.5)।
प्वासों $\mathcal{P}(\lambda)$ : $\P(X = k) = e^{-\lambda}\frac{\lambda^k}{k!}$ , $k \in \N$ — जो चरघातांकी श्रेणी से कोई प्रायिकता माप है। विरल घटनाओं का नियम (अध्याय 23)।

टिप्पणी 22.3 (कौन सा नियम किसका प्रतिरूप है)

चारों नियम चार आदिम प्रश्नों के उत्तर देते हैं: बर्नूली, “क्या वह हुआ?”; द्विपद, “ $n$ प्रयासों में कितनी बार?”; ज्यामितीय, “पहली बार तक कितनी देर?”; प्वासों, “दी गई दर पर कितनी घटनाएँ, जब प्रयास बहुत हों और अलग-अलग असंभावित?”। प्रश्न को पहचान लेना प्रतिरूपण का नौ-दसवाँ भाग है: सूचकों के योग द्विपद की ओर संकेत करते हैं, प्रतीक्षा-समय ज्यामितीय की ओर, विरल-घटना गणनाएँ प्वासों की ओर — और द्विपद से प्वासों तक का मार्ग अध्याय 23 में विरल घटनाओं के नियम से सुनिश्चित होता है।

प्रतिज्ञप्ति 22.4 (ज्यामितीय नियम की स्मृतिहीनता)

यदि $X \sim \mathcal{G}(p)$ , तो सब $m, n \in \N$ के लिए:

\P(X > m + n \mid X > m) = \P(X > n) ,

और $\N^*$ पर यह गुणधर्म रखने वाले एकमात्र नियम ज्यामितीय नियम हैं।

उपपत्ति. ज्यामितीय भारों को जोड़ने पर $\P(X > n) = (1-p)^n$ । इसलिए

\P(X > m + n \mid X > m) = \frac{\P(X > m + n)}{\P(X > m)} = \frac{(1-p)^{m+n}}{(1-p)^m} = (1-p)^n = \P(X > n).

विलोमतः, यदि $G(n) = \P(X > n)$ $G(0) = 1$ के साथ $G(m + n) = G(m)G(n)$ पूरा करे, तो आगमन से $G(n) = G(1)^n$ ; $q = G(1) \in \intco{0}{1}$ , और $q = 0$ , अन्यथा नियम $\mathcal{G}(1 - q)$ है: $\P(X = k) = G(k-1) - G(k) = q^{k-1}(1 - q)$ । ∎

उदाहरण 22.5 (कोई संख्या कभी “बक़ाया” नहीं होती)

छक्के की प्रतीक्षा करते हुए पासा फेंकिए: प्रतीक्षा-समय $X \sim \mathcal G(1/6)$ है। स्मृतिहीनता कहती है कि $10$ निष्फल फेंकों के बाद शेष प्रतीक्षा $X - 10$ , $X > 10$ दिए जाने पर, फिर से $\mathcal G(1/6)$ है: अर्थात् सप्रतिबंध प्रत्याशित प्रतीक्षा अब भी $6$ फेंक है, ठीक वैसे ही जैसे आरंभ में थी। पासा याद नहीं रखता, और कोई छक्का कभी “बक़ाया” नहीं होता — जुआरी का भ्रम यही मान्यता है कि सप्रतिबंध नियम खिसक जाना चाहिए था। विलोमतः, प्रतिज्ञप्ति का अद्वितीयता वाला आधा भाग कहता है कि यही उदासीनता ज्यामितीय प्रतीक्षा-समयों को अभिलक्षित करती है: जिस भी प्रतीक्षा-समय का पूर्वानुमान कभी नहीं बदलता वह ज्यामितीय है। असली क़तारें तथा जीवनकाल प्रायः बदलते हैं, और ठीक इसी से पता चलता है कि वे ज्यामितीय नहीं हैं।

22.2 प्रत्याशा

परिभाषा 22.6 (प्रत्याशा)

$(\Omega, \P)$ पर किसी वास्तविक यादृच्छिक चर $X$ की प्रत्याशा विद्यमान है यदि कुल $\bigl(X(\omega)\,\P(\{\omega\})\bigr)_{\omega \in \Omega}$ योग्य हो (अध्याय 7); तब उसकी प्रत्याशा है

\E(X) = \sum_{\omega \in \Omega} X(\omega)\,\P(\{\omega\}) .

प्रमेय 22.7 (अंतरण प्रमेय)

$X$ की प्रत्याशा विद्यमान है तभी जब कुल $\bigl(x\,\P(X = x)\bigr)_{x \in X(\Omega)}$ योग्य हो, और तब

\E(X) = \sum_{x \in X(\Omega)} x\,\P(X = x) .

अधिक व्यापक रूप से, $f \colon X(\Omega) \to \R$ के लिए चर $f(X)$ की प्रत्याशा विद्यमान है तभी जब $\sum_x \abs{f(x)}\,\P(X = x) < \infty$ , और तब $\E(f(X)) = \sum_x f(x)\,\P(X = x)$ ।

उपपत्ति. $\Omega$ को स्तर समुच्चयों $\Omega_x = \{X = x\}$ , $x \in X(\Omega)$ , में विभाजित कीजिए। योग्य कुलों के लिए पुलिंदों से योग वाली प्रमेय (अध्याय 7) से कुल $(X(\omega)\P(\{\omega\}))_\omega$ योग्य है तभी जब हर पुलिंदा योग्य हो (जो स्वतः है: $\sum_{\omega \in \Omega_x}\abs{x}\P(\{\omega\}) = \abs x\,\P(X = x)$ ) और पुलिंदा-योगों का कुल $\bigl(x\,\P(X = x)\bigr)_x$ योग्य हो — और तब कुल योग मेल खाते हैं। $f(X)$ के लिए: सिद्ध कथन को चर $Y = f \circ X$ पर लगाइए, जिसके स्तर समुच्चय $\{Y = y\} = \bigsqcup_{x : f(x) = y}\{X = x\}$ हैं; और फिर पुलिंदों से दूसरा योग $\sum_y y\,\P(Y = y)$ को $\sum_x f(x)\,\P(X = x)$ में बदल देता है, जहाँ पुलिंदे अब मानों $x$ को उनके प्रतिबिंब $f(x)$ के अनुसार समूहित करते हैं, और एक कुल की निरपेक्ष योग्यता दूसरे की योग्यता के तुल्य है। ∎

प्रमेय 22.8 (प्रत्याशा के गुणधर्म)

प्रत्याशा रखने वाले यादृच्छिक चरों के समुच्चय पर:

(रैखिकता) $\E(aX + bY) = a\,\E(X) + b\,\E(Y)$ ।
(धनात्मकता तथा एकदिष्टता) $X \geq 0 \Rightarrow \E(X) \geq 0$ ; $X \leq Y \Rightarrow \E(X) \leq \E(Y)$ ; और $\abs{\E(X)} \leq \E(\abs X)$ ।
(प्रभुत्व) यदि $\abs X \leq Z$ हो और $Z$ की प्रत्याशा विद्यमान हो, तो $X$ की भी है।

उपपत्ति. ये सब योग्य कुलों के योगों के गुणधर्म हैं (अध्याय 7): योग की रैखिकता, पद-दर-पद धनात्मकता, तथा योग्यता की प्रभुत्व कसौटी। (ध्यान दीजिए कि $\Omega$ पर दी गई परिभाषा पर रैखिकता तत्काल है, जबकि अंतरण सूत्र पर वह भद्दी पड़ती — $\E$ को ऊपर की ओर परिभाषित करने का एक लाभ यही है।) ∎

उदाहरण 22.9

$X \sim \mathcal{B}(n, p)$ : $X = X_1 + \dots + X_n$ को बर्नूली सूचकों के योग के रूप में लिखकर और रैखिकता का उपयोग करके $\E(X) = np$ — किसी द्विपद गुणांक की ज़रूरत नहीं। $X \sim \mathcal{G}(p)$ : $\E(X) = \sum_{k\geq1}k(1-p)^{k-1}p = p\cdot\frac{1}{(1 - (1-p))^2} = \frac1p$ , जो ज्यामितीय श्रेणी का उसकी चक्रिका के भीतर अवकलन करने से मिलता है (अध्याय 11)। $X \sim \mathcal{P}(\lambda)$ : $\E(X) = \sum_{k\geq1}k e^{-\lambda}\frac{\lambda^k}{k!} = \lambda e^{-\lambda}\sum_{j\geq0}\frac{\lambda^j}{j!} = \lambda$ ।

उदाहरण 22.10 (अंतरण, काम करता हुआ)

$X \sim \mathcal P(\lambda)$ के लिए $\E\bigl(\frac1{1+X}\bigr)$ परिकलित कीजिए — $\frac1{1+X}$ का नियम स्वयं भद्दा है, पर अंतरण उसे कभी माँगता ही नहीं:

\E\Bigl(\frac1{1+X}\Bigr) = \sum_{k\geq0}\frac{1}{k+1}\,\eu^{-\lambda} \frac{\lambda^k}{k!} = \frac{\eu^{-\lambda}}{\lambda}\sum_{k\geq0} \frac{\lambda^{k+1}}{(k+1)!} = \frac{\eu^{-\lambda}}{\lambda}\bigl(\eu^\lambda - 1\bigr) = \frac{1 - \eu^{-\lambda}}{\lambda} .

दो सीख। परिकलन की दृष्टि से: किसी खिसकी हुई चरघातांकी श्रेणी को पहचान लेना ही पूरा काम है — अंतरण $f(X)$ की प्रत्याशाओं को श्रेणी के हेर-फेर तक सिमटा देता है। संरचना की दृष्टि से: भोला प्रतिस्थापन-मान $\frac1{1 + \E X} = \frac1{1 + \lambda}$ होता, और सच्चा उत्तर उससे बड़ा है,

\frac{1 - \eu^{-\lambda}}{\lambda} \geq \frac{1}{1 + \lambda},

ठीक वैसा ही जैसा उत्तल फलन $t \mapsto \frac1{1+t}$ के लिए जेनसन असमिका माँगती है। उत्तल प्रतिबिंबों की प्रत्याशाएँ भोले प्रतिस्थापन-मान से ऊपर बैठती हैं, और अंतरण के साथ कोई श्रेणी-जाँच उस अमूर्त असमिका को मूर्त बना देती है।

प्रमेय 22.11 (स्वतंत्रता और गुणनफल)

यादृच्छिक चर $X, Y$ स्वतंत्र हैं यदि सब $x, y$ के लिए $\P(X = x, Y = y) = \P(X = x)\P(Y = y)$ हो — तुल्य रूप से, सब $A, B$ के लिए घटनाएँ $\{X \in A\}$ तथा $\{Y \in B\}$ स्वतंत्र हों। यदि $X$ और $Y$ प्रत्याशा रखने वाले स्वतंत्र वास्तविक चर हों, तो $XY$ की प्रत्याशा विद्यमान है और

\E(XY) = \E(X)\,\E(Y) .

उपपत्ति. दोनों सूत्रीकरणों की तुल्यता $(x, y) \in A \times B$ पर बिंदुवार सर्वसमिका को जोड़ने से निकलती है ( $\sigma$ -योज्यता दो बार)। गुणनफल के लिए: द्विक कुल $\bigl(xy\,\P(X = x)\P(Y = y)\bigr)_{(x,y)}$ योग्य है, क्योंकि कुलों के लिए फ़ूबिनी (अध्याय 7) से

\sum_{x, y}\abs x \abs y\,\P(X{=}x)\P(Y{=}y) = \Bigl(\sum_x \abs x \P(X{=}x)\Bigr) \Bigl(\sum_y \abs y \P(Y{=}y)\Bigr) < \infty ;

और स्वतंत्रता से यह कुल ठीक $\bigl(xy\,\P(X = x, Y = y)\bigr)$ है, जिसका योग चर $(X, Y) \mapsto xy$ पर लगाए गए अंतरण से $\E(XY)$ है; फ़ूबिनी फिर उस अचिह्नित योग का मूल्यांकन गुणनफल $\E(X)\E(Y)$ के रूप में कर देती है। ∎

उदाहरण 22.12 (गुणनफल, स्वतंत्रता के साथ और बिना)

दो निष्पक्ष पासे फेंकिए। यदि $Y$ दूसरा पासा हो (जो पहले से स्वतंत्र है), तो $\E(XY) = \E(X)\E(Y) = 3.5^2 = 12.25$ । और यदि इसके बदले $Y = X$ हो (पासे का स्वयं से “गुणनफल”), तो

\E(X^2) = \frac{1 + 4 + 9 + 16 + 25 + 36}{6} = \frac{91}{6} \approx 15.17 \neq 12.25 :

अर्थात् दोनों परिदृश्यों में सीमांत नियम वही, संयुक्त नियम भिन्न, और गुणनफल-प्रत्याशाएँ भिन्न। खुदवा लेने योग्य सार: $\E(XY)$ युग्म का फलनिक है, दोनों सीमांतों का नहीं — और अंतराल $\E(X^2) - \E(X)^2 \approx 2.92$ ठीक कोनिग–हाइगेंस से पासे का प्रसरण $\frac{35}{12}$ है।

22.3 प्रसरण, सहप्रसरण, और शास्त्रीय असमिकाएँ

परिभाषा 22.13 (आघूर्ण, प्रसरण)

$X$ कोटि 2 का आघूर्ण रखता है यदि $X^2$ की प्रत्याशा विद्यमान हो (तब प्रभुत्व से $X$ की भी: $\abs X \leq \frac{1 + X^2}{2}$ )। तब उसका प्रसरण तथा मानक विचलन हैं

V(X) = \E\bigl((X - \E(X))^2\bigr) = \E(X^2) - \E(X)^2 , \qquad \sigma(X) = \sqrt{V(X)} ,

(दूसरा रूप — कोनिग–हाइगेंस सूत्र — वर्ग खोलकर और रैखिकता का उपयोग करके मिलता है:

\E\bigl((X - \E X)^2\bigr) = \E\bigl(X^2 - 2X\,\E X + \E(X)^2\bigr) = \E(X^2) - 2\,\E(X)^2 + \E(X)^2 ,

जहाँ बीच वाले पद में इसका उपयोग हुआ कि $\E X$ कोई अचर है)। द्वितीय आघूर्ण रखने वाले $X, Y$ के लिए सहप्रसरण है

\operatorname{Cov}(X, Y) = \E\bigl((X - \E X)(Y - \E Y)\bigr) = \E(XY) - \E(X)\E(Y) .

प्रमेय 22.14 (प्रसरण की औज़ार-पेटी)

द्वितीय आघूर्ण रखने वाले चरों के लिए:

$V(aX + b) = a^2\,V(X)$ ;
$V(X + Y) = V(X) + V(Y) + 2\operatorname{Cov}(X, Y)$ , और अधिक व्यापक रूप से

$V\Bigl(\sum_{i=1}^n X_i\Bigr) = \sum_{i=1}^n V(X_i) + 2\sum_{i < j}\operatorname{Cov}(X_i, X_j) ;$
यदि $X, Y$ स्वतंत्र हों, तो $\operatorname{Cov}(X, Y) = 0$ (विलोम असत्य है), अतः स्वतंत्र चरों के प्रसरण जुड़ जाते हैं।

उपपत्ति. 1 तथा 2 वर्गों के प्रसार और रैखिकता हैं; गुणनफल $X_iX_j$ की प्रत्याशाएँ नीचे दी कोशी–श्वार्ज़ से (या $\abs{X_iX_j} \leq \frac{X_i^2 + X_j^2}{2}$ से) विद्यमान हैं। 3 केंद्रित चरों पर लगाई गई प्रमेय 22.11 है। विलोम का मानक प्रतिउदाहरण: $\{-1, 0, 1\}$ पर एकसमान $X$ तथा $Y = X^2$ असहसंबद्ध हैं ( $\E(XY) = \E(X^3) = 0 = \E X \cdot \E Y$ ) पर स्पष्टतः परतंत्र। ∎

प्रमेय 22.15 (मार्कोव तथा चेबिशेव असमिकाएँ)

(मार्कोव) यदि $X \geq 0$ की प्रत्याशा विद्यमान हो, तो हर $a > 0$ के लिए:

$\P(X \geq a) \leq \frac{\E(X)}{a} .$
(चेबिशेव) यदि $X$ द्वितीय आघूर्ण रखता हो, तो हर $\varepsilon > 0$ के लिए:

$\P\bigl(\abs{X - \E(X)} \geq \varepsilon\bigr) \leq \frac{V(X)}{\varepsilon^2} .$

उपपत्ति. 1. बिंदुवार $a\,\mathbf{1}_{X \geq a} \leq X$ (उस घटना पर जहाँ बायाँ पक्ष $a \leq X$ है; उससे बाहर $0 \leq X$ )। प्रत्याशा लीजिए: एकदिष्टता से $a\,\P(X \geq a) \leq \E(X)$ तथा $\E(\mathbf{1}_A) = \P(A)$ । 2. अऋणात्मक चर $(X - \E X)^2$ पर स्तर $a = \varepsilon^2$ पर मार्कोव लगाइए: घटना $\{(X - \E X)^2 \geq \varepsilon^2\}$ ठीक $\{\abs{X - \E X} \geq \varepsilon\}$ है। ∎

उदाहरण 22.16 (असहसंबद्ध, पर आपस में चिपके हुए)

दो निष्पक्ष पासे फेंकिए, $X$ तथा $Y$ स्वतंत्र, और $S = X + Y$ , $D = X - Y$ रखिए। सहप्रसरण की द्विरैखिकता से

\operatorname{Cov}(S, D) = V(X) - V(Y) + \operatorname{Cov}(Y, X) - \operatorname{Cov}(X, Y) = V(X) - V(Y) = 0 :

अर्थात् योग तथा अंतर असहसंबद्ध हैं। स्वतंत्र? निश्चित रूप से नहीं: $S = 12$ $D = 0$ को बाध्य कर देता है, जबकि बिना प्रतिबंधन के $\P(D = 0) = \frac16$ । सहसंबंध किसी परतंत्रता के केवल रैखिक भाग की जाँच करता है; यहाँ परतंत्रता इस प्रतिबंध से ढोई जाती है कि $S$ तथा $D$ की सम-विषमता एक ही हो, जो सहप्रसरण को अदृश्य है। (इस युग्म के लिए शून्य सहप्रसरण को $V(X) = V(Y)$ चाहिए था: काम स्वतंत्रता ने नहीं, समान बंटनों ने किया।)

उदाहरण 22.17 (मार्कोव कब यथातथ होती है)

मार्कोव असमिका ठीक तब समता होती है जब परिबंध $a\,\mathbf 1_{X\geq a} \leq X$ में कुछ भी बर्बाद न हो: चर को केवल मान $0$ तथा $a$ ही लेने चाहिए। मूर्त रूप में, यदि $\P(X = a) = \pi$ तथा $\P(X = 0) = 1 - \pi$ , तो $\E(X) = a\pi$ और

\P(X \geq a) = \pi = \frac{\E(X)}{a} .

यथार्थ पाठ: जिस जनसंख्या में औसत संपत्ति $100$ हो और संपत्ति या तो $0$ हो या $10^6$ , वहाँ करोड़पतियों का अनुपात ठीक $10^{-4}$ है — मार्कोव का परिबंध, अधिकतम असमानता से ठीक-ठीक छुआ हुआ। जब भी $X$ मध्यवर्ती मानों पर फैलता है, परिबंध कठोर होता है, प्रायः बहुत ही अधिक; पर जैसा यह चरम स्थिति दिखाती है, अकेले माध्य से इससे बेहतर कोई असमिका नहीं निकाली जा सकती।

उदाहरण 22.18 (चेबिशेव तीखी है — और कोई अतिरिक्त परिकल्पना नहीं)

$\varepsilon > 0$ , $q \in \intoc01$ स्थिर कीजिए, और मान लीजिए $X$ मान $\pm\varepsilon$ हर एक प्रायिकता $\frac q2$ के साथ लेता है तथा $0$ प्रायिकता $1 - q$ के साथ। तब $\E(X) = 0$ , $V(X) = q\varepsilon^2$ , और

\P\bigl(\abs{X - \E X} \geq \varepsilon\bigr) = q = \frac{V(X)}{\varepsilon^2} :

अर्थात् चेबिशेव में समता। अतः केवल प्रसरण के उपयोग से असमिका सुधारी नहीं जा सकती — $1/\varepsilon^2$ क्षय द्वितीय-आघूर्ण सूचना का ठीक-ठीक मूल्य है। तेज़ क्षय के लिए प्रबल परिकल्पनाएँ चाहिए: चर का परिबद्ध होना चरघातांकी संकेंद्रण ख़रीद लेता है, जैसा अभ्यास 22.7 झलक दिखाता है और इस अध्याय की सप्ताहांत समस्या क्रमबद्ध रूप से विकसित करती है।

प्रमेय 22.19 (कोशी–श्वार्ज़ और जेनसन)

(कोशी–श्वार्ज़) यदि $X, Y$ द्वितीय आघूर्ण रखते हों, तो $XY$ की प्रत्याशा विद्यमान है और $\E(XY)^2 \leq \E(X^2)\,\E(Y^2)$ ; फलस्वरूप $\operatorname{Cov}(X,Y)^2 \leq V(X)V(Y)$ ।
(जेनसन) यदि $\varphi \colon I \to \R$ $X(\Omega)$ को समाहित करने वाले किसी अंतराल पर उत्तल हो, और $X$ , $\varphi(X)$ प्रत्याशा रखते हों, तो

$\varphi\bigl(\E(X)\bigr) \leq \E\bigl(\varphi(X)\bigr) .$

उपपत्ति. 1. $XY$ की योग्यता: $\abs{XY} \leq \frac{X^2 + Y^2}2$ । प्रतिचित्रण $(X, Y) \mapsto \E(XY)$ द्वितीय आघूर्ण वाले चरों की समष्टि पर कोई धनात्मक सममित द्विरैखिक रूप है, अतः अध्याय 12 की अमूर्त कोशी–श्वार्ज़ असमिका लागू होती है (असमिका के लिए धनात्मक अर्ध-निश्चित होना पर्याप्त है)। उसे केंद्रित चरों पर लगाने से सहप्रसरण परिबंध मिल जाता है।

2. पहले, $m = \E(X)$ $I$ में पड़ता है: $I$ $X$ के सारे मानों को समाहित करने वाला कोई अंतराल है, और प्रत्याशा एकदिष्ट है, अतः $m$ $\inf X(\Omega)$ तथा $\sup X(\Omega)$ के बीच है। उत्तल फलनों की आधार-रेखा प्रमेय (अध्याय 8) से ऐसे $\alpha, \beta$ हैं कि सब $t \in I$ के लिए $\varphi(t) \geq \alpha t + \beta$ और $\varphi(m) = \alpha m + \beta$ । तब $\Omega$ पर बिंदुवार $\varphi(X) \geq \alpha X + \beta$ ; प्रत्याशा लेने पर,

\E\bigl(\varphi(X)\bigr) \geq \alpha\,\E(X) + \beta = \varphi\bigl(\E(X)\bigr). \qedhere

∎

उदाहरण 22.20

$\varphi(t) = t^2$ वाली जेनसन $\E(X)^2 \leq \E(X^2)$ देती है — यानी प्रसरण की धनात्मकता; और $\intoo{0}{\infty}$ पर $\varphi(t) = 1/t$ के साथ: $\frac{1}{\E X} \leq \E\bigl(\frac1X\bigr)$ — अर्थात् हरात्मक माध्य समांतर माध्य से नीचे है, अब यादृच्छिक रूप में।

टिप्पणी 22.21 (सामान्य चूकें)

(क) $\E(XY) = \E(X)\E(Y)$ को स्वतंत्रता चाहिए (या कम से कम शून्य सहप्रसरण): $Y = X$ लेने पर जब भी $V(X) > 0$ हो तब $\E(X^2) \neq \E(X)^2$ मिलता है। (ख) इसी प्रकार $V(X + X) = 4V(X)$ , $2V(X)$ नहीं: प्रसरण केवल स्वतंत्र (या असहसंबद्ध) पदों पर ही जुड़ते हैं। (ग) $\E(f(X))$ $f(\E(X))$ नहीं है; उत्तल $f$ के लिए जेनसन तो त्रुटि की दिशा भी बता देती है, जैसा उदाहरण 22.10 में। (घ) अस्तित्व सचमुच एक परिकल्पना है: $\P(K = k) = 2^{-k}$ ( $k \geq 1$ ) वाले सेंट पीटर्सबर्ग चर $X = 2^K$ के लिए

\sum_{k\geq1}2^k\cdot2^{-k} = \sum_{k\geq1}1 = \infty :

$X$ लगभग निश्चित रूप से परिमित है फिर भी उसकी कोई प्रत्याशा नहीं, और खेल के लिए कोई न्यायसंगत प्रवेश-मूल्य विद्यमान नहीं है। $\E$ की परिभाषा में योग्यता लेखा-जोखा की पंडिताई नहीं है — वहीं भारी पुच्छ पकड़ी जाती है। (ङ) अंत में, अंतरण प्रमेय को मानों पर योग के किसी भी पुनर्विन्यास से पहले निरपेक्ष योग्यता चाहिए (अध्याय 7)।

उदाहरण 22.22 (सौ उछालों पर चेबिशेव)

$X \sim \mathcal B(100, \frac12)$ के लिए: $\E X = 50$ , $V(X) = 25$ । $\varepsilon = 6$ के साथ चेबिशेव:

\P(45 \leq X \leq 55) = \P(\abs{X - 50} < 6) \geq 1 - \frac{25}{36} \approx 0.31 ,

जबकि सटीक द्विपद योग $\approx 0.73$ देता है। आश्वस्त $31\%$ सच्चाई से बहुत दूर है, पर उसे केवल माध्य तथा प्रसरण चाहिए थे — वही प्रमाणपत्र $\E = 50$ , $V = 25$ वाले किसी भी चर पर, चाहे वह कितना ही विचित्र हो, अक्षरशः लागू होता है, और उदाहरण 22.18 दिखाता है कि कोई ऐसा चर उसे संतृप्त भी कर देता है। सार्वभौमिकता की क़ीमत होती है; जब बंटन सचमुच द्विपद हो, तब सप्ताहांत समस्या के चरघातांकी औज़ार अधिकांश अंतर पाट देते हैं।

उदाहरण 22.23 (किसी भाग का अपने पूर्ण के साथ सहसंबंध)

प्रसरण $\sigma^2 > 0$ वाले स्वतंत्र समरूप बँटे $X, Y$ के लिए कोई एक पद योग $S = X + Y$ के साथ कितना सहसंबद्ध है? परिकलित कीजिए

\operatorname{Cov}(X, S) = \operatorname{Cov}(X, X) + \operatorname{Cov}(X, Y) = \sigma^2 + 0 = \sigma^2, \qquad V(S) = 2\sigma^2,

अतः सहसंबंध गुणांक

\rho(X, S) = \frac{\operatorname{Cov}(X, S)}{\sigma(X)\,\sigma(S)} = \frac{\sigma^2}{\sigma\cdot\sigma\sqrt2} = \frac{1}{\sqrt2} \approx 0.707 ,

है, चाहे साझा नियम कोई भी हो — पासे, सिक्के, प्वासों गणनाएँ। $n$ पदों के साथ वही परिकलन $\rho(X_1, S_n) = 1/\sqrt n$ देता है: अर्थात् कुल पर हर अलग-अलग पद का प्रभाव वर्गमूल की तरह पतला होता जाता है, जो उतार-चढ़ावों के $\sqrt n$ मापक्रम की सहसंबंधीय छाया है। कोशी–श्वार्ज़ सदा $\abs\rho \leq 1$ आश्वस्त करती है; यहाँ परिबंध अपभ्रष्ट स्थिति $n = 1$ में ठीक-ठीक छुआ जाता है और उसके बाद अनुमेय ढंग से क्षीण होता है।

उदाहरण 22.24 (जेनसन से भारित समांतर–गुणोत्तर माध्य)

मान लीजिए $Y$ धनात्मक मान $a_1, \dots, a_k$ प्रायिकताओं $\lambda_1, \dots, \lambda_k$ के साथ लेता है। फलन $-\ln$ $\intoo0\infty$ पर उत्तल है, अतः जेनसन $-\ln\E(Y) \leq \E(-\ln Y)$ देती है, अर्थात्

a_1^{\lambda_1}a_2^{\lambda_2}\cdots a_k^{\lambda_k} \;\leq\; \lambda_1a_1 + \lambda_2a_2 + \dots + \lambda_ka_k :

यानी भारित समांतर–गुणोत्तर असमिका, जिसमें समता तभी होती है जब $Y$ अचर हो। बराबर भार $\lambda_i = \frac1k$ शास्त्रीय समांतर–गुणोत्तर असमिका पुनः दे देते हैं। प्रायिकता ने चुपचाप कोई विशुद्ध बीजगणितीय प्रमेय सिद्ध कर दी: किसी प्रायिकता नियम को चुनना उत्तल संचयों के लिए महज़ एक लेखा-यंत्र है — यानी अध्याय 17 का बैरिकेंद्रीय दृष्टिकोण फिर से, अब जेनसन को इंजन बनाकर।

22.4 बृहत् संख्याओं का दुर्बल नियम

प्रमेय 22.25 (बृहत् संख्याओं का दुर्बल नियम)

मान लीजिए $(X_k)_{k \geq 1}$ एक ही नियम वाले युग्मशः स्वतंत्र यादृच्छिक चर हैं, जो द्वितीय आघूर्ण रखते हैं; $m = \E(X_1)$ तथा $S_n = X_1 + \dots + X_n$ लिखिए। तब हर $\varepsilon > 0$ के लिए:

\P\Bigl(\,\Bigl|\frac{S_n}{n} - m\Bigr| \geq \varepsilon\Bigr) \;\leq\; \frac{V(X_1)}{n\,\varepsilon^2} \xrightarrow[n \to \infty]{} 0 .

उपपत्ति. रैखिकता से $\E(S_n/n) = m$ ; प्रमेय 22.14 से (युग्मशः स्वतंत्रता सहप्रसरणों को मार देती है) $V(S_n) = n\,V(X_1)$ , अतः $V(S_n/n) = V(X_1)/n$ । $S_n/n$ पर लगाई गई चेबिशेव असमिका परिबंध दे देती है। ∎

टिप्पणी 22.26

यही वह प्रमेय है जो प्रायिकता को बारंबारता से जोड़ती है: स्वतंत्र पुनरावृत्तियों में किसी घटना $A$ के सूचक $X_k$ के लिए $S_n/n$ $A$ की प्रेक्षित बारंबारता है, और बृहत् संख्याओं का नियम कहता है कि वह दर $\frac{p(1-p)}{n\varepsilon^2}$ से $\P(A)$ के आसपास संकेंद्रित होती है। प्रबल नियम ( $S_n/n \to m$ लगभग निश्चित रूप से) वर्ष 3 की प्रमेय है — फिर भी चतुर्थ आघूर्णों के लिए उसकी उपपत्ति पहुँच के भीतर है: देखिए अभ्यास 22.9, जो चेबिशेव-प्रकार के परिबंध पर बोरेल–कांतेली चलाता है। यही चेबिशेव आकलन अध्याय 10 में वाइरश्ट्रास सन्निकटन प्रमेय की बर्नस्टाइन-बहुपद उपपत्ति को भी चला रहा था — वहाँ की गणना-प्रमेयिका भेस बदले हुए बृहत् संख्याओं का दुर्बल नियम ही थी।

उदाहरण 22.27 (पचास कूपन इकट्ठे करना)

$n = 50$ अलग-अलग खिलौनों वाला अभ्यास 22.3 का कूपन संग्राहक: प्रत्याशित कुल

\E(T_{50}) = 50\,H_{50} = 50\sum_{k=1}^{50}\frac1k \approx 50 \times 4.499 \approx 225

डिब्बे हैं — भोले अनुमान $50$ का साढ़े चार गुना। पूरी कहानी हरात्मक वृद्धि की है: पहले $25$ खिलौने लगभग $50\ln2 \approx 35$ डिब्बों में आ जाते हैं, जबकि अकेला अंतिम खिलौना औसतन $50$ डिब्बे माँगता है (प्राचल $\frac1{50}$ की कोई ज्यामितीय प्रतीक्षा)। पूर्ति-समस्याओं पर उनके अंतिम चरण का प्रभुत्व रहता है, और इसीलिए अभ्यास 22.12 माध्य $n\ln n$ के आसपास कोटि $n$ के — यानी उसी अंतिम ज्यामितीय प्रतीक्षा के आकार के — उतार-चढ़ाव पाता है।

उदाहरण 22.28 ( $n$ कितना बड़ा होना चाहिए?)

प्रेक्षित बारंबारता को विश्वास $95\%$ के साथ $\P(A)$ के $\varepsilon = 0.01$ के भीतर बाँधने के लिए चेबिशेव का परिबंध माँगता है

\frac{p(1-p)}{n\varepsilon^2} \leq \frac{1}{4n\varepsilon^2} \leq 0.05, \qquad\text{अर्थात्}\qquad n \geq \frac{1}{4\cdot0.05\cdot(0.01)^2} = 50\,000 .

निर्भरता $\varepsilon$ में क्रूर है (वर्गिक) और विश्वास में नरम ( $1/\alpha$ में रैखिक)। दोनों लक्षण परिबंध के गुणधर्म हैं, सच्चाई के नहीं: सप्ताहांत समस्या की चरघातांकी असमिकाएँ विश्वास की क़ीमत $1/\alpha$ से $\ln(1/\alpha)$ तक घटा देती हैं — वहाँ वही विनिर्देश लगभग $18\,500$ प्रतिदर्श माँगेगा — जबकि $1/\varepsilon^2$ मापक्रम असली और असुधार्य है। किसी परिबंध का कौन सा भाग ढीला है, यह जानना स्वयं परिबंध जितना ही उपयोगी है।

चित्र के रूप में बृहत् संख्याओं का नियम: S_n/n का नियम (रेखाचित्र के रूप में खींचा गया) अपना केंद्र m बनाए रखता है पर n के बढ़ने के साथ सँकरा होता जाता है, अतः पट्टी [m- , m+ ] के बाहर की प्रायिकता — दोनों पुच्छ — घटकर शून्य हो जाती है। चेबिशेव पुच्छों को V(X_1)/(n 2) से परिबद्ध करती है; सप्ताहांत समस्या दिखाती है कि वे वस्तुतः चरघातांकी रूप से छोटी हैं। — चित्र के रूप में बृहत् संख्याओं का नियम: $S_n/n$ का नियम (रेखाचित्र के रूप में खींचा गया) अपना केंद्र $m$ बनाए रखता है पर $n$ के बढ़ने के साथ सँकरा होता जाता है, अतः पट्टी $\intcc{m-\varepsilon}{m+\varepsilon}$ के बाहर की प्रायिकता — दोनों पुच्छ — घटकर शून्य हो जाती है। चेबिशेव पुच्छों को $V(X_1)/(n\varepsilon^2)$ से परिबद्ध करती है; सप्ताहांत समस्या दिखाती है कि वे वस्तुतः चरघातांकी रूप से छोटी हैं।

टिप्पणी 22.29 (इस खंड के भीतर के परिप्रेक्ष्य)

आगे की ओर, यहाँ का सब कुछ अध्याय 23 को खिलाता है: $X$ के किसी चतुर फलन की प्रत्याशा $\E(t^X)$ पूरे नियम को किसी घात श्रेणी में भर देती है, आघूर्ण $1$ पर अवकलज बन जाते हैं, और यादृच्छिक योगों के लिए वाल्ड-प्रकार की सर्वसमिकाएँ शाखन-प्रक्रम सिद्धांत ढोती हैं; स्वतंत्र चरों के लिए गुणनफल प्रमेय जनक फलनों की गुणनात्मकता बन जाती है। पीछे की ओर, प्रत्याशा प्रायिकता-भारों वाला कोई बैरिकेंद्र है (अध्याय 17), जेनसन असमिका उत्तल फलनों की आधार-रेखा ज्यामिति है (अध्याय 8), और इस अध्याय की सप्ताहांत समस्या की चरघातांकी-आघूर्ण विधि $\eu^{tX}$ पर लगाई गई मार्कोव है — एक असमिका, एक अच्छे चर-परिवर्तन से उन्नत, तीन अध्यायों में फैली हुई।

22.5 अभ्यास

अभ्यास 22.1 ★

$X \sim \mathcal{B}(n, p)$ (सूचकों के द्वारा), $X \sim \mathcal{P}(\lambda)$ (दिखाइए $V(X) = \lambda$ ), तथा $X \sim \mathcal{G}(p)$ (दिखाइए $V(X) = \frac{1-p}{p^2}$ ; $\E(X(X-1))$ तथा ज्यामितीय श्रेणी का द्वितीय अवकलज बरतिए) के लिए $\E(X)$ तथा $V(X)$ परिकलित कीजिए।

हल

हल — अभ्यास 22.1.

द्विपद: स्वतंत्र बर्नूली $X_i$ के साथ $X = \sum_{i=1}^n X_i$ ; $V(X_i) = \E(X_i^2) - \E(X_i)^2 = p - p^2$ , और स्वतंत्र चरों के प्रसरण जुड़ जाते हैं (प्रमेय 22.14):

\E(X) = np, \qquad V(X) = np(1-p) .

प्वासों: $\E\bigl(X(X-1)\bigr) = \sum_{k\geq2}k(k-1)e^{-\lambda}\frac{\lambda^k}{k!} = \lambda^2 e^{-\lambda}\sum_{j\geq0}\frac{\lambda^j}{j!} = \lambda^2$ , अतः

V(X) = \E(X^2) - \E(X)^2 = \lambda^2 + \lambda - \lambda^2 = \lambda .

ज्यामितीय ( $q = 1 - p$ ): $\sum_{k\geq0}q^k = \frac{1}{1-q}$ का चक्रिका के भीतर दो बार अवकलन करने पर (अध्याय 11) $\sum_{k\geq2}k(k-1)q^{k-2} = \frac{2}{(1-q)^3}$ , अतः

\E\bigl(X(X-1)\bigr) = pq\sum_{k\geq2}k(k-1)q^{k-2} = \frac{2q}{p^2}, \qquad V(X) = \frac{2q}{p^2} + \frac1p - \frac{1}{p^2} = \frac{q}{p^2} = \frac{1-p}{p^2} .

अभ्यास 22.2 ★

मान लीजिए $X \sim \mathcal{P}(\lambda)$ तथा $Y \sim \mathcal{P}(\mu)$ स्वतंत्र हैं। दिखाइए कि $X + Y \sim \mathcal{P}(\lambda + \mu)$ (भारों का संवलन; द्विपद प्रमेय), और यह कि $X + Y = n$ दिए जाने पर $X$ का सप्रतिबंध नियम द्विपद $\mathcal{B}\bigl(n, \frac{\lambda}{\lambda + \mu}\bigr)$ है।

हल

हल — अभ्यास 22.2.

योग: $n \in \N$ के लिए, असंयुक्तता तथा स्वतंत्रता से,

\P(X + Y = n) = \sum_{k=0}^n \P(X = k)\P(Y = n - k) = e^{-(\lambda + \mu)}\frac{1}{n!} \sum_{k=0}^n \binom nk \lambda^k\mu^{n-k} = e^{-(\lambda+\mu)}\frac{(\lambda + \mu)^n}{n!}

और द्विपद प्रमेय से: $X + Y \sim \mathcal{P}(\lambda + \mu)$ । सप्रतिबंध नियम: $0 \leq k \leq n$ के लिए,

\P(X = k \mid X + Y = n) = \frac{\P(X = k)\P(Y = n - k)}{\P(X + Y = n)} = \binom nk \Bigl(\frac{\lambda}{\lambda+\mu}\Bigr)^{k} \Bigl(\frac{\mu}{\lambda+\mu}\Bigr)^{n-k} ,

अर्थात् द्विपद नियम $\mathcal{B}\bigl(n, \frac{\lambda}{\lambda+\mu}\bigr)$ : कुल गिनती दी हो तो हर घटना स्वतंत्र रूप से अपनी दर के समानुपाती प्रायिकता के साथ पहला स्रोत “चुन” लेती है।

अभ्यास 22.3 ★

(कूपन संग्राहक, प्रत्याशा) कोई अनाज-ब्रांड हर डिब्बे में $n$ अलग खिलौनों में से एक एकसमान रूप से छिपाता है। मान लीजिए $T_n$ सारे $n$ खिलौने इकट्ठे करने के लिए आवश्यक डिब्बों की संख्या है। $T_n$ को स्वतंत्र ज्यामितीय चरों के योग के रूप में लिखकर (जब $k$ अब भी शेष हों तब किसी नए खिलौने को देखने का समय), दिखाइए

\E(T_n) = n\sum_{k=1}^{n}\frac{1}{k} \sim n\ln n

(अध्याय 6 की श्रेणी–समाकल तुलना से तुल्य)।

हल

हल — अभ्यास 22.3.

जब $k$ खिलौने अब भी शेष हों, तब हर नया डिब्बा प्रायिकता $\frac kn$ के साथ कोई नया खिलौना लाता है, और यह अतीत से स्वतंत्र है: अगले नए खिलौने के लिए प्रतीक्षा-समय $W_k$ ज्यामितीय $\mathcal{G}\bigl(\frac kn\bigr)$ है, जहाँ $\E(W_k) = \frac nk$ , और $T_n = W_n + W_{n-1} + \dots + W_1$ (पहला डिब्बा सदा कोई नया खिलौना देता है: $W_n = 1$ , जो $\E = n/n$ से संगत है)। रैखिकता से,

\E(T_n) = \sum_{k=1}^n \frac nk = n\sum_{k=1}^n\frac1k \sim n\ln n ,

जहाँ $\sum_{k\leq n}\frac1k = \ln n + \gamma + o(1)$ का उपयोग हुआ (अध्याय 6)। क़ीमत अंतिम कुछ खिलौनों को इकट्ठा करने की है: आधे डिब्बे उसी अंतिम मुट्ठी भर पर जाते हैं।

अभ्यास 22.4 ★★

मान लीजिए $X \geq 0$ पूर्णांक-मान वाला है। $X = \sum_{n\geq1}\mathbf{1}_{X \geq n}$ लिखकर और योगों की अदला-बदली करके (अऋणात्मक कुलों के लिए फ़ूबिनी) पुच्छ सूत्र

\E(X) = \sum_{n=1}^{\infty} \P(X \geq n)

सिद्ध कीजिए (जब कोई भी पक्ष परिमित हो)। ज्यामितीय नियम के लिए $\E(X) = \frac1p$ पुनः प्राप्त कीजिए।

हल

हल — अभ्यास 22.4.

बिंदुवार $X(\omega) = \#\{n \geq 1 : X(\omega) \geq n\} = \sum_{n\geq1}\mathbf{1}_{X \geq n}(\omega)$ । द्विक कुल $\bigl(\mathbf{1}_{X \geq n}(\omega)\,\P(\{\omega\})\bigr)_{n, \omega}$ अऋणात्मक है, अतः कुलों के लिए फ़ूबिनी (अध्याय 7) बिना किसी शर्त के लागू होती है: पहले $n$ में योग लेने पर $\E(X)$ मिलता है, पहले $\omega$ में योग लेने पर $\sum_n \P(X \geq n)$ ; और दोनों एक साथ परिमित तथा बराबर हैं। $X \sim \mathcal{G}(p)$ के लिए: $\P(X \geq n) = q^{n-1}$ ( $q = 1-p$ ), अतः $\E(X) = \sum_{n\geq1}q^{n-1} = \frac{1}{1 - q} = \frac1p$ ।

अभ्यास 22.5 ★★

(बिना प्रतिस्थापन प्रतिचयन अधिक संकेंद्रित है) किसी कलश में $N$ गेंदें हैं, जिनमें $M$ सफ़ेद हैं। बिना प्रतिस्थापन $n \leq N$ खींचिए और मान लीजिए $X$ सफ़ेदों की गिनती करता है (अतिज्यामितीय नियम)। $Y_i$ को $i$ -वीं खींच मानकर सूचकों $X = \sum_{i=1}^n Y_i$ का उपयोग करते हुए: दिखाइए कि हर $Y_i$ प्राचल $p = M/N$ का बर्नूली है (सममिति!), निष्कर्ष निकालिए कि प्रतिस्थापन वाली स्थिति की तरह ही ठीक-ठीक $\E(X) = np$ , और दिखाइए कि $i \neq j$ के लिए $\operatorname{Cov}(Y_i, Y_j) = -\frac{p(1-p)}{N-1} < 0$ , अतः $V(X) = np(1-p)\frac{N - n}{N - 1} \leq np(1-p)$ ।

हल

हल — अभ्यास 22.5.

सममिति: खींची गई $i$ -वीं गेंद कलश की कोई एकसमान यादृच्छिक गेंद है ( $N$ गेंदों में से किसी के भी खींच-क्रम में स्थान $i$ पर आने की संभावना बराबर है), अतः $\P(Y_i = 1) = \frac MN = p$ और रैखिकता से $\E(X) = np$ — किसी स्वतंत्रता की ज़रूरत नहीं।

सहप्रसरण: $i \neq j$ के लिए $\E(Y_iY_j) = \P(\text{खींचें } i, j \text{ दोनों सफ़ेद}) = \frac{M(M-1)}{N(N-1)}$ (भिन्न स्थानों के क्रमित युग्मों को भिन्न गेंदों का क्रमित युग्म एकसमान रूप से मिलता है)। इसलिए

\operatorname{Cov}(Y_i, Y_j) = \frac{M(M-1)}{N(N-1)} - \frac{M^2}{N^2} = \frac{M(N - M)}{N^2}\cdot\frac{-1}{N-1} = -\frac{p(1-p)}{N-1} < 0 :

अर्थात् कोई सफ़ेद गेंद खींचना बाक़ी खींचों के लिए सफ़ेदों को और विरल कर देता है। प्रमेय 22.14 से,

V(X) = np(1-p) + n(n-1)\Bigl(-\frac{p(1-p)}{N-1}\Bigr) = np(1-p)\,\frac{N - n}{N - 1} \leq np(1-p) :

यानी बिना प्रतिस्थापन प्रतिचयन का माध्य वही है पर प्रसरण प्रतिस्थापन वाली स्थिति से छोटा है (समता केवल $n = 1$ के लिए), और ऋणात्मक सहसंबंध किसी स्थिरक की तरह काम करते हैं। $n = N$ के लिए प्रसरण लुप्त हो जाता है: तब गिनती निर्धारणात्मक है।

अभ्यास 22.6 ★★

मान लीजिए $X$ द्वितीय आघूर्ण रखता है। दिखाइए कि $c \mapsto \E\bigl((X - c)^2\bigr)$ ठीक $c = \E(X)$ पर न्यूनतम है, और न्यूनतम मान $V(X)$ । फिर दिखाइए कि $\P(X = \E(X)) = 1$ तभी जब $V(X) = 0$ । (दूसरे बिंदु के लिए: यदि $V(X) = 0$ , तो $\varepsilon = 1/n$ के साथ चेबिशेव तथा एकदिष्ट संततता प्रमेय 21.6 बरतिए।)

हल

हल — अभ्यास 22.6.

$m = \E(X)$ के परितः प्रसार करने पर:

\E\bigl((X - c)^2\bigr) = \E\bigl((X - m)^2\bigr) + 2(m - c)\,\E(X - m) + (m - c)^2 = V(X) + (m - c)^2 ,

जो ठीक $c = m$ पर न्यूनतम है और उसका मान $V(X)$ — अर्थात् माध्य वर्ग के अर्थ में प्रत्याशा सर्वोत्तम अचर पूर्वानुमानक है।

यदि $\P(X = m) = 1$ हो, तो $(X - m)^2$ प्रायिकता $1$ के साथ लुप्त होता है, अतः $V(X) = 0$ (परिभाषा वाले कुल के पद किसी शून्य समुच्चय के बाहर शून्य हैं)। विलोमतः, यदि $V(X) = 0$ , तो चेबिशेव (प्रमेय 22.15) हर $n$ के लिए $\P\bigl(\abs{X - m} \geq \frac1n\bigr) \leq n^2\,V(X) = 0$ देती है; घटनाएँ $\bigl\{\abs{X - m} \geq \frac1n\bigr\}$ बढ़कर $\{X \neq m\}$ तक जाती हैं, अतः एकदिष्ट संततता (प्रमेय 21.6) $\P(X \neq m) = 0$ दे देती है।

अभ्यास 22.7 ★★★

(संकेंद्रण मार्कोव को हरा देता है) मान लीजिए $S_n \sim \mathcal{B}(n, \frac12)$ ( $n$ निष्पक्ष उछालों में चित्तों की संख्या)। मार्कोव ( $\P(S_n \geq \frac{3n}{4})$ ), चेबिशेव, तथा चरघातांकी (चेर्नोफ़) विधि

\P\Bigl(S_n \geq \frac{3n}4\Bigr) \leq \E\bigl(e^{tS_n}\bigr)e^{-3nt/4} = \Bigl(\frac{1 + e^t}{2}\Bigr)^n e^{-3nt/4} \quad (t > 0),

से मिले परिबंधों की तुलना कीजिए, और चरघातांकी रूप से छोटा परिबंध पाने के लिए $t$ का इष्टतमीकरण कीजिए। ( $t = \ln 3$ पर: $\bigl(2\cdot 3^{-3/4}\bigr)^n \approx (0.877)^n$ परिबद्ध कीजिए।)

हल

हल — अभ्यास 22.7.

$\E(S_n) = \frac n2$ तथा $V(S_n) = \frac n4$ । मार्कोव: $\P\bigl(S_n \geq \frac{3n}4\bigr) \leq \frac{n/2}{3n/4} = \frac23$ — कोई अचर परिबंध, जो बड़े $n$ के लिए बेकार है। चेबिशेव: घटना से $\abs{S_n - \frac n2} \geq \frac n4$ निकलता है, अतः प्रायिकता $\leq \frac{n/4}{(n/4)^2} = \frac4n$ है — जो क्षय तो करती है, पर केवल बहुपदीय रूप से। चेर्नोफ़: स्वतंत्रता से $\E(e^{tS_n}) = \prod_{i=1}^n\E(e^{tX_i}) = \bigl(\frac{1 + e^t}{2}\bigr)^n$ , और $e^{tS_n} \geq e^{3nt/4}$ पर लगाई गई मार्कोव हर $t > 0$ के लिए देती है

\P\Bigl(S_n \geq \frac{3n}4\Bigr) \leq \Bigl(\frac{1 + e^t}{2}\Bigr)^n e^{-3nt/4} = \exp\Bigl(n\bigl(\ln\tfrac{1 + e^t}{2} - \tfrac{3t}4\bigr)\Bigr).

घातांक को न्यूनतम कीजिए: $e^t = 3$ पर $\frac{\dd}{\dd t}\ln\frac{1+e^t}{2} = \frac{e^t}{1 + e^t} = \frac34$ , अर्थात् $t = \ln 3$ , जिससे

\P\Bigl(S_n \geq \frac{3n}4\Bigr) \leq \Bigl(\frac{4}{2}\Bigr)^n 3^{-3n/4} = \bigl(2 \cdot 3^{-3/4}\bigr)^n \approx (0.877)^n ,

मिलता है, जो चरघातांकी रूप से छोटा है। पदानुक्रम मार्कोव $\to$ चेबिशेव $\to$ चेर्नोफ़ मानक सीढ़ी है: हर पायदान मार्कोव को चर के किसी तेज़ी से बढ़ते फलन पर लगाता है।

अभ्यास 22.8 ★★★

(वाइरश्ट्रास फिर, प्रायिकतात्मक रूप से) मान लीजिए $f \colon [0,1] \to \R$ संतत है और $S_n \sim \mathcal{B}(n, x)$ । दिखाइए कि बर्नस्टाइन बहुपद $B_nf(x) = \sum_{k=0}^n f\bigl(\frac kn\bigr)\binom nk x^k(1-x)^{n-k}$ $\E\bigl[f\bigl(\frac{S_n}{n}\bigr)\bigr]$ के बराबर है, और अध्याय 10 का आकलन $\abs{B_nf(x) - f(x)} \leq \omega_f(\delta) + \frac{2\norm f_\infty}{4n\delta^2}$ इसी प्रायिकतात्मक भाषा में फिर से व्युत्पन्न कीजिए ( $\bigl|\frac{S_n}{n} - x\bigr| \geq \delta$ पर बाँटिए और चेबिशेव बरतिए)।

हल

हल — अभ्यास 22.8.

$S_n \sim \mathcal{B}(n, x)$ वाले $f\bigl(\frac{S_n}{n}\bigr)$ पर लगाई गई अंतरण प्रमेय (प्रमेय 22.7) से:

\E\Bigl[f\Bigl(\frac{S_n}{n}\Bigr)\Bigr] = \sum_{k=0}^n f\Bigl(\frac kn\Bigr)\binom nk x^k(1-x)^{n-k} = B_nf(x) .

$\delta > 0$ स्थिर कीजिए और घटना $D = \bigl\{\abs{\frac{S_n}{n} - x} \geq \delta\bigr\}$ पर $\abs{f(S_n/n) - f(x)}$ को बाँटिए: $D$ के बाहर अंतर अधिक से अधिक संततता का मापांक $\omega_f(\delta) = \sup_{\abs{s - t}\leq\delta}\abs{f(s) - f(t)}$ है; $D$ पर अधिक से अधिक $2\norm f_\infty$ । प्रत्याशा लेकर और $V\bigl(\frac{S_n}{n}\bigr) = \frac{x(1-x)}{n} \leq \frac{1}{4n}$ के साथ चेबिशेव बरतकर:

\abs{B_nf(x) - f(x)} \leq \E\,\abs{f(S_n/n) - f(x)} \leq \omega_f(\delta) + 2\norm f_\infty\,\P(D) \leq \omega_f(\delta) + \frac{2\norm f_\infty}{4n\delta^2} .

$[0, 1]$ पर $f$ की एकसमान संततता $\omega_f(\delta) \to 0$ बना देती है: पहले $\delta$ चुनिए, फिर $n$ , और एकसमान रूप से $B_nf \to f$ — यानी अध्याय 10 की वाइरश्ट्रास सन्निकटन प्रमेय, जिसकी “गणना-प्रमेयिका” अब द्विपद नियम के लिए चेबिशेव असमिका के रूप में पहचानी जा सकती है।

अभ्यास 22.9 ★★★

(चतुर्थ आघूर्णों के अंतर्गत प्रबल नियम) मान लीजिए $(X_k)$ स्वतंत्र, समरूप बँटे, केंद्रित ( $\E X_1 = 0$ ) चर हैं, जहाँ $\E(X_1^4) < \infty$ । $\E(S_n^4)$ को खोलकर और बचे हुए पदों को गिनकर (केवल $\E(X_i^4)$ तथा $\E(X_i^2X_j^2)$ वाले पद, $i \neq j$ ) दिखाइए कि किसी अचर $C$ के साथ $\E(S_n^4) \leq C n^2$ । हर $\varepsilon > 0$ के लिए $\sum_n \P\bigl(\abs{S_n/n} \geq \varepsilon\bigr) < \infty$ निकालिए (कोटि 4 पर मार्कोव) और बोरेल–कांतेली (प्रमेय 21.25) से निष्कर्ष निकालिए कि किसी उपयुक्त सूत्रीकरण के अनुदिश लगभग निश्चित रूप से $S_n/n \to 0$ : अर्थात् घटना $\bigcap_{j}\bigcup_N\bigcap_{n \geq N}\{\abs{S_n/n} < \frac1j\}$ की प्रायिकता $1$ है।

हल

हल — अभ्यास 22.9.

$S_n^4 = \sum_{i,j,k,l}X_iX_jX_kX_l$ को खोलिए और प्रत्याशा लीजिए। स्वतंत्रता तथा केंद्रण से, जिस भी पद में कोई सूचकांक ठीक एक बार आता हो वह लुप्त हो जाता है ( $\E(X_i) = 0$ गुणनखंड के रूप में बाहर आ जाता है)। बचे हुए पद: $n$ विकर्ण पद $\E(X_i^4)$ , और बराबर सूचकांकों के दो युग्मों को जोड़ने वाले पद $\E(X_i^2X_j^2) = \E(X_1^2)^2$ ( $i \neq j$ के लिए), जो $3n(n-1)$ बार आते हैं: मानों का अक्रमित युग्म चुनिए ( $\binom n2$ तरीक़े), फिर उन्हें चारों ख़ानों में रखने के $\frac{4!}{2!\,2!} = 6$ तरीक़े — $6\binom n2 = 3n(n-1)$ । इसलिए $\E(X_1^2)^2 \leq \E(X_1^4)$ (जेनसन या कोशी–श्वार्ज़) के साथ,

\E(S_n^4) = n\,\E(X_1^4) + 3n(n-1)\,\E(X_1^2)^2 \leq C n^2, \qquad C = 4\,\E(X_1^4) .

कोटि 4 पर मार्कोव:

\P\Bigl(\Bigl|\frac{S_n}{n}\Bigr| \geq \varepsilon\Bigr) = \P\bigl(S_n^4 \geq n^4\varepsilon^4\bigr) \leq \frac{Cn^2}{n^4\varepsilon^4} = \frac{C}{n^2\varepsilon^4} ,

जो कोई योग्य श्रेणी है। बोरेल–कांतेली 1 (प्रमेय 21.25) से हर $j$ के लिए घटना $B_j = \limsup_n\bigl\{\abs{S_n/n} \geq \frac1j\bigr\}$ की प्रायिकता $0$ है, अतः गणनीय उप-योज्यता से $\P\bigl(\bigcup_j B_j\bigr) = 0$ । पूरक पर — जिसकी प्रायिकता $1$ है — हर $j$ के लिए ऐसा $N$ है कि सब $n \geq N$ के लिए $\abs{S_n/n} < \frac1j$ : अर्थात् ठीक $S_n/n \to 0$ । बृहत् संख्याओं का प्रबल नियम चतुर्थ आघूर्ण के अंतर्गत टिकता है; उस परिकल्पना को हटाना (कोल्मोगोरोव की प्रमेय) वर्ष 3 का काम है।

अभ्यास 22.10 ★

दो निष्पक्ष पासे फेंके जाते हैं; मान लीजिए $M$ दोनों परिणामों में से बड़ा है। अभ्यास 22.4 के पुच्छ सूत्र (परिमित रूप) का उपयोग करते हुए दिखाइए

\E(M) = \sum_{k=1}^{6}\P(M \geq k) = 6 - \sum_{j=0}^5\Bigl(\frac j6\Bigr)^2 = \frac{161}{36} \approx 4.47 .

हल

हल — अभ्यास 22.10.

$\P(M \leq k) = \bigl(\frac k6\bigr)^2$ (दोनों पासे स्वतंत्र रूप से अधिक से अधिक $k$ ), अतः $\P(M \geq k) = 1 - \bigl(\frac{k-1}6\bigr)^2$ और

\E(M) = \sum_{k=1}^6\P(M \geq k) = 6 - \frac{0 + 1 + 4 + 9 + 16 + 25}{36} = 6 - \frac{55}{36} = \frac{161}{36} \approx 4.47 ,

जो किसी अकेले पासे के माध्य $3.5$ से आराम से ऊपर है, जैसा किसी अधिकतम को होना ही चाहिए।

अभ्यास 22.11 ★★

मान लीजिए $F_n$ $\{1, \dots, n\}$ के किसी एकसमान यादृच्छिक क्रमचय के अचल बिंदुओं की संख्या है ( $n \geq 2$ )। $F_n = \sum_i\mathbf 1_{\sigma(i) = i}$ लिखकर $\E(F_n) = 1$ परिकलित कीजिए, $i \neq j$ के लिए $\operatorname{Cov}(\mathbf 1_{\sigma(i)=i}, \mathbf 1_{\sigma(j)=j}) = \frac1{n^2(n-1)}$ , और निष्कर्ष निकालिए $V(F_n) = 1$ : अर्थात् औसतन एक चिट्ठी अचल रहती है, और प्रसरण ठीक $1$ है, चाहे $n$ कुछ भी हो।

हल

हल — अभ्यास 22.11.

$I_i = \mathbf 1_{\sigma(i) = i}$ के साथ: $\P(\sigma(i) = i) = \frac{(n-1)!}{n!} = \frac1n$ , अतः $\E(F_n) = n\cdot\frac1n = 1$ । $i \neq j$ के लिए: $\P(\sigma(i) = i, \sigma(j) = j) = \frac{(n-2)!}{n!} = \frac1{n(n-1)}$ , इसलिए

\operatorname{Cov}(I_i, I_j) = \frac1{n(n-1)} - \frac1{n^2} = \frac{1}{n^2(n-1)} .

प्रसरण की औज़ार-पेटी (प्रमेय 22.14) से,

V(F_n) = n\cdot\frac1n\Bigl(1 - \frac1n\Bigr) + n(n-1)\cdot\frac1{n^2(n-1)} = 1 - \frac1n + \frac1n = 1 .

माध्य $1$ , प्रसरण $1$ , जो $n$ से स्वतंत्र है — और यह मिलान समस्या की प्वासों सीमा (अभ्यास 21.5) से संगत है।

अभ्यास 22.12 ★★★

(कूपन संग्राहक, संकेंद्रण) अभ्यास 22.3 के परिवेश में ज्यामितीय चरणों की स्वतंत्रता तथा $V(\mathcal G(p)) = \frac{1-p}{p^2}$ (अभ्यास 22.1; मान $\pi^2/6$ उदाहरण 14.12 है) का उपयोग करते हुए दिखाइए

V(T_n) = \sum_{k=1}^n\frac{1 - k/n}{(k/n)^2} \leq n^2\sum_{k=1}^n\frac{1}{k^2} \leq \frac{\pi^2}{6}n^2,

चेबिशेव से निकालिए कि प्रायिकता में $\dfrac{T_n}{n\ln n} \to 1$ : अर्थात् संग्राहक का कुल समय कोटि $n$ के उतार-चढ़ावों तक $n\ln n$ है।

हल

हल — अभ्यास 22.12.

$T_n = \sum_{k=1}^nG_k$ , जहाँ $G_k \sim \mathcal G(k/n)$ $k$ के शेष रहने पर किसी नए खिलौने को देखने का समय है, और चरण स्वतंत्र हैं। इसलिए उदाहरण 14.12 से

V(T_n) = \sum_{k=1}^n\frac{1 - k/n}{(k/n)^2} \leq \sum_{k=1}^n\frac{n^2}{k^2} \leq \frac{\pi^2}6\,n^2 ,

$\E(T_n) = nH_n$ के साथ $H_n = \sum_1^n\frac1k$ (अभ्यास 22.3), और चेबिशेव $\varepsilon > 0$ के लिए देती है

\P\bigl(\abs{T_n - nH_n} \geq \varepsilon\,n\ln n\bigr) \leq \frac{\pi^2n^2/6}{\varepsilon^2n^2\ln^2 n} = \frac{\pi^2}{6\,\varepsilon^2\ln^2n} \xrightarrow[n\to\infty]{} 0 .

चूँकि $H_n \sim \ln n$ , $n\ln n$ से भाग देने पर दिखता है कि प्रायिकता में $T_n/(n\ln n) \to 1$ : अर्थात् $T_n$ के उतार-चढ़ाव कोटि $n$ के हैं, जो माध्य $n\ln n$ के सामने नगण्य हैं।

22.6 समस्या: संकेंद्रण की औज़ार-पेटी, मार्कोव से हॉफडिंग तक

समस्या 22.1

सप्ताहांत समस्या — हाथ से चरघातांकी संकेंद्रण, और किसी मतसर्वेक्षण को कितने लोगों से पूछना चाहिए

मार्कोव असमिका एक आघूर्ण की क़ीमत लेती है और $1/a$ क्षय ख़रीदती है; चेबिशेव दो आघूर्णों की क़ीमत लेती है और $1/\varepsilon^2$ ख़रीदती है — और उदाहरण 22.18 दिखाता है कि उतने आघूर्ण इससे अधिक ख़रीद ही नहीं सकते। यह समस्या सीढ़ी का शेष भाग चढ़ती है: सिक्का-उछालों के लिए अपनी सटीक दर वाली चरघातांकी (चेर्नोफ़) विधि, सारे परिबद्ध चरों के लिए हॉफडिंग असमिका, और प्रतिफल — मतसर्वेक्षणों, चुनाव-घोषणाओं तथा सिक्का-परीक्षण के लिए स्पष्ट, ईमानदार प्रतिदर्श-आकार। सर्वत्र $S_n \sim \mathcal B(n, p)$ $n$ स्वतंत्र बर्नूली चरों का योग है और $\widehat p_n = S_n/n$ आनुभविक बारंबारता।

भाग I — निष्पक्ष सिक्के पर अंशांकन। यहाँ $p = \frac12$ तथा $a \in \intoo{\frac12}{1}$ ।

स्तर $an$ पर मार्कोव: दिखाइए $\P(S_n \geq an) \leq \frac1{2a}$ , जो ऐसा परिबंध है जो $0$ की ओर जाता भी नहीं। मार्कोव इतना कहाँ खो देती है?
चेबिशेव: $n/2$ के परितः निष्पक्ष द्विपद की सममिति का उपयोग करते हुए दिखाइए

$\P(S_n \geq an) = \tfrac12\, \P\bigl(\abs{S_n - \tfrac n2} \geq n(a - \tfrac12)\bigr) \leq \frac{1}{8n(a - 1/2)^2},$

अर्थात् $a = \frac34$ पर $\frac2n$ : आख़िर बहुपदीय क्षय।
(चेर्नोफ़, व्यापक स्तर) $\E(\eu^{tS_n}) = \bigl(\frac{1 + \eu^t}2\bigr)^n$ परिकलित कीजिए और $t > 0$ पर $\P(S_n \geq an) \leq \E(\eu^{tS_n})\eu^{-tan}$ का इष्टतमीकरण कीजिए: दिखाइए कि इष्टतम $t$ $\ln\frac{a}{1-a}$ है और

$\P(S_n \geq an) \leq \eu^{-n\,I(a)}, \qquad I(a) = \ln 2 + a\ln a + (1-a)\ln(1-a) > 0 .$

जाँचिए कि $a = \frac34$ अभ्यास 22.7 का परिबंध $\bigl(2\cdot3^{-3/4}\bigr)^n$ पुनः दे देता है।
(घातांक सटीक है) मान लीजिए $k = an$ कोई पूर्णांक है। इस तथ्य से कि $\binom nk a^k(1-a)^{n-k}$ किसी प्रायिकता बंटन के $n + 1$ पदों में सबसे बड़ा है, $H(a) = -a\ln a - (1-a)\ln(1-a)$ के साथ $\binom nk \geq \frac{\eu^{nH(a)}}{n+1}$ सिद्ध कीजिए, और मेल खाता निचला परिबंध

$\P(S_n \geq an) \geq \binom{n}{an}2^{-n} \geq \frac{\eu^{-n\,I(a)}}{n + 1} .$

निकालिए।
$n = 100$ , $a = \frac34$ पर तीनों परिबंधों की सारणी बनाइए: मार्कोव $\frac23$ , चेबिशेव $0.02$ , चेर्नोफ़ $\approx 2.1\cdot10^{-6}$ (सच्चा मान $\approx 2.8\cdot10^{-7}$ है)। एक वाक्य में सार?

भाग II — हॉफडिंग असमिका।

(रादेमाखर स्थिति) हर एक प्रायिकता $\frac12$ वाले $\varepsilon = \pm1$ के लिए दोनों श्रेणियों की पद-दर-पद तुलना करके ( $(2k)! \geq 2^kk!$ ) सिद्ध कीजिए

$\E(\eu^{t\varepsilon}) = \cosh t \leq \eu^{t^2/2} \qquad (t \in \R)$
स्वतंत्र रादेमाखर चरों $\varepsilon_1, \dots, \varepsilon_n$ तथा हर $s > 0$ के लिए निकालिए:

$\P\Bigl(\sum_{i=1}^n\varepsilon_i \geq s\Bigr) \leq \eu^{-s^2/(2n)} .$
निष्पक्ष सिक्कों में अनुवाद कीजिए ( $X_i = \frac{1+\varepsilon_i}2$ ): $\P\bigl(\widehat p_n - \tfrac12 \geq \delta\bigr) \leq \eu^{-2n\delta^2}$ , और गुणक $2$ वाला द्विपक्षीय रूप।
(हॉफडिंग की प्रमेयिका) मान लीजिए $\E X = p$ वाला $X \in \intcc01$ है, और $\psi(t) = \ln\E(\eu^{tX})$ । न्यायसंगत ठहराइए कि $\psi$ दो बार अवकलनीय है, जहाँ

$\psi''(t) = \E_t(X^2) - \E_t(X)^2, \qquad \E_t(Y) := \frac{\E(Y\eu^{tX})}{\E(\eu^{tX})},$

जो अब भी $\intcc01$ में मान लेने वाले किसी पुनःभारित चर का प्रसरण है; उसे $\frac14$ से परिबद्ध कीजिए (अभ्यास 22.6 का न्यूनतमता तर्क) और टेलर से निष्कर्ष निकालिए:

$\E\bigl(\eu^{t(X - p)}\bigr) \leq \eu^{t^2/8} .$
(हॉफडिंग असमिका) साझा माध्य $p$ वाले स्वतंत्र $X_i \in \intcc01$ के लिए निकालिए

$\P\bigl(\abs{\widehat p_n - p} \geq \delta\bigr) \leq 2\,\eu^{-2n\delta^2} \qquad (\delta > 0).$
चेबिशेव दर $\frac{p(1-p)}{n\delta^2}$ की हॉफडिंग की $2\eu^{-2n\delta^2}$ से तुलना कीजिए: हर एक को कौन सी परिकल्पना चाहिए, और $\delta = 0.03$ , $p = \frac12$ पर लगभग किस $n$ से चरघातांकी परिबंध जीतने लगता है?

भाग III — किसी मतसर्वेक्षण को कितने लोगों से पूछना चाहिए? कोई मतसर्वेक्षण $n$ स्वतंत्र, एकसमान रूप से चुने गए मतदाताओं से पूछता है; हर एक ईमानदारी से उत्तर देता है; $p$ सच्चा अंक है और $\widehat p_n$ सर्वेक्षण का आँकड़ा।

दिखाइए कि मतसर्वेक्षण विश्वास $1 - \alpha$ के साथ $\pm\delta$ तक सटीक है (अर्थात् $\P(\abs{\widehat p_n - p} \geq \delta) \leq \alpha$ ), जैसे ही

$n \;\geq\; \frac{\ln(2/\alpha)}{2\,\delta^2} .$
मानक “तीन अंक, पंचानबे प्रतिशत” विनिर्देश ( $\delta = 0.03$ , $\alpha = 0.05$ ) के लिए आवश्यक $n$ परिकलित कीजिए: $n \geq 2050$ ; और एक अंक के लिए: $n \geq 18\,445$ । इस चकित कर देने वाले तथ्य पर ध्यान दीजिए — और उसे समझाइए — कि उत्तर में जनसंख्या का आकार आता ही नहीं।
प्रश्न 13 को चेबिशेव ( $V(X_1) = p(1-p) \leq \frac14$ ) के साथ फिर कीजिए: तीन अंकों पर $n \geq \frac1{4\alpha\delta^2} = 5556$ । ध्यान दीजिए कि बिना प्रतिस्थापन प्रतिचयन केवल मदद ही करता है (अभ्यास 22.5: प्रसरण $\frac{N-n}{N-1}$ से सिकुड़ जाता है)।
(चुनाव की घोषणा) किसी प्रत्याशी का सच्चा अंक $p = 0.52$ है। कितने मतदाताओं से पूछा जाना चाहिए ताकि $\P(\widehat p_n \leq \tfrac12) \leq 0.01$ ? दिखाइए $n \geq \frac{\ln 100}{2\cdot(0.02)^2} \approx 5757$ — अर्थात् किसी काँटे की टक्कर की घोषणा किसी अंक के आकलन से कहीं अधिक महँगी पड़ती है।
गणित जिसे ढँकता नहीं: बरती गई प्रतिरूपण-मान्यताएँ सूचीबद्ध कीजिए (स्वतंत्र एकसमान प्रतिचयन, ईमानदार उत्तर, नियत $p$ ), और किसी छोटे अनुच्छेद में समझाइए कि असली सर्वेक्षण-त्रुटियों पर अभिनति (असमान प्रतिचयन, उत्तर न देना) का प्रभुत्व क्यों रहता है, जिसे $n$ बढ़ाकर घटाया नहीं जा सकता।

भाग IV — अधिक तीखा और अधिक सस्ता।

(माध्यों की माध्यिका: दो आघूर्णों से चरघातांकी क्षय) $km$ प्रतिदर्शों के बजट को $m$ आकार के $k$ स्वतंत्र समूहों में बाँटिए; मान लीजिए $\widehat p^{(1)}, \dots, \widehat p^{(k)}$ समूह-माध्य हैं और $M$ उनकी माध्यिका। $m$ इस प्रकार चुनिए कि हर समूह $\P(\abs{\widehat p^{(i)} - p} \geq \delta) \leq \frac18$ पूरा करे (चेबिशेव: $m \geq \frac2{\delta^2}$ पर्याप्त है)। दिखाइए कि यदि $\abs{M - p} \geq \delta$ हो, तो कम से कम $k/2$ समूह चूकते हैं, और निकालिए

$\P(\abs{M - p} \geq \delta) \leq \binom{k}{\lceil k/2\rceil}\Bigl(\frac18 \Bigr)^{k/2} \leq 2^k\cdot 8^{-k/2} = 2^{-k/2} :$

अर्थात् प्रसरणों से आगे कुछ भी बरते बिना चरघातांकी संकेंद्रण।
(पेली–ज़िगमुंड) द्वितीय आघूर्ण वाले $X \geq 0$ के लिए $\P(X > 0) \geq \dfrac{\E(X)^2}{\E(X^2)}$ सिद्ध कीजिए ( $X\mathbf 1_{X>0}$ पर कोशी–श्वार्ज़): यह उलटी दिशा का औज़ार है — आघूर्ण घटनाओं को घटित होने पर बाध्य भी कर सकते हैं।
(हल्का पिंस्कर) $\intoo{\frac12}1$ पर $I(a) \geq 2\bigl(a - \tfrac12\bigr)^2$ दिखाइए (अंतर $\frac12$ पर द्वितीय कोटि तक लुप्त होता है और उसका द्वितीय अवकलज $\frac1{a(1-a)} - 4 \geq 0$ है): अर्थात् चेर्नोफ़ का सटीक घातांक हॉफडिंग के वर्गिक घातांक को सदा हरा देता है।
$I\bigl(\tfrac12 + \delta\bigr) = 2\delta^2 + O(\delta^4)$ का प्रसार कीजिए और प्रश्न 4 के साथ जोड़िए: छोटे विचलनों के लिए हॉफडिंग घातांक $2n\delta^2$ अनंतस्पर्शी रूप से सटीक है — कोई भी विधि उसे बहुपदीय गुणकों से अधिक नहीं हरा सकती।
औज़ार-पेटी की सारणी बनाइए: मार्कोव, चेबिशेव, अभ्यास 22.9 का चतुर्थ-आघूर्ण परिबंध, हॉफडिंग, तथा घातांक $I$ वाला चेर्नोफ़ — हर एक के लिए एक पंक्ति में बताइए: आवश्यक परिकल्पना, प्राप्त क्षय, और इस समस्या का वह प्रश्न जहाँ वह सबसे तीखा था।

भाग V — लाभांश।

(सिक्के की जाँच) कोई सिक्का या तो निष्पक्ष है या $p = 0.55$ के साथ पक्षपाती। आप उसे $n$ बार उछालते हैं और $\widehat p_n > 0.525$ होने पर “पक्षपाती” घोषित करते हैं। दिखाइए कि दोनों त्रुटि-प्रायिकताएँ अधिक से अधिक $\eu^{-2n(0.025)^2}$ हैं, और यह कि $n \geq 3685$ उछाल दोनों को $1\%$ से नीचे आश्वस्त कर देते हैं।
(विरल घटनाओं को प्रसरण-सजग परिबंध चाहिए) मान लीजिए $p = 0.01$ और सापेक्ष विनिर्देश $\delta = p/2 = 0.005$ , $\alpha = 0.05$ लीजिए। हॉफडिंग ( $n \approx 74\,000$ ) तथा सच्चे प्रसरण $p(1-p)$ वाली चेबिशेव ( $n \approx 7920$ ) द्वारा माँगे गए प्रतिदर्श-आकारों की तुलना कीजिए: अर्थात् प्रसरण-अंधा चरघातांकी परिबंध विनम्र द्वितीय आघूर्ण से हार जाता है। सार बताइए, और यह भी कि छूटा हुआ औज़ार (कोई प्रसरण-सजग चरघातांकी परिबंध; अध्याय 23 का प्वासों सन्निकटन) कहाँ से आएगा।
(सिक्कों के लिए प्रबल नियम) $\sum_n 2\eu^{-2n\delta^2} < \infty$ तथा बोरेल–कांतेली (प्रमेय 21.25) से सिद्ध कीजिए कि स्वतंत्र सिक्का-उछालों के लिए लगभग निश्चित रूप से $\widehat p_n \to p$ : लगभग-निश्चित घटना को अभ्यास 22.9 की तरह $\bigcap_j\bigcup_N\bigcap_{n\geq N} \{\abs{\widehat p_n - p} < \tfrac1j\}$ के रूप में सूत्रबद्ध कीजिए, और निष्कर्ष निकालिए। (वहाँ बरते गए चतुर्थ आघूर्ण की जगह यहाँ परिबद्धता ले लेती है।)
संश्लेषण। पाँच वाक्यों में: सीढ़ी का हर पायदान (आघूर्ण एक, दो, चार; परिबद्ध चरघातांकी; सटीक घातांक) क्या क़ीमत लेता है और क्या ख़रीदता है; किसी भी आकार के देश के लिए $2050$ लोगों का सर्वेक्षण क्यों पर्याप्त है; और इनमें से किस परिबंध को वर्ष 3 का खंड केंद्रीय सीमा प्रमेय के सटीक अचरों में तीखा करेगा।

हल

हल — समस्या 22.1.

1. $\E(S_n) = \frac n2$ तथा मार्कोव (प्रमेय 22.15) $\P(S_n \geq an) \leq \frac{n/2}{an} = \frac1{2a}$ देते हैं। मार्कोव केवल माध्य जानती है: वह $n/2$ पर संकेंद्रित किसी चर को $0$ तथा $n$ के बीच फैले किसी चर से अलग नहीं कर सकती, अतः वह पुच्छ का मूल्य ऐसे लगाती है मानो सारा द्रव्यमान वहीं बैठ सकता हो।

2. निष्पक्ष द्विपद $n/2$ के परितः सममित है ( $S_n$ तथा $n - S_n$ का नियम एक ही है), अतः $x = n(a - \frac12) > 0$ के साथ दोनों घटनाएँ $\{S_n - \frac n2 \geq x\}$ तथा $\{S_n - \frac n2 \leq -x\}$ असंयुक्त और समसंभावी हैं: $\P(S_n \geq an) = \frac12\P(\abs{S_n - \frac n2} \geq x)$ । $V(S_n) = \frac n4$ के साथ चेबिशेव:

\P(S_n \geq an) \leq \frac12\cdot\frac{n/4}{n^2(a - 1/2)^2} = \frac1{8n(a - 1/2)^2},

जो $a = \frac34$ पर $\frac2n$ है।

3. स्वतंत्रता तथा गुणनफल प्रमेय से $\E(\eu^{tS_n}) = \bigl(\E \eu^{tX_1}\bigr)^n = \bigl(\frac{1 + \eu^t}2\bigr)^n$ । $\eu^{tS_n}$ पर लगाई गई मार्कोव:

\P(S_n \geq an) \leq \eu^{-tan}\Bigl(\frac{1 + \eu^t}2\Bigr)^{\!n} = \exp\Bigl(n\bigl(\ln\tfrac{1 + \eu^t}2 - ta\bigr)\Bigr).

$t$ में घातांक का अवकलज $\frac{\eu^t}{1 + \eu^t} - a$ है, जो $\eu^t = \frac a{1-a}$ पर लुप्त होता है, अर्थात् $t^* = \ln\frac a{1-a} > 0$ ; वहाँ $\frac{1 + \eu^{t^*}}2 = \frac1{2(1-a)}$ और घातांक

n\Bigl(-\ln 2 - \ln(1-a) - a\ln\frac a{1-a}\Bigr) = -n\bigl(\ln2 + a\ln a + (1-a)\ln(1-a)\bigr) = -n\,I(a),

के बराबर है, जहाँ $\intoo{\frac12}1$ पर $I(\frac12) = 0$ तथा $I'(a) = \ln\frac a{1-a} > 0$ : $I(a) > 0$ । $a = \frac34$ पर: $\eu^{-I(3/4)} = \frac12(\tfrac34)^{-3/4}(\tfrac14)^{-1/4} = 2\cdot3^{-3/4}$ , यानी अभ्यास 22.7 का परिबंध।

4. $n + 1$ संख्याएँ $\binom nja^j(1-a)^{n-j}$ जुड़कर $1$ बनाती हैं, और सबसे बड़ी वह है जो $j = k = an$ पर है (यहाँ $\mathcal B(n, a)$ का बहुलक $\floor{(n+1)a} = k$ है)। $1$ तक जुड़ने वाली $n + 1$ संख्याओं का अधिकतम कम से कम $\frac1{n+1}$ होता है:

\binom nk a^k(1-a)^{n-k} \geq \frac1{n+1} \quad\Longrightarrow\quad \binom nk \geq \frac{a^{-an}(1-a)^{-n(1-a)}}{n+1} = \frac{\eu^{nH(a)}}{n+1}.

इसलिए $\P(S_n \geq an) \geq \binom{n}{an}2^{-n} \geq \eu^{n(H(a) - \ln2)}/(n+1) = \eu^{-nI(a)}/(n+1)$ : अर्थात् बहुपदीय गुणक $n + 1$ तक चेर्नोफ़ का घातांक ही सच्चाई है।

5. $n = 100$ , $a = \frac34$ : मार्कोव $\frac23$ ; चेबिशेव $\frac2{100} = 0.02$ ; चेर्नोफ़ $(2\cdot3^{-3/4})^{100} = \eu^{-100\,I(3/4)} \approx 2.1\cdot10^{-6}$ , जबकि सटीक मान $2.8\cdot10^{-7}$ है। सार: सूचना का हर आघूर्ण परिबंध को बहुपदीय रूप से बाँट देता है; चरघातांकी आघूर्ण उसकी प्रकृति ही बदल देता है।

6. $\cosh t = \sum_{k\geq0}\frac{t^{2k}}{(2k)!}$ तथा $\eu^{t^2/2} = \sum_{k\geq0}\frac{t^{2k}}{2^kk!}$ ; दावा पद-दर-पद $(2k)! \geq 2^kk!$ से निकलता है, जो आगमन से टिकता है: $(2k)! = 2k(2k-1)\cdot(2k-2)! \geq 2k\cdot 2^{k-1}(k-1)! = 2^kk!\cdot(2k-1) \geq 2^kk!$ ।

7. स्वतंत्रता से $\E\bigl(\eu^{t\sum\varepsilon_i} \bigr) = (\cosh t)^n \leq \eu^{nt^2/2}$ , अतः मार्कोव $\P(\sum\varepsilon_i \geq s) \leq \eu^{nt^2/2 - ts}$ देती है; और $t = s/n$ पर न्यूनतम करने से $\eu^{-s^2/(2n)}$ मिलता है।

8. $X_i = \frac{1 + \varepsilon_i}2$ के साथ $\widehat p_n - \frac12 = \frac1{2n}\sum\varepsilon_i$ , अतः $\{\widehat p_n - \frac12 \geq \delta\} = \{\sum\varepsilon_i \geq 2n\delta\}$ , और प्रश्न 7 परिबंध $\eu^{-(2n\delta)^2/(2n)} = \eu^{-2n\delta^2}$ दे देता है। सममित घटना का भी वही परिबंध है, जिससे $\abs{\widehat p_n - \frac12} \geq \delta$ के लिए गुणक $2$ आता है।

9. $\E(\eu^{tX}) = \sum_x\eu^{tx}\P(X = x)$ $t$ के चिकने फलनों की कोई श्रेणी है, जिसके पद-दर-पद अवकलज हर संहत $t$ -अंतराल पर $\eu^{\abs t}\P(X = x)$ से प्रभावित हैं ( $0 \leq x \leq 1$ ): अतः प्रसामान्य अभिसारी श्रेणियों के लिए अवकलन प्रमेय (प्रमेय 10.7) से वह दो बार अवकलनीय है, और विभाग नियम $\psi' = \E_t(X)$ तथा $\psi'' = \E_t(X^2) - \E_t(X)^2$ देता है, जहाँ $\E_t$ पुनःभारित भारों $\eu^{tx}\P(X{=}x)/\E(\eu^{tX})$ के लिए प्रत्याशा है — जो अऋणात्मक हैं, $1$ तक जुड़ते हैं, और उन्हीं मानों $x \in \intcc01$ द्वारा ढोए जाते हैं। $\intcc01$ -मान वाले किसी चर का प्रसरण अधिक से अधिक $\frac14$ होता है: अभ्यास 22.6 से वह $\min_c\E_t((X - c)^2) \leq \E_t\bigl((X - \tfrac12)^2\bigr) \leq \tfrac14$ है। $\psi(0) = 0$ , $\psi'(0) = p$ का उपयोग करते हुए समाकल शेषफल वाली टेलर:

\psi(t) = tp + \int_0^t(t - s)\,\psi''(s)\,\dd s \leq tp + \frac{t^2}2\cdot\frac14,

अर्थात् सब वास्तविक $t$ के लिए $\E(\eu^{t(X - p)}) \leq \eu^{t^2/8}$ ।

10. स्वतंत्रता से $\E\bigl(\eu^{t(S_n - np)}\bigr) \leq \eu^{nt^2/8}$ ; मार्कोव तथा इष्टतमीकरण $t = 4\delta$ देते हैं

\P(\widehat p_n - p \geq \delta) \leq \eu^{nt^2/8 - tn\delta}\Big|_{t = 4\delta} = \eu^{-2n\delta^2};

और इसे चरों $1 - X_i$ पर लगाने से (जो भी $\intcc01$ में हैं) दूसरी पुच्छ परिबद्ध हो जाती है, जिससे द्विपक्षीय $2\eu^{-2n\delta^2}$ मिलता है।

11. चेबिशेव को केवल द्वितीय आघूर्ण चाहिए और वह $\frac{p(1-p)}{n\delta^2}$ देती है; हॉफडिंग को परिबद्धता चाहिए और वह $2\eu^{-2n\delta^2}$ देती है। $p = \frac12$ , $\delta = 0.03$ पर परिबंध (लगभग) $\frac{278}{n}$ बनाम $2\eu^{-0.0018n}$ हैं; वे $n \approx 1200$ के पास कटते हैं, जिसके बाद चरघातांकी परिबंध जीतता है, और ख़ूब जीतता है ( $n = 5000$ : $0.056$ बनाम $2.5\cdot10^{-4}$ )।

12. हॉफडिंग (प्रश्न 10) से $2n\delta^2 \geq \ln\frac2\alpha$ होते ही $\P(\abs{\widehat p_n - p} \geq \delta) \leq 2\eu^{-2n\delta^2} \leq \alpha$ , अर्थात् $n \geq \frac{\ln(2/\alpha)}{2\delta^2}$ ।

13. $\delta = 0.03$ , $\alpha = 0.05$ : $n \geq \frac{\ln 40}{2\cdot0.0009} \approx 2049.4$ : $2050$ लोग। $\delta = 0.01$ के लिए: $n \geq \frac{\ln40}{0.0002} \approx 18\,445$ । जनसंख्या का आकार कभी नहीं आता, क्योंकि प्रतिचयित हर मतदाता को कोई नई बर्नूली $(p)$ खींच माना जाता है: मतसर्वेक्षण की कठिनाई किसी सिक्के का प्रसरण है, देश का आकार नहीं। सीमांत आधा करने पर प्रतिदर्श चार गुना पड़ता है — यही $1/\delta^2$ नियम है।

14. चेबिशेव: $n \geq \frac1{4\alpha\delta^2}$ के लिए $\P(\abs{\widehat p_n - p} \geq \delta) \leq \frac{p(1-p)}{n\delta^2} \leq \frac1{4n\delta^2} \leq \alpha$ , अर्थात् तीन अंकों पर $5556$ — जो हॉफडिंग की माँग का लगभग $2.7$ गुना है। बिना प्रतिस्थापन प्रसरण $\frac{N - n}{N-1} < 1$ से गुणित हो जाता है (अभ्यास 22.5), अतः वही $n$ केवल बेहतर ही कर सकता है: प्रतिस्थापन वाला परिकलन रूढ़िवादी परिकलन है।

15. $\{\widehat p_n \leq \frac12\} \subseteq \{\widehat p_n - 0.52 \leq -0.02\}$ , अतः एकपक्षीय हॉफडिंग परिबंध से $n \geq \frac{\ln 100}{2\cdot0.0004} \approx 5756.5$ होते ही $\P(\widehat p_n \leq \tfrac12) \leq \eu^{-2n(0.02)^2} \leq 0.01$ : $5757$ मतदाता। क़ीमत वांछित परिशुद्धता के नहीं, बल्कि बढ़त के व्युत्क्रम वर्ग की तरह मापित होती है: काँटे की टक्कर महँगी पड़ती है।

16. बरता गया: प्रतिदर्श मतदाता-समूह से एकसमान तथा स्वतंत्र रूप से खींचा जाता है; प्रतिचयित हर व्यक्ति ईमानदारी से उत्तर देता है, और सर्वेक्षण के दौरान $p$ हिलता नहीं। असली सर्वेक्षण तीनों का उल्लंघन करते हैं: पहुँच योग्य तथा इच्छुक उत्तरदाता कोई एकसमान प्रतिदर्श नहीं होते (चयन तथा अनुत्तर अभिनति), और उत्तर असत्य या अस्थिर हो सकते हैं। ये अभिनति त्रुटियाँ हैं: वे $\E(\widehat p_n)$ को $p$ से इतना खिसका देती हैं जो $n$ से स्वतंत्र है, अतः कोई भी प्रतिदर्श-आकार उन्हें घटाता नहीं — इस भाग का गणित केवल उतार-चढ़ाव वाले पद को साधता है।

17. आकार $m$ के किसी एक समूह के लिए चेबिशेव: $m \geq \frac2{\delta^2}$ के लिए $\P(\abs{ \widehat p^{(i)} - p} \geq \delta) \leq \frac{1}{4m\delta^2} \leq \frac18$ । यदि $k/2$ से कम समूह चूकें, तो मानों $\widehat p^{(i)}$ में से $k/2$ से अधिक विवृत अंतराल $\intoo{p - \delta}{p + \delta}$ में पड़ते हैं, और उनकी माध्यिका भी; इसलिए $\{\abs{M - p} \geq \delta\}$ $k$ स्वतंत्र समूहों में कम से कम $\lceil k/2\rceil$ चूकों को बाध्य कर देता है। चूकने वाले समूहों के $\binom k{\lceil k/2\rceil}$ संभव समुच्चयों पर संघ परिबंध देता है

\P(\abs{M - p} \geq \delta) \leq \binom{k}{\lceil k/2\rceil} \Bigl(\frac18\Bigr)^{k/2} \leq 2^k\,8^{-k/2} = 2^{-k/2} :

अर्थात् समूहों की संख्या में चरघातांकी क्षय, जो प्रसरणों के सिवा कुछ भी बरते बिना ख़रीदा गया — और यह ठीक तब उपयोगी है जब पद अपरिबद्ध हों और हॉफडिंग उपलब्ध न हो।

18. कोशी–श्वार्ज़ (प्रमेय 22.19):

\E(X) = \E(X\,\mathbf 1_{X>0}) \leq \sqrt{\E(X^2)}\sqrt{\E(\mathbf 1_{X>0}^2)} = \sqrt{\E(X^2)\,\P(X > 0)} ;

वर्ग कीजिए और भाग दीजिए।

19. मान लीजिए $h(a) = I(a) - 2(a - \tfrac12)^2$ । तब $h(\tfrac12) = 0$ , $h'(a) = \ln\frac a{1-a} - 4(a - \tfrac12)$ $\tfrac12$ पर लुप्त होता है, और

h''(a) = \frac1a + \frac1{1-a} - 4 = \frac{1}{a(1-a)} - 4 \geq 0

क्योंकि $a(1-a) \leq \frac14$ । अतः $h'$ $\intco{\frac12}1$ पर $0$ से बढ़ता है, इसलिए $h' \geq 0$ तथा $h \geq 0$ : $I(a) \geq 2(a - \tfrac12)^2$ ।

20. $I(\tfrac12) = I'(\tfrac12) = 0$ , $I''(a) = \frac1{a(1-a)}$ $I''(\tfrac12) = 4$ देता है, और $I'''(\tfrac12) = 0$ (फलन $\tfrac12$ के परितः सममित है), अतः $I(\tfrac12 + \delta) = 2\delta^2 + O(\delta^4)$ । तब प्रश्न 4 सच्ची पुच्छ को नीचे से $\eu^{-n(2\delta^2 + O(\delta^4))}/(n+1)$ द्वारा परिबद्ध कर देता है: अर्थात् छोटे $\delta$ के लिए हॉफडिंग घातांक $2n\delta^2$ अनंतस्पर्शी रूप से सटीक है — केवल $n$ में बहुपदीय सुधार संभव हैं।

21. मार्कोव: एक आघूर्ण, क्षय $1/a$ , जो केवल बाक़ी सबके पीछे के इंजन के रूप में उपयोगी है (प्रश्न 1 उसे सपाट दिखाता है)। चेबिशेव: दो आघूर्ण, क्षय $\frac{V}{n\delta^2}$ , जो बिना किसी अतिरिक्त परिकल्पना के तीखी है (उदाहरण 22.18), और प्रश्न 23 पर सर्वोत्तम औज़ार। चतुर्थ आघूर्ण (अभ्यास 22.9): क्षय $C/n^2$ , जो किसी प्रबल नियम में सिकुड़ने के लिए बस उतनी ही योग्यता देता है। हॉफडिंग: परिबद्ध चर, क्षय $2\eu^{-2n\delta^2}$ , भाग III का कर्मठ घोड़ा। सटीक दर $I(a)$ वाली चेर्नोफ़: पूरे चरघातांकी आघूर्ण, अजेय घातांक (प्रश्न 4, 20), और बाक़ी सबका संदर्भ बिंदु।

22. यदि सिक्का निष्पक्ष हो: $\P(\widehat p_n > 0.525) \leq \P(\widehat p_n - \tfrac12 \geq 0.025) \leq \eu^{-2n(0.025)^2}$ । यदि $p = 0.55$ : $\P(\widehat p_n \leq 0.525) \leq \P(\widehat p_n - 0.55 \leq -0.025) \leq \eu^{-2n(0.025)^2}$ । दोनों त्रुटियाँ $2n(0.025)^2 \geq \ln 100$ होने पर $0.01$ से नीचे हैं, अर्थात् $n \geq 3684.2$ : $3685$ उछाल। ( $2.5$ अंक दूर की परिकल्पनाओं को अलग करने की क़ीमत उतनी ही है जितनी $\pm2.5$ अंकों तक आकलन करने की।)

23. हॉफडिंग: $n \geq \frac{\ln 40}{2(0.005)^2} \approx 73\,778$ । सच्चे प्रसरण $p(1-p) = 0.0099$ वाली चेबिशेव: $n \geq \frac{0.0099}{0.05\cdot(0.005)^2} = 7920$ — नौ गुना सस्ती। हॉफडिंग का घातांक $2n\delta^2$ प्रसरण का मूल्य उसकी सबसे बुरी स्थिति $\frac14$ पर लगाता है, जो $p = 0.01$ होने पर बेतुका निराशावादी है; विनम्र द्वितीय आघूर्ण बेहतर जानता है। छूटा हुआ औज़ार कोई प्रसरण-सजग चरघातांकी परिबंध है (बर्नस्टाइन असमिका, वर्ष 3) — अथवा, विरल घटनाओं के लिए, अध्याय 23 में सिद्ध प्वासों सन्निकटन, जो स्वाभाविक सापेक्ष मापक्रम पर काम करता है।

24. $\delta > 0$ स्थिर कीजिए: $\sum_n 2\eu^{-2n\delta^2} < \infty$ (ज्यामितीय-प्रकार की श्रेणी), अतः बोरेल–कांतेली 1 (प्रमेय 21.25) देती है $\P(\abs{\widehat p_n - p} \geq \delta \text{ अपरिमित बार}) = 0$ , अर्थात् हर $j$ के लिए घटना $E_j = \bigcup_N\bigcap_{n\geq N}\{\abs{\widehat p_n - p} < \tfrac1j\}$ की प्रायिकता $1$ है। गणनीय प्रतिच्छेद $\bigcap_jE_j$ की प्रायिकता भी $1$ है (पूरकों पर उप-योज्यता), और उस पर $\widehat p_n \to p$ : अर्थात् सिक्का-उछालों के लिए बृहत् संख्याओं का प्रबल नियम, जहाँ परिबद्धता वही भूमिका निभा रही है जो अभ्यास 22.9 में चतुर्थ आघूर्ण ने निभाई थी।

25. एक आघूर्ण कोई सपाट परिबंध ख़रीदता है; दो $1/(n\delta^2)$ ख़रीदते हैं, और उससे अधिक नहीं (तीखेपन का उदाहरण); चार $1/n^2$ ख़रीदते हैं, जो किसी लगभग-निश्चित नियम में सिकुड़ने के लिए पर्याप्त है; परिबद्धता $\eu^{-2n\delta^2}$ ख़रीदती है; और पूरा चरघातांकी आघूर्ण सटीक दर $I$ ख़रीदता है, जिसे कोई विधि नहीं हरा सकती। $2050$ लोगों का सर्वेक्षण किसी भी देश के लिए इसलिए पर्याप्त है कि प्रतिदर्श का उतार-चढ़ाव सिक्के के प्रसरण से चलता है, जनसंख्या के आकार से नहीं — $1/\delta^2$ तथा $\ln(1/\alpha)$ वाली क़ीमत की पर्चियाँ सार्वभौमिक हैं। वर्ष 3 के खंड की केंद्रीय सीमा प्रमेय इन असमिकाओं को $\sqrt n$ मापक्रम पर स्पष्ट अचरों वाले किसी सटीक सीमा नियम से बदल देती है — और इस तरह इस समस्या के हर परिबंध को किसी अनंतस्पर्शी समता में बदल देती है।