Matemáticas universitarias — Grado 3 · Bachelor Year 3
23Funciones características y límite central teorema
La ley de los grandes números dice que los promedios convergen; el central teorema del límite dice cómo fluctúan: el error, magnificado por , es asintóticamente gaussiano — cualquiera que sea la ley por la que se parta. Esta universalidad es la El hecho más profundo de la probabilidad elemental y su prueba natural. es analítico de Fourier: el función característica (la transformada de Fourier de una ley) convierte sumas independiente en productos, y la maquinaria de Capítulo 14 — inyectividad, puntos fijos gaussiano — convierte puntualmente convergencia de estos productos en convergencia de leyes (Teorema de Lévy, demostrado en su totalidad). El capítulo termina con Vectores gaussianos y la honesta derivación de la confianza. intervalos utilizados en todas partes en estadística; el problema del fin de semana da la segunda prueba de Lindeberg del CLT, con una explícita tasa de error.
23.1 Funciones características
Definición 23.1
El función característica de un variable aleatoria real es
(el teorema de transferencia lo calcula a partir de la ley; para un densidad , en XXXP0741Convención XXX).
Proposición 23.2
(a) , y es uniformemente continuo; . (b) Si es independiente: . (c) Si , entonces conpara; en particular, para centrado con variación :
(d) gaussiano: tiene .
Demostración. (a) Los límites son inmediatos; continuidad: comopor convergencia dominada, uniformemente en. el La regla afín es una sustitución. (b) y esperanzas de heredar de productos del factor de variables independiente (Teorema 22.5, aplicado a bienes reales y partes imaginarias). (c) Diferenciación según la expectativa, dominado por (Teorema 10.15); la expansión de Taylor en es entonces Taylor–Young para la función . (d) Para : la transformación gaussiano (Ejemplo 14.2 con ) da ; el caso general por la regla afín. ∎
Teorema 23.3 (Inyectividad)
Si , entonces y tienen el mismo ley. Más precisamente, para independiente de y , la variable suavizada tiene el densidad
determinado únicamente por ; dejando recupera la ley de .
Demostración. tiene el densidad , donde es el densidad: efectivamente para Borel , independencia y Tonelli dan (sustituto, luego Tonelli nuevamente). escribiendo por inversión de Fourier de su transformada (Ejercicio 14.4, reescalado): y Fubini (todo dominado por el factor gaussiano):
un funcional de solo. Si :y tienen leyes iguales para cada ; para continuo acotado , como (convergencia dominada, puntualmente en el espacio del producto), por lo que para todos esos — y esto determina la ley: para cada , aprieta entre los acotados continuo rampas (igual a en , a más allá de , afín entre); pasar al límite endaen cada donde ambos son continuo, por lo tanto en todas partes por continuidad derecha y densidad de común puntos continuidad (ambos tienen muchos saltos contables); funciones de distribución iguales fuerzan leyes iguales (Ejercicio 9.3, descansando sobre Teorema 9.7). ∎
23.2 Convergencia en la distribución
Definición 23.4
converge en distribución (o en la ley) a , escrito , si
Equivalentemente (Ejercicio 23.4): en cada punto continuidad de . El no necesita vivir de un espacio de probabilidad común: sólo importan las leyes.
Teorema 23.5 (Teorema de selección de Helly)
Cada secuencia de funciones de distribución tiene un subsecuencia convergente puntualmente, en cada punto continuidad del límite, a un continuo a la derecha no decreciente — posiblemente con (la masa puede escapar al infinito).
Demostración. La extracción diagonal da por cada racional (valores en el compacto ). Definir : no decreciente; continuo a la derecha (un mínimo sobre la reducción racional barrios desde la derecha). En un punto continuidad de : para racionales ,
por monotonicidad de cada . De la definición de como mínimo y monotonicidad de en el racionales: siempre que . Al tomar se obtiene , y ; dejando que y , continuidad deen expriman ambos y a . ∎
Lema 23.6 (Estanqueidad desde la función característica)
Para cualquier variable aleatoria y :
Demostración. Por Tonelli–Fubini (integrando acotado, región finita en ):
(interprete el corchete como su límite en ). el el integrando no es negativo (), y para : . Manteniendo solo el evento dentro del expectativa por lo tanto deja al menos , cual es el reclamo. ∎
Teorema 23.7 (teorema de continuidad de Lévy)
Sea variables aleatorias cuyo característica funciones converge puntualmente: por cada, donde es el función característica de algún aleatorio variable . Entonces .
Demostración. Opresión. Reparar . Dado que es continuo en con , elija con ; por convergencia dominada (integrando acotado por en el fijo ), la misma integral para es para grande: Lema 23.6 da para grande y amplía la constante maneja un número finito de otros: las leyes son ajustado — no hay fugas masivas.
Subsecuencias. Sea cualquier subsecuencia; por Helly (Teorema 23.5) extracto en puntos continuidad. Fuerzas de estanqueidad , (en puntos continuidad): es un producto genuino función de distribución, de algunos variable aleatoria . entonces (Ejercicio 23.4, convergencia distributiva de ), por lo que puntualmente ( está acotado continuo, real y partes imaginarias por separado); comparando con la hipótesis: y inyectividad. (Teorema 23.3) da , es decir, .
Conclusión. Cada subsecuencia de tiene un subsubsecuencia que converge al mismo (en su continuidad puntos); por lo tanto en cada continuidad punto (una secuencia real cuya totalidad las subsecuencias tienen subsecuencias con el mismo límite converge): . ∎
23.3 El teorema del límite central
Teorema 23.8 (Teorema del límite central)
Sea i.i.d. con y . Entonces
para todos los .
Demostración. Centro y normalizar: (i.i.d., media , varianza ) y . Por independencia y el regla afín (Proposición 23.2):
Reparar y dejar , : ambos tienen módulopara grande ( una vez ; siempre). La desigualdad elemental para (telescópica ) da
mientras que (logaritmo real). Entonces (Proposición 23.2(d)) por cada : Lévy (Teorema 23.7) concluye . Las probabilidades de intervalo siguen ya que es continuo en todas partes. ∎
Ejemplo 23.9 (Intervalos de confianza, derivados honestamente)
Encuesta independiente votantes; estima el verdadero , con . El CLT da, para grande ,
donde es la función de distribución estándar gaussiano. Con : confianza asintótica y margen requiere — el número detrás de cada punto “, ” se lee; comparar (Ejercicio 22.7) de Chebyshev. el es universal: para reducir a la mitad el error, cuadriplica el muestra — la misma ley que fija el costo de Montecarlo (Ejercicio 23.7).
23.4 Vectores gaussianos
Definición 23.10
Un vector aleatorio es gaussiano si cada lineal combinación es una (posiblemente degenerada) variable gaussiana real. Su ley es determinado por el vector medio y el matriz de covarianza : efectivamente el función característica del El vector es el valor en del cf de :
y -dimensional funciones características son inyectivos (la misma prueba de suavizado que Teorema 23.3, Gaussianos coordinados).
Teorema 23.11
Sea un vector gaussiano.
- Cada imagen afín es una vector gaussiano.
- Los componentes son independiente si y sólo si es diagonal: para gaussiano en conjunto variables, no correlacionadas independiente.
- Si es invertible, tiene el densidad .
Demostración. (1) Las combinaciones lineales de componentes de son afines funciones de combinaciones lineales de : gaussiano (un afín imagen de una variable gaussiano es gaussiano). (2) Si es diagonal, el función característica factoriza: , que es el función característica de la ley de productos (Teorema 22.5 leer detenidamente -inyectividad dimensional): los componentes son independiente. Lo contrario es la desaparición de las covarianzas de independiente. variables. (3) Diagonalizar ( ortogonal, diagonal — Ejercicio 20.8); el el vector es gaussiano con covarianza : por (2) sus componentes son independiente , por lo que tiene el producto densidad; empujar adelante por el que preserva el volumen (Teorema 11.10, ) y reescribe el exponente invariantemente. ∎
Teorema 23.12 (CLT multidimensional)
Sea i.i.d. cuadrado integrable aleatorio vectores de con media y matriz de covarianza . Entonces converge en distribución al vector gaussiano .
Demostración. Admitido a este nivel. ∎
Observación 23.13
Casi todo ya está en nuestras manos. para cada dirección , la variable real es una suma normalizada de i.i.d. variables reales de varianza , entonces el cálculo de Teorema 23.8 da puntualmente convergencia del -dimensional funciones características a , el característica función de (Definición 23.10). lo que no tenemos Se vuelve a demostrar el teorema continuidad in de Lévy: La selección de Helly y la estimación de estanqueidad se generalizan rutinariamente (en forma de coordenadas), y este Cramér–Wold La reducción se realiza honestamente en cualquier egresado. curso de probabilidad; nada más allá de los métodos de este capítulo es necesario.
Método 23.14
Para identificar una ley límite: calcule funciones características, toma el límite puntual, reconócelo (gaussiano , Poison , exponencial , …) e invocar Lévy. los tres pasos ritual (independencia producto; Taylor en límite exponencial; Lévy convergencia en el derecho) demuestra el CLT, la ley de Poisson de eventos raros (Ejercicio 23.5), y cada teorema del límite clásico de este curso. Para declaraciones a.s. regrese a Conjunto de herramientas de Capítulo 22: respuesta de los dos capítulos diferentes preguntas sobre el mismo .
23.5 Ceremonias
Ejercicio 23.1 ★
Calcule el funciones características: uniforme en ; exponencial ; Poison ; binomio . deducir vía Teorema 23.3 que la suma de independiente Las variables de Poisson () son Poisson .
Solución
Solución de Ejercicio 23.1.
Uniforme en : (igual aen). Exponencial : (la antiderivada desaparece en desde ). Poisson: por el teorema de transferencia para leyes discretas,
Binomio : una suma de independiente Variables de Bernoulli, cada una con cf , entonces (Proposición 23.2(b)). Aditividad de Poisson: si , son independiente,
el cf de ; inyectividad (Teorema 23.3) identifica la ley.
Ejercicio 23.2 ★★
(a) Demuestre que tiene un valor real si y sólo si y tienen la misma ley (una variable simétrico). (b) Supongamos para algunos . Demuestre que casi seguramente se apoya en una aritmética progresión (write and compute ). Deduzca que si tiene un densidad, luego para todos los .
Solución
Solución de Ejercicio 23.2.
(a) . Entonces es real si y sólo si , si y sólo si (inyectividad, Teorema 23.3) y tienen el mismo ley. (b) Escriba . entonces
El integrando no es negativo, por lo que casi con seguridad (una variable no negativa con cero expectativa desaparece a.s.), es decir a.s.: toma sus valores en la progresión aritmética casi con toda seguridad. Si tiene un densidad, este conjunto contable es Lebesgue-null, por lo que conlleva probabilidad — contradicción; por lo tanto por cada .
Ejercicio 23.3 ★★
Sean y independiente. Mostrar y de manera más general, que la familia gaussiano es estable bajo independiente sumas y mapas afines. Contraste: es la suma de dos dependiente gaussianos siempre gaussiano? (Ejercicio 23.9.)
Solución
Solución de Ejercicio 23.3.
Por independencia y Proposición 23.2:
el cf de ; concluye la inyectividad. La estabilidad bajo mapas afines es la regla afín (, que permite el caso degenerado), y La estabilidad bajo sumas independiente sigue por inducción en el cálculo anterior. Para dependiente gaussianos la suma no es necesario que sea gaussiano: en Ejercicio 23.9, y son cada uno estándar gaussiano pero desaparece con probabilidad sin ser a.s. cero, por lo que no es gaussiano.
Ejercicio 23.4 ★★
(a) Acreditar la equivalencia en Definición 23.4: si para todos los continuo acotados, luego en puntos continuidad (squeeze between two continuo staircase-ramps); y a la inversa (approximate a bounded continuo by sums of ramp functions, or condition on a fine grid of continuidad points) — lo contrario puede tratarse para de manera uniforme continuo primero, luego en general. (b) Demuestre que (una constante) implica en probabilidad.
Solución
Solución de Ejercicio 23.4.
(a) Implicación directa. Sea un punto continuidad de y . Tome las rampas continuo ( en , de en, afín entre) y ( en , desde en adelante, afín entre); entonces , entonces
y los términos externos convergen a , ellos mismos comprimido entre y . Dejando luego y usando continuidad de en : .
Conversar. Sea acotado continuo, ,. Los puntos continuidad de son densos ( tiene como máximo muchos saltos contables), por lo que elige continuidad puntos con y . En el compacto la función es uniformemente continuo: elija continuidad puntos de con oscilación de como máximo en cada y establezca . Luegoen, y para o :
Además (una suma finita de términos convergentes, siendo todos puntos continuidad), y , . Montaje: ; deja.
(b) La función de distribución de la constante es , continuo excepto en . Para , los puntos y son puntos continuidad, por lo que
Ejercicio 23.5 ★★
(Ley de eventos raros) Sea con . Mostrar, vía funciones características y Teorema 23.7, que . Comprobación de cordura numérica: compare para y .
Solución
Solución de Ejercicio 23.5.
Sea , entonces (Ejercicio 23.1) y(nota). Tanto como tiene módulo como máximo : por el triángulo desigualdad, y . La desigualdad telescópica (prueba de Teorema 23.8) y la potencia serie encuadernada dar
Desde , concluimos para cada : el cf de y Lévy (Teorema 23.7) da . Numéricamente:, mientras que: dos por ciento de diferencia ya en este grueso .
Ejercicio 23.6 ★★
(a) Se lanza un dado justo veces; aproximar el probabilidad de que el total supere (media , variación por rollo ). (b) Para , aproximado por el CLT con el continuidad corrección () y comentar sobre la corrección. efecto.
Solución
Solución de Ejercicio 23.6.
(a) Una tirada tiene media y varianza , por lo que tiene media , varianza y desviación estándar . Por el CLT,
sobre una posibilidad . (b) : media , estándar desviación . Con la corrección continuidad,
contra el valor exacto ; sin la corrección, , con casi cinco puntos de diferencia. el La corrección es importante porque es una variable de red: la El átomo está bien aproximado por la masa gaussiano. de , y recortando el intervalo en los números enteros y descarta medio átomo en cada extremo.
Ejercicio 23.7 ★★
(Error Montecarlo) En la configuración de Problema 22.1, pregunta 11, con , seany. Mostrar
y deducir la barra de error asintótica — independiente de la dimensión. Comparar con la regla determinista del punto medio en dimensión (error para integrandos ): ¿A partir de qué dimensión gana el muestreo aleatorio?
Solución
Solución de Ejercicio 23.7.
Las variables son i.i.d. (mensurable imágenes de i.i.d. variables), cuadrado integrable, con media (teorema de transferencia, Ejercicio 11.9) y varianza . Si se aplica , Teorema 23.8 para ellos es exactamente la convergencia declarada
(si , es a.s. constante y el lado izquierdo lado desaparece de forma idéntica). Por lo tanto : la barra de errorve la dimensión solo a través la constante , nunca a través de la tasa en . el La regla del punto medio con nodos en la dimensión tiene malla. y error de pedido para integrandos. El de Montecarlo se desintegra más rápido que exactamente cuando , es decir : a partir de la dimensión , el muestreo aleatorio supera asintóticamente la red — la maldición de la dimensionalidad repuestos métodos probabilísticos, razón por la cual Montecarlo gobierna integración de alta dimensión.
Ejercicio 23.8 ★★★
(Slutsky) Supongamos que y en probabilidad (constante ). Mostrar y. (Work with funciones características and the bound , split on.) Aplicación: en Ejemplo 23.9, justifica reemplazar la incógnita por .
Solución
Solución de Ejercicio 23.8.
Suma. Para fijo:
Dividido en el evento : allí, (el cuerda es más corta que el arco); el complemento contribuye como máximo . De ahí el es por cada : la diferencia tiende a . Desde , obtenemos, y Lévy (Teorema 23.7) produce .
Producto. Primero, : . A continuación,en probabilidad: las leyes del son estrictas (su los cfs convergen a un cf; ver el paso de estanqueidad de Teorema 23.7), por lo que dado elige con para todos los ; entonces
Escribiendo y aplicando la suma parte (cuya prueba sólo utilizó en probabilidad, con constante ): .
Solicitud. Por la fuerte ley de los grandes números (Teorema 22.13), a.s., entonces por continuidad a.s., por lo tanto en probabilidad. Slutsky actualizaciones de reglas de producto a: el intervalo de confianza usable , construido únicamente a partir de los datos, mantiene su nivel asintótico .
Ejercicio 23.9 ★★★
Deje y independiente con ; establezca . (a) Mostrar y . (b) Mostrar y son no independiente, y que no es un vector gaussiano (compute ). (c) Moraleja: Teorema 23.11(2) requiere Gaussianidad conjunta — “gaussianos” no correlacionada” sola no prueba nada.
Solución
Solución de Ejercicio 23.9.
(a) Dividiendo el expectativa entre los dos valores de (independencia): para Borel , , desde ( es simétrico): . Y. (b) , entonces mientras que: no independiente. Si fuera vector gaussiano, sería una variable gaussiano real (Definición 23.10 con ); pero , mientras que un La variable gaussiano tiene un átomo solo si es a.s. constante — y es igual a a.s. en . Contradicción: no es gaussiano. (c) Cada marginal es gaussiano y la covarianza desaparece, sin embargo, independencia falla — porque el par no está conjuntamente gaussiano. Teorema 23.11(2) no puede debilitarse a “gaussiano marginales”.
Ejercicio 23.10 ★★
La ley Cauchy tiene densidad . (a) Muestre que función característica es (Ejercicio 14.1 e inversión). (b) Demuestre que si son i.i.d. Cauchy, entonces es nuevamente Cauchy — la ley mismo: la El promedio nunca se concentra. (c) Conciliar con las leyes de los grandes números y la CLT: ¿Qué hipótesis fallan? (Calcule .)
Solución
Solución de Ejercicio 23.10.
(a) Ejercicio 14.1 calcula ; ambos lados son integrable, inversión de Fourier (Teorema 14.5) convierte esto alrededor:
que es exactamente para una variable de Cauchy . (b) Por independencia, , entonces : la media empírica es nuevamente Cauchy estándar para cada (inyectividad). el promedio nunca se concentra: sus fluctuaciones en el momento son los de una sola observación. (c) : la ley de Cauchy no es integrable, por lo que la ley fuerte de los grandes números (Teorema 22.13) no se aplica y el CLT (que necesita una varianza finita) incluso menos. Aquí su las conclusiones realmente fallan, no sólo sus pruebas. Verificación de coherencia: no es diferenciable en , como Proposición 23.2(c) leer predice de manera contrapositiva un no integrable variable.
Ejercicio 23.11 ★★
(Leyes estables en embrión) Sea i.i.d. estándar Cauchy (Ejercicio 23.10). (a) Demuestre que para cualquier , tiene la ley de : la familia Cauchy es estrictamente estable de índice . (b) Demuestre que la familia gaussiano es estrictamente estable de índice : para i.i.d. . (c) Explique, vía funciones características del formulario , por qué la estabilidad del índice- fuerza la normalización para sumas, y qué esto dice sobre las cuencas de atracción del CLT: que Las sumas i.i.d. pueden converger, después de una normalización afín, a una ¿Ley de Cauchy en lugar de una gaussiano?
Solución
Solución de Ejercicio 23.11.
(a) (independencia y Ejercicio 23.10); La inyectividad identifica las leyes.
(b) : la ley de .
(c) Si , entonces tiene y tiene nuevamente: exacto autorreproducción bajo la escala — para gaussiano (), para Cauchy (, Ejercicio 23.10(b)). una suma de i.i.d. variables sólo pueden converger (después de afines normalización) a una ley que es estable bajo tal convoluciones; el CLT dice que la varianza finita obliga a Cuenca gaussiano, y la cuenca Cauchy está reservada a las leyes. con colas tan pesadas que e incluso — por ejemplo, sumas de las propias variables de Cauchy. La universalidad tiene varias islas, indexadas por la cola. exponente .
Ejercicio 23.12 ★★
(La función de distribución empírica) Sea i.i.d. con función de distribución y . (a) Reparar . Muestra que , que a.s. (Teorema 22.13), y eso
(b) ¿En qué es máxima la varianza asintótica? Interpretar: la mediana es donde se encuentra una distribución empírica más difícil de precisar. (c) Para continuo, demuestre que la ley de no depende de (reduce to uniform variables via Ejercicio 22.1) — la distribución gratuita milagro detrás del test de Kolmogorov-Smirnov; sin cálculo de esa ley se pregunta.
Solución
Solución de Ejercicio 23.12.
(a) Los indicadores son i.i.d. Bernoulli del parámetro : su suma es binomio ; la ley fuerte otorga a.s., y el CLT (Teorema 23.8) aplicado a los mismos indicadores (variación ) dan lo indicado Límite gaussiano.
(b) es máximo en , es decir, donde : en el mediana. estimando la cola probabilidades es asintóticamente fácil (varianza como ); la región mediana tiene la mayor ruido estadístico: la curva empírica se tambalea más en su medio.
(c) Para continuo , las variables son i.i.d. uniforme en (Ejercicio 22.1), y monotonicidad de da, escribiendo para el Función de distribución empírica del :
la primera igualdad porque hasta eventos nulos (monotonicidad; desigualdad estricta puede fallar solo en las partes planas de , donde ambos lados no cambian), y el segundo porque un continuo , que va desde a , alcanza todos los valores de (teorema del valor intermedio) y los puntos finales no agregue nada ( y ). el el lado derecho involucra solo uniformes: una ley para todos — por lo que una sola tabla de valores críticos (que de la distribución de Kolmogorov) pruebas cualquier continuo modelo contra datos.
23.6 Problema: la prueba de Lindeberg del CLT, con una tarifa
Problema 23.1
Problema del fin de semana — el método de reemplazo
Lindeberg (1922) demostró el teorema del límite central mediante una idea de una sencillez que desarma: swap the summands one at a time for gaussianos y controla cada swap mediante una Taylor expansión. El método no necesita análisis de Fourier, produce una tasa de error explícito y hoy impulsa las pruebas de universalidad a través de la teoría de la probabilidad. Sea i.i.d., centrado, , con ; dejar sea i.i.d. , independiente del (existencia: Teorema 22.6). conjunto
Parte I — The swapping identity. Reparar (tres continuo acotados derivados; ). Para definir las sumas híbridas
entonces y .
- Escriba y cony observe que es independiente del par . Justificar.
Taylor con resto integral o Lagrange: para cualquier reales :
Aplicar la pregunta 2 dos veces ( y en ), tome esperanzas de heredar y utilice independencia más el correspondiente de los dos primeros momentos de y para mostrar
Telescopio
sobre y concluir el Lindeberg atado:
Parte II — From smooth to the CLT.
- Muestre que para cada y actualice a todos los límites continuo : dados tales y , construir con en un intervalo grande — por ejemplo convoluciona con un golpe (Teorema 12.9) — y manejar el colas por tensión ( y Chebyshev). Concluye : el Teorema del límite central, nuevamente demostrado.
- ¿De dónde se utilizó la prueba de que están los ? idénticamente distribuido? Demuestra que apenas hizo: indicar y probar la versión para independiente, centrado, no idéntico con y terceros momentos, obteniendo el error — Lindeberg es cierto teorema en su forma de Lyapunov.
Parte III — Quantitative dividends.
(Funciones de distribución) Dejemos que y aproximado arriba y abajo por rampas de ancho (constrúyalos, con ). Combinando con la Parte I, obtenga la cota de dos términos
con constantes explícitas (el término usa que tiene densidad delimitado por ) y optimice para obtener una tasa uniforme de pedidos. . (El óptimo — Berry–Esseen — necesita herramientas más finas; el punto es un explícito tasa de intercambio elemental.)
- (De Moivre–Laplace, cuantificado) Especializarse en (signos de monedas justas): comparar el conclusión con la estimación local de Problema 11.1, pregunta 7 — ¿qué significa ¿Cada método da lo que el otro no?
- (Universalidad) Explique en un párrafo por qué El método de reemplazo muestra más que el CLT: cualquier estadístico de la forma con suave es insensible, en la orden , a la toda la ley de las demandas más allá de su primera dos momentos: el "principio de invariancia" que subyace a los resultados modernos de universalidad (aleatorios matrices, polinomios aleatorios), de los cuales el CLT es la primera instancia.
Parte IV — Smoothing, pushed: better rates. La pérdida de (suave ) a (funciones de distribución) provienen de la carga en norma sup. Los híbridos pueden reparar parte de ello: ellos contienen comandos gaussiano y gaussianos liso.
(Un gaussiano oculto) Para , o, y , escriba con. Demuestre quees independiente del pary deduzca, para cada continuo,
Combina la pregunta 10 con la forma integral de la Resto de Taylor,
para rehacer las preguntas 3–4: para con además ,
(question 10 handles the swaps — use — and question 3’s crude bound handles the last one). Comprueba que las rampas de la pregunta 7 satisfacen mientras , aliméntalos y optimizar : el uniforme La tasa de función de distribución mejora a .
- (Coincidencia de un momento más) Supongamos además y. Calcule y , expanda al cuarto orden, y probar en la misma línea que el la tasa de función de distribución se convierte en (now and; choose ).
- (La obstrucción) Supongamos que los primeros momentos de concuerda con los gaussiano ( siempre; exactamente cuando ; esencialmente nunca, como ). verificar que el esquema de las preguntas 10 a 12 ofrece la tasa de función de distribución , equilibrando contra , y observe que el exponente se aproxima a la Berry: valor visto solo como . Explique en unas pocas frases por qué El método de swap se satura: cada swap se carga en valor absoluto, mientras que la ruta de Fourier (El método para suavizar la desigualdad de Esseen) explota la oscilación de la función característica diferencia y llega a con tres sólo momentos.
Part V — Two dimensions: the multidimensional CLT, by swapping. Ahora deja que el sea i.i.d. vectores aleatorio centrado de con matriz de covarianza y (norma euclidiana).
- (Vectores gaussianos, bajo pedido) Diagonalizar (Ejercicio 20.8) y establezca . Para un par de independiente estándar gaussianos (Teorema 22.6), muestra que es un vector gaussiano (Definición 23.10) de la media , covarianza , con ; y quetiene ley exactamente para i.i.d. copias .
(Taylor en dos variables) Para de clasecon, demostrar
(study on ).
(El CLT en ) Ejecute el esquema de reemplazo en los híbridos vectoriales : muestran que el primero y el términos de segundo orden se cancelan (medias y covarianzas) coincidencia), telescopio y actualización como en la pregunta 5 (tensión de ; apaciguamiento ahora en , Teorema 12.9) a concluir: para cada continuo acotado,
Teorema 23.12 en dimensión , con un tasa para suave y sin análisis de Fourier.
(Cramér–Wold y una fluctuación conjunta) Deducir que por cada fijo. Aplicación: para i.i.d. real , centrado, , (para que la Parte V se aplique a ), mostrar
media empírica y segundo momento empírico fluctúan conjuntamente de forma gaussiana — independientemente en el límite si y sólo si (Teorema 23.11).
Part VI — The delta method.
Sea variables aleatorias con para un parámetro real , y sea diferenciable en . Pruebe el método delta:
(write with at ; show , then , in probability; finish with Slutsky, Ejercicio 23.8, and Ejercicio 23.4(b)).
Aplicaciones. (a) Para i.i.d. real con media y varianza , y : muestracuando, y eso para la afirmación correcta vive en otro escala: con (identifique el límite función de distribución). (b) (Varianza estabilización) Para la frecuencia de éxito de una muestra , : mostrar que satisface
lo que — una barra de error asintótica libre del parámetro desconocido; comparar con Ejemplo 23.9.
Part VII — Poisson, by the same method: Le Cam’s theorem. El reemplazo conoce una segunda universalidad clase: sumas de muchos eventos independiente extraño. Para leyes sobre la distancia correcta es variación total,
- Demuestre que y pruebe el vínculo del acoplamiento: para cualquier par de variables aleatorias con leyes y en el mismo espacio, .
Calcule exactamente, para :
(Le Cam, mediante intercambio) Deja que y, el variablesindependiente; , y recordar con (Ejercicio 23.1). Intercambiar una coordenada a la vez en el número entero híbridos : mostrar, por cada,
y concluir La desigualdad de Le Cam:
- Dividendos. (a) Para : el obligado es — la ley de lo raro eventos (Ejercicio 23.5) actualizados a un tasa explícita, uniforme en todos los eventos y válida para desigual también. (b) Las letras son entregados, cada uno extraviándose independientemente con probabilidad : acotó el error del modelo de Poisson del parámetro y estimar el Probabilidad de que ninguna letra se extravíe. (c) Cerrar El problema: comparar las dos clases de universalidad. se reunieron aquí — gaussiano (muchos pequeños dispersos contribuciones; dos momentos coincidentes; Taylor) y Poisson (muchas contribuciones raras; una significa emparejado; un acoplamiento exacto de variación total) — y el método de reemplazo único detrás de ambos.
(Error relativo y transformación del registro) Let ser i.i.d., positivo, media , varianza y la media empírica. Mostrar por el método delta que
el parámetro asintótico de es el coeficiente de variación — error relativo, sin escala. Deducir un intervalo de confianza para del multiplicativo formulario , y explique cuándo es preferible al uno aditivo.
- (El tercer momento dirige el error) Para Bernoulli() centrado, calcule . Utilizando el análisis de la Parte IV (el error de intercambio se debe a terceros momentos), explique ¿Por qué la aproximación normal de ? es asimétrico para — sobrepasando por un lado, insuficiente por el otro — y por qué disfruta de la velocidad de momento coincidente más rápida. Verifique numéricamente el signo del sesgo en con: compare con la masa gaussiano de .
Solución
Solución de Problema 23.1.
1. La familia es independiente: los dos bloques son independiente de cada uno otros por construcción y cada bloque es i.i.d. es un función medible de las variables y Sólo , todos distintos de y : por el principio de coalición (Teorema 22.5), es independiente del par . las descomposiciones y son inmediatos a partir de las definiciones: pasar de a intercambia el comando único para .
2. Taylor–Lagrange en el pedido : hay entre y con , y da el límite.
3. Restando las dos expansiones en el común punto base :
Tome esperanzas de heredar. Por pregunta 1, y son independiente de , por lo que los esperanzas de heredar mixtos factor:
los dos primeros momentos de y fósforo, y sólo sobrevive el resto:
El tercer momento gaussiano: (sustitución , luego ).
4. Telescópico y aplicando la pregunta 3 a cada uno de los términos :
5. es exactamente para cada (una suma normalizada de independiente estándar gaussianos, Ejercicio 23.3), entonces y la pregunta 4 dice para. Mejora. Dejemos que esté acotado continuo, , . Elija con: Chebyshev con da para todos los , y también . Sea con (una meseta lisa, construida por apaciguando , Teorema 12.9); es continuo con soporte compacto, por lo tanto uniformemente continuo, por lo que es la apaciguamiento es con derivadas acotadas de todos los órdenes y para lo suficientemente pequeño. Para o , desde en adelante y en todas partes:
Combinando con (pregunta Se aplica 4: ):
y era arbitrario: para cada continuo acotado, es decir, .
6. Distribución idéntica ingresada sólo por uno frase: “ y tienen los mismos dos primeros momentos”. Entonces, dejemos que sea independiente, centrado, con variaciones y tercio finito momentos, , y toma independiente de todo. Definir los híbridos con normalización : . en el -ésimo intercambio, y nuevamente eliminan los términosy, y el resto da (usando por escala):
Telescópico:
Desde (la desigualdad potencia-media, es decir, Jensen para aplicado a), el lado derecho es como máximo : bajo Lyapunov condición , el sumas normalizadas convergen en ley a — el CLT sin distribución idéntica.
7. Vamos con y establezca :es, no creciente, en , en ; deja . Paray definir y : estos son con tercera derivada delimitado por , y
Límite superior: por la pregunta 4 aplicada a (con ),
porque es Lipschitz con constante (su densidad está delimitado por ). El límite inferior simétrico a través de da la estimación de dos términos
Los dos términos se equilibran cuando , es decir : ambos son entonces , una tarifa uniforme explícita válida para cada . (La tasa óptima de Berry–Esseen requiere que Fourier suavice la desigualdad; intercambio de operaciones nitidez para la elementalidad completo.)
8. Para (señales de feria): centrado, variación y , por lo que . Pregunta 7 luego limita explícita y uniformemente para cada finito — una declaración global, no asintótica, sobre la función de distribución. La estimación local de Problema 11.1, pregunta 7, da en cambio la información exacta asintóticas de un átomo individual, : se resuelve probabilidades de tamaño , muy por debajo de las preguntas 7 Resolución , pero es puntual, asintótica. (sin error explícito en fijo) y vinculado a esto ley reticular particular. Precisión local versus global Uniformidad: los dos métodos son complementarios y la suma. la estimación local sobre recupera a De Moivre–Laplace en intervalos — con un tono más agudo tasa, pero sólo para esta ley.
9. El argumento del intercambio no usó nada sobre la ley. del más allá de , y el finitud de : si hubiéramos reemplazado el gaussianos por cualquier otra familia i.i.d. con los mismos dos primeros momentos y tercer momento finito, el mismo telescopado obligado por para cada suave. Estadísticas fluidas de grandes sumas independiente son, por lo tanto, universal: hasta un error cuantificado, dependen únicamente de la ley de los sumandos a través de dos números. Este es el principio de invariancia: demostrar un teorema límite para la ley más computable (la gaussiano, donde todo es exacto), luego transfiérelo a todas las leyes mediante intercambio. El mismo esquema — con sumas reemplazadas por funcionales más elaborados — impulsa el semicírculo de Wigner ley para matrices aleatorias, la universalidad de las raíces aleatorias polinomios y gran parte de la probabilidad moderna; el central El teorema del límite es su primer y más simple ejemplo.
10. es una función Borel de únicamente, mientras quey son funciones del resto de variables del independiente familia : por el principio de coalición (Teorema 22.5), es independiente de . Como suma del independiente , con (Ejercicio 23.3), con densidad delimitado por . la ley de es el producto de las dos leyes marginales, por lo que Tonelli (transferencia) congela el primer bloque: con por cada,
11. La forma integral de la fórmula de Taylor sigue integrando por partes dos veces en . Tomando esperanzas de heredar en el intercambio , el los pedidos se cancelan exactamente como en la pregunta 3, y el dos restos (para y ) están delimitados, para , por pregunta 10 con :
Sumando, con , y sumando La pregunta 3 está destinada al último intercambio (, no gaussiano izquierda):
Rampas: , entonces con y (sustitución). el sándwich de la pregunta 7 luego da
En los términos primero y tercero son y el del medio : un uniforme califica , estrictamente mejor que la pregunta 7 — la mitad gaussiano del híbrido hizo lo mismo suavizado adicional.
12. (integrando impar), y integración por partes da (). Parade clase con derivados acotados, expanden cada swap al cuarto orden: el Los términos de tercer orden llevan el factor (independencia los factoriza como en la pregunta 3), por lo que solo el resto de cuarto orden sobrevive, conyo. La pregunta 10 (con) limita los swaps y suma como en la pregunta 11:
Con y , la función de distribución vinculada se convierte en ; en el Los términos externos son y el medio : tasa .
13. Con momentos coincidentes los supervivientes el resto por swap es del orden ; los cargos encuadernados gaussiano oculto y la suma de los swaps aporta el factor , dando para suave. Costo de las rampas , entonces el error de la función de distribución es , equilibrado en: tasa, que es para , para y tiende a solo como — pero forzaría y más allá, es decir, una ley que Ya imita al gaussiano. La saturación es estructural: el intercambio agrega errores de intercambio en valor absoluto, renunciando a toda cancelación entre intercambios. La prueba de Fourier compara funciones características, donde aparecen los errores con sus fases oscilantes; El suavizado de la desigualdad de Esseen convierte , integrado contra, en una función de distribución limitada sólo logarítmicamente costo y entrega el de Berry-Esseen desde tres momentos. Optimidad de las operaciones de reemplazo para robustez — y, como muestra la Parte VII, para la portabilidad.
14. es semidefinido positivo simétrico; con ( ortogonal, diagonal, Ejercicio 20.8), el simétrico satisface. Para cualquier, es una combinación lineal de independiente gaussianos, por lo tanto gaussiano (Ejercicio 23.3): es un vector gaussiano; es la media es y su covarianza . Momentos: (convexidad de en ), y cada coordenada es un real gaussiano con momentos de todos los pedidos. (Ejercicio 11.10): . Finalmente cada es una suma normalizada de i.i.d. , por lo tanto exactamente : es un vector gaussiano con media y covarianza , y su ley es (Definición 23.10: la ley está determinada por estos datos).
15. Dejemos que , : es con
Taylor–Lagrange en el pedido para entre y da la primera desigualdad; Cauchy–Schwarz da , de donde el constante .
16. Defina y como en la pregunta 1, ahora en ; el argumento de la coalición no ha cambiado. en el -ésimo intercambio, los términos de primer orden dan y los términos de segundo orden dan : coincidencia de medias y covarianzas. Pregunta 15 acota los dos restos:
y telescópico sobre los intercambios :
Actualización: (los términos cruzados desaparecen independencia y centrado), entonces , y lo mismo para: tirantez. Dado un continuo y acotados, multiplíquelo por una meseta suaveigual a en la bola de radio y apoyada en radio (apaciguar un indicador en , Teorema 12.9); es uniformemente continuo con soporte compacto, por lo que es bidimensional apaciguamiento es con límites derivados de todas las órdenes y para las pequeñas. Los tres- La cadena de la pregunta 5 luego se transfiere textualmente: para cada continuoacotado. Este es Teorema 23.12 para, ahora demostrado — cambiando el lado bidimensional teorema de Lévy que el capítulo había dejado admitido.
17. Para continuo acotado, la aplicación está acotado continuo en , por lo que la pregunta 16 da : cada la proyección converge en distribución, y . (Este es la dirección fácil de Cramér–Wold: convergencia conjunta implica convergencia de todas las imágenes lineales). Aplicación: son vectores centrados en i.i.d. (), con entradas de covarianza , y ; el tercer momento es finito cuando. La pregunta 16 produce la articulación mostrada gaussiano límite, y Teorema 23.11(2): los dos Las coordenadas límite son independiente exactamente cuando el la covarianza desaparece — para leyes simétricas, desacoplamiento de la media empírica y la varianza empírica asintóticamente.
18. Escriba dondepara y : diferenciabilidad en significa precisamente como . Paso 1: en probabilidad: para y cualquier , eventualmente , entonces (las funciones de distribución convergen en los puntos continuidad ), y el lado derecho tiende a como . Paso 2: en probabilidad: dado , elija con en ; luego. Paso 3:
Por la regla del producto de Slutsky (Ejercicio 23.8, con el secuencia en probabilidad y la convergente político ), el el segundo término converge en ley a , por lo tanto a en probabilidad (Ejercicio 23.4(b)); el primero converge en derecho a (Slutsky otra vez, o el regla afín para funciones características); suma de slutsky La regla los reúne: el límite es .
19. (a) El CLT da ; el método delta con , , da — degenerar (límite ) cuando . en ese caso la fluctuación vive una escala hacia arriba: , y para
, el cuadrado de un gaussiano (una ley de “chi-cuadrado”) — cuando la primera derivada muere, el término de segundo orden de Taylor dicta un límite no gaussiano. (b) Aquí ytienen, entonces : el límite es por cada. en el En la escala , la barra de error asintótica es , conocida de antemano — mientras que en Ejemplo 23.9 el ancho involucraba lo desconocido , en el peor de los casos por o estimado: la transformación estabiliza la variación.
20. Vamos y , entonces . Para cualquier : , con igualdad en; y desde el las partes positivas y negativas de tienen iguales masa total, . Intercambio de manijas el cartel: . Acoplamiento: para cualquier,
y toma el supremum sobre .
21. Las dos leyes cargan: : versus , con ; : versus ; : contra el Poisson resto . Por lo tanto
y da el cota.
22. Escriba y con, independiente del par (coaliciones). Para , condicionado a los valores contables por independencia,
y lo mismo para con . Restando, con y de suma cero:
Telescópico de a (Ejercicio 23.1, iterado) y usando la pregunta 21:
La desigualdad de Le Cam. (El vínculo de acoplamiento de la pregunta 20 da una Ruta alternativa: acoplar cada pareja en un uniforme. variable para que y enlazada ; el intercambio no necesita construcción en todos.)
23. (a) Con : . Esto agudiza Ejercicio 23.5 tres veces: un error explícito en cada finito, uniformidad sobre todos los eventos a la vez (no un intervalo a la vez), y no hay necesidad de igual — solo pequeño, por ejemplo : muchos eventos raros, ninguno dominante. (b) Aquí , , : el modelo de Poisson se equivoca como máximo en cada evento; en en particular, tomando ,
entonces la respuesta es hasta un garantizado (la verdadera discrepancia es sobre ). (c) El El problema se cierra con un método con dos regímenes. Cuando contribuciones comparables cada una lleva variación , comparando momentos dos con el gaussiano comete los errores de swap cada uno: se van las sumas gaussiano — con Taylor como herramienta de comparación local. Cuando las contribuciones son indicadores de probabilidad , comparando el significar con un átomo de Poisson hace que cada intercambio cueste : los recuentos de eventos raros van Poisson — con variación total como local exacto comparación. Mismos híbridos, mismo telescopio, diferentes locales estimación: el reemplazo es una estrategia, no un teorema, y los límites gaussiano y Poisson son sus dos más antiguos dividendos.
24. El CLT da y es diferenciable en con : el El método delta (Parte VI) produce . Desenrollando el intervalo por exponenciación:
(en la práctica se reemplaza por su empírico versión, Slutsky como en Ejercicio 23.8). el El intervalo multiplicativo es el natural cuando los datos son positivos con errores proporcionales a su tamaño — ingresos, concentraciones, vidas medias: cantidades que viven en una escala logarítmica, donde los intervalos aditivos simétricos podrían incluso cruzar el cero.
25.. en el análisis de intercambio (Parte IV), el término de error principal después hacer coincidir dos momentos lleva el tercero firmado momento: para es positivo (la ley se inclina derecha: raras excursiones grandes por encima de la media), y el la aproximación normal desplaza sistemáticamente la masa — subestimando la cola corta izquierda y sobreestimando la derecha — con error de orden ; en se desvanece el tercer momento, los partidos de Bernoulli el gaussiano al tercer orden y la tasa mejora (Parte pregunta de momento coincidente de IV). Numéricamente: , mientras que gaussiano da : el curva normal, ignorante de la pared en y de la sesgado hacia la derecha, pone demasiada masa en la parte inferior — el signo previsto del error, visible en .