Matemáticas universitarias — Grado 3 · Bachelor Year 3
23Funciones características y teorema central del límite
La ley de los grandes números dice que las medias convergen; el teorema central del límite dice cómo fluctúan: el error, amplificado por , es asintóticamente gaussiano — sea cual sea la ley de partida. Esta universalidad es el hecho más profundo de la probabilidad elemental, y su demostración natural es de análisis de Fourier: la función característica (la transformada de Fourier de una ley) convierte las sumas independientes en productos, y la maquinaria del Capítulo 14 — inyectividad, puntos fijos gaussianos — convierte la convergencia puntual de esos productos en convergencia de leyes (teorema de Lévy, demostrado por completo). El capítulo termina con los vectores gaussianos y la deducción honesta de los intervalos de confianza que se usan en toda la estadística; el problema de fin de semana da la segunda demostración del TCL, la de Lindeberg, con una velocidad de error explícita.
23.1 Funciones características
Definición 23.1
La función característica de una variable aleatoria real es
(el teorema de transferencia la calcula a partir de la ley; para una densidad , en el convenio del Capítulo 14).
Proposición 23.2
(a) , , y es uniformemente continua; . (b) Si son independientes: . (c) Si , entonces con para ; en particular, para centrada de varianza :
(d) Gaussiana: tiene .
Demostración. (a) Las cotas son inmediatas; continuidad: cuando por convergencia dominada, uniformemente en . La regla afín es una sustitución. (b) , y las esperanzas de productos de variables independientes factorizan (el Teorema 22.5, aplicado a las partes real e imaginaria). (c) Derivación bajo la esperanza, dominada por (el Teorema 10.15); el desarrollo de Taylor en es entonces Taylor–Young para la función . (d) Para : la transformada gaussiana (el Ejemplo 14.2 con ) da ; el caso general, por la regla afín. ∎
Teorema 23.3 (Inyectividad)
Si , entonces y tienen la misma ley. Con más precisión, para independiente de y , la variable regularizada tiene la densidad
determinada solo por ; haciendo se recupera la ley de .
Demostración. tiene la densidad , donde es la densidad : en efecto, para boreliana, la independencia y Tonelli dan (sustitúyase y aplíquese Tonelli de nuevo). Escribiendo por inversión de Fourier de su transformada (el Ejercicio 14.4, reescalado): , y Fubini (todo dominado por el factor gaussiano):
un funcional solo de . Si : y tienen leyes iguales para todo ; para continua y acotada, cuando (convergencia dominada, puntualmente en el espacio producto), de modo que para toda tal — y esto determina la ley: para cada , encájese entre las rampas continuas acotadas (iguales a en , a más allá de , afines en medio); pasando al límite en se obtiene en todo donde ambas sean continuas, luego en todas partes por continuidad por la derecha y densidad de los puntos de continuidad comunes (ambas tienen una cantidad numerable de saltos); funciones de distribución iguales fuerzan leyes iguales (el Ejercicio 9.3, apoyado en Teorema 9.7). ∎
23.2 Convergencia en distribución
Definición 23.4
converge en distribución (o en ley) hacia , y se escribe , si
Equivalentemente (el Ejercicio 23.4): en todo punto de continuidad de . Las no necesitan vivir en un espacio de probabilidad común: solo importan las leyes.
Teorema 23.5 (Teorema de selección de Helly)
Toda sucesión de funciones de distribución tiene una subsucesión que converge puntualmente, en todo punto de continuidad del límite, a una función no decreciente y continua por la derecha — posiblemente con (la masa puede escaparse al infinito).
Demostración. La extracción diagonal da para todo racional (valores en el compacto ). Defínase : no decreciente y continua por la derecha (un ínfimo sobre entornos racionales que se encogen por la derecha). En un punto de continuidad de : para racionales ,
por monotonía de cada . De la definición de como ínfimo y de la monotonía de en los racionales: siempre que . Tomando se obtiene , y ; haciendo y , la continuidad de en encajona tanto el como el hacia . ∎
Lema 23.6 (Tensión a partir de la función característica)
Para toda variable aleatoria y todo :
Demostración. Por Tonelli–Fubini (integrando acotado, región finita en ):
(interprétese el corchete como su límite en ). El integrando es no negativo () y, para : . Conservar dentro de la esperanza solo el suceso deja, por tanto, al menos , que es lo afirmado. ∎
Teorema 23.7 (Teorema de continuidad de Lévy)
Sean variables aleatorias cuyas funciones características convergen puntualmente: para todo , donde es la función característica de cierta variable aleatoria . Entonces .
Demostración. Tensión. Fíjese . Como es continua en con , elíjase con ; por convergencia dominada (integrando acotado por en el fijo), la misma integral para es si es grande: el Lema 23.6 da para grande, y agrandar la constante se ocupa de las finitas restantes: las leyes son tensas — no se escapa masa.
Subsucesiones. Sea una subsucesión cualquiera; por Helly (el Teorema 23.5), extráigase en los puntos de continuidad. La tensión fuerza , ( en los puntos de continuidad): es una función de distribución genuina, de cierta variable aleatoria . Entonces (Ejercicio 23.4, convergencia distribucional a partir de las ), de modo que puntualmente ( es continua y acotada, por separado en sus partes real e imaginaria); comparando con la hipótesis: , y la inyectividad (el Teorema 23.3) da , es decir, .
Conclusión. Toda subsucesión de tiene una subsubsucesión que converge a la misma (en sus puntos de continuidad); por tanto, en todo punto de continuidad (una sucesión real cuyas subsucesiones tienen todas subsubsucesiones con el mismo límite converge): . ∎
23.3 El teorema central del límite
Teorema 23.8 (Teorema central del límite)
Sean i.i.d. con y . Entonces
para todos .
Demostración. Céntrese y normalícese: (i.i.d., de media y varianza ) y . Por independencia y la regla afín (la Proposición 23.2):
Fíjese y sean , : ambos tienen módulo si es grande ( en cuanto ; siempre). La desigualdad elemental para (telescopando ) da
mientras que (logaritmo real). Así, (la Proposición 23.2(d)) para todo : Lévy (el Teorema 23.7) concluye . Las probabilidades de intervalos se siguen porque es continua en todas partes. ∎
Ejemplo 23.9 (Intervalos de confianza, deducidos honestamente)
Encuéstese a votantes independientes; estima el verdadero , con . El TCL da, para grande,
donde es la función de distribución gaussiana estándar. Con : confianza asintótica , y un margen exige — el número que hay detrás de todo « puntos, » que uno lee; compárese con el de Chebyshev (el Ejercicio 22.7). El es universal: para reducir el error a la mitad, cuadruplíquese la muestra — la misma ley que fija el coste de Monte Carlo (Ejercicio 23.7).
23.4 Vectores gaussianos
Definición 23.10
Un vector aleatorio es gaussiano si toda combinación lineal es una variable gaussiana real (posiblemente degenerada). Su ley queda determinada por el vector de medias y la matriz de covarianzas : en efecto, la función característica del vector, , es el valor en de la f.c. de :
y las funciones características en dimensión son inyectivas (la misma demostración por regularización del Teorema 23.3, con gaussianas coordenada a coordenada).
Teorema 23.11
Sea un vector gaussiano.
- Toda imagen afín es un vector gaussiano.
- Las componentes son independientes si y solo si es diagonal: para variables conjuntamente gaussianas, incorreladas independientes.
- Si es invertible, tiene la densidad .
Demostración. (1) Las combinaciones lineales de las componentes de son funciones afines de combinaciones lineales de : gaussianas (una imagen afín de una variable gaussiana es gaussiana). (2) Si es diagonal, la función característica factoriza: , que es la función característica de la ley producto (el Teorema 22.5 leído a través de la inyectividad en dimensión ): las componentes son independientes. El recíproco es la anulación de las covarianzas de variables independientes. (3) Diagonalícese ( ortogonal, diagonal — el Ejercicio 20.8); el vector es gaussiano de covarianza : por (2), sus componentes son independientes, de modo que tiene la densidad producto; empújese por la , que conserva el volumen (el Teorema 11.10, ), y reescríbase el exponente de forma invariante. ∎
Teorema 23.12 (TCL multidimensional)
Sean vectores aleatorios i.i.d. de cuadrado integrable de , de media y matriz de covarianzas . Entonces converge en distribución al vector gaussiano .
Demostración. Admitido a este nivel. ∎
Observación 23.13
Casi todo está ya en nuestras manos. Para cada dirección , la variable real es una suma normalizada de variables reales i.i.d. de varianza , de modo que el cálculo del Teorema 23.8 da la convergencia puntual de las funciones características en dimensión hacia , la función característica de (la Definición 23.10). Lo que no hemos vuelto a demostrar es el teorema de continuidad de Lévy en : la selección de Helly y la estimación de tensión se generalizan de manera rutinaria (coordenada a coordenada), y esta reducción de Cramér–Wold se lleva a cabo honestamente en cualquier curso de posgrado de probabilidad; no hace falta nada más allá de los métodos de este capítulo.
Método 23.14
Para identificar una ley límite: calcúlense funciones características, tómese el límite puntual, reconózcase (gaussiana , Poisson , exponencial , …) e invóquese Lévy. El ritual de tres pasos (independencia producto; Taylor en límite exponencial; Lévy convergencia en ley) demuestra el TCL, la ley de los sucesos raros de Poisson (el Ejercicio 23.5) y todos los teoremas límite clásicos de este curso. Para los enunciados c.s., vuélvase a la caja de herramientas del Capítulo 22: los dos capítulos responden a preguntas distintas sobre el mismo .
23.5 Ejercicios
Ejercicio 23.1 ★
Calcúlense las funciones características: uniforme en ; exponencial ; Poisson ; binomial . Dedúzcase, vía el Teorema 23.3, que la suma de variables de Poisson independientes () es de Poisson .
Solución
Solución de Ejercicio 23.1.
Uniforme en : (igual a en ). Exponencial : (la primitiva se anula en , pues ). Poisson : por el teorema de transferencia para leyes discretas,
Binomial : una suma de variables de Bernoulli independientes, cada una de f.c. , de modo que (la Proposición 23.2(b)). Aditividad de Poisson: si , son independientes,
la f.c. de ; la inyectividad (el Teorema 23.3) identifica la ley.
Ejercicio 23.2 ★★
(a) Demuéstrese que toma valores reales si y solo si y tienen la misma ley (una variable simétrica). (b) Supóngase para cierto . Demuéstrese que está casi seguramente soportada en una progresión aritmética (escríbase y calcúlese ). Dedúzcase que si tiene densidad, entonces para todo .
Solución
Solución de Ejercicio 23.2.
(a) . Así, es real si y solo si , si y solo si (inyectividad, el Teorema 23.3) y tienen la misma ley. (b) Escríbase . Entonces
El integrando es no negativo, de modo que casi seguramente (una variable no negativa de esperanza nula se anula c.s.), es decir, c.s.: toma sus valores en la progresión aritmética casi seguramente. Si tiene densidad, ese conjunto numerable es de medida de Lebesgue nula, de modo que soporta probabilidad — contradicción; por tanto, para todo .
Ejercicio 23.3 ★★
Sean y independientes. Demuéstrese y, más en general, que la familia gaussiana es estable por sumas independientes y aplicaciones afines. Contraste: ¿es siempre gaussiana la suma de dos gaussianas dependientes? (Ejercicio 23.9.)
Solución
Solución de Ejercicio 23.3.
Por independencia y la Proposición 23.2:
la f.c. de ; la inyectividad concluye. La estabilidad por aplicaciones afines es la regla afín (, admitiendo el caso degenerado ), y la estabilidad por sumas independientes se sigue por inducción del cálculo anterior. Para gaussianas dependientes, la suma no tiene por qué ser gaussiana: en el Ejercicio 23.9, y son gaussianas estándar cada una, pero se anula con probabilidad sin ser c.s. nula, de modo que no es gaussiana.
Ejercicio 23.4 ★★
(a) Demuéstrese la equivalencia de la Definición 23.4: si para toda continua acotada, entonces en los puntos de continuidad (encájese entre dos rampas escalonadas continuas); y recíprocamente (aproxímese una continua acotada por sumas de funciones rampa, o condiciónese a una malla fina de puntos de continuidad) — el recíproco puede tratarse primero para uniformemente continua y después en general. (b) Demuéstrese que (una constante) implica en probabilidad.
Solución
Solución de Ejercicio 23.4.
(a) Implicación directa. Sean un punto de continuidad de y . Tómense las rampas continuas ( en , a partir de , afín en medio) y ( en , a partir de , afín en medio); entonces , de modo que
y los términos extremos convergen a , a su vez encajonados entre y . Haciendo y después , y usando la continuidad de en : .
Recíproco. Sea continua y acotada, , . Los puntos de continuidad de son densos ( tiene a lo sumo una cantidad numerable de saltos), de modo que elíjanse puntos de continuidad con y . En el compacto , la función es uniformemente continua: elíjanse puntos de continuidad de con oscilación de a lo sumo en cada , y póngase . Entonces en , , y para o :
Además, (una suma finita de términos convergentes, siendo todos los puntos de continuidad), y , . Ensamblando: ; hágase .
(b) La función de distribución de la constante es , continua salvo en . Para , los puntos y son puntos de continuidad, de modo que
Ejercicio 23.5 ★★
(Ley de los sucesos raros) Sea con . Demuéstrese, vía funciones características y el Teorema 23.7, que . Comprobación numérica de sensatez: compárense para y .
Solución
Solución de Ejercicio 23.5.
Sea , de modo que (el Ejercicio 23.1) y (obsérvese ). Tanto como tienen módulo a lo sumo : por la desigualdad triangular, y . La desigualdad telescópica (demostración del Teorema 23.8) y la cota de la serie de potencias dan
Como , concluimos para todo : la f.c. de , y Lévy (el Teorema 23.7) da . Numéricamente: , mientras que : dos puntos porcentuales de diferencia ya con este tan burdo.
Ejercicio 23.6 ★★
(a) Se lanza un dado equilibrado veces; apróxímese la probabilidad de que el total supere (media , varianza por lanzamiento ). (b) Para , apróxímese mediante el TCL con la corrección de continuidad (), y coméntese el efecto de la corrección.
Solución
Solución de Ejercicio 23.6.
(a) Un lanzamiento tiene media y varianza , de modo que tiene media , varianza y desviación típica . Por el TCL,
alrededor de un de probabilidad. (b) : media , desviación típica . Con la corrección de continuidad,
frente al valor exacto ; sin la corrección, , con casi cinco puntos de desviación. La corrección importa porque es una variable reticular: el átomo queda bien aproximado por la masa gaussiana de , y recortar el intervalo en los enteros y desecha medio átomo en cada extremo.
Ejercicio 23.7 ★★
(Error de Monte Carlo) En el marco del Problema 22.1, pregunta 11, con , sean y . Demuéstrese
y dedúzcase la barra de error asintótica al , — independiente de la dimensión . Compárese con la regla del punto medio determinista en dimensión (error para integrandos ): ¿a partir de qué dimensión gana el muestreo aleatorio?
Solución
Solución de Ejercicio 23.7.
Las variables son i.i.d. (imágenes medibles de variables i.i.d.), de cuadrado integrable, de media (teorema de transferencia, el Ejercicio 11.9) y varianza . Si , el Teorema 23.8 aplicado a ellas es exactamente la convergencia enunciada
(si , es c.s. constante y el miembro izquierdo se anula idénticamente). Por tanto, : la barra de error ve la dimensión solo a través de la constante , nunca a través de la velocidad en . La regla del punto medio con nodos en dimensión tiene paso y error de orden para integrandos . El de Monte Carlo decae más deprisa que exactamente cuando , es decir, : a partir de la dimensión , el muestreo aleatorio gana asintóticamente a la malla — la maldición de la dimensión perdona a los métodos probabilísticos, y por eso Monte Carlo reina en la integración en dimensión alta.
Ejercicio 23.8 ★★★
(Slutsky) Supóngase y en probabilidad ( constante). Demuéstrense y . (Trabájese con funciones características y la cota , separando según .) Aplicación: en el Ejemplo 23.9, justifíquese la sustitución del desconocido por .
Solución
Solución de Ejercicio 23.8.
Suma. Para fijo:
Sepárese según el suceso : allí, (la cuerda es más corta que el arco); el complementario aporta a lo sumo . Por tanto, el es para todo : la diferencia tiende a . Como , se obtiene , y Lévy (el Teorema 23.7) da .
Producto. Primero, : . Después, en probabilidad: las leyes de las son tensas (sus f.c. convergen a una f.c.; véase el paso de tensión del Teorema 23.7), de modo que, dado , tómese con para todo ; entonces
Escribiendo y aplicando la parte de la suma (cuya demostración solo usó en probabilidad, con constante ): .
Aplicación. Por la ley fuerte de los grandes números (el Teorema 22.13), c.s., de modo que por continuidad c.s. y, por tanto, en probabilidad. La regla del producto de Slutsky eleva a : el intervalo de confianza utilizable , construido solo con los datos, conserva su nivel asintótico .
Ejercicio 23.9 ★★★
Sean y independientes con ; póngase . (a) Demuéstrense y . (b) Demuéstrese que y no son independientes y que no es un vector gaussiano (calcúlese ). (c) Moraleja: el Teorema 23.11(2) exige gaussianidad conjunta — «gaussianas incorreladas» por sí solo no demuestra nada.
Solución
Solución de Ejercicio 23.9.
(a) Separando la esperanza según los dos valores de (independencia): para boreliana, , pues ( es simétrica): . Y . (b) , de modo que mientras que : no independientes. Si fuera un vector gaussiano, sería una variable gaussiana real (la Definición 23.10 con ); pero , mientras que una variable gaussiana solo tiene un átomo si es c.s. constante — y vale c.s. en . Contradicción: no es gaussiano. (c) Cada marginal es gaussiana y la covarianza se anula y, sin embargo, falla la independencia — porque el par no es conjuntamente gaussiano. El Teorema 23.11(2) no puede debilitarse a «marginales gaussianas».
Ejercicio 23.10 ★★
La ley de Cauchy tiene densidad . (a) Demuéstrese que su función característica es (el Ejercicio 14.1 e inversión). (b) Demuéstrese que si son i.i.d. de Cauchy, entonces es de nuevo de Cauchy — la misma ley: la media nunca se concentra. (c) Concíliese con las leyes de los grandes números y el TCL: ¿qué hipótesis fallan? (Calcúlese .)
Solución
Solución de Ejercicio 23.10.
(a) El Ejercicio 14.1 calcula ; siendo ambos miembros integrables, la inversión de Fourier (el Teorema 14.5) le da la vuelta:
que es exactamente para una variable de Cauchy . (b) Por independencia, , de modo que : la media empírica vuelve a ser de Cauchy estándar para todo (inyectividad). La media nunca se concentra: sus fluctuaciones en el instante son las de una sola observación. (c) : la ley de Cauchy no es integrable, de modo que la ley fuerte de los grandes números (el Teorema 22.13) no se aplica, y el TCL (que necesita varianza finita) menos aún. Aquí fallan genuinamente sus conclusiones, no solo sus demostraciones. Comprobación de consistencia: no es derivable en , como predice la Proposición 23.2(c) leída por contrarrecíproco para una variable no integrable.
Ejercicio 23.11 ★★
(Leyes estables en embrión) Sean i.i.d. de Cauchy estándar (el Ejercicio 23.10). (a) Demuéstrese que, para todo , tiene la ley de : la familia de Cauchy es estrictamente estable de índice . (b) Demuéstrese que la familia gaussiana es estrictamente estable de índice : para i.i.d. . (c) Explíquese, mediante funciones características de la forma , por qué la estabilidad de índice fuerza la normalización para las sumas, y qué dice esto sobre las cuencas de atracción del TCL: ¿qué sumas i.i.d. pueden converger, tras normalización afín, a una ley de Cauchy en lugar de a una gaussiana?
Solución
Solución de Ejercicio 23.11.
(a) (independencia y el Ejercicio 23.10); la inyectividad identifica las leyes.
(b) : la ley de .
(c) Si , entonces tiene , y vuelve a tener : autorreproducción exacta bajo el reescalado — para la gaussiana (), el propio para Cauchy (, el Ejercicio 23.10(b)). Una suma de variables i.i.d. solo puede converger (tras normalización afín) a una ley estable bajo tales convoluciones; el TCL dice que la varianza finita fuerza la cuenca gaussiana, y la cuenca de Cauchy está reservada a leyes de colas tan pesadas que e incluso — por ejemplo, sumas de variables de Cauchy. La universalidad tiene varias islas, indexadas por el exponente de cola .
Ejercicio 23.12 ★★
(La función de distribución empírica) Sean i.i.d. de función de distribución , y . (a) Fíjese . Demuéstrense que , que c.s. (el Teorema 22.13) y que
(b) ¿En qué es máxima la varianza asintótica? Interprétese: la mediana es donde más cuesta fijar una distribución empírica. (c) Para continua, demuéstrese que la ley de no depende de (redúzcase a variables uniformes vía el Ejercicio 22.1) — el milagro libre de distribución que hay detrás del contraste de Kolmogorov–Smirnov; no se pide calcular esa ley.
Solución
Solución de Ejercicio 23.12.
(a) Los indicadores son i.i.d. de Bernoulli de parámetro : su suma es binomial ; la ley fuerte da c.s., y el TCL (el Teorema 23.8) aplicado a los mismos indicadores (varianza ) da el límite gaussiano enunciado.
(b) es máxima en , es decir, donde : en la mediana. Estimar probabilidades de cola es asintóticamente fácil (varianza cuando ); la región de la mediana carga con el mayor ruido estadístico — la curva empírica oscila más en su parte central.
(c) Para continua, las variables son i.i.d. uniformes en (el Ejercicio 22.1), y la monotonía de da, escribiendo para la función de distribución empírica de las :
la primera igualdad porque salvo sucesos nulos (monotonía; la desigualdad estricta solo puede fallar en los tramos planos de , donde ambos miembros no cambian), y la segunda porque una continua, que va de a , alcanza todo valor de (teorema del valor intermedio), y los extremos no añaden nada ( y ). El miembro derecho solo involucra uniformes: una ley para todos los — de modo que una única tabla de valores críticos (la de la distribución de Kolmogorov) contrasta cualquier modelo continuo frente a los datos.
23.6 Problema: la demostración de Lindeberg del TCL, con velocidad
Problema 23.1
Problema de fin de semana — el método de sustitución
Lindeberg (1922) demostró el teorema central del límite con una idea de una sencillez desarmante: sustitúyanse los sumandos, uno a uno, por gaussianas y contrólese cada sustitución con un desarrollo de Taylor. El método no necesita análisis de Fourier, produce una velocidad de error explícita y hoy alimenta demostraciones de universalidad en toda la teoría de la probabilidad. Sean i.i.d., centradas, , con ; sean i.i.d. , independientes de las (existencia: el Teorema 22.6). Póngase
Parte I — La identidad de sustitución. Fíjese (tres derivadas continuas acotadas; ). Para defínanse las sumas híbridas
de modo que y .
- Escríbanse y con , y obsérvese que es independiente del par . Justifíquese.
Taylor con resto integral o de Lagrange: para cualesquiera reales :
Aplíquese la pregunta 2 dos veces ( y en ), tómense esperanzas y úsense la independencia y la coincidencia de los dos primeros momentos de y para demostrar
Telescópese en y conclúyase la cota de Lindeberg:
Parte II — De las regulares al TCL.
- Demuéstrese que para todo , y elévese a todas las continuas acotadas: dadas una tal y , constrúyase con en un intervalo grande — por ejemplo, convoluciónese con una meseta (el Teorema 12.9) — y trátense las colas por tensión ( y Chebyshev). Conclúyase : el teorema central del límite, vuelto a demostrar.
- ¿Dónde usó la demostración que las estén idénticamente distribuidas? Demuéstrese que apenas lo usó: enúnciese y demuéstrese la versión para independientes, centradas y no idénticas, con y terceros momentos, obteniendo el error — el verdadero teorema de Lindeberg en su forma de Lyapunov.
Parte III — Dividendos cuantitativos.
(Funciones de distribución) Sea y apróxímese por arriba y por abajo mediante rampas de anchura (constrúyanse, con ). Combinando con la Parte I, dedúzcase la cota de dos términos
con constantes explícitas (el término usa que tiene densidad acotada por ), y optimícese para obtener una velocidad uniforme de orden . (La óptima — Berry–Esseen — necesita herramientas más finas; lo importante es obtener una velocidad explícita a partir de una sustitución elemental.)
- (De Moivre–Laplace, cuantificado) Especialícese a (signos de monedas equilibradas): compárese la conclusión con la estimación local del Problema 11.1, pregunta 7 — ¿qué da cada método que el otro no da?
- (Universalidad) Explíquese en un párrafo por qué el método de sustitución muestra más que el TCL: todo estadístico de la forma con regular es insensible, al orden , a toda la ley de los sumandos más allá de sus dos primeros momentos — el «principio de invariancia» que subyace a los resultados modernos de universalidad (matrices aleatorias, polinomios aleatorios), del que el TCL es la primera instancia.
Parte IV — Regularización, llevada más lejos: mejores velocidades. La pérdida al pasar de ( regulares) a (funciones de distribución) vino de cargar en norma del supremo. Los híbridos pueden reparar parte de ella: contienen sumandos gaussianos, y las gaussianas regularizan.
(Una gaussiana escondida) Para , o , y , escríbase con . Demuéstrese que es independiente del par y dedúzcase, para toda continua,
Combínese la pregunta 10 con la forma integral del resto de Taylor,
para rehacer las preguntas 3–4: para con, además, ,
(la pregunta 10 se ocupa de las sustituciones — úsese — y la cota burda de la pregunta 3 se ocupa de la última). Compruébese que las rampas de la pregunta 7 cumplen mientras que , introdúzcanse y optimícese : la velocidad uniforme para funciones de distribución mejora a .
- (Ajustando un momento más) Supóngase además y . Calcúlense y , desarróllese hasta el cuarto orden y demuéstrese por la misma vía que la velocidad para funciones de distribución pasa a ser (ahora y ; elíjase ).
- (La obstrucción) Supóngase que los primeros momentos de coinciden con los gaussianos ( siempre; exactamente cuando ; prácticamente nunca, pues ). Verifíquese que el esquema de las preguntas 10–12 entrega la velocidad para funciones de distribución, equilibrando frente a , y obsérvese que el exponente se aproxima al valor de Berry–Esseen solo cuando . Explíquese en unas frases por qué el método de sustitución se satura: cada sustitución se carga en valor absoluto, mientras que la vía de Fourier (desigualdad de regularización de Esseen) explota la oscilación de la diferencia de funciones características y alcanza con solo tres momentos.
Parte V — Dos dimensiones: el TCL multidimensional, por sustitución. Sean ahora las vectores aleatorios i.i.d. centrados de , con matriz de covarianzas y (norma euclídea).
- (Vectores gaussianos, hasta el orden) Diagonalícese (el Ejercicio 20.8) y póngase . Para un par de gaussianas estándar independientes (el Teorema 22.6), demuéstrese que es un vector gaussiano (la Definición 23.10) de media y covarianza , con ; y que tiene ley exactamente para copias i.i.d. .
(Taylor en dos variables) Para de clase con , demuéstrese
(estúdiese en ).
(El TCL en ) Ejecútese el esquema de sustitución sobre los híbridos vectoriales : demuéstrese que los términos de primer y segundo orden se cancelan (medias y covarianzas coinciden), telescópese y elévese como en la pregunta 5 (tensión a partir de ; regularización ahora en , el Teorema 12.9) para concluir: para toda continua acotada,
el Teorema 23.12 en dimensión , con velocidad para regulares y sin análisis de Fourier.
(Cramér–Wold y una fluctuación conjunta) Dedúzcase que para todo fijo. Aplicación: para reales i.i.d., centradas, con , (de modo que la Parte V se aplica a ), demuéstrese
la media empírica y el momento empírico de segundo orden fluctúan conjuntamente de manera gaussiana — de manera independiente en el límite si y solo si (Teorema 23.11).
Parte VI — El método delta.
Sean variables aleatorias con para un parámetro real , y sea derivable en . Demuéstrese el método delta:
(escríbase con en ; demuéstrense y después , en probabilidad; termínese con Slutsky, el Ejercicio 23.8, y Ejercicio 23.4(b)).
Aplicaciones. (a) Para reales i.i.d. de media y varianza , y : demuéstrese cuando , y que para el enunciado correcto vive en otra escala: con (identifíquese la función de distribución del límite). (b) (Estabilización de la varianza) Para la frecuencia de éxitos de una muestra , : demuéstrese que cumple
sea cual sea — una barra de error asintótica libre del parámetro desconocido; compárese con Ejemplo 23.9.
Parte VII — Poisson, por el mismo método: el teorema de Le Cam. La sustitución conoce una segunda clase de universalidad: las sumas de muchos sucesos raros independientes. Para leyes en , la distancia adecuada es la variación total,
- Demuéstrese y demuéstrese la cota por acoplamiento: para cualquier par de variables aleatorias de leyes y en el mismo espacio, .
Calcúlese exactamente, para :
(Le Cam, por sustitución) Sean y , con las variables independientes; , y recuérdese con (el Ejercicio 23.1). Sustitúyase una coordenada cada vez en los híbridos enteros : demuéstrese, para todo ,
y conclúyase la desigualdad de Le Cam:
- Dividendos. (a) Para : la cota es — la ley de los sucesos raros (el Ejercicio 23.5) elevada a una velocidad explícita, uniforme sobre todos los sucesos y válida también para desiguales. (b) Se entregan cartas, cada una extraviándose independientemente con probabilidad : acótese el error del modelo de Poisson de parámetro y estímese la probabilidad de que no se extravíe ninguna. (c) Ciérrese el problema: compárense las dos clases de universalidad encontradas aquí — la gaussiana (muchas contribuciones pequeñas y repartidas; dos momentos ajustados; Taylor) y la de Poisson (muchas contribuciones raras; una media ajustada; un acoplamiento exacto en variación total) — y el único método de sustitución que hay detrás de ambas.
(Error relativo y transformación logarítmica) Sean i.i.d., positivas, de media y varianza , y la media empírica. Demuéstrese por el método delta que
el parámetro asintótico de es el coeficiente de variación — error relativo, sin escala. Dedúzcase un intervalo de confianza al para de forma multiplicativa , y explíquese cuándo es preferible al aditivo.
- (El tercer momento gobierna el error) Para Bernoulli() centrada, calcúlese . Usando el análisis de la Parte IV (el error de sustitución lo gobiernan los terceros momentos), explíquese por qué la aproximación normal de es asimétrica para — excediéndose por un lado y quedándose corta por el otro — y por qué disfruta de la velocidad más rápida de momentos ajustados. Verifíquese numéricamente el signo de la asimetría en frente a : compárese con la masa gaussiana de .
Solución
Solución de Problema 23.1.
1. La familia es independiente: los dos bloques son independientes entre sí por construcción y cada bloque es i.i.d. es una función medible únicamente de las variables y , todas distintas de y : por el principio de coaliciones (el Teorema 22.5), es independiente del par . Las descomposiciones y son inmediatas de las definiciones: pasar de a intercambia el único sumando por .
2. Taylor–Lagrange de orden : existe entre y con , y da la cota.
3. Restando los dos desarrollos en el punto base común :
Tómense esperanzas. Por la pregunta 1, y son independientes de , de modo que las esperanzas mixtas factorizan:
los dos primeros momentos de y coinciden, y solo sobrevive el resto:
El tercer momento gaussiano: (sustitución y después ).
4. Telescopando y aplicando la pregunta 3 a cada uno de los términos:
5. es exactamente para todo (una suma normalizada de gaussianas estándar independientes, el Ejercicio 23.3), de modo que y la pregunta 4 se lee para . Elevación. Sea continua acotada, , . Elíjase con : Chebyshev con da para todo , y análogamente . Sea de clase con (una meseta regular, construida regularizando , el Teorema 12.9); es continua de soporte compacto, luego uniformemente continua, de modo que su regularizada es con derivadas acotadas de todos los órdenes y para suficientemente pequeño. Para o , puesto que en y en todas partes:
Combinando con (la pregunta 4 se aplica: ):
y era arbitrario: para toda continua acotada, es decir, .
6. La idéntica distribución entró solo a través de una frase: « y tienen los mismos dos primeros momentos». Sean, pues, independientes, centradas, de varianzas y terceros momentos finitos, , y tómense independientes de todo lo demás. Defínanse los híbridos con normalización : . En la -ésima sustitución, y vuelven a matar los términos de orden y , y el resto da (usando por reescalado):
Telescopando:
Como (la desigualdad de las medias de potencias, es decir, Jensen para aplicado a ), el miembro derecho es a lo sumo : bajo la condición de Lyapunov , las sumas normalizadas convergen en ley a — el TCL sin idéntica distribución.
7. Sea con y póngase : es , no creciente, en , en ; sea . Para y , defínanse y : son con tercera derivada acotada por , y
Cota superior: por la pregunta 4 aplicada a (con ),
porque es lipschitziana de constante (su densidad está acotada por ). La cota inferior simétrica vía da la estimación de dos términos
Los dos términos se equilibran cuando , es decir, : ambos valen entonces , una velocidad uniforme explícita válida para todo . (La velocidad óptima de Berry–Esseen exige la desigualdad de regularización de Fourier; la sustitución cambia agudeza por elementalidad completa.)
8. Para (signos equilibrados): centrada, varianza , y , de modo que . La pregunta 7 acota entonces de manera explícita y uniforme para todo finito — un enunciado global y no asintótico sobre la función de distribución. La estimación local del Problema 11.1, pregunta 7, da en cambio la asintótica exacta de un átomo individual, : resuelve probabilidades de tamaño , muy por debajo de la resolución de la pregunta 7, pero es puntual, asintótica (sin error explícito a fijo) y está atada a esta ley reticular concreta. Precisión local frente a uniformidad global: los dos métodos son complementarios, y sumar la estimación local en recupera De Moivre–Laplace en intervalos — con velocidad más fina, pero solo para esta ley.
9. El argumento de sustitución no usó nada de la ley de las más allá de , y la finitud de : si hubiéramos sustituido las gaussianas por cualquier otra familia i.i.d. con los mismos dos primeros momentos y tercer momento finito, el mismo telescopaje acotaría por para toda regular. Los estadísticos regulares de grandes sumas independientes son, por tanto, universales: salvo un error cuantificado, dependen de la ley de los sumandos solo a través de dos números. Este es el principio de invariancia: demuéstrese un teorema límite para la ley más calculable (la gaussiana, donde todo es exacto) y transfiérase después a todas las leyes por sustitución. El mismo esquema — con sumas reemplazadas por funcionales más elaborados — gobierna la ley del semicírculo de Wigner para matrices aleatorias, la universalidad de las raíces de polinomios aleatorios y buena parte de la probabilidad moderna; el teorema central del límite es su primera y más sencilla instancia.
10. es una función boreliana solo de , mientras que y son funciones de las variables restantes de la familia independiente : por el principio de coaliciones (el Teorema 22.5), es independiente de . Como suma de las independientes , con (el Ejercicio 23.3), de densidad acotada por . La ley de es el producto de las dos leyes marginales, de modo que Tonelli (transferencia) congela el primer bloque: con para todo ,
11. La forma integral de la fórmula de Taylor se sigue integrando por partes dos veces en . Tomando esperanzas en la -ésima sustitución, los órdenes se cancelan exactamente como en la pregunta 3, y los dos restos (para y ) se acotan, para , por la pregunta 10 con :
Sumando, con , y añadiendo la cota de la pregunta 3 para la última sustitución (, sin gaussiana restante):
Rampas: , de modo que con y (sustitución). El sándwich de la pregunta 7 da entonces
En , el primer y el tercer término valen y el central : una velocidad uniforme , estrictamente mejor que el de la pregunta 7 — la mitad gaussiana del híbrido hizo la regularización adicional.
12. (integrando impar), y la integración por partes da (). Para de clase con derivadas acotadas, desarróllese cada sustitución hasta el cuarto orden: los términos de tercer orden llevan el factor (la independencia los factoriza como en la pregunta 3), de modo que solo sobrevive el resto de cuarto orden , con y o . La pregunta 10 (con ) acota las sustituciones , y sumando como en la pregunta 11:
Con y , la cota para funciones de distribución pasa a ser ; en , los términos extremos valen y el central : velocidad .
13. Con momentos ajustados, el resto que sobrevive por sustitución es de orden ; la cota de gaussiana escondida carga y la suma sobre las sustituciones aporta el factor , dando para regulares. Las rampas cuestan , de modo que el error para funciones de distribución es , equilibrado en : velocidad , que vale para , para , y tiende a solo cuando — pero forzaría y más allá, es decir, una ley que ya imita a la gaussiana. La saturación es estructural: la sustitución suma errores de sustitución en valor absoluto, renunciando a toda cancelación entre ellos. La demostración de Fourier compara funciones características, donde los errores aparecen con sus fases oscilantes; la desigualdad de regularización de Esseen convierte , integrada contra , en una cota para funciones de distribución con un coste solo logarítmico, y entrega el de Berry–Esseen con solo tres momentos. La sustitución cambia optimalidad por robustez — y, como muestra la Parte VII, por portabilidad.
14. es simétrica semidefinida positiva; con ( ortogonal, diagonal, el Ejercicio 20.8), la simétrica cumple . Para todo , es una combinación lineal de gaussianas independientes, luego gaussiana (el Ejercicio 23.3): es un vector gaussiano; su media es y su covarianza . Momentos: (convexidad de en ), y cada coordenada es una gaussiana real con momentos de todos los órdenes (el Ejercicio 11.10): . Por último, cada es una suma normalizada de i.i.d., luego exactamente : es un vector gaussiano de media y covarianza , y su ley es (la Definición 23.10: la ley queda determinada por estos datos).
15. Sean , : es con
Taylor–Lagrange de orden para cierto entre y da la primera desigualdad; Cauchy–Schwarz da , de donde la constante .
16. Defínanse y como en la pregunta 1, ahora en ; el argumento de coaliciones no cambia. En la -ésima sustitución, los términos de primer orden dan y los de segundo orden dan : medias y covarianzas coinciden. La pregunta 15 acota los dos restos:
y telescopando sobre las sustituciones:
Elevación: (los términos cruzados se anulan por independencia y centrado), de modo que , y análogamente para : tensión. Dada una continua acotada y , multiplíquese por una meseta regular igual a en la bola de radio y soportada en radio (regularícese un indicador en , el Teorema 12.9); es uniformemente continua de soporte compacto, de modo que su regularización bidimensional es con derivadas acotadas de todos los órdenes y para pequeño. La cadena de tres de la pregunta 5 se transfiere entonces palabra por palabra: para toda continua acotada. Este es el Teorema 23.12 para , ahora demostrado — la sustitución esquiva el teorema de Lévy bidimensional que el capítulo había dejado admitido.
17. Para continua acotada, la aplicación es continua y acotada en , de modo que la pregunta 16 da : toda proyección converge en distribución, y . (Esta es la dirección fácil de Cramér–Wold: la convergencia conjunta implica la de todas las imágenes lineales.) Aplicación: son vectores i.i.d. centrados (), con entradas de covarianza , y ; el tercer momento es finito cuando . La pregunta 16 produce el límite gaussiano conjunto exhibido, y el Teorema 23.11(2): las dos coordenadas del límite son independientes exactamente cuando la covarianza se anula — para leyes simétricas, la media empírica y la varianza empírica se desacoplan asintóticamente.
18. Escríbase , donde para y : la derivabilidad en significa precisamente cuando . Paso 1: en probabilidad: para y cualquier , a partir de cierto índice , de modo que (las funciones de distribución convergen en los puntos de continuidad ), y el miembro derecho tiende a cuando . Paso 2: en probabilidad: dado , tómese con en ; entonces . Paso 3:
Por la regla del producto de Slutsky (el Ejercicio 23.8, con la sucesión en probabilidad y la convergente en ley ), el segundo término converge en ley a , luego a en probabilidad (el Ejercicio 23.4(b)); el primero converge en ley a (Slutsky de nuevo, o la regla afín para funciones características); la regla de la suma de Slutsky los ensambla: el límite es .
19. (a) El TCL da ; el método delta con , , da — degenerado (límite ) cuando . En ese caso la fluctuación vive una escala más arriba: , y para
, el cuadrado de una gaussiana (una ley «ji cuadrado») — cuando la primera derivada muere, el término de segundo orden de Taylor dicta un límite no gaussiano. (b) Aquí y tiene , de modo que : el límite es para todo . En la escala , la barra de error asintótica al vale , conocida de antemano — mientras que en el Ejemplo 23.9 la anchura involucraba el desconocido, que había que acotar por el peor caso o estimar: la transformación estabiliza la varianza.
20. Sean y , de modo que . Para todo : , con igualdad en ; y como las partes positiva y negativa de tienen la misma masa total, . Intercambiar se ocupa del signo: . Acoplamiento: para todo ,
y tómese el supremo en .
21. Las dos leyes cargan: : frente a , con ; : frente a ; : frente al resto de Poisson . Por tanto,
y da la cota .
22. Escríbanse y con , independiente del par (coaliciones). Para , condicionando a los valores, en cantidad numerable, por independencia,
y análogamente para con . Restando, con y de suma nula:
Telescopando de a (el Ejercicio 23.1, iterado) y usando la pregunta 21:
la desigualdad de Le Cam. (La cota por acoplamiento de la pregunta 20 da una vía alternativa: acóplese cada par sobre una variable uniforme de modo que y acótese ; la sustitución no necesita construcción alguna.)
23. (a) Con : . Esto afina el Ejercicio 23.5 por triplicado: un error explícito en cada finito, uniformidad sobre todos los sucesos a la vez (no un intervalo cada vez) y ninguna necesidad de que los sean iguales — solo que sea pequeño, por ejemplo : muchos sucesos raros, ninguno dominante. (b) Aquí , , : el modelo de Poisson yerra a lo sumo en en todo suceso; en particular, tomando ,
de modo que la respuesta es con un garantizado (la discrepancia verdadera es de unos ). (c) El problema se cierra con un método y dos regímenes. Cuando contribuciones comparables llevan cada una varianza , ajustar dos momentos frente a la gaussiana hace que los errores de sustitución valgan cada uno: las sumas se vuelven gaussianas — con Taylor como herramienta de comparación local. Cuando contribuciones son indicadores de probabilidad , ajustar la media frente a un átomo de Poisson hace que cada sustitución cueste : los recuentos de sucesos raros se vuelven de Poisson — con la variación total como comparación local exacta. Los mismos híbridos, el mismo telescopio, distinta estimación local: la sustitución es una estrategia, no un teorema, y los límites gaussiano y de Poisson son sus dos dividendos más antiguos.
24. El TCL da , y es derivable en con : el método delta (Parte VI) produce . Deshaciendo el intervalo por exponenciación:
(en la práctica, se sustituye por su versión empírica, Slutsky como en el Ejercicio 23.8). El intervalo multiplicativo es el natural cuando los datos son positivos con errores proporcionales a su tamaño — rentas, concentraciones, semividas: magnitudes que viven en escala logarítmica, donde los intervalos aditivos simétricos podrían incluso cruzar el cero.
25. . En el análisis por sustitución (Parte IV), el término de error dominante tras ajustar dos momentos lleva el tercer momento con signo: para es positivo (la ley se inclina a la derecha: excursiones grandes y raras por encima de la media) y la aproximación normal desplaza sistemáticamente la masa — subestimando la cola izquierda, corta, y sobrestimando la derecha — con un error de orden ; en el tercer momento se anula, la Bernoulli coincide con la gaussiana hasta el tercer orden y la velocidad mejora (la pregunta de momentos ajustados de la Parte IV). Numéricamente: , mientras que la gaussiana da : la curva normal, ignorante del muro en y de la asimetría hacia la derecha, pone demasiada masa abajo — el signo del error predicho, visible en .