En probabilidad y estadística , una familia exponencial natural ( NEF ) es una clase de distribuciones de probabilidad que es un caso especial de una familia exponencial (EF).
Definición
Caso univariado
Las familias exponenciales naturales (NEF) son un subconjunto de las familias exponenciales . Un NEF es una familia exponencial en la que el parámetro natural η y el estadístico natural T ( x ) son ambos la identidad. Una distribución en una familia exponencial con parámetro θ se puede escribir con la función de densidad de probabilidad (PDF)
dónde y son funciones conocidas. Por tanto, una distribución en una familia exponencial natural con parámetro written se puede escribir con PDF
[Tenga en cuenta que el creador de la NEF, Carl Morris, utiliza una notación ligeramente diferente. [1] Morris usa ω en lugar de η y ψ en lugar de A ].
Caso general multivariado
Suponer que , entonces una familia exponencial natural de orden p tiene densidad o función de masa de la forma:
donde en este caso el parámetro
Funciones generadoras de momentos y acumulados
Un miembro de una familia exponencial natural tiene una función generadora de momentos (MGF) de la forma
La función de generación acumulada es, por definición, el logaritmo del MGF, por lo que es
Ejemplos de
Los cinco casos univariados más importantes son:
- distribución normal con varianza conocida
- distribución de veneno
- Distribución gamma con parámetro de forma conocido α (o k dependiendo del conjunto de notación utilizado)
- distribución binomial con número conocido de ensayos, n
- distribución binomial negativa con conocido
Estos cinco ejemplos (Poisson, binomial, binomial negativo, normal y gamma) son un subconjunto especial de NEF, llamado NEF con función de varianza cuadrática (NEF-QVF) porque la varianza se puede escribir como una función cuadrática de la media. NEF-QVF se analizan a continuación.
Las distribuciones como exponencial , chi-cuadrado , Rayleigh , Weibull , Bernoulli y distribuciones geométricas son casos especiales de las cinco distribuciones anteriores. Muchas distribuciones comunes son NEF o pueden estar relacionadas con NEF. Por ejemplo: la distribución chi-cuadrado es un caso especial de la distribución gamma . La distribución de Bernoulli es una distribución binomial con n = 1 ensayo. La distribución exponencial es una distribución gamma con parámetro de forma α = 1 (o k = 1). Las distribuciones de Rayleigh y Weibull se pueden escribir cada una en términos de una distribución exponencial.
Algunas distribuciones familiares exponenciales no son NEF. La distribución lognormal y Beta están en la familia exponencial, pero no en la familia exponencial natural.
La parametrización de la mayoría de las distribuciones anteriores se ha escrito de manera diferente a la parametrización que se usa comúnmente en los libros de texto y las páginas vinculadas anteriores. Por ejemplo, la parametrización anterior difiere de la parametrización en el artículo vinculado en el caso de Poisson. Las dos parametrizaciones están relacionadas por, donde λ es el parámetro medio, por lo que la densidad se puede escribir como
por , entonces
Esta parametrización alternativa puede simplificar enormemente los cálculos en estadística matemática . Por ejemplo, en la inferencia bayesiana , una distribución de probabilidad posterior se calcula como el producto de dos distribuciones. Normalmente, este cálculo requiere escribir las funciones de distribución de probabilidad (PDF) e integrarlas; Sin embargo, con la parametrización anterior, ese cálculo puede evitarse. En cambio, las relaciones entre distribuciones se pueden abstraer debido a las propiedades del NEF que se describen a continuación.
Un ejemplo del caso multivariado es la distribución multinomial con un número conocido de ensayos.
Propiedades
Las propiedades de la familia exponencial natural se pueden usar para simplificar los cálculos que involucran estas distribuciones.
Caso univariado
1. Los acumulados de un NEF se pueden calcular como derivadas de la función generadora de acumulados del NEF. El n-ésimo acumulante es la n-ésima derivada de la función generadora de acumuladores con respecto a t evaluada en t = 0.
La función de generación acumulada es
El primer acumulante es
La media es el primer momento y siempre es igual al primer acumulado, por lo que
La varianza es siempre el segundo acumulado, y siempre está relacionada con el primer y segundo momento por
así que eso
Asimismo, el n- ésimo acumulativo es
2. Las familias exponenciales naturales (NEF) se cierran en convolución. [ cita requerida ]
Dado independiente distribuido idénticamente (iid) con distribución de un NEF, entonces es un NEF, aunque no necesariamente el NEF original. Esto se deriva de las propiedades de la función de generación acumulativa.
3. La función de varianza para variables aleatorias con una distribución NEF se puede escribir en términos de la media. [ cita requerida ]
4. Los dos primeros momentos de una distribución NEF especifican de forma única la distribución dentro de esa familia de distribuciones. [ cita requerida ]
Caso multivariado
En el caso multivariado, el vector medio y la matriz de covarianza son [ cita requerida ]
dóndees el gradiente yes la matriz de Hesse .
Familias exponenciales naturales con funciones de varianza cuadrática (NEF-QVF)
Un caso especial de las familias exponenciales naturales son aquellas con funciones de varianza cuadrática. Seis NEF tienen funciones de varianza cuadrática (QVF) en las que la varianza de la distribución se puede escribir como una función cuadrática de la media. Estos se denominan NEF-QVF. Las propiedades de estas distribuciones fueron descritas por primera vez por Carl Morris . [2]
Los seis NEF-QVF
Los seis NEF-QVF se escriben aquí con una complejidad creciente de la relación entre varianza y media.
1. La distribución normal con varianza fija es NEF-QVF porque la varianza es constante. La varianza se puede escribir, por lo que la varianza es una función de grado 0 de la media.
2. La distribución de Poisson es NEF-QVF porque todas las distribuciones de Poisson tienen una varianza igual a la media , entonces la varianza es una función lineal de la media.
3. La distribución gamma es NEF-QVF porque la media de la distribución gamma es y la varianza de la distribución Gamma es , entonces la varianza es una función cuadrática de la media.
4. La distribución binomial es NEF-QVF porque la media es y la varianza es que se puede escribir en términos de la media como
5. La distribución binomial negativa es NEF-QVF porque la media es y la varianza es
6. La distribución (no muy famosa) generada por la distribución secante hiperbólica generalizada [ aclaración necesaria ] (NEF-GHS) tiene [ cita requerida ] y
Propiedades de NEF-QVF
Las propiedades de NEF-QVF pueden simplificar los cálculos que utilizan estas distribuciones.
1. Las familias exponenciales naturales con funciones de varianza cuadrática (NEF-QVF) se cierran bajo convoluciones de una transformación lineal. [ cita requerida ] Es decir, una convolución de una transformación lineal de un NEF-QVF es también un NEF-QVF, aunque no necesariamente el original.
Dado independiente distribuido idénticamente (iid)con distribución desde un NEF-QVF. Una convolución de una transformación lineal de un NEF-QVF también es un NEF-QVF.
Dejar ser la convolución de una transformación lineal de X . La media de Y es. La varianza de Y se puede escribir en términos de la función de varianza del NEF-QVF original. Si el NEF-QVF original tuviera función de varianza
entonces el nuevo NEF-QVF tiene función de variación
dónde
2. Deje y ser NEF independiente con el mismo parámetro θ y dejar . Entonces la distribución condicional de dado tiene varianza cuadrática en si y solo si y son NEF-QVF. Ejemplos de tales distribuciones condicionales son las distribuciones normal , binomial , beta , hipergeométrica y geométrica , que no son todas NEF-QVF. [1]
3. NEF-QVF tienen distribuciones previas conjugadas en μ en el sistema de distribuciones de Pearson (también llamado distribución de Pearson, aunque el sistema de distribuciones de Pearson es en realidad una familia de distribuciones en lugar de una distribución única). Ejemplos de distribuciones previas conjugadas de NEF- Las distribuciones QVF son las distribuciones normal , gamma , gamma recíproca, beta , F y t . Nuevamente, estos antecedentes conjugados no son todos NEF-QVF. [1]
4. Si tiene una distribución NEF-QVF y μ tiene una distribución previa conjugada, entonces las distribuciones marginales son distribuciones bien conocidas. [1]
Estas propiedades, junto con la notación anterior, pueden simplificar los cálculos en estadística matemática que normalmente se realizarían utilizando cálculos y cálculos complicados.
Referencias
- ^ a b c d Morris C. (2006) "Familias exponenciales naturales", Enciclopedia de ciencias estadísticas .
- ^ Morris C. (1982) "Familias exponenciales naturales con funciones de varianza cuadrática". Ana. Stat. , 10 (1), 65–80.
- Morris C. (1982) Familias exponenciales naturales con funciones de varianza cuadrática: teoría estadística . Departamento de Matemáticas, Instituto de Estadística, Universidad de Texas, Austin.