En teoría de probabilidad y estadística , la covarianza es una medida de la variabilidad conjunta de dos variables aleatorias . [1] Si los valores mayores de una variable se corresponden principalmente con los valores mayores de la otra variable, y lo mismo ocurre con los valores menores (es decir, las variables tienden a mostrar un comportamiento similar), la covarianza es positiva. [2] En el caso contrario, cuando los valores mayores de una variable corresponden principalmente a los valores menores de la otra (es decir, las variables tienden a mostrar un comportamiento opuesto), la covarianza es negativa. Por tanto, el signo de la covarianza muestra la tendencia en la relación linealentre las variables. La magnitud de la covarianza no es fácil de interpretar porque no está normalizada y, por tanto, depende de las magnitudes de las variables. La versión normalizada de la covarianza , el coeficiente de correlación , sin embargo, muestra por su magnitud la fuerza de la relación lineal.
Se debe hacer una distinción entre (1) la covarianza de dos variables aleatorias, que es un parámetro poblacional que puede verse como una propiedad de la distribución de probabilidad conjunta , y (2) la covarianza muestral , que además de servir como descriptor de la muestra, también sirve como valor estimado del parámetro de población.
Definición
Durante dos conjuntamente distribuido verdadera -valued variables aleatorias y con segundos momentos finitos , la covarianza se define como el valor esperado (o media) del producto de sus desviaciones de sus valores esperados individuales: [3] [4] : p. 119
| ( Ecuación 1 ) |
dónde es el valor esperado de, también conocido como la media de . La covarianza también se denota a veces o , en analogía con la varianza . Al usar la propiedad de linealidad de las expectativas, esto se puede simplificar al valor esperado de su producto menos el producto de sus valores esperados:
pero esta ecuación es susceptible de cancelación catastrófica (consulte la sección sobre cálculo numérico a continuación).
Las unidades de medida de la covarianza. son los de veces los de . Por el contrario, los coeficientes de correlación , que dependen de la covarianza, son una medida adimensional de dependencia lineal. (De hecho, los coeficientes de correlación pueden entenderse simplemente como una versión normalizada de la covarianza).
Definición de variables aleatorias complejas
La covarianza entre dos variables aleatorias complejas se define como [4] : p. 119
Observe la compleja conjugación del segundo factor en la definición.
Variables aleatorias discretas
Si el par de variables aleatorias (reales) puede asumir los valores por , con iguales probabilidades , entonces la covarianza se puede escribir de manera equivalente en términos de las medias y como
También se puede expresar de manera equivalente, sin hacer referencia directa a los medios, como [5]
De manera más general, si hay posibles realizaciones de , a saber pero con probabilidades posiblemente desiguales por , entonces la covarianza es
Ejemplo
Suponer que y tienen la siguiente función de masa de probabilidad conjunta , [6] en la que las seis celdas centrales dan las probabilidades conjuntas discretas de las seis realizaciones hipotéticas :
X | ||||||
---|---|---|---|---|---|---|
5 | 6 | 7 | ||||
y | 8 | 0 | 0.4 | 0,1 | 0,5 | |
9 | 0,3 | 0 | 0,2 | 0,5 | ||
0,3 | 0.4 | 0,3 | 1 |
puede tomar tres valores (5, 6 y 7) mientras que puede asumir dos (8 y 9). Sus medios son y . Luego,
Propiedades
Covarianza consigo mismo
La varianza es un caso especial de covarianza en el que las dos variables son idénticas (es decir, en el que una variable siempre toma el mismo valor que la otra): [4] : p. 121
Covarianza de combinaciones lineales
Si , , , y son variables aleatorias de valor real y son constantes de valor real, entonces los siguientes hechos son una consecuencia de la definición de covarianza:
Para una secuencia de variables aleatorias en valores reales y constantes , tenemos
Identidad de covarianza de Hoeffding
Una identidad útil para calcular la covarianza entre dos variables aleatorias es la identidad de covarianza de Hoeffding: [7]
dónde es la función de distribución acumulativa conjunta del vector aleatorio y son los marginales .
Las variables aleatorias cuya covarianza es cero se denominan no correlacionadas . [4] : pág. 121 De manera similar, los componentes de vectores aleatorios cuya matriz de covarianza es cero en cada entrada fuera de la diagonal principal también se denominan no correlacionados.
Si y son variables aleatorias independientes , entonces su covarianza es cero. [4] : pág. 123 [8] Esto se sigue porque bajo la independencia,
Sin embargo, lo contrario no es generalmente cierto. Por ejemplo, deja distribuirse uniformemente en y deja . Claramente, y no son independientes, pero
En este caso, la relación entre y no es lineal, mientras que la correlación y la covarianza son medidas de dependencia lineal entre dos variables aleatorias. Este ejemplo muestra que si dos variables aleatorias no están correlacionadas, eso no implica en general que sean independientes. Sin embargo, si dos variables están en forma conjunta distribuyen normalmente (pero no si son meramente individual distribuidos normalmente ), uncorrelatedness hace implicaría la independencia.
Relación con los productos internos
Muchas de las propiedades de la covarianza se pueden extraer elegantemente al observar que satisface propiedades similares a las de un producto interno :
- bilineal : para constantes y y variables aleatorias ,
- simétrico:
- semidefinido positivo : para todas las variables aleatorias , y implica que es constante casi con seguridad .
De hecho, estas propiedades implican que la covarianza define un producto interno sobre el espacio vectorial cociente obtenido tomando el subespacio de variables aleatorias con segundo momento finito e identificando dos cualesquiera que difieran por una constante. (Esta identificación convierte la semidefinición positiva anterior en definición positiva.) Ese espacio vectorial cociente es isomorfo al subespacio de variables aleatorias con segundo momento finito y media cero; en ese subespacio, la covarianza es exactamente el producto interno L 2 de funciones de valor real en el espacio muestral.
Como resultado, para las variables aleatorias con varianza finita, la desigualdad
se mantiene a través de la desigualdad de Cauchy-Schwarz .
Prueba: si , luego se sostiene trivialmente. De lo contrario, deje que la variable aleatoria
Entonces nosotros tenemos
Calcular la covarianza de la muestra
Las covarianzas muestrales entre variables basadas en Las observaciones de cada uno, extraídas de una población no observada de otro modo, están dadas por matriz con las entradas
que es una estimación de la covarianza entre variable y variable .
La media de la muestra y la matriz de covarianza de la muestra son estimaciones insesgadas de la media y la matriz de covarianza del vector aleatorio. , un vector cuyo j- ésimo elementoes una de las variables aleatorias. La razón por la que la matriz de covarianza muestral tiene en el denominador en lugar de es esencialmente que la población significa no se conoce y se reemplaza por la media muestral . Si la población media se conoce, la estimación análoga insesgada viene dada por
- .
Generalizaciones
Matriz de covarianza automática de vectores aleatorios reales
Por un vector de Variables aleatorias distribuidas conjuntamente con segundos momentos finitos, su matriz de auto-covarianza (también conocida como matriz de varianza-covarianza o simplemente matriz de covarianza ) (también denotado por o ) se define como [9] : p . 335
Dejar ser un vector aleatorio con matriz de covarianza Σ , y sea A una matriz que pueda actuar sobrea la izquierda. La matriz de covarianza del producto matriz-vector AX es:
Este es un resultado directo de la linealidad de la expectativa y es útil cuando se aplica una transformación lineal , como una transformación de blanqueamiento , a un vector.
Matriz de covarianza cruzada de vectores aleatorios reales
Para vectores reales aleatorios y , la matriz de covarianza cruzada es igual a [9] : p.336
| ( Ecuación 2 ) |
dónde es la transpuesta del vector (o matriz).
La -th elemento de esta matriz es igual a la covarianza entre el i -ésimo componente escalar dey el j -ésimo componente escalar de. En particular,es la transposición de.
Computación numérica
Cuándo , la ecuacion es propenso a una cancelación catastrófica si y no se calculan exactamente y, por lo tanto, deben evitarse en programas de computadora cuando los datos no se han centrado antes. [10] En este caso, deberían preferirse los algoritmos numéricamente estables . [11]
Comentarios
La covarianza se denomina a veces una medida de "dependencia lineal" entre las dos variables aleatorias. Eso no significa lo mismo que en el contexto del álgebra lineal (ver dependencia lineal ). Cuando se normaliza la covarianza, se obtiene el coeficiente de correlación de Pearson , que da la bondad del ajuste para la mejor función lineal posible que describe la relación entre las variables. En este sentido, la covarianza es un indicador lineal de dependencia.
Aplicaciones
En genética y biología molecular
La covarianza es una medida importante en biología . Ciertas secuencias de ADN se conservan más que otras entre especies y, por lo tanto, para estudiar las estructuras secundarias y terciarias de las proteínas , o de las estructuras de ARN , se comparan las secuencias en especies estrechamente relacionadas. Si se encuentran cambios de secuencia o no se encuentran cambios en absoluto en el ARN no codificante (como el microARN ), se considera que las secuencias son necesarias para motivos estructurales comunes, como un bucle de ARN. En genética, la covarianza sirve como base para el cálculo de la Matriz de Relaciones Genéticas (GRM) (también conocida como matriz de parentesco), lo que permite la inferencia sobre la estructura de la población a partir de una muestra sin parientes cercanos conocidos, así como la inferencia sobre la estimación de la heredabilidad de rasgos complejos.
En la teoría de la evolución y la selección natural , la ecuación de Price describe cómo un rasgo genético cambia en frecuencia con el tiempo. La ecuación utiliza una covarianza entre un rasgo y la aptitud , para dar una descripción matemática de la evolución y la selección natural. Proporciona una forma de comprender los efectos que la transmisión genética y la selección natural tienen sobre la proporción de genes dentro de cada nueva generación de una población. [12] [13] La ecuación de Price fue derivada por George R. Price , para volver a derivar el trabajo de WD Hamilton sobre la selección de parentesco . Se han elaborado ejemplos de la ecuación de Price para varios casos evolutivos.
En economía financiera
Las covarianzas juegan un papel clave en la economía financiera , especialmente en la teoría moderna de carteras y en el modelo de precios de activos de capital . Las covarianzas entre los rendimientos de varios activos se utilizan para determinar, bajo ciertos supuestos, las cantidades relativas de diferentes activos que los inversores deberían (en un análisis normativo ) o se prevé que (en un análisis positivo ) opten por mantener en un contexto de diversificación .
En asimilación de datos meteorológicos y oceanográficos
La matriz de covarianza es importante para estimar las condiciones iniciales requeridas para ejecutar modelos de pronóstico del tiempo, un procedimiento conocido como asimilación de datos . La 'matriz de covarianza de error de pronóstico' se construye típicamente entre perturbaciones alrededor de un estado medio (ya sea un medio climatológico o de conjunto). La 'matriz de covarianza de errores de observación' se construye para representar la magnitud de los errores de observación combinados (en la diagonal) y los errores correlacionados entre las mediciones (fuera de la diagonal). Este es un ejemplo de su aplicación generalizada al filtrado de Kalman y la estimación de estado más general para sistemas que varían en el tiempo.
En micrometeorología
La técnica de covarianza de remolinos es una técnica clave de medición atmosférica en la que la covarianza entre la desviación instantánea en la velocidad del viento vertical del valor medio y la desviación instantánea en la concentración de gas es la base para calcular los flujos turbulentos verticales.
En procesamiento de señales
La matriz de covarianza se utiliza para capturar la variabilidad espectral de una señal. [14]
En estadística y procesamiento de imágenes
La matriz de covarianza se utiliza en el análisis de componentes principales para reducir la dimensionalidad de las características en el preprocesamiento de datos.
Ver también
- Algoritmos para calcular la covarianza
- Análisis de covarianza
- Autocovarianza
- Correlación y dependencia
- Función de covarianza
- Matriz de covarianza
- Operador de covarianza
- Covarianza de distancia o covarianza browniana.
- Covarianza de remolinos
- Ley de la covarianza total
- Propagación de la incertidumbre
Referencias
- ^ Arroz, John (2007). Estadística matemática y análisis de datos . Belmont, CA: Brooks / Cole Cengage Learning. pag. 138. ISBN 978-0534-39942-9.
- ^ Weisstein, Eric W. "Covarianza" . MathWorld .
- ^ Diccionario de estadística de Oxford, Oxford University Press, 2002, p. 104.
- ^ a b c d e Park, Kun Il (2018). Fundamentos de Probabilidad y Procesos Estocásticos con Aplicaciones a las Comunicaciones . Saltador. ISBN 978-3-319-68074-3.
- ^ Yuli Zhang, Huaiyu Wu, Lei Cheng (junio de 2012). Algunas nuevas fórmulas de deformación sobre varianza y covarianza . Actas de la 4ª Conferencia Internacional sobre Modelado, Identificación y Control (ICMIC2012). págs. 987–992.Mantenimiento de CS1: utiliza el parámetro de autores ( enlace )
- ^ "Covarianza de X e Y | STAT 414/415" . La Universidad Estatal de Pensilvania. Archivado desde el original el 17 de agosto de 2017 . Consultado el 4 de agosto de 2019 .
- ^ Papoulis (1991). Probabilidad, variables aleatorias y procesos estocásticos . McGraw-Hill.
- ^ Siegrist, Kyle. "Covarianza y correlación" . Universidad de Alabama en Huntsville . Consultado el 4 de agosto de 2019 .
- ^ a b Gubner, John A. (2006). Probabilidad y procesos aleatorios para ingenieros eléctricos e informáticos . Prensa de la Universidad de Cambridge. ISBN 978-0-521-86470-1.
- ^ Donald E. Knuth (1998). El arte de la programación informática , volumen 2: Algoritmos seminuméricos , 3ª ed., P. 232. Boston: Addison-Wesley.
- ^ Schubert, Erich; Gertz, Michael (2018). "Cálculo paralelo numéricamente estable de (co-) varianza" . Actas de la 30ª Conferencia Internacional sobre Gestión de Bases de Datos Científicas y Estadísticas - SSDBM '18 . Bozen-Bolzano, Italia: ACM Press: 1–12. doi : 10.1145 / 3221269.3223036 . ISBN 9781450365055. S2CID 49665540 .
- ^ Precio, George (1970). "Selección y covarianza". Naturaleza . 227 (5257): 520–521. doi : 10.1038 / 227520a0 . PMID 5428476 . S2CID 4264723 .
- ^ Harman, Oren (2020). "Cuando la ciencia refleja la vida: sobre los orígenes de la ecuación de precios" . Phil. Trans. R. Soc. B . 375 (1797): 1–7. doi : 10.1098 / rstb.2019.0352 . PMC 7133509 . PMID 32146891 . Consultado el 15 de mayo de 2020 .
- ^ Sahidullah, Md .; Kinnunen, Tomi (marzo de 2016). "Características de variabilidad espectral local para la verificación del hablante" . Procesamiento de señales digitales . 50 : 1-11. doi : 10.1016 / j.dsp.2015.10.011 .