En estadística , la suma de cuadrados de los residuos ( RSS ), también conocida como la suma de los cuadrados de los residuos ( SSR ) o la suma de los cuadrados de la estimación de errores ( SSE ), es la suma de los cuadrados de los residuos (desviaciones predichas de los valores empíricos reales). de datos). Es una medida de la discrepancia entre los datos y un modelo de estimación, como una regresión lineal . Un RSS pequeño indica un ajuste perfecto del modelo a los datos. Se utiliza como criterio de optimalidad en la selección de parámetros y selección de modelos .
En general, suma total de cuadrados = suma explicada de cuadrados + suma residual de cuadrados. Para una prueba de esto en el caso de mínimos cuadrados ordinarios (MCO) multivariante , consulte la partición en el modelo MCO general .
Una variable explicativa
En un modelo con una sola variable explicativa, RSS viene dado por: [1]
donde y i es el i- ésimo valor de la variable a predecir, x i es el i- ésimo valor de la variable explicativa, yes el valor predicho de y i (también denominado). En un modelo de regresión lineal simple estándar ,, dónde y son coeficientes , y y x son la regresiva y la regresora , respectivamente, y ε es el término de error . La suma de los cuadrados de los residuos es la suma de los cuadrados de; es decir
dónde es el valor estimado del término constante y es el valor estimado del coeficiente de pendiente .
Expresión matricial para la suma de cuadrados residual de MCO
El modelo de regresión general con n observaciones y k explicadores, el primero de los cuales es un vector unitario constante cuyo coeficiente es la intersección de la regresión, es
donde y es un vector n × 1 de observaciones de variables dependientes, cada columna de la matriz n × k X es un vector de observaciones en uno de los k explicadores,es un vector k × 1 de coeficientes verdaderos, ye es un vector n × 1 de los verdaderos errores subyacentes. El estimador de mínimos cuadrados ordinarios para es
El vector residual = ; entonces la suma residual de cuadrados es:
- ,
(equivalente al cuadrado de la norma de residuos). En su totalidad:
- ,
donde H es la matriz de sombrero , o la matriz de proyección en regresión lineal.
Relación con la correlación producto-momento de Pearson
La recta de regresión de mínimos cuadrados está dada por
- ,
dónde y , dónde y
Por lo tanto,
dónde
La correlación producto-momento de Pearson viene dada por por lo tanto,
Ver también
- Distribución chi-cuadrado # Aplicaciones
- Grados de libertad (estadística) # Suma de cuadrados y grados de libertad
- Errores y residuales en estadísticas
- Suma de cuadrados por falta de ajuste
- Error medio cuadrado
- Estadística de chi-cuadrado reducida , RSS por grado de libertad
- Desviaciones cuadradas
- Suma de cuadrados (estadísticas)
Referencias
- Draper, NR; Smith, H. (1998). Análisis de regresión aplicado (3ª ed.). John Wiley. ISBN 0-471-17082-8.