La teoría de la estimación es una rama de la estadística que se ocupa de estimar los valores de los parámetros basándose en datos empíricos medidos que tienen un componente aleatorio. Los parámetros describen un entorno físico subyacente de tal manera que su valor afecta la distribución de los datos medidos. Un estimador intenta aproximar los parámetros desconocidos utilizando las medidas. En la teoría de la estimación, generalmente se consideran dos enfoques: [1]
Por ejemplo, se desea estimar la proporción de una población de votantes que votarán por un candidato en particular. Esa proporción es el parámetro buscado; la estimación se basa en una pequeña muestra aleatoria de votantes. Alternativamente, se desea estimar la probabilidad de que un votante vote por un candidato en particular, basándose en algunas características demográficas, como la edad.
O, por ejemplo, en el radar el objetivo es encontrar el rango de objetos (aviones, barcos, etc.) analizando el tiempo de tránsito bidireccional de los ecos recibidos de los pulsos transmitidos. Dado que los pulsos reflejados están inevitablemente incrustados en ruido eléctrico, sus valores medidos se distribuyen aleatoriamente, por lo que debe estimarse el tiempo de tránsito.
Como otro ejemplo, en la teoría de la comunicación eléctrica, las mediciones que contienen información sobre los parámetros de interés a menudo se asocian con una señal ruidosa .
Para un modelo dado, se necesitan varios "ingredientes" estadísticos para que se pueda implementar el estimador. La primera es una muestra estadística - un conjunto de puntos de datos tomada de un vector aleatorio (RV) de tamaño N . Poner en un vector ,
cuyos valores se van a estimar. En tercer lugar, la función de densidad de probabilidad continua (pdf) o su contraparte discreta, la función de masa de probabilidad (pmf), de la distribución subyacente que generó los datos debe establecerse condicionada a los valores de los parámetros: