El ejemplo de Stein es un resultado importante en la teoría de la decisión que puede enunciarse como
- La regla de decisión ordinaria para estimar la media de una distribución gaussiana multivariante es inadmisible bajo el riesgo de error cuadrático medio en la dimensión al menos 3 .
El siguiente es un resumen de su prueba . [1] Se remite al lector al artículo principal para obtener más información.
La función de riesgo de la regla de decisión es
Ahora considere la regla de decisión
dónde . Te mostraremos que es una mejor regla de decisión que . La función de riesgo es
- una cuadrática en . Podemos simplificar el término medio considerando una función general de "buen comportamiento"y el uso de la integración por partes . Para, para cualquier diferenciable continua creciendo lo suficientemente lento para grandes tenemos:
Por lo tanto,
(Este resultado se conoce como lema de Stein ).
Ahora, elegimos
Si cumplió la condición de "buen comportamiento" (no es así, pero esto se puede remediar, ver más abajo), habríamos
y entonces
Luego, volviendo a la función de riesgo de :
Esta cuadrática en se minimiza en
donación
que por supuesto satisface
haciendo una regla de decisión inadmisible.
Queda por justificar el uso de
Esta función no es continuamente diferenciable, ya que es singular en . Sin embargo, la función
es continuamente diferenciable, y después de seguir el álgebra y dejar que , se obtiene el mismo resultado.