El orden en la notación de probabilidad se usa en teoría de probabilidad y teoría estadística en paralelo directo a la notación de O grande que es estándar en matemáticas . Donde la notación O grande trata con la convergencia de secuencias o conjuntos de números ordinarios, el orden en la notación de probabilidad trata con la convergencia de conjuntos de variables aleatorias , donde la convergencia es en el sentido de convergencia en probabilidad . [1]
Definiciones
Pequeña O: convergencia en probabilidad
Para un conjunto de variables aleatorias X n y un conjunto correspondiente de constantes a n (ambas indexadas por n , que no necesitan ser discretas), la notación
significa que el conjunto de valores X n / a n converge a cero en probabilidad cuando n se acerca a un límite apropiado. De manera equivalente, X n = o p ( a n ) se puede escribir como X n / a n = o p (1), donde X n = o p (1) se define como,
por cada ε positivo. [2]
Big O: delimitación estocástica
La notación
significa que el conjunto de valores X n / a n está acotado estocásticamente. Es decir, para cualquier ε> 0, existe un finito M> 0 y un finito N> 0 tal que,
Comparación de las dos definiciones
La diferencia entre la definición es sutil. Si se usa la definición del límite, se obtiene:
- Gran O p (1):
- Pequeño o p (1):
La diferencia radica en el δ: para la acotación estocástica, es suficiente que exista un δ (grande arbitrario) para satisfacer la desigualdad, y se permite que δ sea dependiente de ε (de ahí el δ ε ). Por otro lado, para la convergencia, el enunciado debe ser válido no solo para uno, sino para cualquier δ (pequeño arbitrario). En cierto sentido, esto significa que la secuencia debe estar acotada, con un límite que se hace más pequeño a medida que aumenta el tamaño de la muestra.
Esto sugiere que si una secuencia es op (1), entonces es O p (1), es decir, la convergencia en la probabilidad implica una acotación estocástica. Pero lo contrario no se sostiene.
Ejemplo
Si es una secuencia estocástica tal que cada elemento tiene varianza finita, entonces
(ver Teorema 14.4-1 en Bishop et al.)
Si, además, es una secuencia nula para una secuencia de números reales, entonces converge a cero en probabilidad por la desigualdad de Chebyshev , entonces
- .