Algoritmo de muestreo anidado

El algoritmo de muestreo anidado es un enfoque computacional para los problemas de la estadística bayesiana de comparar modelos y generar muestras a partir de distribuciones posteriores. Fue desarrollado en 2004 por el físico John Skilling. ^[1]

El teorema de Bayes se puede aplicar a un par de modelos en competencia y a los datos , uno de los cuales puede ser verdadero (aunque se desconoce cuál), pero ambos no pueden serlo simultáneamente. La probabilidad posterior de se puede calcular como: ${\ Displaystyle M_ {1}}$ ${\ Displaystyle M_ {2}}$ ${\ Displaystyle D}$ ${\ Displaystyle M_ {1}}$

Las probabilidades previas y ya se conocen, ya que son elegidas por el investigador con anticipación. Sin embargo, el factor de Bayes restante no es tan fácil de evaluar, ya que en general requiere marginar parámetros de molestia. Generalmente, tiene un conjunto de parámetros que se pueden agrupar y llamar , y tiene su propio vector de parámetros que puede ser de diferente dimensionalidad, pero aún así se denomina . La marginación para es ${\ Displaystyle M_ {1}}$ ${\ Displaystyle M_ {2}}$ ${\ Displaystyle P (D \ mid M_ {2}) / P (D \ mid M_ {1})}$ ${\ Displaystyle M_ {1}}$ ${\ Displaystyle \ theta}$ ${\ Displaystyle M_ {2}}$ ${\ Displaystyle \ theta}$ ${\ Displaystyle M_ {1}}$

y lo mismo para . Esta integral es a menudo intratable analíticamente, y en estos casos es necesario emplear un algoritmo numérico para encontrar una aproximación. El algoritmo de muestreo anidado fue desarrollado por John Skilling específicamente para aproximar estas integrales de marginación, y tiene el beneficio adicional de generar muestras a partir de la distribución posterior . ^[2] Es una alternativa a los métodos de la literatura bayesiana ^[3] como el muestreo de puente y el muestreo de importancia defensiva. ${\ Displaystyle M_ {2}}$ ${\ Displaystyle P (\ theta \ mid D, M_ {1})}$

Aquí hay una versión simple del algoritmo de muestreo anidado, seguida de una descripción de cómo calcula la densidad de probabilidad marginal donde es o : ${\ Displaystyle Z = P (D \ mid M)}$ ${\ Displaystyle M}$ ${\ Displaystyle M_ {1}}$ ${\ Displaystyle M_ {2}}$