Considere una cadena de Markov aperiódica irreducible de estado finito con espacio de estado y distribución estacionaria (única) ( es un vector de probabilidad). Supongamos que obtenemos una distribución de probabilidad en el conjunto de mapas con la propiedad de que para cada fijo , su imagen se distribuye de acuerdo con la probabilidad de transición de desde el estado . Un ejemplo de tal distribución de probabilidad es aquel donde es independiente de siempre , pero a menudo vale la pena considerar otras distribuciones. Ahora vamos a muestras de ser independiente de .
Supongamos que se elige aleatoriamente de acuerdo con y es independiente de la secuencia . (No nos preocupamos por ahora de dónde viene esto.) Entonces también se distribuye de acuerdo con , porque es -estacionario y nuestra suposición sobre la ley de . Definir
Luego sigue por inducción que también se distribuye según para cada . Ahora aquí está el punto principal. Puede suceder que para algunos la imagen del mapa sea un solo elemento de . En otras palabras, para cada uno . Por lo tanto, no necesitamos tener acceso para poder calcular . Luego, el algoritmo implica encontrar algo que sea un singleton y generar el elemento de ese singleton. El diseño de una buena distribución para la cual la tarea de encontrarla y calcularla no es demasiado costosa no siempre es obvio, pero se ha logrado con éxito en varios casos importantes. [1]
El caso monótono
Existe una clase especial de cadenas de Markov en las que hay opciones particularmente buenas y una herramienta para determinar si . (Aquí denota cardinalidad .) Suponga que es un conjunto parcialmente ordenado con orden , que tiene un elemento mínimo único y un elemento máximo único ; es decir, todo satisface . Además, suponga que se puede elegir para ser compatible con el conjunto de mapas monótonos . Entonces es fácil ver que si y solo si , ya que es monótono. Por lo tanto, verificar esto se vuelve bastante fácil. El algoritmo puede proceder eligiendo alguna constante, muestreando los mapas y generando si . Si el algoritmo procede duplicando y repitiendo según sea necesario hasta que se obtenga una salida. (Pero el algoritmo no vuelve a muestrear los mapas que ya fueron muestreados; utiliza los mapas muestreados previamente cuando es necesario).
Propp, James Gary; Wilson, David Bruce (1996), Actas de la Séptima Conferencia Internacional sobre Estructuras y Algoritmos Aleatorios (Atlanta, GA, 1995) , págs. 223-252, MR 1611693