El teorema de Hammersley-Clifford es un resultado de la teoría de la probabilidad , la estadística matemática y la mecánica estadística que proporciona las condiciones necesarias y suficientes bajo las cuales una distribución de probabilidad estrictamente positiva (de eventos en un espacio de probabilidad ) [ aclaración necesaria ] puede representarse como eventos generados por un Red de Markov (también conocida como campo aleatorio de Markov ). Es el teorema fundamental de los campos aleatorios . [1] Establece que una distribución de probabilidad que tiene una masa estrictamente positiva oLa densidad satisface una de las propiedades de Markov con respecto a un gráfico no dirigido G si y solo si es un campo aleatorio de Gibbs , es decir, su densidad se puede factorizar sobre las camarillas (o subgráficos completos ) del gráfico.
La relación entre los campos aleatorios de Markov y Gibbs fue iniciada por Roland Dobrushin [2] y Frank Spitzer [3] en el contexto de la mecánica estadística . El teorema lleva el nombre de John Hammersley y Peter Clifford , quienes demostraron la equivalencia en un artículo inédito en 1971. [4] [5] Geoffrey Grimmett , [6] Preston [7] dio de forma independiente demostraciones más sencillas que utilizan el principio de inclusión-exclusión . y Sherman [8] en 1973, con una prueba adicional de Julian Besag en 1974. [9]
Esquema de prueba
Es trivial demostrar que un campo aleatorio de Gibbs satisface todas las propiedades de Markov . Como ejemplo de este hecho, vea lo siguiente:
En la imagen de la derecha, un campo aleatorio de Gibbs sobre el gráfico proporcionado tiene la forma . Si las variables y son fijos, entonces la propiedad global de Markov requiere que: (ver independencia condicional ), ya que forma una barrera entre y .
Con y constante, dónde y . Esto implica que.
Para establecer que toda distribución de probabilidad positiva que satisface la propiedad de Markov local es también un campo aleatorio de Gibbs, es necesario probar el siguiente lema, que proporciona un medio para combinar diferentes factorizaciones:
Lema 1
Dejar denotar el conjunto de todas las variables aleatorias en consideración, y dejar y denotar conjuntos arbitrarios de variables. (Aquí, dado un conjunto arbitrario de variables, también denotará una asignación arbitraria a las variables de .)
Si
para funciones y , entonces existen funciones y tal que
En otras palabras, proporciona una plantilla para una mayor factorización de .
Prueba del lema 1 |
---|
Para usar como plantilla para factorizar aún más , todas las variables fuera de Necesita ser reparado. Con este fin, dejemos ser una asignación fija arbitraria a las variables de (las variables que no están en ). Para un conjunto arbitrario de variables, dejar denotar la asignación restringido a las variables de (las variables de , excluyendo las variables de ). Además, para factorizar solo , los otros factores necesita ser considerado discutible para las variables de . Para hacer esto, la factorización
será reexpresado como
Para cada : es donde todas las variables fuera de han sido fijados a los valores prescritos por . Dejar y para cada entonces
Lo mas importante es que cuando los valores asignados a no entre en conflicto con los valores prescritos por , haciendo "desaparecer" cuando todas las variables que no están en se fijan a los valores de . Arreglando todas las variables que no están en a los valores de da
Desde ,
Dejando da: que finalmente da:
|
El lema 1 proporciona un medio para combinar dos factorizaciones diferentes de . La propiedad local de Markov implica que para cualquier variable aleatoria, que existen factores y tal que:
dónde son los vecinos del nodo . Aplicar el Lema 1 repetidamente eventualmente factores en un producto de los potenciales de la camarilla (ver la imagen de la derecha).
Fin de prueba
Ver también
Notas
- ^ Lafferty, John D .; Mccallum, Andrew (2001). "Campos aleatorios condicionales: modelos probabilísticos para segmentar y etiquetar datos de secuencia" . ICML . Consultado el 14 de diciembre de 2014 .
por el teorema fundamental de los campos aleatorios (Hammersley y Clifford, 1971)
- ^ Dobrushin, PL (1968), "La descripción de un campo aleatorio por medio de probabilidades condicionales y condiciones de su regularidad" , Teoría de la probabilidad y sus aplicaciones , 13 (2): 197-224, doi : 10.1137 / 1113026
- ^ Spitzer, Frank (1971), "Markov Random Fields and Gibbs Ensembles", The American Mathematical Monthly , 78 (2): 142-154, doi : 10.2307 / 2317621 , JSTOR 2317621
- ^ Hammersley, JM; Clifford, P. (1971), campos de Markov en gráficas y celosías finitas (PDF)
- ^ Clifford, P. (1990), "Campos aleatorios de Markov en estadística" , en Grimmett, GR; Welsh, DJA (eds.), Disorder in Physical Systems: A Volume in Honor of John M. Hammersley , Oxford University Press, págs. 19–32, ISBN 978-0-19-853215-6, MR 1064553 , recuperada 2009-05-04
- ^ Grimmett, GR (1973), "Un teorema sobre campos aleatorios", Boletín de la Sociedad Matemática de Londres , 5 (1): 81–84, CiteSeerX 10.1.1.318.3375 , doi : 10.1112 / blms / 5.1.81 , MR 0329039
- ^ Preston, CJ (1973), "Estados de Gibbs generalizados y campos aleatorios de Markov", Advances in Applied Probability , 5 (2): 242-261, doi : 10.2307 / 1426035 , JSTOR 1426035 , MR 0405645
- ^ Sherman, S. (1973), "Campos aleatorios de Markov y campos aleatorios de Gibbs", Israel Journal of Mathematics , 14 (1): 92–103, doi : 10.1007 / BF02761538 , MR 0321185
- ^ Besag, J. (1974), "La interacción espacial y el análisis estadístico de los sistemas de celosía", Revista de la Royal Statistical Society, Serie B , 36 (2): 192-236, JSTOR 2984812 , MR 0373208
Otras lecturas
- Bilmes, Jeff (primavera de 2006), Folleto 2: Hammersley – Clifford (PDF), notas del curso del curso de la Universidad de Washington .
- Grimmett, Geoffrey, Probabilidad en gráficos, Capítulo 7
- Langseth, Helge, El teorema de Hammersley-Clifford y su impacto en las estadísticas modernas (PDF)