Geometría de la información


La geometría de la información es un campo interdisciplinario que aplica las técnicas de la geometría diferencial para estudiar la teoría de la probabilidad y la estadística . [1] Estudia variedades estadísticas , que son variedades de Riemann cuyos puntos corresponden a distribuciones de probabilidad .

Históricamente, la geometría de la información se remonta al trabajo de CR Rao , quien fue el primero en tratar la matriz de Fisher como una métrica de Riemann . [2] [3] La teoría moderna se debe en gran parte a Shun'ichi Amari , cuyo trabajo ha tenido una gran influencia en el desarrollo del campo. [4]

Clásicamente, la geometría de la información consideraba un modelo estadístico parametrizado como una variedad de Riemann . Para tales modelos, existe una elección natural de la métrica de Riemann, conocida como métrica de información de Fisher . En el caso especial de que el modelo estadístico sea una familia exponencial , es posible inducir la variedad estadística con una métrica hessiana (es decir, una métrica riemanniana dada por el potencial de una función convexa). En este caso, la variedad hereda naturalmente dos conexiones afines planas , así como una divergencia canónica de Bregman.. Históricamente, gran parte del trabajo se dedicó a estudiar la geometría asociada de estos ejemplos. En el entorno moderno, la geometría de la información se aplica a un contexto mucho más amplio, que incluye familias no exponenciales, estadísticas no paramétricas e incluso variedades estadísticas abstractas no inducidas por un modelo estadístico conocido. Los resultados combinan técnicas de la teoría de la información , geometría diferencial afín , análisis convexo y muchos otros campos.

Las referencias estándar en el campo son el libro de Shun'ichi Amari e Hiroshi Nagaoka, Methods of Information Geometry , [5] y el libro más reciente de Nihat Ay y otros. [6] En la encuesta de Frank Nielsen se ofrece una suave introducción. [7] En 2018, se publicó la revista Information Geometry , dedicada al campo.

La historia de la geometría de la información está asociada con los descubrimientos de al menos las siguientes personas y muchas otras.


El conjunto de todas las distribuciones normales forma una variedad estadística con geometría hiperbólica .