desigualdad de fano

---

En la teoría de la información , la desigualdad de Fano (también conocida como la inversa de Fano y el lema de Fano ) relaciona la información promedio perdida en un canal ruidoso con la probabilidad del error de categorización. Fue derivado por Robert Fano a principios de la década de 1950 mientras enseñaba un doctorado. seminario en teoría de la información en el MIT , y luego registrado en su libro de texto de 1961.

Se utiliza para encontrar un límite inferior en la probabilidad de error de cualquier decodificador, así como los límites inferiores para los riesgos minimax en la estimación de densidad .

Sean las variables aleatorias y representen mensajes de entrada y salida con una probabilidad conjunta . Dejar representar una ocurrencia de error; es decir, que , con ser una versión aproximada de . La desigualdad de Fano es${\ estilo de visualización X}$${\ estilo de visualización Y}$ ${\ estilo de visualización P (x, y)}$${\ estilo de visualización e}$${\displaystyle X\neq {\tilde {X}}}$${\displaystyle {\tilde {X}}=f(Y)}$${\ estilo de visualización X}$

donde denota el soporte de ,${\displaystyle {\mathcal {X}}}$${\ estilo de visualización X}$

Definir una variable aleatoria indicadora , que indique el evento de que nuestra estimación sea ​​errónea,${\ estilo de visualización E}$${\displaystyle {\tilde {X}}=f(Y)}$

Considere . Podemos usar la regla de la cadena para las entropías para expandir esto de dos maneras diferentes${\displaystyle H(E,X|{\tilde {X}})}$

---