En filosofía , el atraco de Pascal es un experimento mental que demuestra un problema en la maximización de la utilidad esperada. Un agente racional debería elegir acciones cuyos resultados, cuando se sopesan por su probabilidad, tienen una mayor utilidad . Pero algunos resultados muy improbables pueden tener grandes utilidades, y estas utilidades pueden crecer más rápido de lo que disminuye la probabilidad. Por lo tanto, el agente debería centrarse más en casos muy improbables con recompensas increíblemente altas; esto conduce primero a elecciones contrarias a la intuición, y luego a la incoherencia a medida que la utilidad de cada elección se vuelve ilimitada.
El nombre se refiere a la apuesta de Pascal , pero a diferencia de la apuesta, no requiere recompensas infinitas. [1] Esto evita muchas objeciones al dilema de la apuesta de Pascal que se basan en la naturaleza del infinito. [2]
Planteamiento del problema
En una descripción, [2] Blaise Pascal es abordado por un asaltante que ha olvidado su arma. Sin embargo, el atracador propone un trato: el filósofo le da su billetera y, a cambio, el atracador le devolverá el doble de dinero mañana. Pascal se niega, señalando que es poco probable que se cumpla el acuerdo. El asaltante luego continúa nombrando recompensas más altas, señalando que incluso si es solo una posibilidad entre 1000 de que sea honorable, tendría sentido que Pascal hiciera un trato por una devolución de 2000 veces. Pascal responde que la probabilidad de esa alta rentabilidad es incluso menor que uno en 1000. El asaltante argumenta que para cualquier baja probabilidad de poder devolver una gran cantidad de dinero (o utilidad pura) existe una cantidad finita que la convierte en racional para hacer la apuesta, y dada la falibilidad humana y el escepticismo filosófico, una persona racional debe admitir que hay al menos alguna posibilidad distinta de cero de que tal trato sea posible. En un ejemplo, el asaltante tiene éxito prometiéndole a Pascal 1.000 billones de días felices de vida. Convencido por la discusión, Pascal le da al asaltante la billetera.
El término "atraco de Pascal" para referirse a este problema fue acuñado originalmente por Eliezer Yudkowsky en el foro Less Wrong . [3] [2] En uno de los ejemplos de Yudkowsky, el asaltante tiene éxito diciendo "dame cinco dólares o usaré mis poderes mágicos de fuera de Matrix para ejecutar una máquina de Turing que simula y mata personas ". Aquí, el número utiliza la notación de flecha hacia arriba de Knuth ; escribir el número en base 10 requeriría muchísimo más material de escritura que los átomos que hay en el universo conocido. [3]
La supuesta paradoja resulta de dos puntos de vista inconsistentes. Por un lado, al multiplicar un cálculo de utilidad esperada , suponiendo que la pérdida de cinco dólares se valora en f , la pérdida de una vida se valora en l , y la probabilidad de que el asaltante diga la verdad en t , la solución es dar el dinero si y solo sitl> f. Suponiendo que l es mayor que f , siempre que t sea mayor que, lo cual se supone cierto, se considera racional pagarle al atracador. En el otro lado del argumento, pagarle al atracador es intuitivamente irracional debido a su explotabilidad. Si la persona asaltada está de acuerdo con esta secuencia de lógica, entonces puede ser explotada repetidamente por todo su dinero, lo que da como resultado un libro holandés , que generalmente se considera irracional. Las opiniones sobre cuál de estos argumentos es lógicamente correcto difieren. [4]
Además, en muchos sistemas de decisión aparentemente razonables, el "atraco de Pascal" hace que la utilidad esperada de cualquier acción no converja, ya que una cadena ilimitada de escenarios sucesivamente nefastos similares al atraco de Pascal debería tenerse en cuenta. [5] [6 ]
Consecuencias y remedios
El filósofo Nick Bostrom sostiene que el atraco de Pascal, como la apuesta de Pascal, sugiere que darle a una inteligencia artificial superinteligente una teoría de la decisión defectuosa podría ser desastroso. [7] El atraco de Pascal también puede ser relevante cuando se consideran eventos de baja probabilidad y mucho en juego, como el riesgo existencial o las intervenciones caritativas con una baja probabilidad de éxito pero recompensas extremadamente altas. El sentido común parece sugerir que gastar esfuerzos en escenarios demasiado improbables es irracional.
Un remedio recomendado podría ser utilizar solo funciones de utilidad limitadas: las recompensas no pueden ser arbitrariamente grandes. [5] [8] Otro enfoque es utilizar el razonamiento bayesiano para juzgar (cualitativamente) la calidad de la evidencia y las estimaciones de probabilidad en lugar de calcular ingenuamente las expectativas. [9] Otros enfoques son penalizar la probabilidad previa de hipótesis que argumentan que estamos en una posición sorprendentemente única para afectar a un gran número de otras personas que no pueden afectarnos simétricamente, [ cita requerida ] rechace proporcionar primero la probabilidad de un pago, [ 10] o abandonar los procedimientos de decisión cuantitativa en presencia de riesgos extremadamente grandes. [6]
Ver también
Referencias
- ^ Olle Häggström (2016). Aquí hay dragones . 3.10: Criónica. ISBN 978-0198723547.Mantenimiento de CS1: ubicación ( enlace )
- ^ a b c Bostrom, Nick (2009). "Atraco de Pascal" (PDF) . Análisis . 69 (3): 443–445. doi : 10.1093 / analys / anp062 . JSTOR 40607655 .
- ^ a b Eliezer Yudkowsky, Atraco de Pascal: minúsculas probabilidades de grandes utilidades. Less Wrong, 19 de octubre de 2007. http://lesswrong.com/lw/kd/pascals_mugging_tiny_probabilities_of_vast/
- ^ https://www.lesswrong.com/posts/a5JAiTdytou3Jg749/pascal-s-mugging-tiny-probabilities-of-vast-utilities
- ↑ a b De Blanc, Peter. Convergencia de utilidades esperadas con distribuciones de probabilidad algorítmicas (2007), arXiv : 0712.4318
- ^ a b Kieran Marray, Enfrentando la incertidumbre en los cálculos éticos del riesgo existencial, presentado en la serie de talleres sobre ética y economía climática del Consejo de Investigación Económica y Social: Taller cinco - Riesgo y cultura de la ciencia, mayo de 2016 http: // www. nottingham.ac.uk/climateethicseconomics/documents/papers-workshop-5/marray.pdf
- ^ Bostrom, Nick (2014). "Elección de los criterios para elegir". Superinteligencia: caminos, peligros, estrategias . Oxford: Prensa de la Universidad de Oxford. ISBN 978-0199678112. Sección "Teoría de la decisión".
- ^ Cowen, Tyler; Alto, Jack (1988). "Tiempo, utilidad limitada y la paradoja de San Petersburgo". Teoría y Decisión . 25 (3): 219-223. doi : 10.1007 / BF00133163 .
- ^ Holden Karnofsky, Por qué no podemos tomar las estimaciones del valor esperado literalmente (incluso cuando son imparciales). GiveWell Blog 18 de agosto de 2011 http://blog.givewell.org/2011/08/18/why-we-cant-take-expected-value-estimates-literally-even-when-theyre-unjected/
- ^ Baumann, Peter (2009). "Contando con números". Análisis . 69 (3): 446–448. doi : 10.1093 / analys / anp061 . JSTOR 40607656 .