Instituto de Investigación de Inteligencia Artificial
El Machine Intelligence Research Institute ( MIRI ), anteriormente el Singularity Institute for Artificial Intelligence ( SIAI ), es un instituto de investigación sin fines de lucro centrado desde 2005 en identificar y gestionar los posibles riesgos existenciales de la inteligencia artificial general . El trabajo de MIRI se ha centrado en un enfoque de IA amigable para el diseño de sistemas y en predecir la tasa de desarrollo tecnológico.
En 2000, Eliezer Yudkowsky fundó el Singularity Institute for Artificial Intelligence con financiación de Brian y Sabine Atkins, con el objetivo de acelerar el desarrollo de la inteligencia artificial (IA). [1] [2] [3] Sin embargo, Yudkowsky comenzó a preocuparse de que los sistemas de inteligencia artificial desarrollados en el futuro pudieran volverse superinteligentes y presentar riesgos para la humanidad, [1] y en 2005 el instituto se mudó a Silicon Valley y comenzó a enfocarse en formas para identificar y gestionar esos riesgos, que en ese momento eran en gran medida ignorados por los científicos en el campo. [2]
A partir de 2006, el Instituto organizó la Cumbre de Singularidad para discutir el futuro de la IA, incluidos sus riesgos, inicialmente en cooperación con la Universidad de Stanford y con financiación de Peter Thiel . El San Francisco Chronicle describió la primera conferencia como una "fiesta de presentación en el Área de la Bahía de la filosofía inspirada en la tecnología llamada transhumanismo". [4] [5] En 2011, sus oficinas eran cuatro apartamentos en el centro de Berkeley. [6] En diciembre de 2012, el instituto vendió su nombre, dominio web y Singularity Summit a Singularity University , [7] y al mes siguiente tomó el nombre de "Machine Intelligence Research Institute".[8]
En 2014 y 2015, creció el interés público y científico en los riesgos de la IA, aumentando las donaciones para financiar la investigación en MIRI y organizaciones similares. [3] [9] : 327
En 2019, Open Philanthropy recomendó una subvención de apoyo general de aproximadamente $ 2.1 millones durante dos años para MIRI. [10] En abril de 2020, Open Philanthropy complementó esto con una subvención de $ 7.7 millones durante dos años. [11] [12]
El enfoque de MIRI para identificar y gestionar los riesgos de la IA, dirigido por Yudkowsky, aborda principalmente cómo diseñar una IA amigable, cubriendo tanto el diseño inicial de los sistemas de IA como la creación de mecanismos para garantizar que los sistemas de IA en evolución sigan siendo amigables. [3] [14] [15]
.jpg/440px-Eliezer_Yudkowsky,_Stanford_2006_(square_crop).jpg)
.jpg){kind=link}
