El Centro de Inteligencia Artificial Compatible con Humanos ( CHAI ) es un centro de investigación de la Universidad de California, Berkeley (UC Berkeley) que se centra en métodos de seguridad avanzados de inteligencia artificial (IA) . CHAI fue fundada en 2016 por un grupo de académicos dirigido por el profesor de ciencias de la computación de UC Berkeley y autor de inteligencia artificial Stuart J. Russell . [1] [2] Russell es conocido por ser coautor del ampliamente utilizado libro de texto de IA Inteligencia artificial: un enfoque moderno .
Formación | 2016 |
---|---|
Sede | Berkeley, California |
Líder | Stuart J. Russell |
Organización matriz | Universidad de California, Berkeley |
Sitio web |
La membresía de la facultad de CHAI incluye a Bart Selman y Joseph Halpern de la Universidad de Cornell, [3] Pieter Abbeel de UC Berkeley y Michael Wellman de la Universidad de Michigan. [4] En 2016, el Open Philanthropy Project (OpenPhil) recomendó una subvención de $ 5,555,550 durante cinco años para apoyar a CHAI. [5] CHAI recibió una subvención adicional de $ 200,000 de OpenPhil en 2019. [6]
Investigar
El enfoque de CHAI para la investigación de seguridad de la IA se centra en las estrategias de alineación de valores, en particular el aprendizaje por refuerzo inverso , en el que la IA infiere valores humanos al observar el comportamiento humano. [7] También ha trabajado en el modelado de la interacción hombre-máquina en escenarios donde las máquinas inteligentes tienen un "interruptor de apagado" que son capaces de anular. [8]
Ver también
Referencias
- ^ Norris, Jeffrey (29 de agosto de 2016). "UC Berkeley lanza centro de inteligencia artificial compatible con humanos" . Consultado el 27 de diciembre de 2019 .
- ^ Solon, Olivia (30 de agosto de 2016). "El auge de los robots: olvídese de la IA malvada; el riesgo real es mucho más insidioso" . The Guardian . Consultado el 27 de diciembre de 2019 .
- ^ Universidad de Cornell . "IA compatible con humanos" . Consultado el 27 de diciembre de 2019 .
- ^ Centro de Inteligencia Artificial Compatible con los Humanos. "Gente" . Consultado el 27 de diciembre de 2019 .
- ^ Proyecto de Filantropía Abierta (agosto de 2016). "UC Berkeley - Centro de inteligencia artificial compatible con humanos (2016)" . Consultado el 27 de diciembre de 2019 .
- ^ Open Philanthropy Project (noviembre de 2019). "UC Berkeley - Centro de IA compatible con humanos (2019)" . Consultado el 27 de diciembre de 2019 .
- ^ Conn, Ariel (31 de agosto de 2016). "Nuevo centro de IA compatible con humanos" . Instituto del Futuro de la Vida . Consultado el 27 de diciembre de 2019 .
- ^ Bridge, Mark (10 de junio de 2017). "Hacer que los robots tengan menos confianza podría evitar que se hagan cargo" .
enlaces externos
- Página web oficial
- Publicaciones