Inioluwa Deborah Raji es una científica informática y activista nigeriano-canadiense que trabaja en el sesgo algorítmico , la responsabilidad de la inteligencia artificial y la auditoría algorítmica. Raji ha trabajado anteriormente con Joy Buolamwini , Timnit Gebru y la Liga de la Justicia Algorítmica en la investigación de prejuicios raciales y de género en la tecnología de reconocimiento facial. [1] También ha trabajado con el equipo de IA ética de Google y ha sido investigadora en el Partnership on AI and AI Now Institute de la Universidad de Nueva York y ha trabajado en cómo poner en práctica las consideraciones éticas en la práctica de la ingeniería de aprendizaje automático. [2]Miembro actual de Mozilla , ha sido reconocida por MIT Technology Review y Forbes como una de las principales innovadoras jóvenes del mundo. [3] [4]
Inioluwa Deborah Raji | |
---|---|
Nació | |
Nacionalidad | canadiense |
alma mater | Universidad de Toronto |
Conocido por | Sesgo algorítmico Equidad (aprendizaje automático) Auditoría y evaluación algorítmica |
Carrera científica | |
Campos | Ciencias de la Computación |
Instituciones | Asociación de la Fundación Mozilla sobre IA AI Now Institute MIT Media Lab |
Temprana edad y educación
Raji nació en Port Harcourt , Nigeria y se mudó a Mississauga , Canadá cuando tenía cuatro años. Finalmente, su familia se mudó a Ottawa , Canadá. [3] Estudió Ciencias de la Ingeniería en la Universidad de Toronto , y se graduó en 2019. [5] [6] En 2015, fundó Project Include, una organización sin fines de lucro que brinda un mayor acceso de los estudiantes a la educación en ingeniería, tutoría y recursos en personas de bajos ingresos e inmigrantes. comunidades en el área metropolitana de Toronto. [7]
Carrera e investigación
Raji trabajó con Joy Buolamwini en el MIT Media Lab y Algorithmic Justice League , donde auditó tecnologías comerciales de reconocimiento facial de Microsoft, Amazon, IBM, Face ++ y Kairos. [8] Descubrieron que estas tecnologías eran significativamente menos precisas para las mujeres de piel más oscura que para los hombres blancos. [5] [9] Con el apoyo de otros importantes investigadores de IA y una mayor presión pública y campañas, su trabajo llevó a IBM y Amazon a aceptar apoyar la regulación del reconocimiento facial y luego detener la venta de su producto a la policía durante al menos un año. [4] [10] [11] [12] Raji también hizo una pasantía en la startup de aprendizaje automático Clarifai , donde trabajó en un modelo de visión por computadora para marcar imágenes. [13]
Participó en un programa de tutoría de investigación en Google y trabajó con su equipo de IA ética en la creación de tarjetas modelo, un marco de documentación para informes de modelos de aprendizaje automático más transparentes. También codirigió el desarrollo de prácticas de auditoría interna en Google. [13] Sus contribuciones en Google se presentaron y publicaron por separado en la conferencia AAAI y la conferencia ACM sobre equidad, responsabilidad y transparencia . [14] [15] [16]
En 2019, Raji fue investigador de verano en The Partnership sobre IA y trabajó en el establecimiento de estándares de transparencia de aprendizaje automático de la industria y normas de evaluación comparativa. [17] [18] Raji fue Tech Fellow en el AI Now Institute y trabajó en auditorías algorítmicas y de IA. Actualmente, es miembro de la Fundación Mozilla que investiga auditoría y evaluación algorítmica. [2]
El trabajo de Raji sobre el sesgo en los sistemas de reconocimiento facial se ha destacado en el documental de 2020 Coded Bias dirigido por Shalini Kantayya . [19]
Premios seleccionados
- Premio Venture Beat AI Innovations 2019 en la categoría AI for Good (recibido con Joy Buolamwini y Timnit Gebru ) [20]
- Premio al Innovador 35 Menores de 35 de la Revisión de Tecnología del MIT 2020 [3]
- Premio Pionero de la EFF 2020 (recibido con Buolamwini y Gebru) [21]
- 2021 Premio Forbes 30 Under 30 en tecnología empresarial [4]
- 2021 Homenajeado al Salón de la Fama de Ética de 100 Mujeres Brillantes en IA [22]
Referencias
- ↑ Schwab, Katharine (26 de febrero de 2021). " ' Esto es más grande que solo Timnit': cómo Google trató de silenciar a un crítico y encendió un movimiento" . Empresa rápida .
- ^ a b "Mozilla da la bienvenida a dos nuevos becarios en IA confiable" . Fundación Mozilla . 2020-10-16 . Consultado el 27 de febrero de 2021 .
- ^ a b c "Inioluwa Deborah Raji | Innovadores menores de 35" . www.innovatorsunder35.com . Consultado el 26 de febrero de 2021 .
- ^ a b c "Inioluwa Deborah Raji - Forbes 30 menores de 30" . Forbes . Consultado el 27 de febrero de 2021 .
- ^ a b "Este estudiante de Ingeniería de la U of T está responsabilizando a las empresas por la tecnología facial de IA sesgada" . U de T Engineering News . 2019-02-11 . Consultado el 26 de febrero de 2021 .
- ^ "La alumna de U of T Engineering, Inioluwa Deborah Raji, nombrada entre los mejores innovadores menores de 35 años de MIT Technology Review" . U de T Engineering News . 2020-06-23 . Consultado el 27 de febrero de 2021 .
- ^ "Deborah Raji de Mozilla en Forbes 30 menores de 30, tutoría en IA y más" . Blog RE • WORK - Noticias sobre inteligencia artificial y aprendizaje profundo . 2021-02-03 . Consultado el 27 de febrero de 2021 .
- ^ "Auditoría procesable: investigación del impacto de nombrar públicamente los resultados de rendimiento sesgados de los productos comerciales de inteligencia artificial" (PDF) . Actas de la conferencia AAAI / ACM de 2019 sobre inteligencia artificial, ética y sociedad : 429–435. 27 de enero de 2019.
- ^ Cantante, Natasha (25 de enero de 2019). "Amazon está impulsando la tecnología facial que, según un estudio, podría estar sesgada (publicado en 2019)" . The New York Times . ISSN 0362-4331 . Consultado el 27 de febrero de 2021 .
- ^ Heilweil, Rebecca (10 de junio de 2020). "Por qué es importante que IBM se salga del negocio del reconocimiento facial" . Vox . Consultado el 27 de febrero de 2021 .
- ^ "IBM se alejó del reconocimiento facial. ¿Qué pasa con Amazon y Microsoft?" . VentureBeat . 2020-06-10 . Consultado el 27 de febrero de 2021 .
- ^ "La lucha de dos años para evitar que Amazon venda reconocimiento facial a la policía" . Revisión de tecnología del MIT . Consultado el 27 de febrero de 2021 .
- ^ a b "Inioluwa Deborah Raji" . Revisión de tecnología del MIT . Consultado el 27 de febrero de 2021 .
- ^ Raji, Inioluwa Deborah; Gebru, Timnit; Mitchell, Margaret; Buolamwini, Joy; Lee, Joonseok; Denton, Emily (3 de enero de 2020). "Salvar la cara: investigar las preocupaciones éticas de la auditoría de reconocimiento facial". arXiv : 2001.00964 [ cs.CY ].
- ^ Raji, Inioluwa Deborah; Inteligente, Andrew; White, Rebecca N .; Mitchell, Margaret; Gebru, Timnit; Hutchinson, Ben; Smith-Loud, Jamila; Theron, Daniel; Barnes, Parker (3 de enero de 2020). "Cerrar la brecha de responsabilidad de la IA: definir un marco de un extremo a otro para la auditoría algorítmica interna". arXiv : 2001.00973 [ cs.CY ].
- ^ Mitchell, Margaret; Wu, Simone; Zaldivar, Andrew; Barnes, Parker; Vasserman, Lucy; Hutchinson, Ben; Spitzer, Elena; Raji, Inioluwa Deborah; Gebru, Timnit (29 de enero de 2019). "Tarjetas modelo para informes de modelos". Actas de la Conferencia sobre Equidad, Responsabilidad y Transparencia : 220–229. arXiv : 1810.03993 . doi : 10.1145 / 3287560.3287596 . ISBN 9781450361255. S2CID 52946140 .
- ^ Xiang, Alice; Raji, Inioluwa Deborah (25 de noviembre de 2019). "Sobre la compatibilidad jurídica de las definiciones de equidad". arXiv : 1912.00761 [ cs.CY ].
- ^ "Acerca de la cara: una encuesta de evaluación de reconocimiento facial" . DeepAI . 2021-02-01 . Consultado el 26 de febrero de 2021 .
- ^ "Sesgo codificado: Director Shalini Kantayya sobre la solución de graves defectos del reconocimiento facial" . Stanford HAI . Consultado el 15 de marzo de 2021 .
- ^ "Los ganadores de la innovación en IA anunciados en San Francisco" . Matriz de innovación . 2019-07-12 . Consultado el 27 de febrero de 2021 .
- ^ "Ceremonia de entrega de premios Pioneer 2020" . Fundación Frontera Electrónica . 2020-08-24 . Consultado el 27 de febrero de 2021 .
- ^ "Salón de la Fama" . 100 mujeres brillantes en AI Ethics ™ . Consultado el 27 de febrero de 2021 .