La regulación de algoritmos , o regulación algorítmica , es la creación de leyes, reglas y políticas del sector público para la promoción y regulación de algoritmos , particularmente en inteligencia artificial y aprendizaje automático . [1] [2] [3] Para el subconjunto de algoritmos de IA, se utiliza el término regulación de la inteligencia artificial . El panorama normativo y de políticas para la inteligencia artificial (IA) es un problema emergente en jurisdicciones de todo el mundo, incluida la Unión Europea. [4] La regulación de la IA se considera necesaria tanto para fomentar la IA como para gestionar los riesgos asociados, pero es un desafío. [5]Otro tema emergente es la regulación de los algoritmos blockchain y se menciona junto con la regulación de los algoritmos de IA. [6] Muchos países han promulgado regulaciones de comercio de alta frecuencia , que está cambiando debido al progreso tecnológico en el ámbito de los algoritmos de IA. [7] [8]
La motivación para la regulación de los algoritmos es la aprehensión de perder el control sobre los algoritmos , cuyo impacto en la vida humana aumenta. Varios países ya han introducido regulaciones en caso de cálculo automático de puntajes de crédito; el derecho a una explicación es obligatorio para esos algoritmos. [9] [10] Han surgido preocupaciones sobre el sesgo, la transparencia y la ética con respecto al uso de algoritmos en diversos dominios que van desde la justicia penal [11] hasta la atención médica [12]; muchos temen que la inteligencia artificial pueda replicar las desigualdades sociales existentes a lo largo de la raza , clases, género y sexualidad.
Regulación de la inteligencia artificial
Discusión pública
En 2016, Joy Buolamwini fundó Algorithmic Justice League después de una experiencia personal con software de detección facial sesgado para crear conciencia sobre las implicaciones sociales de la inteligencia artificial a través del arte y la investigación. [13]
En 2017, Elon Musk abogó por la regulación de los algoritmos en el contexto del riesgo existencial de la inteligencia artificial general . [14] [15] [16] Según NPR , el CEO de Tesla "claramente no estaba emocionado" de abogar por el escrutinio del gobierno que podría afectar su propia industria, pero creía que los riesgos de pasar completamente sin supervisión son demasiado altos: "Normalmente La forma en que se establecen las regulaciones es cuando suceden un montón de cosas malas, hay una protesta pública y, después de muchos años, se crea una agencia reguladora para regular esa industria. Lleva una eternidad. Eso, en el pasado, ha sido malo, pero no algo que representó un riesgo fundamental para la existencia de la civilización ". [14]
En respuesta, algunos políticos expresaron su escepticismo sobre la conveniencia de regular una tecnología que aún está en desarrollo. [17] Respondiendo tanto a Musk como a las propuestas de febrero de 2017 de los legisladores de la Unión Europea para regular la inteligencia artificial y la robótica, el director ejecutivo de Intel, Brian Krzanich, ha argumentado que la inteligencia artificial está en su infancia y que es demasiado pronto para regular la tecnología. [18] En lugar de tratar de regular la tecnología en sí, algunos académicos sugieren desarrollar normas comunes que incluyan requisitos para la prueba y transparencia de algoritmos, posiblemente en combinación con alguna forma de garantía. [19] Una sugerencia ha sido el desarrollo de una junta de gobierno global para regular el desarrollo de la IA. [20] En 2020, la Unión Europea publicó su borrador de documento de estrategia para promover y regular la IA. [21]
La colusión tácita algorítmica es una práctica antimonopolio legalmente dudosa cometida por medio de algoritmos, que los tribunales no pueden procesar. [22] Este peligro preocupa a científicos y reguladores en la UE, EE. UU. Y más allá. [22] La comisaria europea Margrethe Vestager mencionó un ejemplo temprano de colusión tácita algorítmica en su discurso sobre "Algoritmos y colusión" el 16 de marzo de 2017, que se describe a continuación: [23]
“Hace unos años, dos compañías vendían un libro de texto llamado The Making of a Fly. Uno de esos vendedores usó un algoritmo que esencialmente igualaba el precio de su rival. Ese rival tenía un algoritmo que siempre fijaba un precio 27% más alto que el primero. El resultado fue que los precios siguieron subiendo en espiral, hasta que finalmente alguien se dio cuenta de lo que estaba pasando y ajustó el precio manualmente. En ese momento, el libro se estaba vendiendo, o mejor dicho, no se estaba vendiendo, por 23 millones de dólares el ejemplar ".
En 2018, los Países Bajos emplearon un sistema algorítmico SyRI (Systeem Risico Indicatie) para detectar a los ciudadanos que se percibían como de alto riesgo de cometer fraude a la asistencia social , que silenciosamente señaló a miles de personas a los investigadores. [24] Esto provocó una protesta pública. El tribunal de distrito de La Haya cerró Siria haciendo referencia al artículo 8 del Convenio Europeo de Derechos Humanos (CEDH). [25]
En 2020, los algoritmos que asignan calificaciones de exámenes a los estudiantes en el Reino Unido provocaron una protesta abierta bajo el lema "A la mierda el algoritmo". [26] Esta protesta tuvo éxito y se retiraron las calificaciones. [27]
Implementación
Las leyes y regulaciones de IA se pueden dividir en tres temas principales, a saber, la gobernanza de los sistemas de inteligencia autónomos, la responsabilidad y la rendición de cuentas por los sistemas y las cuestiones de privacidad y seguridad. [5] El desarrollo de estrategias del sector público para la gestión y regulación de la IA se ha considerado cada vez más necesario a nivel local, nacional [28] e internacional [21] y en una variedad de campos, desde la gestión de servicios públicos [29] a aplicación de la ley, [21] el sector financiero, [28] robótica, [30] el ejército, [31] y el derecho internacional. [32] [33] Hay muchas preocupaciones de que no hay suficiente visibilidad y seguimiento de la IA en estos sectores. [34] En el sector financiero, por ejemplo, se ha pedido a la Oficina de Protección Financiera del Consumidor que examine más de cerca el código fuente y los algoritmos al realizar auditorías de los datos no públicos de las instituciones financieras. [35]
En los Estados Unidos, el 7 de enero de 2019, luego de una Orden Ejecutiva sobre 'Mantener el liderazgo estadounidense en inteligencia artificial', la Oficina de Política de Ciencia y Tecnología de la Casa Blanca publicó un borrador de Guía para la Regulación de Aplicaciones de Inteligencia Artificial , que incluye diez principios para Agencias de los Estados Unidos a la hora de decidir si regular la IA y cómo hacerlo. [36] [37] En respuesta, el Instituto Nacional de Estándares y Tecnología ha publicado un documento de posición, [38] la Comisión de Seguridad Nacional sobre Inteligencia Artificial ha publicado un informe provisional, [39] y la Junta de Innovación de Defensa ha emitido recomendaciones sobre el uso ético de la IA. [40]
En 2016, China publicó un documento de posición cuestionando la idoneidad del derecho internacional existente para abordar la eventualidad de armas totalmente autónomas , convirtiéndose en el primer miembro permanente del Consejo de Seguridad de la ONU en abordar el tema, [32] y dando lugar a propuestas de regulación global . [41] En los Estados Unidos, la Comisión de Seguridad Nacional sobre Inteligencia Artificial proporciona la dirección sobre la regulación de la IA relacionada con la seguridad. [42]
Regulación de algoritmos blockchain
Los sistemas Blockchain proporcionan registros transparentes y fijos de transacciones y, por la presente, contradicen el objetivo del RGPD europeo , que es brindar a las personas el control total de sus datos privados. [43] [44]
Al implementar el Decreto sobre el desarrollo de la economía digital , Bielorrusia se ha convertido en el primer país en legalizar los contratos inteligentes . Se considera que el abogado bielorruso Denis Aleinikov es el autor de un concepto legal de contrato inteligente introducido por el decreto. [45] [46] [47] Existen sólidos argumentos de que las leyes estatales de EE. UU. Existentes ya son una base sólida para la aplicabilidad de los contratos inteligentes: Arizona , Nevada , Ohio y Tennessee han enmendado sus leyes específicamente para permitir la aplicabilidad de blockchain contratos basados, no obstante. [48]
En la cultura popular
En 1942, el autor Isaac Asimov abordó la regulación de los algoritmos al presentar las tres leyes ficticias de la robótica :
- Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daños.
- Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.
- Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o Segunda Ley. [49]
La principal alternativa a la regulación es la prohibición, y actualmente es muy poco probable que se prohíban los algoritmos. Sin embargo, en Frank Herbert 's Duna universo , pensando máquinas es un término colectivo para la inteligencia artificial , que fueron completamente destruido y prohibido después de una revuelta conocida como la Jihad Butleriano : [50]
JIHAD, BUTLERIAN: (ver también Gran Revuelta) - la cruzada contra las computadoras, las máquinas pensantes y los robots conscientes comenzó en 201 BG y concluyó en 108 BG Su mandamiento principal permanece en la Biblia OC como "No harás una máquina a semejanza de una mente humana ". [51]
Ver también
- Transparencia algorítmica
- Inteligencia artificial
- Carrera armamentista de inteligencia artificial
- Inteligencia artificial en el gobierno
- Ética de la inteligencia artificial
- Gobierno por algoritmo
- La Ley de privacidad
Referencias
- ^ "Los algoritmos se han salido de control. Es hora de regularlos" . theweek.com . 3 de abril de 2019 . Consultado el 22 de marzo de 2020 .
- ^ Martini, Mario. "FUNDAMENTOS DE UN SISTEMA REGULADOR PARA PROCESOS BASADOS EN ALGORITMOS" (PDF) . Consultado el 22 de marzo de 2020 .
- ^ "Aumento y regulación de algoritmos" . Sociedad Global de Berkeley . Consultado el 22 de marzo de 2020 .
- ^ Biblioteca de Derecho del Congreso (EE. UU.). Dirección de Investigación Jurídica Global, organismo emisor. Regulación de la inteligencia artificial en jurisdicciones seleccionadas . OCLC 1110727808 .
- ^ a b Wirtz, Bernd W .; Weyerer, Jan C .; Geyer, Carolin (24 de julio de 2018). "Inteligencia artificial y sector público: aplicaciones y desafíos" . Revista Internacional de Administración Pública . 42 (7): 596–615. doi : 10.1080 / 01900692.2018.1498103 . ISSN 0190-0692 . S2CID 158829602 .
- ^ Fitsilis, Fotios (2019). Imponer regulación sobre algoritmos avanzados . Springer International Publishing. ISBN 978-3-030-27978-3.
- ^ Ganesh, Prakhar (30 de junio de 2019). "Trading de alta frecuencia (HFT) con AI: simplificado" . Medio .
- ^ "Las mejores soluciones de software de comercio algorítmico de inteligencia artificial para un ROI serio" . HackerNoon.com . Consultado el 28 de marzo de 2020 .
- ^ Oficina de protección financiera del consumidor , §1002.9 (b) (2)
- ^ Edwards, Lilian; Veale, Michael (2018). "Esclavizar el algoritmo: ¿de un 'derecho a una explicación' a un 'derecho a tomar mejores decisiones'?" (PDF) . Seguridad y privacidad de IEEE . 16 (3): 46–54. doi : 10.1109 / MSP.2018.2701152 . S2CID 4049746 . SSRN 3052831 .
- ^ "La IA está enviando gente a la cárcel, y se equivoca" . Revisión de tecnología del MIT . Consultado el 24 de enero de 2021 .
- ^ Ledford, Heidi (24 de octubre de 2019). "Millones de personas negras afectadas por prejuicios raciales en los algoritmos de atención médica" . Naturaleza . 574 (7780): 608–609. doi : 10.1038 / d41586-019-03228-6 .
- ^ Lufkin, Bryan. "Justicia algorítmica" . www.bbc.com . Consultado el 31 de diciembre de 2020 .
- ^ a b "Elon Musk advierte a los gobernadores: la inteligencia artificial representa 'riesgo existencial ' " . NPR.org . Consultado el 27 de noviembre de 2017 .
- ^ Gibbs, Samuel (17 de julio de 2017). "Elon Musk: regula la IA para combatir la 'amenaza existencial' antes de que sea demasiado tarde" . The Guardian . Consultado el 27 de noviembre de 2017 .
- ^ Kharpal, Arjun (7 de noviembre de 2017). "La IA está en su 'infancia' y es demasiado pronto para regularla, dice el CEO de Intel, Brian Krzanich" . CNBC . Consultado el 27 de noviembre de 2017 .
- ^ Gibbs, Samuel (17 de julio de 2017). "Elon Musk: regula la IA para combatir la 'amenaza existencial' antes de que sea demasiado tarde" . The Guardian . Consultado el 27 de noviembre de 2017 .
- ^ Kharpal, Arjun (7 de noviembre de 2017). "La IA está en su 'infancia' y es demasiado pronto para regularla, dice el CEO de Intel, Brian Krzanich" . CNBC . Consultado el 27 de noviembre de 2017 .
- ^ Kaplan, Andreas; Haenlein, Michael (2019). "Siri, Siri, en mi mano: ¿Quién es la más bella del país? Sobre las interpretaciones, ilustraciones e implicaciones de la inteligencia artificial". Horizontes de negocios . 62 : 15-25. doi : 10.1016 / j.bushor.2018.08.004 .
- ^ Boyd, Matthew; Wilson, Nick (1 de noviembre de 2017). "Desarrollos rápidos en inteligencia artificial: ¿cómo podría responder el gobierno de Nueva Zelanda?" . Política trimestral . 13 (4). doi : 10.26686 / pq.v13i4.4619 . ISSN 2324-1101 .
- ^ a b c Libro blanco: Sobre la inteligencia artificial: un enfoque europeo de la excelencia y la confianza (PDF) . Bruselas: Comisión Europea. 2020. p. 1.
- ^ a b Ezrachi, A .; Stucke, ME (13 de marzo de 2020). "Colusión tácita algorítmica sostenible e indiscutible". Revista Northwestern de Tecnología y Propiedad Intelectual . 17 (2). ISSN 1549-8271 .
- ^ VESTAGER, Margrethe (2017). "Algoritmos y competencia" (18º Congreso de Competencia del Bundeskartellamt) . Comisión Europea . Consultado el 1 de mayo de 2021 .
- ^ "Europa limita al gobierno por algoritmo. Estados Unidos, no tanto" . Cableado . Consultado el 11 de abril de 2020 .
- ^ Haag, Rechtbank Den (6 de marzo de 2020). "ECLI: NL: RBDHA: 2020: 1878, Rechtbank Den Haag, C-09-550982-HA ZA 18-388 (inglés)" . uitspraken.rechtspraak.nl (en holandés) . Consultado el 11 de abril de 2020 .
- ^ "Los algoritmos de clasificación sesgados alimentan la reacción más allá del aula" . Cableado . Consultado el 26 de septiembre de 2020 .
- ^ Reuter, Markus (17 de agosto de 2020). "A la mierda el algoritmo - Jugendproteste en Großbritannien gegen maschinelle Notenvergabe erfolgreich" . netzpolitik.org (en alemán) . Consultado el 3 de octubre de 2020 .
- ^ a b Bredt, Stephan (4 de octubre de 2019). "Inteligencia artificial (IA) en el sector financiero: potencial y estrategias públicas" . Fronteras en Inteligencia Artificial . 2 . doi : 10.3389 / frai.2019.00016 . ISSN 2624-8212 .
- ^ Wirtz, Bernd W .; Müller, Wilhelm M. (3 de diciembre de 2018). "Un marco integrado de inteligencia artificial para la gestión pública". Revisión de la gestión pública . 21 (7): 1076-1100. doi : 10.1080 / 14719037.2018.1549268 . ISSN 1471-9037 . S2CID 158267709 .
- ^ Iphofen, Ron; Kritikos, Mihalis (3 de enero de 2019). "Regulación de la inteligencia artificial y la robótica: ética desde el diseño en una sociedad digital". Ciencias sociales contemporáneas : 1-15. doi : 10.1080 / 21582041.2018.1563803 . ISSN 2158-2041 .
- ^ Estados Unidos. Junta de Innovación de Defensa. Principios de la IA: recomendaciones sobre el uso ético de la inteligencia artificial por parte del Departamento de Defensa . OCLC 1126650738 .
- ^ a b "Robots con armas: el auge de los sistemas de armas autónomos" . Snopes.com . 21 de abril de 2017 . Consultado el 24 de diciembre de 2017 .
- ^ Bento, Lucas (2017). "No Mere Deodands: Responsabilidades humanas en el uso de sistemas inteligentes violentos en el derecho internacional público" . Depositario de Becas de Harvard . Consultado el 14 de septiembre de 2019 .
- ^ MacCarthy, Mark. "AI necesita más regulación, no menos" . Brookings .
- ^ Van Loo, Rory. "Regulación tecnológica por defecto: plataformas, privacidad y el CFPB" . Revisión de tecnología de leyes de Georgetown . 2 (1): 542–543.
- ^ "Actualización de AI: la Casa Blanca emite 10 principios para la regulación de la inteligencia artificial" . Inside Tech Media . 2020-01-14 . Consultado el 25 de marzo de 2020 .
- ^ Memorando de los Jefes de Departamentos y Agencias Ejecutivos (PDF) . Washington, DC: Oficina de Política Científica y Tecnológica de la Casa Blanca. 2020.
- ^ Liderazgo estadounidense en inteligencia artificial: un plan para la participación federal en el desarrollo de estándares técnicos y herramientas relacionadas (PDF) . Instituto Nacional de Ciencia y Tecnología. 2019.
- ^ Informe provisional de NSCAI para el Congreso . La Comisión de Seguridad Nacional de Inteligencia Artificial. 2019.
- ^ Principios de IA: recomendaciones sobre el uso ético de la inteligencia artificial por parte del Departamento de Defensa (PDF) . Washington, DC: Consejo de Innovación de Defensa. 2020.
- ^ Baum, Seth (30 de septiembre de 2018). "Contrarrestar la desinformación de la superinteligencia" . Información . 9 (10): 244. doi : 10.3390 / info9100244 . ISSN 2078-2489 .
- ^ Stefanik, Elise M. (22 de mayo de 2018). "HR5356 - 115º Congreso (2017-2018): Ley de inteligencia artificial de la Comisión de Seguridad Nacional de 2018" . www.congress.gov . Consultado el 13 de marzo de 2020 .
- ^ "Un informe reciente emitido por la Asociación de Blockchain de Irlanda ha descubierto que hay muchas más preguntas que respuestas cuando se trata de GDPR" . siliconrepublic.com . 23 de noviembre de 2017. Archivado desde el original el 5 de marzo de 2018 . Consultado el 5 de marzo de 2018 .
- ^ "Blockchain y el Reglamento General de Protección de Datos - Think Tank" . www.europarl.europa.eu (en alemán) . Consultado el 28 de marzo de 2020 .
- ^ Makhovsky, Andrei (22 de diciembre de 2017). "Bielorrusia adopta la ley de criptomonedas para atraer a los inversores extranjeros" . Reuters .
- ^ "Bielorrusia promulga un marco legal único para las partes interesadas de la criptoeconomía" (PDF) . Deloitte . 27 de diciembre de 2017.
- ^ Patricolo, Claudia (26 de diciembre de 2017). "Las TIC recibieron un gran impulso en Bielorrusia" . Europa emergente.
- ^ Levi, Stuart; Lipton, Alex; Vasile, Christina (2020). "Leyes y regulaciones de Blockchain | 13 cuestiones legales que rodean el uso de contratos inteligentes | GLI" . GLI - Global Legal Insights Soluciones de negocios legales internacionales . Consultado el 21 de abril de 2020 .
- ^ Asimov, Isaac (1950). "Corre alrededor". Yo, Robot (The Isaac Asimov Collection ed.). Ciudad de Nueva York: Doubleday. pag. 40. ISBN 978-0-385-42304-5.
Esta es una transcripción exacta de las leyes. También aparecen en la portada del libro, y en ambos lugares no hay "para" en la 2ª ley.
- ^ Herbert, Frank (1969). Mesías de las dunas .
- ^ Herbert, Frank (1965). "Terminología del Imperio: JIHAD, BUTLERIAN". Dune . Filadelfia, Chilton Books.