Negobot también conocida como Lolita o conversacional Lolita es un chatterbot que fue presentado al público en 2013, diseñado por investigadores de la Universidad de Deusto y Optenet para atrapar pedófilos en línea. Es un agente conversacional que utiliza procesamiento de lenguaje natural (NLP), recuperación de información (IR) y aprendizaje automático . [1] Debido a que el robot se hace pasar por una mujer joven para atraer y rastrear a los depredadores potenciales, se hizo conocido en los medios como la "Lolita virtual", en referencia a la novela de Vladimir Nabokov . [2]
Fondo
En 2013, los investigadores de la Universidad de Deusto publicaron un artículo sobre su trabajo con Negobot y divulgaron el texto online. En su resumen, los investigadores abordaron la cuestión de que un número cada vez mayor de niños utilizan Internet y que estos usuarios jóvenes son más susceptibles a los riesgos existentes en Internet. Su principal objetivo era crear un chatbot con la capacidad de atrapar a los depredadores en línea que representaban una amenaza para los niños. Tenían la intención de implementar el bot en sitios frecuentados por depredadores, como redes sociales y salas de chat . Los investigadores de la universidad utilizaron información proporcionada por la organización activista contra la pedofilia Perverted-Justice , incluidos ejemplos de encuentros y conversaciones en línea con depredadores sexuales, para complementar el sistema de inteligencia artificial del programa. [1]
Características
Persona programada
El charlatán adopta la apariencia de una niña ingenua y vulnerable de 14 años. Los programadores del bot utilizaron métodos de inteligencia artificial y procesamiento del lenguaje natural para crear un agente conversacional que domina el argot típico de los adolescentes, los errores ortográficos y el conocimiento de la cultura pop. A través de estas características lingüísticas, el bot puede imitar el estilo conversacional de los jóvenes adolescentes. También presenta personalidades divididas y siete patrones diferentes de conversación. [3] El creador principal de Negobot, el Dr. Carlos Laorden, expresó la importancia del estilo de comunicación distinguible del bot, afirmando que normalmente, "los chatbots tienden a ser muy predecibles. Su comportamiento e interés en una conversación son planos, lo cual es un problema cuando tratando de detectar objetivos no confiables como pedófilos ". Lo que hace a Negobot diferente es su función de teoría de juegos , que le permite "mantener una conversación mucho más realista". Además de poder imitar a un adolescente estereotipado, el programa también puede traducir mensajes a diferentes idiomas. [4]
Teoría de juego
Los diseñadores de Negobot lo programaron con la capacidad de tratar las conversaciones con depredadores potenciales como si fuera un juego, con el objetivo de recopilar tanta información sobre el sospechoso como fuera posible que pudiera proporcionar evidencia de características y motivos pedófilos. El uso de la teoría de juegos da forma a las decisiones que toma el bot y la dirección general de la conversación. [1]
El bot inicia sus operaciones encubiertas entrando en un chat como participante pasivo, a la espera de ser conversado por un usuario. Una vez que un usuario provoca una conversación, el bot enmarcará la conversación de tal manera que mantenga al objetivo comprometido, extrayendo información personal y disuadiéndolo de abandonar el chat. Luego, la información se registra para ser potencialmente enviada a la policía. Si el objetivo parece perder interés, el bot intenta hacerlo sentir culpable expresando sentimientos de soledad y necesidad emocional a través de respuestas estratégicas y formuladas, lo que en última instancia prolonga la interacción. Además, el bot puede proporcionar información falsa sobre sí mismo en un intento de atraer al objetivo a reuniones físicas. [3]
Limitaciones
A pesar de poder mantener una conversación realista, Negobot sigue sin poder detectar sutilezas lingüísticas en los mensajes de los demás, incluido el sarcasmo . [4]
Controversia
John Carr, especialista en seguridad infantil en línea, expresó su preocupación a la BBC por la legalidad de esta investigación encubierta. Afirmó que usar el bot en usuarios de Internet desprevenidos podría considerarse una forma de trampa o acoso. El tipo de información que Negobot recopila de posibles depredadores en línea, dijo, es poco probable que se confirme en los tribunales. [2] Además, advirtió que depender únicamente del software sin ninguna vigilancia del mundo real corre el riesgo de incitar a las personas a hacer o decir cosas que no tendrían si la vigilancia del mundo real fuera un factor. [5]
Ver también
Referencias
- ^ a b c Laorden, Carlos; Galán-García, Patxi; Santos, Igor; Sanz, Borja; Hidalgo, José María Gómez; Bringas, Pablo G. (23 de agosto de 2012). Negobot: Agente conversacional basado en la teoría de juegos para la detección de comportamientos pedófilos (PDF) . ISBN 978-3-642-33018-6. Archivado desde el original (PDF) el 17 de septiembre de 2013.
- ^ a b Scharr, Jillian (12 de julio de 2013). "El controvertido chatbot 'Lolita' atrapa a los depredadores en línea" . NBC News .
- ^ a b Jauregui, Andrés (11 de julio de 2013). "Negobot, 'Virtual Lolita', utiliza la teoría de juegos para atrapar a los depredadores infantiles en las salas de chat de Internet" . Huffington Post . HuffPost .
- ^ a b Von Radowitz, John (10 de julio de 2013). "Virtual Lolita se hace pasar por una colegiala de 14 años para atrapar a los pedófilos en línea" . The Independent .
- ^ " ' Virtual Lolita' tiene como objetivo atrapar a los pedófilos de la sala de chat" . BBC News . 11 de julio de 2013.