Se dice que la violencia engendra violencia, y ciudades como Nueva York han visto lo peor de la violencia. Pero la violencia también engendra innovación, y ciudades como Nueva York están presenciando el desarrollo de soluciones de punta para prevenir el crimen. La Comisión Ciudadana del Crimen de Nueva York, una organización independiente, sin fines de lucro que busca reducir el crimen y mejorar el sistema de justicia, ha estado a la vanguardia de muchos de estos esfuerzos. En esta entrevista, Richard Aborn, el presidente de la comisión y un asesor del Banco, nos cuenta sobre cómo han aprovechado el aprendizaje de máquinas (‘machine learning’) y los medios sociales digitales para prevenir la violencia.
A English translation of this interview is available here.
Si queremos reducir el crimen y la violencia, ya sea en Nueva York o en América Latina y el Caribe, ¿por qué deberíamos prestarle atención a los medios sociales digitales?
Aborn: Estamos viendo una movilización rápida, en Nueva York y en los Estados Unidos, de la violencia que ocurre entre miembros de pandillas en las calles a las plataformas de medios en línea, especialmente Facebook, y estos intercambios son cada vez más violentos. Uno ve amenazas, videos, fotos de pistolas, y ataques a otros. Luego uno ve como eso se magnifica, porque no solo es la persona que está publicando estas cosas, sino que sus amigos también van a decir y hacer estas cosas. El otro lado después va comenzar a responder con comentarios igualmente peligrosos, convirtiendo lo que en las calles hubiera sido una simple discusión en una completa guerra cibernética. Entonces tenemos esta gran aceleración de la violencia verbal en Facebook.
Pero alarmantemente esto no se queda en el espacio cibernético.
Hemos notado ahora es que esto no para en Facebook. Ahora está volviendo a las calles, y estamos viendo que resulta en homicidios, homicidios reales que suceden como resultado de estos intercambios en línea. Solamente en Nueva York en los últimos años, hemos visto que los comportamientos riesgosos en medios sociales digitales han resultado en 240 tiroteos, 24 homicidios, y el enjuiciamiento de más de 700 jóvenes. Entonces, sabemos que hay violencia física y real que está fluyendo de la violencia en los medios digitales, y estamos empeñados en encontrar intervenciones que puedan reducirla.
¿Cómo son capaces de atribuir un homicidio específico a alguna interacción en línea?
Aborn: Porque monitoreamos el diálogo que sucede entre miembros de pandillas u otros miembros de alto riesgo. Sabemos quién está amenazando a quién, y cuándo, sabemos cuándo ocurre el homicidio, y luego, muy a menudo, hay alguna afirmación del homicidio en Facebook.
¿Y tienen alguna tecnología para hacer eso o lo hacen manualmente?
Aborn: Lo hacemos trabajando con personas que están basadas en la comunidad, personas que han sido entrenadas para ser lo que llamamos interruptores de violencia (IVs), y estas personas usualmente son criminales reformados, que han entendido que tienen una obligación de ayudar a prevenir que otras personas vivan vidas de crimen, y de reducir los niveles de violencia en sus comunidades. Es un mecanismo que está muy basado en la comunidad, y los IVs están en el centro de este proceso; son personas que se han dedicado a mejorar y salvar vidas en sus propias comunidades, a menudo con muy poca remuneración, pero esencialmente diciendo ‘no sigan el camino que yo tomé.’
¿Cuál es la diferencia entre el contenido violento en medios social digitales y una discusión entre dos personas en la calle?
Aborn: Cuando uno tiene una discusión en la calle, la discusión sucede, termina y luego en general, desaparece. Pero en Facebook, cuando uno tiene una discusión queda ahí para que todo el mundo la vea, es permanente, y además se amplifica porque la gente empieza a comentar. Es decir, en Facebook existe un apalancamiento, un apalancamiento hacia la violencia.
¿Entonces qué herramientas han diseñado para atender esta violencia que está yendo de Facebook a las calles?
Aborn: Estamos desarrollando dos herramientas tecnológicas que se complementan. La primera que desarrollamos es E-responder. E-responder es una herramienta para intervenciones en línea utilizada por profesionales para intervenir en intercambios violentos en línea. Está basado en conceptos y destrezas tradicionales de la resolución de conflicto, pero entrenamos a los profesionales para que usen estas destrezas en un ambiente digital. Y de hecho hemos visto que realmente puede ser muy efectiva. Una evaluación de la Universidad de Nueva York encontró que 97% de las intervenciones de E-responder llevaron a resultados positivos, 60% de las intervenciones hicieron a las personas sentirse empoderadas para cambiar su comportamiento, y alrededor de un 40% resultaron en la mitigación de un conflicto.
Increíble. ¿Y cuál sería un ejemplo de cómo funciona esto? Hay una discusión en Facebook…
Aborn: Entrenaríamos al E-responder ya sea para publicar algo que comienza a interrumpir la violencia o enviar algo directamente a la persona que hizo el comentario violento para ayudarlos a que piensen sobre las ramificaciones de lo que han hecho. O trabajaríamos con la persona que hizo el comentario peligroso para que lo borre y ofrecerle servicios comunitarios que podrían ser útiles.
Pero también estamos viendo un crecimiento en la expresión del duelo, como un factor subyacente a conductas violentas, y estamos tomando medidas específicas para atender este fenómeno.
¿Qué exactamente quiere decir con esto último sobre el duelo? ¿Me podría dar un ejemplo?
Aborn: Cuando un grupo o una persona ve a amigos arrestados o baleados, cuando ve a niñas golpeadas, o a su madre agredida por su pareja, esto genera un duelo. En el contexto de jóvenes de alto riesgo, el duelo se puede manifestar no como depresión sino como violencia. Entonces cada vez más nos estamos sensibilizando a esto, y sabemos que tenemos que ser capaces de monitorear no solo el contenido peligroso o amenazador en línea, sino también contenido relacionado con el duelo ya que muy a menudo está precediendo a conductas violentas.
Y estos E-responders… ¿con quién están en contacto en Facebook? Cómo escogen a quién monitorear?
Aborn: Esencialmente, los E-responders tienen participantes del programa con los que trabajan en persona, y son más que todo jóvenes entre los 18 – 25 años. Los E-responders trabajan con los jóvenes semanalmente, y parte del trato es que los participantes les dan accesos a sus páginas de Facebook y a otras plataformas digitales.
Qué interesante, es como una forma nueva de integrar medios sociales en intervenciones comunitarias. ¿Y el programa FAST?
Aborn: E-responder está funcionando muy bien. Hemos entrenando a todos estos interruptores de violencia para que se metan en estas discusiones en línea y ayuden a calmarlas. Pero luego nos dijeron, ‘Esta herramienta nos encanta, pero estamos abrumados con la cantidad de publicaciones, y no sabemos qué es una amenaza real, o cuando son solo personas gritándose sin que constituya una amenaza real.’
Entonces ahora desarrollamos una herramienta analítica llamada FAST (por sus siglas en inglés: Facebook Application Screening Tool), que opera en Facebook y la herramienta está leyendo todos los comentarios que se publican. A través de un algoritmo bastante complicado desarrollamos una forma de valorar el lenguaje publicado y tomar una decisión sobre qué constituye una publicación inmediatamente peligrosa, qué constituye una amenaza, y cuáles publicaciones no representan una amenaza. Y está enviando esta información a los interruptores de violencia como una herramienta de priorización que les permite decidir dónde enfocar su atención.
¿Entonces aquella historia de Molly sucedió en el contexto de FAST?
Aborn: Los interruptores de violencia estaban viendo una referencia a Molly, y no tenían idea quién era Molly. Pero todo el mundo estaba hablando de ella, de llevarla a fiestas y toda la cosa, y resulta ser que Molly es un código para una pistola. Uno necesita indicios para poder averiguar esto, y ahí es donde entra el rol de la tecnología. Pero la tecnología por si sola no es suficiente. También tenemos valiosas conexiones con las comunidades donde está ocurriendo el crimen que nos ayudan a entender el contexto de la mayoría del diálogo. Y esto nos ayuda a desarrollar nuestro software más precisamente.
Pero ahora tenemos un cuento nuevo. Hay un jugador de baloncesto muy famoso llamado Curry, es un tirador, muy bueno colocando la pelota en el aro. El tema es que empezamos a ver que las personas se estaban refiriendo a un tal Curry, y nos preguntábamos ‘¿Qué significa eso?’ o decían ‘Llamen a Curry’ o ‘¿Saben dónde puedo conseguir a Curry?’ No podíamos averiguar qué era. Y resulta ser que era un tirador.
Y la forma en qué descubrieron esto fue… ¿cómo?
Aborn: Usamos dos cosas, la tecnología y nuestros contactos claves en la policía y en las calles. Uno tiene que conocer todos los lados. La policía también puede estar muy interesada en temas de prevención y cooperar bastante. Su meta principal es parar la violencia, preferiblemente antes de que empeore, y por eso reconocen la importancia de trabajar con jóvenes de alto riesgo.
Lo importante cuando pensamos en tecnología es que no importa cuán bien la usemos, es sólo una herramienta. No es algo que reemplace la intervención humana. Complementa la intervención humana, la hace más efectiva, pero no la reemplaza.
¿Quiere saber más sobre tendencias y conocimiento en seguridad ciudadana? Suscríbase a nuestras alertas de email del blog Sin Miedos
Foto: Flickr CC Júbilo Haku
Leave a Reply