Imagina que eres una estudiante de 16 años viviendo en Latinoamérica. Tienes una discusión con un grupo de amigas, o terminas un noviazgo, como suele ocurrir en la adolescencia. Cuando llegas al colegio al día siguiente, toda tu vida ha cambiado: has sido víctima de deepfakes con contenido de naturaleza íntima como forma de venganza.
Con el auge de nuevas aplicaciones, este ha sido un escenario real para muchas jóvenes en Perú, Ecuador, Nueva Jersey, Brasil y otros países.
¿Qué son los deepfakes?
Se le llama de esa forma al uso de tecnología sofisticada basada en Inteligencia Artificial (IA), que permite superponer rostros y voces en videos o audios. De esta forma, se genera contenido falso, pero altamente realista. En algunos casos, esta herramienta se ha utilizado como forma de extorsión, venta ilegal de contenido explícito, manipulación de discursos políticos, o como una forma de burla hacia celebridades y personas privadas.
En los inicios de esta tecnología, cerca del 2017, las primeras afectadas fueron mujeres famosas. Casos como los montajes de Scarlett Johansson, Gal Gadot y Jennifer Lawrence suscitaron preocupaciones sobre la posibilidad de que videos similares pudieran ser un nuevo medio para difamar y humillar a las mujeres.
Posteriormente, algunos sitios web como Reddit modificaron sus términos de uso para prohibir contenidos explícitos no consentidos en su plataforma. Sin embargo, en el ciberespacio siguen proliferando diversos sitios web y foros dedicados a crear y compartir esta clase de deepfakes.
¿Son los deepfakes una nueva forma de violencia basada en género?
La creciente era digital ha aumentado la productividad y eficiencia, mejorado la comunicación y fomentado la innovación. Pero a su vez, también ha traído consigo el surgimiento de nuevas y sofisticadas formas de reproducción de otros tipos de violencia. Históricamente, esta violencia no ha afectado a todas las personas de la misma manera.
Una encuesta internacional sobre daños en línea realizada por el Centre for Internacional Governance Innovation (CIGI) en 2020 en 18 países con la participación de 18,149 personas, reveló que el 60% de las personas encuestadas había experimentado al menos una de 13 formas de daños en línea. Las personas LGBTQ+ reportaron la proporción más alta de incidentes experimentados. Además, las mujeres representaron una proporción ligeramente mayor que los hombres, aunque ellas eran más propensas a informar un impacto más grave de estos incidentes en comparación con ellos. Entre las formas de daño en línea por las que se preguntó, el uso no consentido de imágenes íntimas fue el incidente que la mayoría consideró perjudicial, especialmente las mujeres (82.8% vs. 71.2% de los hombres).
En lo que respecta a los deepfakes, la evidencia muestra que las mujeres son las principales afectadas. Un estudio sobre el estado de los deepfakes realizado en 2019 por la compañía de ciberseguridad Deeptrace, encontró que 96% de esta clase de videos en línea eran de naturaleza íntima o sexual. Las víctimas eran fundamentalmente mujeres, con frecuencia actrices, músicas, y en menor medida profesionales de los medios de comunicación. En contraste, los videos sin contenido explícito tuvieron como víctimas principales a hombres (61%), principalmente políticos y figuras corporativas.
Violencia basada en género en el ámbito digital
Uno de los aspectos más inquietantes de los deepfakes es su conexión con la venganza mediante la diseminación de contenido íntimo y sexualmente explícito. Esto ocurre cuando, sin el consentimiento de una persona, su pareja, expareja o terceros difunden o amenazan con difundir imágenes intimas sexualmente explicitas de ella, con el propósito de controlarla, castigarla y/o dañar su reputación. Algunas investigaciones han documentado los patrones de género sobre este fenómeno, mostrando que esta afecta desproporcionadamente a mujeres en comparación con los hombres, lo que la convierte en otra forma de violencia de género.
Con un mayor acceso y la rápida adopción de las tecnologías basadas en IA, existe el riesgo de que los deepfakes se conviertan en una herramienta potente y peligrosa para este tipo de crimen, ya que el agresor ya no necesita contenido auténtico, sino que puede generarlo con una calidad que aumenta la probabilidad de que las personas crean que es real. Por otro lado, las víctimas quedan en una situación de vulnerabilidad, dado que resulta difícil refutar la autenticidad de estos videos, y eliminarlos por completo del ciberespacio, por lo cual, las repercusiones tanto a nivel social, laboral o de salud pueden ser de alto impacto. Se hace evidente que las consecuencias de la violencia digital basada en el género, puede acarrear consecuencias que trascienden la esfera del ciberespacio.
Las víctimas de deepfakes pueden llegar a presentar ansiedad generalizada, a la vez que intentan lidiar con la vergüenza, el enojo, la humillación y el estigma. La violación de su privacidad y la difusión de imágenes manipuladas pueden afectar profundamente su salud mental, y por ende su calidad de vida, e incluso causarles trauma. Además, puede tener repercusiones en las relaciones personales y las oportunidades profesionales de las mujeres afectadas.
¿Cómo proteger la seguridad de las mujeres en la era de la Inteligencia Artificial?
Para abordar esta preocupante y creciente tendencia, se requiere una respuesta multidimensional que integre, entre otros elementos la legislación, la tecnología y la educación.
1. Legislación
El impacto de los deepfakes se ve exacerbado por la falta de legislación adecuada y la insuficiente sensibilización y concienciación pública. En muchos países, las leyes y regulaciones aún no han avanzado lo suficiente, ni a la misma velocidad que la tecnología. Sin embargo, existen avances en temas relacionados como la Ley Olimpia en México, que condena actos de violencia digital en múltiples formas y ha avanzado a otros países de América Latina.
Este tipo de iniciativas hace más accesible la denuncia de esta y otras formas de agresión en el ámbito digital, lo cual permite la sanción efectiva de las personas responsables. El promover información sobre los deepfakes también contribuye a evitar un entorno social en el que estas acciones sean minimizadas o ignoradas.
2. Tecnología
Las plataformas digitales como redes sociales y otros sitios web, y las autoridades de seguridad pública deben implementar tecnologías de detección de deepfakes; y otras manifestaciones de violencia digital. Es imperativo impulsar políticas estrictas y acciones para prevenir la difusión de contenido manipulado y con imágenes íintimas no consentidas por sus protagonistas. Pero, además, el aprovechamiento de la tecnología para hacer las respectivas denuncias resulta clave. Algunos ejemplos que ponen la tecnología al servicio de las personas son:
- LegalTech para personas LGBTQ+ en El Salvador. Estos instrumentos facilitan el acceso de personas con identidades de género diversas al experimentar violencia basada en género.
- Sistema Salvia en Colombia. Esta herramienta tecnológica integra múltiples canales para abordar la violencia basada en género: atención presencial, línea telefónica, aplicación móvil, sitio web y mensajería instantánea. De esta forma, se entrelazan diversos sistemas de información y así se evita el proceso revictimizante de registrar los hechos en repetidas ocasiones, a distintas instituciones.
3. Educación
Se deben crear programas educativos que permitan reconocer y denunciar las manifestaciones de violencia digital basada en género. El sistema educativo, tanto público como privado, puede desempeñar un papel fundamental en esta materia. Un trabajo importante se relaciona con la educación en nuevas masculinidades, como nos muestra el proyecto Hablemos entre Patas.
Soluciones a la altura de las nuevas tecnologías
Los deepfakes y otras formas de violencia en línea representan una amenaza creciente para la seguridad y dignidad de las mujeres en el mundo digital actual. Para evitar que la ola aumente, es urgente abordar esta problemática de manera integral. La colaboración y coordinación entre el sector tecnológico, las instituciones legales y de seguridad, y el sistema educativo son cruciales para proteger los derechos y la seguridad de las mujeres, entre otros grupos poblacionales que puedan verse afectados.
El mundo digital debe ser un espacio de crecimiento y creatividad en el que las mujeres puedan expresarse con libertad y seguridad, sin temor a convertirse en la próxima víctima de un deepfake.
Ya que no se puede hacer algo sin que se considere perjudicial en el mundo real, es muchísimo mejor que existan estas deepfakes para cumplir una parte de nuestros deseos mas profundos. Después de todo las mujeres existen únicamente para ser un objeto de placer, ese siempre ha sido su rol natural y es algo que nunca debe cambiar. Si es por medio de las deepfakes que se puede seguir manteniendo eso, entonces que así sea.