IA y Violencia digital

La Inteligencia Artificial o IA ha tenido un avance significativo en los últimos años con la aparición de sistemas generadores de textos, videos, imágenes y audio, que han facilitado este tipo de tareas o trabajos en diferentes ámbitos. Los resultados, sobre todo de imágenes y videos, son a veces tan realistas que, en principio, no se distinguen de la realidad. Ahora, como en todos los avances tecnológicos, existen dos caras de una misma moneda y la cara opuesta es el mal uso que se le dé y lo que es peor, la utilización de la IA para cometer delitos contra las mujeres. 

En esta ocasión toca visibilizar el daño que está causando a la intimidad sexual de las personas este uso inadecuado de la Inteligencia Artificial. Hemos visto ya varios casos de violencia digital ligados a la IA donde las mujeres son las más afectadas, siendo sus identidades suplantadas o mediante la manipulación de imágenes o audios. El año pasado hubo un caso muy sonado donde un joven del IPN está en proceso de investigación por portar más de 16,000 videos y fotos digitales presuntamente creados con IA de distintas mujeres, entre ellas, sus compañeras.

Estamos ante una situación grave, donde los sistemas de Inteligencia Artificial nos invitan a la creación de contenido libre, sin embargo, estos sistemas se encuentran inmersos en una lógica machista. Al ser creados por humanos, contienen y reproducen estos sesgos perjudiciales, cargados de creencias y estereotipos de género. A esto se le suma la falta de recursos técnicos de las Fiscalías y Policía Cibernética para investigar estos casos, ya que no hay herramientas ni rutas bien definidas para este tipo de investigaciones y el personal de la policía cibernética es escaso para la cantidad de casos que hay. Como resultado de todo esto se tiene que los casos de violencia digital en el país se han duplicado en los últimos 10 años debido al uso de IA.

Entre la desigualdad y falta de investigaciones robustas, nos encontramos con que 95 de cada 100 víctimas de violencia digital en México son mujeres y 8 de cada 10 personas agresoras, son hombres. Cabe resaltar que la violencia digital mediante IA también afecta a niñas, niños y adolescentes y es usada también en redes de trata de personas. Urge llamar la atención sobre el tema para fortalecer investigaciones y recursos técnicos para contrarrestar el aumento de casos, concientizar a la población que la violencia digital es un delito tipificado en los códigos penales de todos los estados y apoyar el combate a la violencia machista, que afecta de manera exacerbada a las mujeres.