La inteligencia artificial (IA) recrudece la violencia contra mujeres y niñas mediante la difusión deliberada de desinformación selectiva, como la publicación automatizada a gran escala, y a menudo involuntaria, de información errónea.

De acuerdo con información de ONU Mujeres, la plataforma de detección de amenazas con IA, Sensity, detectó que “entre 90 y 95 por ciento de todas las ultrafalsificaciones (deepfakes) en línea son imágenes pornográficas creadas sin consentimiento y alrededor de 90 por ciento de esas imágenes muestran a mujeres.

Asimismo, cada vez es más preocupante el aumento de la sextorsión mediante ultrafalsificaciones, que consiste en difundir en sitios web pornográficos imágenes falsas para amenazar o chantajear a alguien, infligiéndole un grave daño.

“Las víctimas de ultrafalsificaciones pueden sufrir consecuencias devastadoras, como traumas sicológicos duraderos, daños a la reputación, aislamiento social o perjuicios económicos, y en algunos casos pueden perder la vida. Las mujeres y las niñas se ven afectadas de forma desproporcionada por este tipo de daños”, alerta el organismo.

Se agrava la misoginia

El organismo asegura que el contenido producido con IA generativa puede reforzar y agravar las normas misóginas que excusan y normalizan la violencia de género, además de posibilitar o incrementar la difusión de información errónea, incluidas noticias falseadas, discursos de odio, acoso y agresiones.

Subraya que los contenidos creados con IA generativa cada vez más avanzada provocan que sea más difícil distinguir entre la información genuina y las falsificaciones.

Esta situación plantea numerosos retos jurídicos, sociales, normativos, técnicos y éticos, y añade que el anonimato de los autores es un obstáculo para que las víctimas de ultrafalsificaciones puedan acceder a la justicia, debido a que las leyes y marcos regulatorios son inadecuados y contribuyen a que persista una cultura de impunidad.