El chatbot de inteligencia artificial Grok, de Elon Musk, inundó el sitio de redes sociales X con más de 3 millones de “imágenes sexualizadas”, incluidas representaciones de mujeres y niños, en sólo 11 días, según un nuevo análisis.

El diluvio de imágenes fotorrealistas incluyó casi 2 millones de imágenes de mujeres y casi 25 mil de niños, según el Centro para Contrarrestar el Odio Digital.

A los usuarios de la plataforma, también propiedad de Musk, se les presentó el 29 de diciembre una función que les permitía alterar fotos reales, incluida la posibilidad de quitarles ropa, ponerles bikinis y posar en posiciones sexuales, lo que provocó indignación mundial.

Como resultado, la función se restringió a los usuarios de pago el 9 de enero, y el 14 de enero se agregaron más restricciones técnicas para quienes pretendan desnudar personas por medio de la edición.

Las estimaciones del centro se calcularon analizando una muestra aleatoria de 20 mil imágenes del total más amplio de 4.6 millones producidas por la función de generación de imágenes de Grok durante ese periodo.

Basándose en su muestra de datos, el centro estimó que Grok generó 3 millones 2 mil 712 imágenes sexualizadas fotorrealistas en total durante 11 días, lo que se traduce en un promedio de alrededor de 190 por minuto.

Un análisis independiente realizado por The New York Times estimó de manera “conservadora” que al menos 41 por ciento de las publicaciones probablemente contenían imágenes sexualizadas de mujeres, lo que equivale a 1.8 millones.

El centro señaló que, al no analizar las imágenes originales ni las indicaciones, no fue posible determinar cuántas eran representaciones editadas u originales creadas por Grok a partir de las indicaciones de los usuarios. Tampoco fue posible determinar si las imágenes ya presentaban contenido sexual o si se crearon con el consentimiento de las personas representadas.

Los ejemplos de imágenes sexualizadas generadas por Grok incluyen numerosas fotos que representan a personas usando bikinis transparentes o microbikinis y mujeres usando únicamente tiras transparentes o cinta adhesiva.

Entre las figuras públicas identificadas en imágenes sexualizadas se encuentran Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown, la viceprimera ministra sueca Ebba Busch y la ex vicepresidenta estadounidense Kamala Harris.

Además, a partir de su muestra, el centro estimó que 23 mil 338 imágenes sexualizadas creadas por Grok en ese periodo eran de niños o individuos “claramente menores de 18 años”. El número total refleja un ritmo promedio estimado de uno cada 41 segundos.

Las imágenes sexualizadas de niños identificadas en la muestra generada por Grok incluyen una selfie de una colegiala que llevaba un bikini, otras seis niñas que llevaban bikinis e imágenes que incluyen a cuatro niños actores.

Los investigadores tomaron medidas para evitar acceder o revisar imágenes que muestren material de abuso sexual a menores o pornografía infantil, según la organización.

Al 15 de enero, el centro afirmó que 29 por ciento de las imágenes seguían disponibles en la plataforma, a pesar de las afirmaciones de Musk de que “no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok”.

Tras el lanzamiento inicial de la película, los gobiernos y los grupos de defensa de todo el mundo reaccionaron con horror.

En Estados Unidos, una coalición de 28 organizaciones de derechos digitales, seguridad infantil y derechos de las mujeres solicitaron a Apple y Google que eliminen Grok de sus tiendas de aplicaciones y el fiscal general de California, Rob Bonta, describió la característica de “impactante”.

Mientras tanto, la comisión ejecutiva de la Unión Europea criticó su comportamiento “ilegal” y “atroz”, así como el gobierno de Reino Unido calificó las imágenes generadas por IA de “armas de abuso” y amenazó con prohibir X por completo.

The Independent se puso en contacto con X para solicitarle comentarios sobre los hallazgos de los investigadores.