Ante la elevada cantidad de contenido dañino para las infancias generado por inteligencia artificial (IA), como acoso sexual, los deepfake (falsificaciones de contenido visual realista), ciberacoso, contenido inapropiado e incorporación de funciones perjudiciales, la Organización de Naciones Unidas lanzó un llamado urgente a los Estados miembros a regular la IA y garantizar la defensa de los derechos de la infancia y la adolescencia.

En un pronunciamiento, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco), el Fondo de Protección a la Infancia (Unicef), la Unión Internacional de Telecomunicaciones (UIT) y la Organización Internacional del Trabajo (OIT), entre otros organismos de la ONU, emitieron diversas recomendaciones, entre ellas que los gobiernos y las empresas verifiquen que los sistemas de IA sean “transparentes, responsables y estén diseñados para proteger a los niños”.

Los organismos multinacionales, destacaron que diversos colectivos pro derechos de los niños, han denunciado que los depredadores “pueden utilizar la IA para analizar el comportamiento en línea de un niño, su estado emocional y sus intereses, con el fin de adaptar su estrategia de acoso”.

Agregan que la IA también permite a los delincuentes “generar imágenes falsas explícitas de niños reales, impulsando una nueva forma de extorsión sexual”.

Al respecto, la UIT subraya el incremento sustancial de casos de ciberacoso a menores, y cita cifras del Instituto Global de Seguridad Infantil Childlight, organismo internacional que recopila datos sobre explotación y abuso sexual infantil, en el que revelan que los casos de abuso infantil facilitado por la tecnología en Estados Unidos aumentaron de 4 mil 700 en 2023 a más de 67 mil en 2024.

Por ello, Naciones Unidas exhortó a los Estados miembros a reforzar los marcos de gobernanza de la IA para defender y proteger los derechos del niño, sector cuya opinión debe ser escuchada y considerada.

Además, instó a las organizaciones globales a integrar los derechos del niño en todas las políticas y estrategias relacionadas con la inteligencia artificial, y a los gobiernos a prevenir la violencia y la explotación de niños, habilitadas o amplificadas por esta nueva herramienta tecnológica.

Y enfatizan que es necesario aplicar medidas de protección de datos “más sólidas y centradas en los niños para salvaguardar la privacidad dentro de los sistemas de IA”. Sin soslayar que es obligación de los Estados priorizar el interés superior y el desarrollo integral de cada niño.