La red social X, propiedad de Elon Musk, es investigada en Inglaterra debido a que Grok AI, chatbot de la red social, genera imágenes falsas de carácter íntimo y sexual.

Ofcom, regulador británico de los medios de comunicación, informó en un comunicado que ha recibido información sobre el uso de esa inteligencia artificial “para crear y compartir imágenes de personas sin ropa –que pueden equivaler a un abuso de imágenes íntimas o pornografía– e imágenes sexualizadas de niños que pueden equivaler a material de abuso sexual infantil”.

Por su parte, X remitió a un comunicado en el que dijo que toma medidas contra el contenido ilegal en la plataforma, incluido el material de abuso sexual infantil, eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los gobiernos locales y las fuerzas del orden, según sea necesario.

Al preguntarle sobre si la red social podría ser prohibida en el país, el secretario de Negocios británico, Peter Kyle, apuntó: “sí, por supuesto”, pero señaló que esa facultad recaía en Ofcom.

En Reino Unido, crear o compartir imágenes íntimas no consentidas o material de abuso sexual infantil, incluidas las sexuales generadas por IA, es ilegal. Además, las plataformas tecnológicas deben impedir que los usuarios de ese país se encuentren con ese tipo de contenidos y eliminarlos en cuanto tengan conocimiento de ello.

Esta investigación no se trata de un hecho aislado, las autoridades francesas han denunciado a X ante la fiscalía y los organismos reguladores, calificando el contenido de “manifiestamente ilegal”, en tanto India también ha exigido explicaciones.

En relación con el proceso, Ofcom investigará si X no evaluó el riesgo de que los británicos vieran contenidos ilegales y si tuvo en cuenta el riesgo para los niños. Por lo que en los casos más graves de incumplimiento, la agencia podría pedir a un tribunal que obligue “a los proveedores de pago o a los anunciantes a retirar sus servicios de una plataforma” o forzar a los proveedores de servicios de Internet a bloquear el acceso a un sitio en Reino Unido.

Ofcom busca, entre otras cosas, que los servicios en línea sean más seguros para las personas que los utilizan, asegurando que las empresas tengan sistemas efectivos para proteger a los usuarios.

Legislación contra “armas de abuso”

La secretaria de Tecnología del Reino Unido, Liz Kendall, anunció ayer que aplicarán una nueva ley esta semana que prohíbe la modificación de imágenes sin el consentimiento de los involucrados (deepfakes).

Kendall dijo en la Cámara de los Comunes que las imágenes de mujeres y niños sin ropa generadas con inteligencia artificial y elaboradas sin su consentimiento no son “imágenes inocuas”, sino “armas de abuso”.

“De conformidad con la Ley de Seguridad en Línea, compartir imágenes íntimas sin el consentimiento de los involucrados o amenazar con compartirlas, incluyendo imágenes de personas en ropa interior, es un delito penal para individuos y plataformas”, declaró Kendall, quien también señaló que la Ley de Datos, aprobada el año pasado, ya establece como delito penal crear o solicitar la creación de imágenes íntimas sin consentimiento, y agregó que “este delito entrará en vigor esta semana y lo convertiré en un delito prioritario también de la Ley de Seguridad en Línea.

“Esto significa que los individuos estarán cometiendo un delito penal si crean o buscan crear este contenido, incluso en X. Quien haga esto puede esperar enfrentar todo el peso de la ley”, aseguró.

Agregó que la responsabilidad no es únicamente de los individuos e hizo énfasis en que las plataformas que aceptan este material también deben rendir cuentas, incluyendo a X.

Grok ha enfrentado críticas crecientes después de la publicación de informes en el sentido de que fue utilizada para presuntamente generar contenido sexual ilegal. El primer ministro británico, Keir Starmer, describió previamente el uso del chatbot para crear tales imágenes como “vergonzoso” y “repugnante”.

SpaceX domina el mercado

En tanto, la Comisión Federal de Comunicaciones (FCC, por sus siglas en inglés) de Estados Unidos aprobó actualizaciones a los satélites Gen2 de otra de las empresas de Elon Musk, SpaceX, a fin de que pueda expandir sus servicios de banda ancha y móviles a más partes del mundo.

“Gracias a esta subvención, SpaceX está autorizado a construir, desplegar y operar 7 mil 500 satélites Gen2 Starlink adicionales, lo que eleva el total a 15 mil satélites en todo el mundo”, afirmó el regulador estadunidense en un comunicado.

“Esta expansión permitirá a esta empresa ofrecer un servicio de Internet de alta velocidad y baja latencia a nivel mundial, incluida una cobertura móvil mejorada y complementaria desde el espacio”, continuó.

Musk, la persona más rica del mundo, ya controla más de dos tercios de todos los satélites activos, con una red de más de 9 mil aparatos Starlink actualmente en órbita terrestre baja.

La última aprobación sigue a una decisión de 2022 que otorgó permiso al envío de 7 mil 500 satélites Starlink, lo que eleva la constelación total autorizada a 15 mil para 2031.

El empresario de origen sudafricano espera ampliar eventualmente la red Starlink a 34 mil 400 satélites, pendiente de aprobación.

La última decisión de la Comisión Federal de Comunicaciones permitirá a SpaceX operar en más frecuencias para aumentar aún más la cobertura, tanto del Servicio Satelital Fijo (FSS) como del Servicio Satelital Móvil (MSS).

Oposición de competidores

Las empresas de satélites rivales se han opuesto a la solicitud de la firma de Musk para ampliar su cobertura, y Viasat y GlobalStar presentaron peticiones ante la FCC para bloquear la solicitud.

“Esta propuesta de expansión de la autoridad operativa de SpaceX le daría una capacidad e incentivo aún mayores para impedir que otros operadores accedan y utilicen recursos orbitales y espectrales limitados de manera competitiva”, afirma la petición de Viasat.

“Al mismo tiempo, las operaciones propuestas generarían riesgos de interferencia insuperables para otros usuarios del espectro y los clientes a los que sirven, impedirían a otros operadores acceder y utilizar recursos espectrales y orbitales escasos de manera equitativa, socavarían y excluirían la competencia y la innovación y, de otras maneras, perjudicarían al público.”

La aprobación de la FCC para otros 7 mil 500 satélites Starlink incluye obligaciones de información relacionadas con la eliminación de satélites y la prevención de colisiones, luego de que el mes pasado SpaceX reveló que había perdido el control de uno de sus satélites.