La industria tecnológica avanza rápidamente y ha vuelto a causar estragos. Esta vez se trata de la realidad compartida de la humanidad y el control de nuestra imagen antes y después de la muerte, gracias a plataformas de generación de imágenes por inteligencia artificial como Sora 2 de OpenAI.

El típico video de Sora, creado en la aplicación de OpenAI y difundido en TikTok, Instagram, X y Facebook, está diseñado para ser lo suficientemente divertido como para que hagas clic y compartas. Podría ser la reina Isabel II rapeando o algo más ordinario y creíble. Un género popular de la plataforma es el de falsos videos de cámaras de timbre que captan algo ligeramente inquietante, como una boa constrictor en el porche o un caimán acercándose a un niño imperturbable, y termina con un leve sobresalto, como una abuela gritando mientras golpea al animal con una escoba.

Sin embargo, cada vez más grupos de defensa, académicos y expertos han hecho sonar la alarma sobre los peligros de permitir que las personas creen videos de IA sobre casi cualquier cosa que puedan escribir en una indicación, lo que lleva a la proliferación de imágenes no consensuadas y deepfakes realistas en un mar de “bazofia de IA” menos dañina. OpenAI ha tomado medidas contra las creaciones de IA de figuras públicas, entre ellas, Michael Jackson, Martin Luther King Jr y Mister Rogers, haciendo cosas extravagantes, pero sólo después de que los herederos de los afectados y un sindicato de actores lanzaran protestas.

Producto inseguro

La organización sin fines de lucro Public Citizen exige que OpenAI retire Sora 2 del público, en una carta enviada a la empresa y al ejecutivo Sam Altman donde indica que el lanzamiento apresurado de la aplicación para adelantarse a los competidores muestra un “patrón constante y peligroso en el que OpenAI se apresura a salir al mercado con un producto que es inherentemente inseguro o carece de las salvaguardias necesarias”. Según la misiva, Sora 2 muestra un “imprudente desprecio” por la seguridad del producto, así como por el derecho de las personas a su propia imagen y la estabilidad de la democracia. El grupo también envió la carta al Congreso de Estados Unidos.

OpenAI no ha respondido a una solicitud de comentarios.

“Nuestra mayor preocupación es la amenaza potencial a la democracia”, dijo en una entrevista J.B. Branch, defensor de políticas tecnológicas de Public Citizen. “Creo que estamos entrando en un mundo en el que la gente realmente no puede confiar en lo que ve. Y comenzamos a ver estrategias en la política donde la primera imagen, el primer video que se publica, es lo que la gente recuerda”.

Branch también ve preocupaciones más amplias sobre la privacidad de las personas, las cuales afectan desproporcionalmente a las poblaciones vulnerables en línea.

OpenAI bloquea la desnudez, pero Branch señaló que “las mujeres se ven acosadas en línea” de otras maneras, como con contenido fetichizado de nicho que elude las restricciones de las aplicaciones. El medio de comunicación 404 Media informó ayer sobre una avalancha de videos hechos con Sora de mujeres siendo estranguladas.

OpenAI introdujo su aplicación Sora en iPhones hace más de un mes. Se lanzó en teléfonos Android la semana pasada en Estados Unidos, Canadá y varios países asiáticos, entre ellos, Japón y Corea del Sur.

Gran parte de la oposición más fuerte se ha producido en Hollywood y otras áreas del entretenimiento, como la industria del manga japonés.