El expresidente Donald Trump se muestra siendo atacado por unos agentes de policía de la ciudad de Nueva York vestidos con equipo antidisturbios. Por otro lado, el presidente ruso, Vladimir Putin, está en prisión detrás de los barrotes de una celda de hormigón con poca luz.
Las imágenes sensacionales y altamente detalladas han inundado Twitter y otras plataformas en los últimos días, en medio de noticias de que Trump enfrenta posibles cargos penales y la Corte Penal Internacional ha emitido una orden de arresto contra Putin.
Pero ninguno de los visuales es remotamente real. Las imágenes, y las decenas de variaciones que ensucian las redes sociales, se produjeron utilizando generadores de imágenes cada vez más sofisticados y ampliamente accesibles impulsados por inteligencia artificial.
Los expertos en desinformación advierten que las imágenes son presagios de una nueva realidad: oleadas de fotos y videos falsos que inundan las redes sociales después de los principales eventos noticiosos y que enturbian aún más la realidad y la ficción en momentos cruciales para la sociedad.
Si bien la capacidad de manipular fotos y crear imágenes falsas no es nueva, las herramientas de generación de imágenes de IA de Midjourney, DALL-E y otras son más fáciles de usar. Pueden generar rápidamente imágenes realistas, completas con fondos detallados, a gran escala con poco más que un simple mensaje de texto de los usuarios.
Algunas de las imágenes recientes han sido impulsadas por el lanzamiento de este mes de una nueva versión del modelo de síntesis de texto a imagen de Midjourney, que puede, entre otras cosas, producir imágenes convincentes que imitan el estilo de las fotos de las agencias de noticias.
En un hilo de Twitter de amplia circulación , Eliot Higgins, fundador de Bellingcat, un colectivo de periodismo de investigación con sede en los Países Bajos, usó la última versión de la herramienta para evocar decenas de imágenes dramáticas del arresto ficticio de Trump.
Las imágenes, que se han compartido y han gustado decenas de miles de veces, mostraban a una multitud de oficiales uniformados agarrando al multimillonario republicano y tirándolo violentamente al pavimento.
Higgins, quien también estuvo detrás de un conjunto de imágenes de Putin siendo arrestado, juzgado y luego encarcelado, dice que publicó las imágenes sin malas intenciones. Incluso declaró claramente en su hilo de Twitter que las imágenes fueron generadas por IA.
Aún así, las imágenes fueron suficientes para bloquearlo del servidor Midjourney, según Higgins. El laboratorio de investigación independiente con sede en San Francisco no respondió a los correos electrónicos en busca de comentarios.
Señaló que las imágenes están lejos de ser perfectas: en algunas, se ve a Trump, curiosamente, con un cinturón de policía. En otros, los rostros y las manos están claramente distorsionados.
Pero no es suficiente que usuarios como Higgins indiquen claramente en sus publicaciones que las imágenes son generadas por IA y solo para entretenimiento, sostuvo Shirin Anlen, tecnóloga de medios de Witness, una organización de derechos humanos con sede en Nueva York que se enfoca en evidencia visual.
Con demasiada frecuencia, las imágenes se vuelven a compartir rápidamente con otros sin ese contexto crucial, expresó. De hecho, una publicación de Instagram que compartió algunas de las imágenes de Trump de Higgins como si fueran genuinas obtuvo más de 79.000 me gusta.
