Los Verdaderos Riesgos de la Inteligencia Artificial: Imágenes Falsas que se Tornan Virales

Por Carlos del Castillo

Recientemente, un usuario de Reddit (una plataforma a mitad de camino entre el tradicional foro y las actuales redes sociales, muy activa en la comunidad de habla inglesa pero no tanto en la hispana) creó una imagen del papa Francisco con inteligencia artificial (IA). La fotografía muestra al pontífice con una parka muy similar a un modelo de la firma de Balenciaga. Quedó especialmente bien y la subió a Twitter. Explotó: la red social ya ha mostrado su tuit más de 27 millones de veces, a las que hay que sumar el alcance de las decenas de miles de cuentas que redistribuyeron la foto del “papa moderno”.

En Reddit hay varios grupos de usuarios que llevan meses jugando con las nuevas inteligencias artificiales generativas creando contenidos de todo tipo. El papa vestido con un abrigo de esta firma de moda de lujo era uno más, pero cuando se expandió fuera de las fronteras de la plataforma causó furor. Muchas personas reconocieron que creyeron que la imagen era real, mientras que otras la compartieron sabiendo que era falsa, pero alabando las capacidades de esta tecnología. La primera llamada de atención a gran escala de que la inteligencia artificial ya está preparada para crear pruebas de una realidad que nunca existió.

Contenido relacionado: El Lado Oscuro de ChatGPT: Cómo Facilita Fraudes, Desinformación y Delitos

OKAAYYY pic.twitter.com/MliHsksX7L

— leonardo (@skyferrori) March 25, 2023

El papa moderno tiene una intrahistoria que explica su éxito. Un parte se debe al contexto que rodea al pontífice, que hace que la imagen sea muy llamativa pero no inverosímil. No en vano Francisco dejói instantáneas reales como la bendición a un superdeportivo Lamborghini pintado con los colores del Vaticano. El vehículo estaba destinado a una subasta benéfica y fue adquirido por un empresario murciano. Otra parte es mérito de la inteligencia artificial Midjourney, que demostró ser muy buena cuando se le pide que emule el estilo de Balenciaga.

Contenido relacionado: Confirmado: Se Puede Hackear ChatGPT para que Insulte y Difunda Conspiranoias

Esto es algo que los usuarios de Reddit descubrieron gracias a las miles de peticiones que le hicieron en los últimos meses. Su buena mano con la firma de moda está inspirando numerosos memes, como un tráiler de Harry Potter en el que todos los personajes parecen sacados de un catálogo de la firma. Lo más probable es que esto se deba a que sus fotografías de moda tuvieron un notable peso en el entrenamiento de Midjourney, aunque no es posible confirmarlo ya que el laboratorio que la desarrolló (llamado también Midjourney) no hizo pública esta información.

La IA de Midjourney está en fase de pruebas abierta desde el pasado julio, pero fue ahora cuando el mundo tomó conciencia de su potencial. Apenas unos días antes de la viralización del papa moderno, otra creación suya dio la vuelta al mundo: las supuestas fotografías de Donald Trump siendo arrestado. En este caso su creador es Eliot Higgings, uno de los fundadores de Bellingcat, un medio sin ánimo de lucro especializado en la investigación a partir de fuentes digitales. La idea se la dio el propio Trump, que afirmó que teme ser arrestado por comprar supuestamente el silencio de una actriz porno a la que presuntamente acosó.

pic.twitter.com/8iZ0QO3Vey

— Eliot Higgins (@EliotHiggins) March 20, 2023

En medio de estos usos inocentes de imágenes generadas por IA llegó uno que no lo era. Una supuesta fotografía de Vladímir Putin arrodillándose ante el presidente chino, Xi Jinping, se distribuyó por diversas fuentes como un contenido real. La imagen apareció justo después de que el mandatario ruso afirmara que estaba dispuesto a negociar el plan de paz para Ucrania propuesto por China.

Contenido relacionado: Empresarios Encabezados por Elon Musk Piden Pausar los Experimentos de Inteligencia Artificial, ¿Por Qué?

https://twitter.com/Amanda_Florian/status/1637969448958132226

La imagen de Putin arrodillado tuvo un recorrido distinto a la del papa y las de Trump detenido y obligó a las agencias de verificación de contenidos a lanzar una alerta sobre su falsedad. Este sí fue un aviso serio. “El problema de lo que está por venir con la IA y la desinformación es especialmente sensible cuando hablamos de qué daño puede causar en catástrofes naturales, acontecimientos inesperados o procesos electorales”, explica Raúl Magallón, profesor de Periodismo de la Universidad Carlos III de España especialista en el fenómeno de la desinformación.

“En momentos de especial sensibilidad informativa y pasional, la cultura de la indignación y el clickbait pueden hacer que se potencien sus efectos dañinos”, recalca el experto, que participa en el grupo de trabajo del Departamento de Seguridad Nacional que está investigando cómo hacer frente al fenómeno de la desinformación generada con IA. “Hay que trabajar con mecanismos de alerta temprana y coordinación más novedosos”, apunta.

Contenido relacionado: EEUU Busca Regular la Inteligencia Artificial

El riesgo de que este tipo de contenidos artificiales se lancen como parte de una campaña de intoxicación de la opinión pública también preocupa a Bruselas. La clave es cómo afrontarlo. “Una de las ideas de la UE en los últimos tiempos es que la regulación de todo lo que tiene que ver con internet y la IA puede ser una forma de poder blando dentro de la nueva geopolítica internacional”, revela.

“Antes de nada hay que analizar con detalle la problemática, ver las posibilidades y consecuencias no deseadas y explorar las limitaciones que pueden presentarse”, indica el profesor: “Creo que estamos en mejores condiciones de conocer sus efectos que cuando llegaron las redes sociales. Está por ver si somos capaces de leer con los ojos actuales los efectos a largo plazo que pueden generar”.

Las manos, el fondo, las articulaciones

Las herramientas de generación de imágenes con inteligencia artificial mejoran a toda velocidad. No obstante, aún no son perfectas y a menudo tienen errores que pueden ayudar a que cualquier usuario los detecte. Uno de los principales son las manos: la IA tiene problemas con los dedos humanos y muy habitualmente pone más de la cuenta o extirpa falanges a los protagonistas de las imágenes que crea.

Las articulaciones en general también suelen ser difíciles de representar para las IA, especialmente cuando están contraídas. Estos fallos suelen pasar desapercibidos en un vistazo rápido pero se hacen evidentes si se repasa la posición respecto al resto del cuerpo, ya que la IA simula cómo aparecen las personas en las fotos pero no entiende la morfología de las articulaciones, como ejemplifica la imagen de Putin arrodillado.

Contenido relacionado: Cómo el Entrenamiento ‘a lo Bruto’ Provoca Fallas en Inteligencias Artificiales

El último de los puntos donde la IA es menos precisa por el momento son los fondos de sus creaciones. Por regla general, las imágenes generadas por máquinas tienden a difuminarse demasiado o contener muy pocos detalles, algo que también puede apreciarse en las caras y las manos de las personas que no aparecen en primer plano.

Vía elDiarioAR.

Imagen vía elDiarioAR

Más contenido de El Planteo:

• Qué es 4chan: Un Infiltrado te Cuenta Todo Sobre el Reddit de Extrema Derecha
• Santiago Siri: ‘el Software se está Comiendo al Mundo’
• Gente Rota: Hablamos con su Creador Gabriel Lucero