¿Cómo se puede detectar una imagen generada con inteligencia artificial? Consejos para que no te la cuelen con esta tecnología – Maldita.es

“A simple vista, cada vez es más difícil darse cuenta de que una imagen ha sido creada con inteligencia artificial [IA]”, explica a Maldita.es Elena Verdú, miembro del grupo de investigación Inteligencia Artificial y Robótica de la Universidad Internacional de La Rioja (UNIR) y docente del Programa de Doctorado en Ciencias de la Computación, y del Grado en Ingeniería Informática en esta misma universidad. Es tan difícil que algunas de las recomendaciones que dimos cuando publicamos originalmente este artículo (23 de febrero 2023), a 22 de marzo ya no sirven.

En Maldita.es hemos recogido varios contenidos creados con esta tecnología que han generado desinformación, como estas imágenes de unos supuestos soldados abrazando a mujeres en una manifestación en Francia. ¿Es posible identificar que se ha creado así una imagen? Puede ser complicado (y cada vez más), “pero esta inteligencia artificial puede pasar por alto algunos detalles y, si nos fijamos, podremos detectar si es artificial o real”, afirma la investigadora. Recopilamos los consejos de varios expertos en el sector de la IA para que no te la cuelen con estos contenidos. También incluimos algunos comentarios actualizados sobre cosas que puede que ya no apliquen porque la inteligencia artificial ha mejorado.*

Pregúntate de dónde salen las imágenes y busca las marcas de agua

Lo primero que debemos pensar es de dónde provienen las imágenes que estamos analizando: ¿cuál es su fuente original? Un indicativo de que puede tratarse de una imagen falsa es que su medio de difusión sea sobre todo las redes sociales. Para comprobarlo podemos realizar una búsqueda de imagen inversa en plataformas como Google Image o TinEye. Basta con subir la imagen sospechosa a nuestro buscador de referencia para que nos devuelva los resultados que encuentra.

Además, debemos estar atentos a posibles marcas de agua. Algunas aplicaciones como DALL-E 2 dejan marca de agua en las imágenes descargadas. Esta plataforma incluye cinco cuadrados de distintos colores en la esquina inferior derecha en las imágenes descargadas. “Evidentemente, si quien crea esta imagen tiene malas intenciones, intentará eliminar cualquier pista de este tipo”, advierte Verdú.

Comprueba si las manos tienen cinco dedos (la IA tiene “problemas” para imitar las manos humanas)

“La IA generativa funciona de manera intuitiva: no se basa en conocimiento explícito ni en reglas de razonamiento lógico, sino en un mecanismo de prueba y error en el que va afinando su intuición”, explica Julio Gonzalo, investigador en Procesamiento del Lenguaje Natural y Recuperación de Información en la UNED y maldito que nos ha cedido sus superpoderes sobre inteligencia artificial. Es por ello que, en palabras del experto, “aunque la IA ha visto muchas imágenes de manos, no sabe contar ni se para a sacar la conclusión de que las manos tienen cinco dedos”. Esto hace que las manos que pinta puedan tener un número variable de dedos, así que puedes fijarte en ese detalle para deducir si es una imagen generada por IA.

Es el caso de las imágenes de supuestos antidisturbios abrazando a mujeres durante una manifestación en Francia creadas con IA. Varios usuarios en Twitter se dieron cuenta de que estas imágenes eran falsas porque había manos con seis dedos. También en este otro ejemplo, que se hizo viral en Twitter en enero de 2023 y que la plataforma BuzzFeed News recoge en este artículo para explicar por qué las manos generadas con AI son caóticas.

Sin embargo, con la última actualización de Midjourney (uno de los programas de inteligencia artificial con el que se pueden crear imágenes a partir de descripciones textuales) se ha dado un salto notable en la calidad de las creaciones que devuelve. (Por ejemplo, podemos ver la evolución de lo que hacen las distintas versiones de Midjourney cuando le pides que dibuje una nutria usando wifi en un avión). En particular, ha mejorado precisamente en cómo dibuja manos: ya no se equivoca con el número de dedos, sino que dibuja manos muy realistas con el número de dedos correcto, como se puede ver en los ejemplos de este vídeo y en Twitter.*

Fíjate en los pequeños detalles, como las orejas, el cabello o la mirada

Los expertos consultados coinciden en resaltar que otro de los trucos para reconocer imágenes creadas con esta tecnología es fijarse en los pequeños detalles. Por ejemplo, orejas posicionadas en alturas diferentes, de tamaños descompensados o de texturas raras. “Incluso se llegan a generar imágenes con pendientes diferentes en cada oreja, o pendientes que se mezclan con la piel”, indica Elena Verdú, de la UNIR.

También recomienda fijarnos en los dientes (si hay demasiadas piezas dentales, están encogidas, estiradas o desalineadas) y en el cabello (puede estar difuminado con el entorno, demasiado recto o puede haber pelos pegados a la forma de la ceja).

La investigadora destaca también la importancia de las facciones y expresiones del rostro: “Si nos fijamos en las caras, podemos encontrar simetrías perfectas, especialmente si están de frente, como asimetrías exageradas”. Según explica Verdú, la mirada de los protagonistas también puede delatar si son reales; por ejemplo “miradas perdidas o incluso ojos que pueden presentar estrabismo, con diferentes tonos o con pupilas muy circulares”.

En Maldita.es hemos analizado las imágenes generadas por la plataforma This Person Doesn’t Exist y hemos encontrado varios de los fallos mencionados por los expertos. Desde gafas fusionadas con el fondo y el rostro, hasta dientes borrosos y deformes o pendientes de formas distintas.

Comprueba si los textos son correctos y si el fondo de la imagen es borroso

El texto es otra pista para determinar si una imagen es real o está creada con IA. “Cuando las imágenes tienen algún texto embebido, como un letrero, no suele ser gramaticalmente correcto. En su lugar, nos encontramos caracteres con forma de letra puestas de forma aleatoria y sin sentido a nivel de lenguaje”, explica Ángel Delgado, ingeniero experto en IA y maldito que nos ha cedido sus superpoderes. Esta tecnología, en palabras de Julio Gonzalo de la UNED, “no es capaz de hacer una asociación explícita entre esos caracteres y el lenguaje, así que solo refleja intuitivamente el aspecto que tienen los carteles”.

¿Qué aparece en el fondo de la imagen? Los expertos consultados recomiendan hacerse esta pregunta para detectar errores que no estén en los protagonistas. “Si el modelo de IA se ha entrenado para generar caras, los fondos posiblemente sean borrosos, con una textura uniforme, elementos distorsionados o fuera de contexto”, indica la docente Elena Verdú.

Si quedan dudas, utiliza una herramienta de detección automática de imágenes

Además de una inspección visual detallada haciendo especial hincapié en los aspectos señalados, “es conveniente hacer una comprobación con alguna herramienta de detección automática”, aconseja Julio Gonzalo. Preferiblemente con la herramienta más actualizada, ya que “los verificadores están diseñados con la misma tecnología que las IA generativas y, por tanto, no ofrece resultados fiables al 100%”, explica.

En Maldita.es hemos usado una de estas herramientas de detección automática: la plataforma online Mayachitra ha sido capaz de detectar imágenes descargadas de la web This Person Doesn’t Exist. Sin embargo, como comenta el investigador de la UNED, no es del todo infalible: ha fallado en la detección de ejemplos extraídos de DALL-E 2.

No obstante, estos consejos pueden caducar al cabo de un tiempo. “La IA generativa está mejorando a un ritmo tan frenético que los defectos que ayudan a identificarlas hoy pueden ser inútiles la semana que viene”, recuerda Gonzalo.

En el futuro, ¿qué trucos serán infalibles para detectar si una imagen se ha generado con IA? Según explica Ángel Delgado, el punto débil de esta tecnología seguirá siendo “las características más abstractas que no dependan de la calidad de la imagen directamente”. Esto es, por ejemplo, la perspectiva de la imagen o detalles de formas sin sentido.

Original