A pesar de lo notable que es el algoritmo StyleGAN, deja una serie de «señales» en cada imagen que crea. Estos varían de una imagen a otra – no todas tienen todos o incluso muchos de estos fallos – pero con un poco de práctica se puede aprender a detectarlos a simple vista. Aprendimos muchos de estos trucos del excelente tutorial publicado por Kyle McDonald en 2018.
Manchas de agua
No podemos esperar que los futuros algoritmos tengan este problema, pero una de las características distintivas del algoritmo StyleGAN actual es que comúnmente produce manchas brillantes que se parecen un poco a las manchas de agua en las impresiones fotográficas antiguas. Esto nos delata. Las manchas de agua pueden aparecer en cualquier parte de la imagen, pero a menudo aparecen en la interfaz entre el pelo y el fondo.
Problemas de fondo
Otra pista falsa es que todo tipo de cosas pueden ir mal con los fondos de las imágenes. La red neuronal está entrenada en la cara, y no presta tanta atención a lo que ocurre en los lados. En el peor de los casos, se obtienen compañeros muy extraños, como en la primera imagen de abajo. A veces se obtienen formas cubistas caóticas. Y a veces el fondo parece casi una fotografía rasgada.
Gafas
Ahora mismo, es muy difícil para los algoritmos generar gafas de aspecto realista. Un problema común es la asimetría. Fíjese en la estructura de la montura; a menudo la montura adoptará un estilo a la izquierda y otro a la derecha, o habrá un adorno de estilo wayfarer en un lado pero no en el otro. Otras veces el marco estará simplemente torcido o dentado.
Otras asimetrías
En general, la simetría es un reto para los algoritmos de generación facial. Además de las gafas asimétricas, hay que estar atento a las asimetrías en el vello facial, a los diferentes pendientes en la oreja izquierda y derecha, y a las diferentes formas de cuello o tela en el lado izquierdo y derecho.
Cabello
El cabello es extremadamente difícil de representar de forma realista. A veces habrá mechones de pelo desconectados en la cara o en otros lugares, como en otra primera imagen de abajo. Otras veces el pelo estará demasiado liso, con rayas, como dijo Kyle McDonald, «como si alguien hubiera manchado un montón de acrílico con una espátula o un pincel enorme». Lo vemos en la imagen central de abajo. A veces habrá un extraño brillo o halo alrededor del pelo, como en la imagen final de abajo.
Sangrado fluorescente
Un dato interesante que surge es que los colores fluorescentes a veces sangran desde el fondo hacia el cabello o la cara.
Dientes
Los dientes no son fáciles de representar. A menudo los dientes son extraños o asimétricos. En algunos casos, incluso se pueden ver tres incisivos como en la fotografía final de abajo.
Signos de que una fotografía es real
Te hemos mostrado cómo identificar una imagen que es falsa. Ahora que sabes qué cosas son difíciles de generar para la red neuronal, puedes buscar casos en los que éstas se representen con precisión y, si se hacen bien, puedes sentirte bastante seguro de que una imagen es real. Entre ellos se encuentran las gafas y los pendientes simétricos (primera imagen de abajo), los acompañantes de aspecto humano reales al lado de una fotografía (segunda imagen de abajo) y los fondos detallados, especialmente si hay texto legible (tercera imagen de abajo).
¿Una bala de plata?
Cuando lanzamos este sitio web en febrero de 2019, pensamos que teníamos una bala de plata para al menos un año o dos. Lo describimos así:
El algoritmo StyleGAN es incapaz de generar múltiples imágenes de la misma persona falsa. En este momento, no conocemos ningún software que pueda hacerlo. Así que si quieres estar seguro de que tu crush de Tinder es una persona real, insiste en ver dos o más fotos. En algún momento, el software probablemente se pondrá al día. Pero por ahora, las fotos múltiples ofrecen una poderosa garantía de que la imagen no es falsa.
Bueno, han sido tres meses, no un año o dos. Egor Zakharov y sus colegas del Centro de Inteligencia Artificial de Samsung han desarrollado una forma de crear un vídeo de una persona moviéndose y hablando, basándose incluso en una sola imagen de muestra. Su vídeo de demostración es impresionante y merece la pena verlo. Es de suponer que se podría suministrar a su algoritmo una sola cara falsa de StyleGAN, y éste proporcionaría múltiples ángulos y expresiones de la misma «persona». Por el momento podría ser más difícil mostrar a la misma persona con diferentes atuendos, decorados, etc., pero está claro que no deberíamos prometer ninguna bala de plata contra la rápida evolución de la tecnología.
Con todo esto en mente, vuelve a jugar. Verás que con un poco de práctica puedes llegar a ser muy bueno en la detección de imágenes falsas muy rápidamente.