Aussi remarquable que soit l’algorithme StyleGAN, il laisse un certain nombre de » tells » dans chaque image qu’il crée. Ceux-ci varient d’une image à l’autre – toutes ne présentent pas tous ou même beaucoup de ces pépins – mais avec un peu de pratique, vous pouvez apprendre à les repérer d’un coup d’œil. Nous avons appris beaucoup de ces astuces grâce à l’excellent tutoriel publié par Kyle McDonald en 2018.
Taches d’eau
Nous ne pouvons pas nous attendre à ce que les futurs algorithmes aient ce problème, mais l’une des caractéristiques distinctives de l’algorithme StyleGAN actuel est qu’il produit couramment des taches brillantes qui ressemblent un peu à des taches d’eau sur de vieux tirages photographiques. Ces taches sont très révélatrices. Les taches d’eau peuvent apparaître n’importe où dans l’image, mais elles apparaissent souvent à l’interface entre les cheveux et le fond.
Problèmes d’arrière-plan
Un autre indice révélateur est que toutes sortes de choses peuvent mal tourner avec les arrière-plans des images. Le réseau neuronal est entraîné sur le visage, et ne prête pas autant d’attention à ce qui se passe sur les côtés. Au pire, vous obtenez des compagnons extrêmement bizarres, comme dans la première image ci-dessous. Parfois, on obtient simplement des formes cubistes chaotiques. Et parfois, le fond ressemble presque à une photographie déchirée.
Lunettes
En ce moment, il est très difficile pour les algorithmes de générer des lunettes d’apparence réaliste. Un problème courant est l’asymétrie. Regardez la structure de la monture ; souvent, la monture prendra un style à gauche et un autre à droite, ou bien il y aura un ornement de style wayfarer sur un côté mais pas sur l’autre. D’autres fois, le cadre sera juste tordu ou déchiqueté.
Autres asymétries
En général, la symétrie est un défi pour les algorithmes de génération faciale. En plus des lunettes asymétriques, soyez à l’affût des asymétries dans les cheveux du visage, des boucles d’oreilles différentes à l’oreille gauche et à l’oreille droite, et des formes différentes de col ou de tissu à gauche et à droite.
Coiffure
La coiffure est extrêmement difficile à rendre de manière réaliste. Parfois, il y aura des mèches de cheveux déconnectées sur le visage ou ailleurs, comme dans l’autre première image ci-dessous. D’autres fois, les cheveux seront trop droits, striés, comme le dit Kyle McDonald, « comme si quelqu’un avait maculé un tas d’acrylique avec un couteau à palette ou un énorme pinceau. » C’est ce que nous voyons dans l’image du milieu ci-dessous. Parfois, il y aura une étrange lueur ou un halo autour des cheveux, comme dans l’image finale ci-dessous.
Saignement fluorescent
Un tell intéressant se produit est que les couleurs fluorescentes saignent parfois du fond sur les cheveux ou le visage.
Dents
Les dents ne sont pas faciles à rendre. Souvent, les dents sont bizarres ou asymétriques. Dans certains cas, on peut même voir trois incisives comme sur la photo finale ci-dessous.
Signes qu’une photographie est réelle
Nous vous avons montré comment identifier une image qui est fausse. Maintenant que vous savez quelles sont les choses que le réseau neuronal a du mal à générer, vous pouvez rechercher les cas où elles sont rendues avec précision et si elles sont bien faites, vous pouvez être assez confiant qu’une image est réelle. Il s’agit notamment de lunettes et de boucles d’oreilles symétriques (première image ci-dessous), de véritables compagnons d’apparence humaine sur le côté d’une photographie (deuxième image ci-dessous) et d’arrière-plans détaillés, surtout s’il y a du texte lisible (troisième image ci-dessous).
Une balle d’argent ?
Lorsque nous avons lancé ce site Web en février 2019, nous pensions avoir une balle d’argent pour au moins un an ou deux. Nous l’avons décrit ainsi :
L’algorithme StyleGAN est incapable de générer plusieurs images de la même fausse personne. À l’heure actuelle, nous n’avons connaissance d’aucun logiciel capable de le faire. Donc, si vous voulez être sûr que votre béguin tinder est une vraie personne, insistez pour voir deux photos ou plus. À un moment donné, les logiciels rattraperont probablement leur retard. Mais pour l’instant, plusieurs photos offrent une puissante réassurance que l’image n’est pas un faux.
Bien, cela a pris trois mois, pas un an ou deux. Egor Zakharov et ses collègues du Samsung AI Center ont mis au point un moyen de créer la vidéo d’une personne qui bouge et parle, à partir d’une seule image échantillon. Leur démonstration vidéo est étonnante et mérite d’être vue. On pourrait vraisemblablement fournir à leur algorithme un seul faux visage StyleGAN, et il fournirait plusieurs angles et expressions de la même « personne ». Pour l’instant, il pourrait être plus difficile de montrer la même personne dans différentes tenues, décors, etc. mais il est clair que nous ne devrions pas promettre de balles d’argent contre la technologie qui évolue rapidement.
Avec tout cela en tête, retournez-y et jouez à nouveau. Vous constaterez qu’avec un peu de pratique, vous pouvez devenir très bon pour repérer les fausses images très rapidement.