La fel de remarcabil cum este algoritmul StyleGAN, acesta lasă o serie de „indicii” în fiecare imagine pe care o creează. Acestea variază de la o imagine la alta – nu toate imaginile au toate sau chiar multe dintre aceste defecte – dar, cu puțină practică, puteți învăța să le identificați dintr-o privire. Am învățat multe dintre aceste trucuri din excelentul tutorial publicat de Kyle McDonald în 2018.
Water-splotches
Nu ne putem aștepta ca viitorii algoritmi să aibă această problemă, dar una dintre trăsăturile distinctive ale actualului algoritm StyleGAN este că produce în mod obișnuit pete lucioase care arată oarecum ca niște pete de apă pe printuri fotografice vechi. Acestea sunt un indiciu clar. Petele de apă pot apărea oriunde în imagine, dar deseori apar la interfața dintre păr și fundal.
Probleme de fundal
Un alt indiciu mort este că tot felul de lucruri pot merge prost cu fundalurile imaginilor. Rețeaua neuronală este antrenată pe față și nu acordă atât de multă atenție la ceea ce se întâmplă în lateral. În cel mai rău caz, veți obține niște tovarăși extrem de ciudați, ca în prima imagine de mai jos. Uneori, obțineți pur și simplu forme cubiste haotice. Iar uneori fundalul arată aproape ca o fotografie ruptă.
Ochelari
În acest moment, este foarte greu pentru algoritmi să genereze ochelari cu aspect realist. O problemă comună este asimetria. Uitați-vă la structura ramei; de multe ori rama va lua un stil în stânga și altul în dreapta, sau va exista un ornament de tip wayfarer pe o parte, dar nu și pe cealaltă. Alteori, rama va fi pur și simplu strâmbă sau zimțată.
Alte asimetrii
În general, simetria este o provocare pentru algoritmii de generare facială. În plus față de ochelarii asimetrici, fiți atenți la asimetrii în părul facial, la cercei diferiți în urechea stângă și în cea dreaptă și la forme diferite de guler sau țesătură în partea stângă și în partea dreaptă.
Părul
Părul este extrem de dificil de redat în mod realist. Uneori vor exista șuvițe de păr deconectate pe față sau în altă parte, ca în altă primă imagine de mai jos. Alteori, părul va fi prea drept, striat, după cum a spus Kyle McDonald, „ca și cum cineva ar fi mâzgălit o grămadă de acrilic cu un cuțit de paletă sau cu o pensulă uriașă”. Vedem acest lucru în imaginea din mijloc de mai jos. Uneori va exista o strălucire ciudată sau un halo în jurul părului, ca în imaginea finală de mai jos.
Sângerare fluorescentă
O explicație interesantă este că, uneori, culorile fluorescente pătrund din fundal pe păr sau pe față.
Dinți
Dinții nu sunt ușor de redat. Adesea, dinții sunt ciudați sau asimetrici. În unele cazuri, se pot vedea chiar trei incisivi, ca în fotografia finală de mai jos.
Semne că o fotografie este reală
V-am arătat cum să identificați o imagine care este falsă. Acum că știți care sunt lucrurile pe care rețeaua neuronală le generează cu greu, puteți căuta cazurile în care acestea sunt redate cu acuratețe, iar dacă acestea sunt realizate bine, puteți fi destul de încrezători că o imagine este reală. Printre acestea se numără ochelarii și cerceii simetrici (prima imagine de mai jos), însoțitorii cu aspect uman real de pe marginea unei fotografii (a doua imagine de mai jos) și fundalurile detaliate, mai ales dacă există un text lizibil (a treia imagine de mai jos).
Un glonț de argint?
Când am lansat acest site în februarie 2019, am crezut că avem un glonț de argint pentru cel puțin un an sau doi. L-am descris în felul următor:
Algoritmul StyleGAN nu este capabil să genereze mai multe imagini ale aceleiași persoane false. În acest moment, nu avem cunoștință de niciun software care să poată face acest lucru. Așadar, dacă vreți să fiți siguri că persoana care vă place pe Tinder este o persoană reală, insistați să vedeți două sau mai multe fotografii. La un moment dat, software-ul va ajunge probabil din urmă. Dar, deocamdată, mai multe fotografii oferă o asigurare puternică că imaginea nu este un fals.
Ei bine, a durat trei luni, nu un an sau doi. Egor Zakharov și colegii de la Samsung AI Center au dezvoltat o modalitate de a crea o înregistrare video a unei persoane care se mișcă și vorbește, pe baza chiar și a unei singure imagini de probă. Demonstrația lor video este uimitoare și merită să o vedeți. Se presupune că s-ar putea furniza algoritmului lor o singură față falsă StyleGAN, iar acesta ar furniza mai multe unghiuri și expresii ale aceleiași „persoane”. Deocamdată ar putea fi mai greu să arătăm aceeași persoană în diferite ținute, decoruri etc., dar este clar că nu ar trebui să promitem niciun glonț de argint împotriva tehnologiei care evoluează rapid.
Cu toate aceste lucruri în minte, întoarceți-vă și jucați-vă din nou. Veți descoperi că, cu puțină practică, puteți deveni foarte buni la depistarea imaginilor false foarte repede.
.