Så bemærkelsesværdig som StyleGAN-algoritmen er, efterlader den en række “afsløringer” i hvert billede, den skaber. Disse varierer fra billede til billede – ikke alle billeder har alle eller endog mange af disse fejl – men med lidt øvelse kan du lære at spotte dem med et blik. Vi lærte mange af disse tricks fra den fremragende vejledning, der blev offentliggjort af Kyle McDonald i 2018.
Vandpletter
Vi kan ikke forvente, at fremtidige algoritmer vil have dette problem, men et af de karakteristiske træk ved den nuværende StyleGAN-algoritme er, at den ofte producerer skinnende klatter, der ligner lidt vandpletter på gamle fotografiske udskrifter. Disse er et dødt spor. Vandpletter kan forekomme hvor som helst i billedet, men de dukker ofte op ved grænsefladen mellem håret og baggrunden.
Baggrundsproblemer
Et andet dødt bud er, at alle mulige ting kan gå galt med baggrundene på billederne. Det neurale net er trænet på ansigtet og er ikke så opmærksom på, hvad der foregår på siderne. I værste fald får man nogle ekstremt mærkelige ledsagere, som på det første billede nedenfor. Nogle gange får man bare kaotiske kubistiske former. Og nogle gange ligner baggrunden nærmest et revet fotografi.
Øjenbriller
Rigtigt nu er det meget svært for algoritmer at generere realistisk udseende øjenbriller. Et almindeligt problem er asymmetri. Se på stelstrukturen; ofte vil stellet tage en stil til venstre og en anden til højre, eller der vil være en wayfarer-agtig pynt på den ene side, men ikke på den anden. Andre gange vil rammen bare være skæv eller takkede.
Andre asymmetrier
Generelt er symmetri en udfordring for algoritmerne til ansigtsgenerering. Ud over asymmetriske briller skal man være på udkig efter asymmetrier i ansigtshår, forskellige øreringe i venstre og højre øre og forskellige former for krave eller stof i venstre og højre side.
Hår
Hår er ekstremt svært at gengive realistisk. Nogle gange vil der være løsrevne hårstrå i ansigtet eller andre steder, som i andet første billede nedenfor. Andre gange vil håret være for lige, stribet, som Kyle McDonald udtrykte det, “som om nogen har smadret en masse akryl med en paletkniv eller en stor pensel”. Det ser vi på det midterste billede nedenfor. Nogle gange vil der være en mærkelig glød eller halo omkring håret, som på det sidste billede nedenfor.
Fluorescerende udblødning
En interessant fortælle opstår er, at fluorescerende farver nogle gange bløder ind fra baggrunden på håret eller ansigtet.
Tænder
Tænder er ikke lette at gengive. Tænderne er ofte mærkelige eller asymmetriske. I nogle tilfælde kan man endda se tre fortænder, som på det sidste fotografi nedenfor.
Tegn på, at et fotografi er ægte
Vi har vist dig, hvordan du kan identificere et billede, der er falsk. Nu hvor du ved, hvilke ting der er svære for det neurale netværk at generere, kan du kigge efter tilfælde, hvor disse er gengivet præcist, og hvis disse er gjort godt, kan du føle dig ret sikker på, at et billede er ægte. Disse omfatter symmetriske briller og øreringe (første billede nedenfor), ægte menneskelignende ledsagere ved siden af et fotografi (andet billede nedenfor) og detaljerede baggrunde, især hvis der er læsbar tekst (tredje billede nedenfor).
En sølvkugle?
Da vi lancerede dette website i februar 2019, troede vi, at vi havde en sølvkugle i hvert fald i et år eller to. Vi beskrev det sådan her:
StyleGAN-algoritmen er ikke i stand til at generere flere billeder af den samme falske person. Lige nu er vi ikke bekendt med nogen software, der kan gøre det. Så hvis du vil være sikker på, at dit tinder-crush er en ægte person, skal du insistere på at se to eller flere billeder. På et tidspunkt vil softwaren sikkert indhente det. Men indtil videre giver flere billeder en stærk forsikring om, at billedet ikke er falsk.
Jamen, det tog tre måneder, ikke et år eller to. Egor Zakharov og kolleger på Samsung AI Center har udviklet en måde at skabe en video af en person, der bevæger sig og taler, baseret på selv et enkelt prøvebillede. Deres videodemonstration er imponerende og et kig værd. Formentlig kunne man forsyne deres algoritme med et enkelt StyleGAN-faktisk ansigt, og den ville levere flere vinkler og udtryk af den samme “person”. Foreløbig vil det måske være sværere at vise den samme person i forskellige outfits, settins osv. men det er klart, at vi ikke skal love nogen sølvkugler mod den hurtigt udviklende teknologi.
Med alt dette af dette i baghovedet, gå tilbage og spil igen. Du vil opdage, at du med en smule øvelse kan blive meget god til at spotte falske billeder meget hurtigt.