Så anmärkningsvärd som StyleGAN-algoritmen är, lämnar den ett antal ”berättelser” i varje bild som den skapar. Dessa varierar från bild till bild – alla bilder har inte alla eller ens många av dessa felsteg – men med lite övning kan du lära dig att upptäcka dem med en blick. Vi lärde oss många av dessa knep från den utmärkta handledning som publicerades av Kyle McDonald 2018.
Vattenfläckar
Vi kan inte förvänta oss att framtida algoritmer kommer att ha det här problemet, men en av de utmärkande egenskaperna hos den nuvarande StyleGAN-algoritmen är att den ofta producerar glänsande fläckar som ser ut ungefär som vattenfläckar på gamla fotografiska utskrifter. Dessa är ett dödligt tecken. Vattenfläckar kan dyka upp var som helst i bilden, men de dyker ofta upp i gränssnittet mellan håret och bakgrunden.
Bakgrundsproblem
En annan dödlig avslöjande är att det kan gå åt alla möjliga håll med bakgrunden till bilderna. Det neurala nätet tränas på ansiktet och ägnar inte lika mycket uppmärksamhet åt vad som händer vid sidorna. I värsta fall får man extremt märkliga följeslagare, som i den första bilden nedan. Ibland får man bara kaotiska kubistiska former. Och ibland ser bakgrunden nästan ut som ett sönderrivet fotografi.
Ögonbrillor
Redan nu är det mycket svårt för algoritmerna att generera realistiskt utseende glasögon. Ett vanligt problem är asymmetri. Titta på ramstrukturen; ofta tar ramen en stil till vänster och en annan till höger, eller så finns det ett ornament i wayfarer-stil på ena sidan men inte på den andra. Andra gånger är ramen bara krokig eller ojämn.
Andra asymmetrier
I allmänhet är symmetri en utmaning för algoritmerna för ansiktsgenerering. Förutom asymmetriska glasögon bör man hålla utkik efter asymmetrier i ansiktshåret, olika örhängen i vänster och höger öra och olika former av krage eller tyg på vänster och höger sida.
Hår
Hår är extremt svårt att återge realistiskt. Ibland kommer det att finnas avbrutna hårstrån i ansiktet eller på andra ställen, som i andra första bilden nedan. Andra gånger kommer håret att vara för rakt, streckigt, som Kyle McDonald uttryckte det, ”som om någon smetat ut en massa akryl med en palettkniv eller en stor pensel”. Vi ser detta i den mellersta bilden nedan. Ibland blir det en konstig glöd eller halo runt håret, som i den sista bilden nedan.
Fluorescerande blödning
En intressant tell uppstår är att fluorescerande färger ibland blödar in från bakgrunden på håret eller ansiktet.
Tänder
Tänder är inte lätta att återge. Ofta är tänderna udda eller asymmetriska. I vissa fall kan man till och med se tre framtänder som i det sista fotot nedan.
Tecken på att ett fotografi är äkta
Vi har visat dig hur du kan identifiera en bild som är falsk. Nu när du vet vilka saker som är svåra för det neurala nätverket att generera kan du leta efter fall där dessa är korrekt återgivna och om dessa är välgjorda kan du känna dig ganska säker på att en bild är äkta. Dessa inkluderar symmetriska glasögon och örhängen (första bilden nedan), verkliga människoliknande följeslagare vid sidan av ett fotografi (andra bilden nedan) och detaljerade bakgrunder, särskilt om det finns läsbar text (tredje bilden nedan).
En silverkula?
När vi lanserade den här webbplatsen i februari 2019 trodde vi att vi hade en silverkula för åtminstone ett år eller två. Vi beskrev det på följande sätt:
StilGAN-algoritmen kan inte generera flera bilder av samma falska person. Just nu känner vi inte till någon programvara som kan göra det. Så om du vill vara säker på att din tinder crush är en riktig person, insistera på att få se två eller fler bilder. Någon gång kommer förmodligen programvaran att komma ikapp. Men för tillfället ger flera bilder en stark försäkran om att bilden inte är en förfalskning.
Det tog tre månader, inte ett år eller två. Egor Zakharov och kollegor vid Samsung AI Center har utvecklat ett sätt att skapa video av en person som rör sig och pratar, baserat på även en enda provbild. Deras videodemonstration är fantastisk och väl värd en titt. Förmodligen skulle man kunna förse deras algoritm med ett enda StyleGAN-falskt ansikte, och den skulle leverera flera vinklar och uttryck av samma ”person”. För tillfället kan det vara svårare att visa samma person i olika kläder, setins etc., men det är klart att vi inte ska lova några silverkulor mot den snabbt utvecklande tekniken.
Med allt detta i åtanke, gå tillbaka och spela igen. Du kommer att upptäcka att du med lite övning kan bli väldigt bra på att upptäcka falska bilder väldigt snabbt.