Jakkoli je algoritmus StyleGAN pozoruhodný, zanechává v každém vytvořeném obrázku řadu „prozrazení“. Ty se liší obrázek od obrázku – ne každý má všechny nebo dokonce mnoho těchto chyb – ale s trochou cviku se je můžete naučit rozpoznat na první pohled. Mnohé z těchto triků jsme se naučili z vynikajícího návodu, který v roce 2018 zveřejnil Kyle McDonald.
Vodní skvrny
Nemůžeme očekávat, že budoucí algoritmy budou mít tento problém, ale jedním z charakteristických rysů současného algoritmu StyleGAN je, že běžně vytváří lesklé skvrny, které vypadají trochu jako vodní skvrny na starých fotografických výtiscích. Ty jsou mrtvým vodítkem. Vodní skvrny se mohou objevit kdekoli na obrázku, ale často se objevují na rozhraní mezi vlasy a pozadím.
Problémy s pozadím
Dalším mrtvým signálem je, že na pozadí snímků se může pokazit všelicos. Neuronová síť je vycvičená na obličej a nevěnuje tolik pozornosti tomu, co se děje po stranách. V nejhorším případě dostanete extrémně podivné společníky, jako na prvním obrázku níže. Někdy dostanete jen chaotické kubistické tvary. A někdy pozadí vypadá téměř jako roztrhaná fotografie.
Oční brýle
Právě teď je pro algoritmy velmi těžké generovat realisticky vypadající oční brýle. Častým problémem je asymetrie. Podívejte se na strukturu obruby; často se stává, že obruba má jeden styl na levé straně a druhý na pravé, nebo že na jedné straně je ozdoba ve stylu wayfarer, ale na druhé ne. Jindy bude rám prostě křivý nebo zubatý.
Jiné asymetrie
Obecně je symetrie pro algoritmy generování obličejů výzvou. Kromě asymetrických brýlí si dejte pozor na asymetrii vlasů v obličeji, různé náušnice v levém a pravém uchu a různé formy límce nebo látky na levé a pravé straně.
Vlasy
Vlasy je extrémně obtížné realisticky vykreslit. Někdy se na obličeji nebo jinde objeví nesouvislé prameny vlasů, jako na jiném prvním obrázku níže. Jindy budou vlasy příliš rovné, pruhované, jak řekl Kyle McDonald, „jako by někdo paletovým nožem nebo obrovským štětcem rozmazal hromadu akrylu“. To vidíme na prostředním obrázku níže. Někdy se kolem vlasů objeví podivná záře nebo svatozář, jako na posledním obrázku níže.
Fluorescenční krvácení
Jedním zajímavým poznatkem je, že fluorescenční barvy někdy prosakují z pozadí na vlasy nebo obličej.
Zuby
Zuby není snadné vykreslit. Často jsou zuby liché nebo asymetrické. V některých případech můžete vidět i tři řezáky jako na závěrečné fotografii níže.
Znaky, že je fotografie pravá
Ukázali jsme vám, jak rozpoznat snímek, který je falešný. Nyní, když víte, jaké věci je pro neuronovou síť těžké vygenerovat, můžete hledat případy, kdy jsou tyto věci přesně vykresleny, a pokud jsou provedeny dobře, můžete si být poměrně jisti, že obrázek je pravý. Patří mezi ně symetrické brýle a náušnice (první obrázek níže), skutečně lidsky vypadající společníci na boku fotografie (druhý obrázek níže) a detailní pozadí, zejména pokud je na něm čitelný text (třetí obrázek níže).
Stříbrná kulka?
Když jsme v únoru 2019 spustili tento web, mysleli jsme si, že máme stříbrnou kulku alespoň na rok nebo dva. Popsali jsme to takto:
Algoritmus StyleGAN nedokáže vygenerovat více obrázků stejné falešné osoby. V tuto chvíli nevíme o žádném softwaru, který by to dokázal. Pokud tedy chcete mít jistotu, že vaše láska z Tinderu je skutečná osoba, trvejte na zobrazení dvou nebo více fotografií. V určitém okamžiku to software pravděpodobně dožene. Prozatím však více fotografií nabízí silnou jistotu, že se nejedná o podvrh.
No, trvalo to tři měsíce, ne rok nebo dva. Egor Zakharov a jeho kolegové ze Samsung AI Center vyvinuli způsob, jak vytvořit video pohybující se a mluvící osoby, a to i na základě jediného vzorového snímku. Jejich videoukázka je ohromující a stojí za zhlédnutí. Pravděpodobně by bylo možné dodat jejich algoritmu jeden falešný obličej StyleGAN a ten by dodal více úhlů a výrazů téže „osoby“. Prozatím by mohlo být obtížnější ukázat stejnou osobu v různém oblečení, settině atd. ale je jasné, že bychom si neměli slibovat žádné stříbrné náboje proti rychle se vyvíjející technologii.
S ohledem na všechny tyto skutečnosti se vraťte a zahrajte si znovu. Zjistíte, že s trochou cviku se v rozpoznávání falešných obrázků velmi rychle zdokonalíte.