Jakkolwiek niezwykły jest algorytm StyleGAN, pozostawia on pewne „znaki szczególne” na każdym stworzonym przez siebie obrazie. Różnią się one w zależności od obrazu – nie każdy obraz ma wszystkie lub nawet wiele z tych błędów – ale przy odrobinie praktyki można nauczyć się je zauważać na pierwszy rzut oka. Nauczyliśmy się wielu z tych sztuczek z doskonałego samouczka opublikowanego przez Kyle’a McDonalda w 2018 roku.
Water-splotches
Nie możemy oczekiwać, że przyszłe algorytmy będą miały ten problem, ale jedną z wyróżniających cech obecnego algorytmu StyleGAN jest to, że powszechnie produkuje on błyszczące plamy, które wyglądają nieco jak plamy wody na starych odbitkach fotograficznych. Te plamy są prawdziwą wskazówką. Plamy wody mogą pojawić się w dowolnym miejscu na obrazie, ale często występują na styku włosów i tła.
Problemy z tłem
Kolejną oczywistością jest to, że wszystkie rodzaje rzeczy mogą pójść nie tak z tłem obrazów. Sieć neuronowa jest szkolona na twarzy, i nie zwraca tyle uwagi na to, co dzieje się po bokach. W najgorszym wypadku otrzymujemy wyjątkowo dziwnych towarzyszy, jak na pierwszym zdjęciu poniżej. Czasem dostajemy po prostu chaotyczne kubistyczne formy. A czasami tło wygląda prawie jak podarta fotografia.
Okulary
W tej chwili bardzo trudno jest algorytmom wygenerować realistycznie wyglądające okulary. Częstym problemem jest asymetria. Spójrz na strukturę ramki; często ramka będzie miała jeden styl po lewej stronie i inny po prawej, lub będzie ornament w stylu wayfarer po jednej stronie, ale nie po drugiej. Innym razem rama będzie po prostu krzywa lub poszarpana.
Inne asymetrie
Ogólnie symetria jest wyzwaniem dla algorytmów generowania twarzy. Oprócz asymetrii okularów, należy zwrócić uwagę na asymetrię włosów na twarzy, różne kolczyki w lewym i prawym uchu oraz różne formy kołnierzyka lub tkaniny po lewej i prawej stronie.
Włosy
Włosy są niezwykle trudne do oddania w sposób realistyczny. Czasami na twarzy lub w innym miejscu pojawią się oderwane pasma włosów, jak na innym, pierwszym obrazku poniżej. Innym razem włosy będą zbyt proste, z pasemkami, jak to ujął Kyle McDonald, „jakby ktoś rozmazał akryl nożem do palet lub wielkim pędzlem”. Widzimy to na środkowym zdjęciu poniżej. Czasami wokół włosów pojawia się dziwna poświata lub aureola, jak na ostatnim zdjęciu poniżej.
Fluorescent bleed
Jedną z interesujących informacji jest to, że kolory fluorescencyjne czasami krwawią z tła na włosy lub twarz.
Zęby
Zęby nie są łatwe do renderowania. Często zęby są dziwne lub asymetryczne. W niektórych przypadkach można nawet zobaczyć trzy siekacze, jak na ostatnim zdjęciu poniżej.
Znaki świadczące o tym, że zdjęcie jest prawdziwe
Pokazaliśmy Ci, jak zidentyfikować zdjęcie, które jest fałszywe. Teraz, gdy wiesz, jakie rzeczy, że trudno dla sieci neuronowej do generowania, można szukać przypadków, w których są one dokładnie renderowane, a jeśli są one wykonane dobrze, można czuć się dość pewnie, że obraz jest prawdziwy. Należą do nich symetryczne okulary i kolczyki (pierwszy obrazek poniżej), rzeczywiste ludzkie wyglądające towarzysze z boku zdjęcia (drugi obrazek poniżej), i szczegółowe tła, zwłaszcza jeśli jest czytelny tekst (trzeci obrazek poniżej).
Srebrna kula?
Kiedy uruchomiliśmy tę stronę w lutym 2019 roku, myśleliśmy, że mamy srebrną kulę na co najmniej rok lub dwa. Opisaliśmy to w ten sposób:
Algorytm StyleGAN nie jest w stanie wygenerować wielu obrazów tej samej fałszywej osoby. W tej chwili nie znamy żadnego oprogramowania, które by to potrafiło. Jeśli więc chcesz mieć pewność, że Twój tinderowy podkochuje się w prawdziwej osobie, nalegaj na obejrzenie dwóch lub więcej zdjęć. W pewnym momencie, oprogramowanie prawdopodobnie nadrobi zaległości. Ale na razie, wiele zdjęć oferuje potężną pewność, że obraz nie jest fałszywy.
Cóż, zajęło to trzy miesiące, a nie rok czy dwa. Egor Zakharov i koledzy z Samsung AI Center opracowali sposób tworzenia wideo osoby poruszającej się i mówiącej, na podstawie nawet jednego przykładowego obrazu. Ich demonstracja wideo jest oszałamiająca i warta obejrzenia. Przypuszczalnie można by dostarczyć ich algorytmowi pojedynczą sztuczną twarz StyleGAN, a ten dostarczyłby wiele kątów i wyrazów tej samej „osoby”. Na razie może być trudniej pokazać tę samą osobę w różnych strojach, sceneriach itp., ale jasne jest, że nie powinniśmy obiecywać żadnych srebrnych kul przeciwko szybko rozwijającej się technologii.
Mając to wszystko na uwadze, wróć i zagraj jeszcze raz. Przekonasz się, że przy odrobinie praktyki możesz bardzo szybko stać się bardzo dobry w wykrywaniu fałszywych obrazów.