Niin merkittävä kuin StyleGAN-algoritmi onkin, se jättää jokaisessa luomassaan kuvassa useita ”kertomuksia”. Nämä vaihtelevat kuvasta toiseen – jokaisessa kuvassa ei ole kaikkia tai edes monia näistä virheistä – mutta pienellä harjoittelulla voit oppia huomaamaan ne yhdellä silmäyksellä. Opimme monet näistä tempuista Kyle McDonaldin vuonna 2018 julkaisemasta erinomaisesta opetusohjelmasta.
Vesitahrat
Emme voi odottaa, että tulevilla algoritmeilla on tämä ongelma, mutta yksi nykyisen StyleGAN-algoritmin erityispiirteistä on se, että se tuottaa yleisesti kiiltäviä tahroja, jotka muistuttavat jonkin verran vesitahroja vanhoissa valokuvatulosteissa. Nämä paljastavat kaiken. Vesitahroja voi esiintyä missä tahansa kuvassa, mutta usein ne näkyvät hiusten ja taustan rajapinnassa.
Taustaongelmat
Toinen kuollut aavistus on, että kuvien taustoissa voi mennä kaikenlaista pieleen. Neuroverkko on koulutettu kasvoihin, eikä se kiinnitä niin paljon huomiota siihen, mitä sivuilla tapahtuu. Pahimmillaan saat erittäin outoja seuralaisia, kuten ensimmäisessä kuvassa alla. Joskus saat vain kaoottisia kubistisia muotoja. Ja joskus tausta näyttää melkein revityltä valokuvalta.
Silmälasit
Juuri tällä hetkellä algoritmien on hyvin vaikea luoda realistisen näköisiä silmälaseja. Yleinen ongelma on epäsymmetria. Katso kehyksen rakennetta; usein kehys ottaa yhden tyylin vasemmalla ja toisen oikealla, tai toisella puolella on wayfarer-tyylinen koriste, mutta toisella ei. Toisinaan kehys on vain kiero tai rosoinen.
Muut epäsymmetriat
Yleisesti ottaen symmetria on haaste kasvojen generointialgoritmeille. Epäsymmetristen silmälasien lisäksi kannattaa varoa epäsymmetrisyyttä kasvojen hiuksissa, erilaisia korvakoruja vasemmassa ja oikeassa korvassa sekä erimuotoisia kauluksia tai kankaita vasemmalla ja oikealla puolella.
Hiukset
Hiuksia on erittäin vaikea renderöidä realistisesti. Joskus kasvoihin tai muualle jää irrallisia hiussuikaleita, kuten toisessa ensimmäisessä kuvassa alla. Toisinaan taas hiukset ovat liian suorat, raidalliset, kuten Kyle McDonald asian ilmaisi, ”kuin joku olisi sotkenut akryyliä palettiveitsellä tai isolla siveltimellä”. Tämä näkyy alla olevassa keskimmäisessä kuvassa. Joskus hiusten ympärillä on outo hehku tai halo, kuten alla olevassa viimeisessä kuvassa.
Fluoresoiva vuoto
Yksi mielenkiintoiseksi kertojaksi nousee se, että fluoresoivia värejä vuotaa toisinaan taustalta hiuksiin tai kasvoihin.
Hampaat
Hampaita ei ole helppo renderoida. Usein hampaat ovat outoja tai epäsymmetrisiä. Joissain tapauksissa voi näkyä jopa kolme etuhammasta, kuten alla olevassa loppukuvassa.
Merkkejä siitä, että valokuva on aito
Olemmekin näyttäneet, miten tunnistat väärennetyn kuvan. Nyt kun tiedät, mitä asioita neuroverkon on vaikea tuottaa, voit etsiä tapauksia, joissa nämä on renderöity tarkasti, ja jos nämä on tehty hyvin, voit olla melko varma, että kuva on aito. Tällaisia ovat esimerkiksi symmetriset silmälasit ja korvakorut (ensimmäinen kuva alla), todelliset ihmisen näköiset seuralaiset valokuvan sivussa (toinen kuva alla) ja yksityiskohtaiset taustat, etenkin jos niissä on luettavaa tekstiä (kolmas kuva alla).
Hopealuoti?
Kun lanseerasimme tämän nettisivun helmikuussa 2019, luulimme, että meillä oli hopealuoti ainakin vuodeksi tai kahdeksi. Kuvasimme sitä näin:
StyleGAN-algoritmi ei pysty luomaan useita kuvia samasta väärennetystä henkilöstä. Juuri nyt emme tiedä mitään ohjelmistoa, joka pystyy siihen. Jos siis haluat olla varma, että tinder-ihastuksesi on oikea henkilö, vaadi nähdä kaksi tai useampi kuva. Jossain vaiheessa ohjelmisto luultavasti saavuttaa sinut. Mutta toistaiseksi useampi kuva antaa vahvan varmuuden siitä, että kuva ei ole väärennös.
Noh, se kesti kolme kuukautta, ei vuotta tai kahta. Egor Zakharov ja kollegat Samsungin tekoälykeskuksessa ovat kehittäneet tavan luoda videokuvaa liikkuvasta ja puhuvasta ihmisestä jopa yhden esimerkkikuvan perusteella. Heidän videodemonstraationsa on upea ja katsomisen arvoinen. Oletettavasti heidän algoritmilleen voisi antaa yhden StyleGAN-väärennöksen kasvoista, ja se toimittaisi useita kuvakulmia ja ilmeitä samasta ”henkilöstä”. Toistaiseksi saattaisi olla vaikeampaa näyttää samaa henkilöä eri asuissa, asukokonaisuuksissa jne., mutta on selvää, ettei meidän pitäisi luvata mitään hopealuoteja nopeasti kehittyvää teknologiaa vastaan.
Kun tämä kaikki on mielessä, palaa takaisin ja pelaa uudestaan. Tulet huomaamaan, että pienellä harjoittelulla voit tulla erittäin hyväksi huomaamaan väärennetyt kuvat hyvin nopeasti.