Per quanto notevole sia l’algoritmo StyleGAN, esso lascia un certo numero di “tells” in ogni immagine che crea. Questi variano da immagine a immagine – non tutte hanno tutti o anche molti di questi difetti – ma con un po’ di pratica si può imparare a individuarli a colpo d’occhio. Abbiamo imparato molti di questi trucchi dall’eccellente tutorial pubblicato da Kyle McDonald nel 2018.
Water-splotches
Non possiamo aspettarci che gli algoritmi futuri abbiano questo problema, ma una delle caratteristiche distintive dell’attuale algoritmo StyleGAN è che produce comunemente macchie lucide che assomigliano un po’ alle macchie d’acqua su vecchie stampe fotografiche. Queste sono un segnale d’allarme. Le macchie d’acqua possono apparire ovunque nell’immagine, ma spesso si presentano all’interfaccia tra i capelli e lo sfondo.
Problemi di sfondo
Un’altra prova evidente è che ogni sorta di cose può andare male con lo sfondo delle immagini. La rete neurale è addestrata sul viso, e non presta molta attenzione a ciò che succede ai lati. Nel peggiore dei casi, si ottengono dei compagni estremamente strani, come nella prima immagine qui sotto. A volte si ottengono solo caotiche forme cubiste. E a volte lo sfondo sembra quasi una fotografia strappata.
Occhiali da vista
In questo momento, è molto difficile per gli algoritmi generare occhiali dall’aspetto realistico. Un problema comune è l’asimmetria. Guardate la struttura della montatura; spesso la montatura avrà uno stile a sinistra e un altro a destra, o ci sarà un ornamento stile viandante su un lato ma non sull’altro. Altre volte la cornice sarà semplicemente storta o frastagliata.
Altre asimmetrie
In generale, la simmetria è una sfida per gli algoritmi di generazione facciale. Oltre all’asimmetria degli occhiali, siate alla ricerca di asimmetrie nei capelli del viso, orecchini diversi nell’orecchio sinistro e destro, e forme diverse di colletto o tessuto sul lato sinistro e destro.
Capelli
I capelli sono estremamente difficili da rendere realisticamente. A volte ci saranno ciocche di capelli scollegate sulla faccia o altrove, come in altre prime immagini qui sotto. Altre volte i capelli saranno troppo lisci, striati, come ha detto Kyle McDonald, “come se qualcuno avesse sbavato un mucchio di acrilico con una spatola o un pennello enorme”. Lo vediamo nell’immagine centrale qui sotto. A volte ci sarà uno strano bagliore o alone intorno ai capelli, come nell’immagine finale qui sotto.
Sanguinamento fluorescente
Un interessante fenomeno è che i colori fluorescenti talvolta sanguinano dallo sfondo sui capelli o sul viso.
Denti
I denti non sono facili da rendere. Spesso i denti sono strani o asimmetrici. In alcuni casi, si possono anche vedere tre incisivi come nella fotografia finale qui sotto.
Segni che una fotografia è vera
Vi abbiamo mostrato come identificare un’immagine che è falsa. Ora che sapete quali sono le cose difficili da generare per la rete neurale, potete cercare i casi in cui queste sono rese accuratamente e se queste sono fatte bene potete sentirvi abbastanza sicuri che un’immagine è reale. Questi includono occhiali e orecchini simmetrici (prima immagine sotto), veri e propri compagni dall’aspetto umano al lato di una fotografia (seconda immagine sotto), e sfondi dettagliati specialmente se c’è del testo leggibile (terza immagine sotto).
Un proiettile d’argento?
Quando abbiamo lanciato questo sito nel febbraio del 2019, abbiamo pensato di avere un proiettile d’argento per almeno un anno o due. Lo abbiamo descritto così:
L’algoritmo StyleGAN non è in grado di generare più immagini della stessa persona falsa. Al momento, non siamo a conoscenza di alcun software che possa farlo. Quindi, se volete essere sicuri che la vostra cotta di Tinder sia una persona reale, insistete per vedere due o più foto. Ad un certo punto, il software probabilmente si metterà in pari. Ma per ora, più foto offrono una potente rassicurazione che l’immagine non è un falso.
Bene, ci sono voluti tre mesi, non un anno o due. Egor Zakharov e colleghi del Samsung AI Center hanno sviluppato un modo per creare video di una persona che si muove e parla, basandosi anche su una sola immagine campione. La loro dimostrazione video è stupefacente e vale la pena dare un’occhiata. Presumibilmente si potrebbe fornire al loro algoritmo una singola faccia finta StyleGAN, ed esso fornirebbe più angolazioni ed espressioni della stessa “persona”. Per il momento potrebbe essere più difficile mostrare la stessa persona in diversi abiti, assetti, ecc., ma è chiaro che non dovremmo promettere nessuna pallottola d’argento contro la tecnologia in rapida evoluzione.
Con tutto questo in mente, tornate a giocare di nuovo. Troverete che con un po’ di pratica potrete diventare molto bravi a individuare le immagini false molto rapidamente.
Si può fare.