So bemerkenswert der StyleGAN-Algorithmus auch ist, er hinterlässt in jedem Bild, das er erstellt, eine Reihe von „Verrätern“. Diese variieren von Bild zu Bild – nicht jedes hat alle oder auch nur viele dieser Fehler – aber mit ein wenig Übung kann man lernen, sie auf einen Blick zu erkennen. Viele dieser Tricks haben wir aus dem ausgezeichneten Tutorial von Kyle McDonald aus dem Jahr 2018 gelernt.
Wasserflecken
Wir können nicht erwarten, dass zukünftige Algorithmen dieses Problem haben werden, aber eines der charakteristischen Merkmale des aktuellen StyleGAN-Algorithmus ist, dass er häufig glänzende Flecken erzeugt, die ein wenig wie Wasserflecken auf alten Fotodrucken aussehen. Diese sind ein untrügliches Zeichen. Wasserflecken können überall im Bild vorkommen, treten aber häufig an der Schnittstelle zwischen Haar und Hintergrund auf.
Hintergrundprobleme
Ein weiterer untrüglicher Hinweis ist, dass mit den Hintergründen der Bilder alles Mögliche schief gehen kann. Das neuronale Netz ist auf das Gesicht trainiert und achtet nicht so sehr darauf, was an den Seiten passiert. Im schlimmsten Fall erhält man extrem merkwürdige Gefährte, wie im ersten Bild unten. Manchmal erhält man einfach nur chaotische kubistische Formen. Und manchmal sieht der Hintergrund fast wie ein zerrissenes Foto aus.
Augengläser
Im Moment ist es für Algorithmen sehr schwer, realistisch aussehende Brillen zu erzeugen. Ein häufiges Problem ist die Asymmetrie. Schauen Sie sich die Struktur des Rahmens an; oft hat der Rahmen auf der linken Seite einen bestimmten Stil und auf der rechten Seite einen anderen, oder es gibt eine Verzierung im Stil eines Wanderers auf der einen Seite, aber nicht auf der anderen. In anderen Fällen ist der Rahmen einfach schief oder gezackt.
Andere Asymmetrien
Im Allgemeinen ist die Symmetrie eine Herausforderung für die Algorithmen zur Gesichtsgenerierung. Neben asymmetrischen Brillen sollte man auf Asymmetrien in der Gesichtsbehaarung, unterschiedliche Ohrringe im linken und rechten Ohr und unterschiedliche Formen von Kragen oder Stoff auf der linken und rechten Seite achten.
Haare
Haare sind extrem schwer realistisch darzustellen. Manchmal gibt es unzusammenhängende Haarsträhnen im Gesicht oder anderswo, wie im ersten Bild unten. In anderen Fällen sind die Haare zu glatt, streifig, wie Kyle McDonald es ausdrückt, „als hätte jemand einen Haufen Acryl mit einem Spachtel oder einem großen Pinsel verschmiert.“ Dies ist auf dem mittleren Bild unten zu sehen. Manchmal gibt es einen seltsamen Schimmer oder Heiligenschein um das Haar, wie im letzten Bild unten.
Fluoreszierendes Ausbluten
Ein interessantes Merkmal ist, dass fluoreszierende Farben manchmal vom Hintergrund auf das Haar oder das Gesicht übergehen.
Zähne
Zähne sind nicht einfach zu rendern. Oft sind die Zähne ungerade oder asymmetrisch. In einigen Fällen kann man sogar drei Schneidezähne sehen, wie auf dem letzten Foto unten.
Anzeichen dafür, dass ein Foto echt ist
Wir haben Ihnen gezeigt, wie Sie ein gefälschtes Bild erkennen können. Jetzt, da Sie wissen, welche Dinge für das neuronale Netz schwer zu generieren sind, können Sie nach Fällen suchen, in denen diese genau wiedergegeben werden, und wenn dies gut gelingt, können Sie sich ziemlich sicher sein, dass ein Bild echt ist. Dazu gehören symmetrische Brillen und Ohrringe (erstes Bild unten), echte menschlich aussehende Begleiter am Rande eines Fotos (zweites Bild unten) und detaillierte Hintergründe, vor allem wenn es lesbaren Text gibt (drittes Bild unten).
Eine silberne Kugel?
Als wir diese Website im Februar 2019 starteten, dachten wir, wir hätten eine silberne Kugel für mindestens ein oder zwei Jahre. Wir haben es so beschrieben:
Der StyleGAN-Algorithmus ist nicht in der Lage, mehrere Bilder der gleichen gefälschten Person zu generieren. Im Moment kennen wir keine Software, die das kann. Wenn du also sicher sein willst, dass dein Tinder-Schwarm ein echter Mensch ist, musst du darauf bestehen, zwei oder mehr Fotos zu sehen. Irgendwann wird die Software wahrscheinlich aufholen. Aber im Moment bieten mehrere Bilder eine starke Bestätigung, dass das Bild nicht gefälscht ist.
Nun, es hat drei Monate gedauert, nicht ein oder zwei Jahre. Egor Zakharov und seine Kollegen vom Samsung AI Center haben eine Methode entwickelt, um ein Video von einer Person zu erstellen, die sich bewegt und spricht, und zwar auf der Grundlage eines einzigen Beispielbildes. Ihre Videodemonstration ist atemberaubend und einen Blick wert. Vermutlich könnte man ihrem Algorithmus ein einzelnes StyleGAN-Gesicht vorgeben, und er würde mehrere Blickwinkel und Ausdrücke derselben „Person“ liefern. Im Moment könnte es schwieriger sein, dieselbe Person in verschiedenen Outfits, Einstellungen usw. zu zeigen, aber es ist klar, dass wir keine Wunderdinge gegen die sich schnell entwickelnde Technologie versprechen sollten.
Mit all dem im Hinterkopf, gehen Sie zurück und spielen Sie erneut. Sie werden feststellen, dass Sie mit ein wenig Übung sehr schnell in der Lage sind, gefälschte Bilder zu erkennen.