Por mais notável que seja o algoritmo StyleGAN, ele deixa um número de “dizer” em cada imagem que cria. Estes variam de imagem para imagem – nem todos têm todas ou mesmo muitas destas falhas – mas com um pouco de prática você pode aprender a detectá-las num relance. Aprendemos muitos destes truques com o excelente tutorial publicado por Kyle McDonald em 2018.
Mplotches de água
Não podemos esperar que algoritmos futuros tenham este problema, mas uma das características distintivas do algoritmo StyleGAN atual é que ele comumente produz blobs brilhantes que parecem um pouco com manchas de água em impressões fotográficas antigas. Estas são um “dead giveaway”. Manchas de água podem aparecer em qualquer parte da imagem, mas muitas vezes aparecem na interface entre o cabelo e o fundo.
Problemas de fundo
>
Outra trapalhada de água é que todo o tipo de coisas podem correr mal com os fundos das imagens. A rede neural é treinada no rosto, e não presta tanta atenção ao que está acontecendo nos lados. No pior dos casos, você tem alguns companheiros extremamente estranhos, como na primeira foto abaixo. Às vezes, você só recebe formas cubistas caóticas. E às vezes o fundo parece quase uma fotografia rasgada.
Óculos
Direito agora, é muito difícil para os algoritmos gerar óculos de aspecto realista. Um problema comum é a assimetria. Olhe para a estrutura da moldura; muitas vezes a moldura terá um estilo à esquerda e outro à direita, ou haverá um ornamento estilo wayfarer de um lado mas não do outro. Outras vezes a moldura será apenas torta ou recortada.
Outras assimetrias
Em geral, a simetria é um desafio para os algoritmos de geração facial. Em adição aos óculos assimétricos, esteja atento a assimetrias nos pêlos faciais, diferentes brincos na orelha esquerda e direita e diferentes formas de colarinho ou tecido no lado esquerdo e direito.
Pêlo
Pêlo é extremamente difícil de renderizar de forma realista. Algumas vezes haverá mechas de cabelo desconectadas no rosto ou em outro lugar, como em outra primeira imagem abaixo. Outras vezes o cabelo será demasiado liso, riscado, como disse Kyle McDonald, “como se alguém tivesse manchado um monte de acrílico com uma faca de paleta ou uma escova enorme”. Vemos isto na imagem do meio, abaixo. Às vezes haverá um brilho ou auréola estranha ao redor do cabelo, como na imagem final abaixo.
>
Sangria fluorescente
Uma observação interessante é que as cores fluorescentes às vezes sangram do fundo para o cabelo ou rosto.
Dentes
Dentes não são fáceis de renderizar. Muitas vezes os dentes são estranhos ou assimétricos. Em alguns casos, você pode até ver três incisivos, como na foto final abaixo.
Sinais de que uma fotografia é real
Mostramos-lhe como identificar uma imagem que é falsa. Agora que você sabe o que é difícil para a rede neural gerar, você pode procurar por casos onde estes são renderizados com precisão e se estes forem bem feitos você pode se sentir bastante confiante de que uma imagem é real. Estes incluem óculos e brincos simétricos (primeira imagem abaixo), companheiros reais de aspecto humano ao lado de uma fotografia (segunda imagem abaixo), e fundos detalhados, especialmente se houver texto legível (terceira imagem abaixo).
Uma bala de prata?
Quando lançámos este site em Fevereiro de 2019, pensámos que tínhamos uma bala de prata durante pelo menos um ano ou dois. Descrevemo-la assim:
O algoritmo StyleGAN não consegue gerar múltiplas imagens da mesma pessoa falsa. Neste momento, não temos conhecimento de nenhum software que possa fazer isso. Portanto, se você quer ter certeza de que sua paixoneta é uma pessoa real, insista em ver duas ou mais fotos. Em algum momento, o software provavelmente irá alcançar. Mas, por enquanto, várias fotos oferecem uma poderosa garantia de que a imagem não é falsa.
Bem, demorou três meses, não um ano ou dois. Egor Zakharov e colegas do Samsung AI Center desenvolveram uma forma de criar vídeo de uma pessoa movendo e falando, com base até mesmo em uma única imagem de amostra. A demonstração em vídeo deles é impressionante e vale bem a pena dar uma olhada. Presumivelmente, poderia fornecer o seu algoritmo com uma única cara falsa StyleGAN, e forneceria múltiplos ângulos e expressões da mesma “pessoa”. Por enquanto pode ser mais difícil mostrar a mesma pessoa em trajes diferentes, settins, etc., mas é claro que não devemos prometer nenhuma bala de prata contra a tecnologia em rápida evolução.
Com tudo isso em mente, volte e jogue novamente. Você vai descobrir que com um pouco de prática você pode ficar muito bom em detectar imagens falsas muito rapidamente.