Dalle fake news alle fake face: l’algoritmo StyleGAN. E l’arte…

Redazione SMS MAG

6 Marzo 2019

Con l’algoritmo StyleGAN e il sito this person does not exist torna a porsi il tema della veridicità dell’identità virtuale, ma anche dell’opera unica nell’arte…

Se siete tra quelli che pensano ancora che una fotografia garantisca l’identità di una persona, sappiate che oggi non è più così. A informarci della fine di questa ultima certezza, l’azienda californiana leader nel visual computing NVIDIA che a dicembre 2018 (poi aggiornato a febbraio 2019) ha rilasciato un codice open source di un suo software di generazione di volti fotorealistici. Si tratta dell’algoritmo StyleGAN, frutto di un esperimento dei ricercatori Tero Karras, Samuli Laine e Timo Aila, i cui risultati sono stati pubblicati su Arxiv (link al paper). L’algoritmo è basato su un precedente lavoro del 2014 (link al paper sempre su Arvix) del ricercatore di machine learning Ian Goodfellow, e colleghi, sulla GAN.


Machine learning (fonte Wired)

Branca dell’informatica che mira a rendere i computer in grado di apprendere senza che le nozioni siano esplicitamente contenute nel codice di programmazione. Il machine learning, o apprendimento automatico in italiano, include un insieme di metodi sviluppati negli ultimi decenni tra cui le reti neurali artificiali (per impieghi generali), gli algoritmi adattivi, il data mining e il riconoscimento di pattern. Il machine learning si occupa di studiare e costruire algoritmi che possano imparare dai Big Data e fare previsioni in modo induttivo o intuitivo, dunque è legato alla teoria computazionale dell’apprendimento ed è sfruttato soprattutto quando si vogliono realizzare algoritmi impossibili da esplicitare a priori.

Continua a leggere QUI.


Ma cos’è una GAN?

GAN deriva dall’inglese Generative Adversarial Network e si traduce in rete antagonista generativa, una classe di algoritmi di intelligenza artificiale utilizzata nell’apprendimento automatico (o machine learning) non supervisionato che implementa due sistemi che si sfidano l’uno con l’altro. “Generativa” perché produce immagini e “rete antagonista” perché usa due reti neurali in competizione l’una con l’altra in un gioco che si può riassumere in quello del “gatto e topo”: una rete cerca di ingannare l’altra pensando di poter generare immagini reali, l’altra prova a distinguere quelle vere da quelle false.

 

 

Nel caso dell’algoritmo StyleGAN i due sistemi di intelligenza artificiale in competizione sono un generatore e un discriminatore. Il primo tenta di generare immagini artificiali difficilmente distinguibili da fotografie reali (sono state utilizzate immagini prese da due banche date di foto facciali: CELEBA-HQ, che include migliaia di volti famosi, e FFHQ, che comprende 70.000 fotografie pubblicate su Flickr con licenza Creative Commons). Mentre il discriminatore, che riceve sia immagini modificate che foto originali, tenta di distinguerne la differenza. Dopo diverse sfide, i ricercatori di NVIDIA hanno osservato che il generatore era diventato così abile a produrre modifiche realistiche delle fotografie al punto che il discriminatore non riusciva più a distinguere le immagini reali da quelle modificate. Il conseguente risultato di questo nuovo algoritmo è la creazione di “fotografie” sintetiche, e dunque false, di persone che non esistono.

Foto prodotte dall’algoritmo StyleGAN

Sulla scia del codice open source rilasciato da NVIDIA, l’ingegnere informatico di Uber Phillip Wang ha creato il sito web thispersondoesnotexist.com per dimostrare come le GAN creino questi pseudoritratti e poi l’11 Febbario 2019 lo ha pubblicato sul gruppo pubblico Facebook Artificial Intelligence & Deep Learning. Il sito, che permette agli utenti di generare immediatamente volti, saltando tutto il processo di formazione di immagini precedentemente illustrato, ha fatto il giro del web, destando curiosità e interesse (ma anche qualche interrogativo).

Il post su Facebook dell’ingegnere informatico Phillip Wang

Il sito pubblica una nuova immagine ogni 2 secondi e non crea due foto della stessa “persona”, se così si può chiamare l’immagine di una fake face… Provatelo per credere!

Una fake face creata dal sito web thispersondoesnotexist.com

Fake face

La peculiarità dell’algoritmo StyleGAN è di riuscire a creare degli pseudoritratti praticamente realistici, difficili da giudicare come dei falsi. I lineamenti e le espressioni sono credibili e veritieri, se non fosse per qualche sparuto dettaglio che può farci riconoscere, anche a occhio nudo -ma con la dovuta attenzione-, una foto fake da una che non lo è. Questo algoritmo infatti, in ogni immagine che crea, lascia delle tracce che tradiscono la veridicità della fake face. Per esempio: i capelli in alcuni punti sembrano spatolati, o raccolti in ciuffi e ciocche casuali sulla fronte o intorno alle spalle; oppure non viene rispettata l’asimmetria nella dimensione delle orecchie e nello sguardo degli occhi, tra due orecchini e tra due lenti degli occhiali. Lo StyleGAN inoltre ha difficoltà con i dettagli ripetuti come i denti, per cui a volte genera denti non allineati, o li allunga o li restringe in maniera insolita, e non riesce a identificare gli sfondi che, nella maggior parte dei casi, non risultano reali. Ma la vera sbavatura è data da chiazze fluorescenti, simili alle macchie d’acqua sulle vecchie stampe fotografiche, che possono apparire in qualsiasi punto dell’immagine.

Esempio di capelli spatolati su una fake face prodotta dall’algoritmo StyleGAN

Per sapere qualcosa di più su come smascherare una fake face, leggere il tutorial How to recognize fake AI-generated images dell’artista che lavora con i codici Kyle McDonald e l’articolo Which Face Is Real dei ricercatori Jevin West e Carl Bergstrom dell’University of Washington che fa parte del Calling Bullshit project.


Kyle McDonald

Kyle McDonald è un artista che lavora con i codici. Crea installazioni audiovisive interattive e immersive, performance e nuovi strumenti per l’esplorazione creativa. Usa tecniche di computer vision, machine learning, networking e computing per creare esperienze insolite.


Arte e etica

Da quando è attivo il codice StyleGAN, dunque, nel web è possibile trovare pseudoritratti fotografici unici di persone che nella realtà non esistono. Ma questo algoritmo è solo l’ultimo di una serie in grado di creare immagini, tanto che anche altri ricercatori e artisti negli ultimi anni hanno lavorato con la GAN. Come, per esempio, il collettivo francese Obvious (composto da Hugo Caselles-Dupré, Pierre Fautrel e Gauthier Vernierche nel 2017 ha creato delle opere -pseudodipinti in questo caso- realizzate interamente dall’Intelligenza Artificiale.

Il collettivo Obvious (fonte Facebook)

Si tratta di un ciclo di undici ritratti di un’ipotetica famiglia Belamy, il cui cognome è un omaggio al già citato inventore della GAN Ian Goodfellow, tradotto approssimativamente “buon amico”. Per arrivare a queste immagini finali, seguendo sempre la logica della GAN e il gioco del “gatto e topo”, sono stati raccolti e utilizzati più di 15mila ritratti realizzati tra il XIV e il XX secolo e il risultato finale è stato poi impresso su tela con getto d’inchiostro.


Obvious

Obvious è un collettivo di amici, artisti e ricercatori, spinto da una sensibilità comune per quanto riguarda le questioni legate al crescente avvento di Intelligenza Artificiale e machine learning. Tra i loro obiettivi spiegare e democratizzare questi progressi attraverso le loro opere.

 


E poichè ogni immagine generata dalla GAN è un unicum e non può essere replicata, il mondo dell’arte è stato subito attratto dalla produzione del collettivo Obvious e a febbraio 2018 il collezionista francese Nicolas Laugero-Lassere ha acquistato Le Comte de Belamy.

Le Comte de Belamy (fonte Facebook)

Ne è seguito l’interesse della famosa casa d’aste Christie’s che ha deciso di mettere all’asta il Ritratto di Edmond Belamy e, contemporanemente per la prima volta, un’opera realizzata dall’Intelligenza Artificiale. Stimato tra i 7.000 e i 10.000 dollari, lo pseudodipinto è stato battuto all’asta a New York nell’ottobre del 2018 per 432,500 dollari. Una cifra enorme che segna l’ingresso di peso nel mercato dell’arte di una produzione che ha come autrice/artista l’Intelligenza Artificiale. Inutile dire che successivamente molti altri componenti della famiglia Belamy sono stati acquistati da collezionisti di tutto il mondo.

Ritratto di Edmond Belamy (fonte Facebook)

L’operazione di Christie’s non è stata esente da critiche che hanno giudicato il Ritratto di Edmond Belamy un’immagine non artistica poiché non è frutto dell’intelligenza o della mano umana… Ma dopotutto, riportando il discorso a monte, non potrebbero essere apportate delle critiche anche alla mancata etica della creazione delle fake face?…

Il dibattito è aperto.

Per approfondimenti

This Person Does Not Exist, un sito inquietante, un’incredibile tecnologia

Style-based GANs – Generating and Tuning Realistic Artificial Faces

Che cos’è This Person Does Not Exist e perché è un’esperienza scioccante

This Person Does Not Exist Is the Best One-Off Website of 2019

Questi volti non esistono: li ha sfornati l’intelligenza artificiale

All’asta il primo quadro dipinto dall’intelligenza artificiale

AI can produce pictures, but can it create art for itself?

 

Iscriviti a SMS MAG LETTER