Deepfake

Il deepfake viene nominato "l'ultima frontiera delle fake news".

Si tratta di una tecnica per la sintesi dell'immagine umana basata sull'intelligenza artificiale, che consiste nel combinare e sovrapporre immagini e video esistenti con video o immagini di “altre persone”, tramite una tecnica di apprendimento automatico, conosciuta come rete antagonista generativa. Viene usata per creare video falsi, spesso pornografici, ritraenti celebrità e per il revenge porn, ma può anche essere usata per creare fake news, bufale e truffe, per compiere atti di cyberbullismo o altri crimini informatici di varia natura, oppure per video a scopo satirico (come spesso accade nella trasmissione Striscia la notizia).

Abbiamo detto che, a volte, i deep fake sono usati per la porno-vendetta. Ma cosa indica esattamente questo termine, in inglese revenge porn?

È un reato che consiste nella diffusione di immagini o video (veri o falsi) a contenuto sessualmente esplicito, destinati a rimanere privati, senza il consenso delle persone rappresentate e con l’intento di danneggiarne la reputazione. Tale reato di “porno-vendetta” si configura sia per chi queste immagini le ha realizzate sia per chi le riceve e contribuisce alla loro ulteriore diffusione (viralizzazione). È un reato in ascesa tra i giovanissimi i quali, spesso, non hanno la percezione della gravità delle azioni descritte, gravità che deriva dal fatto che, una volta in rete, il materiale potrà sempre essere reso nuovamente pubblico persino se viene rimosso, danneggiando la sfera affettiva e psicologica di una persona anche a distanza di anni. Il fenomeno ha già causato molti suicidi. Proprio per la sua gravità, la pena prevista per il reato di revenge porn è la reclusione da uno a sei anni e la multa da 5 a 15mila euro (articolo 612 ter del codice penale).

Citiamo di seguito alcuni esempi di deep fake riguardanti personaggi politici o persone famose.

Il Deepfake è stato usato per rappresentare in modo” falso” politici famosi: ad esempio, il volto del presidente argentino Mauricio Macri fu sostituito dal volto di Adolf Hitler, ed il volto di Angela Merkel venne sostituito da quello di Donald Trump.

Nell'aprile del 2018, Jordan Peele e Jonah Peretti crearono un deepfake usando il volto di Barack Obama proprio per pubblicizzare i pericoli dei deepfake.

 

Nel gennaio del 2019, l'emittente Fox ha mandato in onda un deepfake di Trump in cui lo si derideva per il suo aspetto ed il suo colore della pelle.

https://www.washingtonpost.com/nation/2019/01/11/seattle-tv-station-aired-doctored-footage-trumps-oval-office-speech-employee-has-been-fired/ 

Nell'autunno del 2017, un utente anonimo di Reddit (un sito di social news) con lo pseudonimo "deepfakes" postò diversi video porno, falsi, su Internet. Il primo che attirò l'attenzione di molti fu il deepfake di Daisy Ridley, attrice britannica di Star Wars. È anche uno dei video deepfake più conosciuti. Un altro fu il deepfake in cui si vede Gal Gadot (attrice e modella israeliana) avere rapporti sessuali con il fratellastro, mentre altri raffiguravano celebrità come Emma Watson, Ariana Grande, Katy Perry, Taylor Swift o Scarlett Johansson. Le scene non erano ovviamente reali, ma erano create grazie all'intelligenza artificiale. Tutti i video furono cancellati da Reddit poco tempo dopo.

Un altro video manipolato ritrae Mark Zuckerberg pronunciare la seguente frase: "Chi controlla i dati, controlla il futuro"; una frase che avrebbe alluso al suo potere di controllare miliardi di dati personali.

Creare un deepfake è ormai estremamente facile: basta un’app ed uno smartphone. In pochi passaggi si crea un video falso che, con l’avanzare delle tecnologie, è diventato davvero difficile distinguere da un video vero. Qualcuno dice che solo un’altra intelligenza artificiale può distinguere un video falso da uno vero. Ma se le due tecnologie non sono contemporaneamente a nostra disposizione si apre un immenso scenario di rischi, non solo a livello individuale (di tutela della propria immagine, come discusso in precedenza) ma anche a livello politico e sociale. Le false notizie si diffondono infatti capillarmente e a velocità enormemente più grande della loro smentita. Quindi i deepfake, proprio perché ingannano alla perfezione i nostri sensi, possono condizionare elezioni politiche, creare allarmi sociali, generare sommosse, distruggere relazioni diplomatiche tra paesi, scatenare guerre, etc. 

Se è vero dunque che solo la tecnologia può salvarci dalla tecnologia, come singoli individui abbiamo il dovere di attrezzarci con gli strumenti della mente più idonei per navigare la modernità: scelta di fonti attendibili, consapevolezza, spirito critico, confronto e riflessione.

SITOGRAFIA

https://www.repubblica.it/tecnologia/social-network/2020/04/26/news/impressions_app_deep_fake-254939338/

https://www.youtube.com/watch?v=cQ54GDm1eL0&feature=emb_logo&ab_channel=BuzzFeedVideo

https://www.youtube.com/watch?v=cnUd0TpuoXI&feature=youtu.be&ab_channel=MultimediaLIVE

https://it.wikipedia.org/wiki/Deepfake

https://www.theverge.com/tldr/2018/4/17/17247334/ai-fake-news-video-barack-obama-jordan-peele-buzzfeed  

Autori: Giuseppe Primerano, Vincenzo Capicotto, Hridey Dewan