Home Opinioni

Perché dovremmo tutti preoccuparci dei deepfake

Nati con il porno online, i deepfake sono arrivati in Italia grazie al video di Renzi trasmesso da 'Striscia' e presto potrebbero debuttare anche nel mercato discografico: ecco perché dobbiamo tenere alta la guardia

Un fotogramma del video deepfake di Matteo Renzi mandato in onda da 'Striscia la Notizia'

Quello che Striscia la Notizia ha fatto qualche giorno fa con l’ormai notorio video (falso, o meglio, deepfake) di Renzi che manda a quel paese il primo ministro Conte, l’aveva già fatto Buzzfeed nell’aprile 2018, in America. E anche allora, l’operazione aveva fatto parecchio discutere. In quel caso, forse, il discorso contenuto nel video faceva sì che fosse più facile capire immediatamente che si trattava di una manipolazione grafica e sonora. Un pacato e serafico Barack Obama, estremamente realistico ma creato in digitale da un’intelligenza artificiale, pronunciava infatti le seguenti parole: “Stiamo entrando in un’era in cui i nostri nemici possono far sembrare che chiunque abbia detto qualsiasi cosa in qualsiasi momento, anche se quelle cose non le direbbero mai. Per esempio, potrebbero farmi dire che il presidente Trump è una merdaccia totale. Io non lo direi mai, almeno non in un discorso pubblico, ma Jordan Peele sì”.

Jordan Peele, in questo caso, era il comico che aveva “doppiato” Obama, prestando la propria voce ad essere manipolata da un software per sembrare quella dell’ex presidente. Il video si concludeva con un invito a prestare attenzione alle fonti, a verificare che siano sempre affidabili, e a non credere a una dichiarazione semplicemente perché viene fatta in video. Un messaggio simile a quello che voleva lanciare Antonio Ricci con il servizio di Striscia: qualche giorno fa, in conferenza stampa, affermava tra una battuta e l’altra che “Lo spirito di Striscia è creare dubbi, bisogna dubitare anche di ciò che vedi e senti con le tue orecchie”. Ma forse in quest’ultimo caso il messaggio è stato meno efficace, perché il senso si è perso tra gli scherzi, i frizzi e i lazzi di un format televisivo volutamente nazionalpopolare. E, come fanno notare in molti, sul tema non c’è proprio niente da ridere.

I deepfake, come ormai probabilmente tutti sappiamo a questo punto, sono audio e video creati al computer che replicano alla perfezione l’immagine, le movenze e la voce di un personaggio realmente esistente, tanto che è praticamente impossibile distinguerlo dall’originale. La tecnica più diffusa consiste nel sovrapporre il volto di qualcuno sul corpo di qualcun altro: e il motivo per cui è stata perfezionata per prima è che lo scopo iniziale del deepfake era creare video porno. Con un duplice scopo: fornire un micidiale strumento di revenge porn (immaginate di ritrovarvi inconsapevoli protagoniste del filmino di un’orgia a cui non avete mai partecipato, per mano di un ex fidanzato dalla mente disgustosamente perversa) e dare ai fan di star del cinema, della musica e della tv la soddisfazione di vedere le proprie preferite impegnate a soddisfare tutte le loro fantasie.

Se il primo problema è di fatto difficilmente arginabile considerando che, come ci insegnano le cronache, purtroppo non esistono ancora strumenti efficaci per stroncare definitivamente il revenge porn, per il secondo almeno l’industria dei video per adulti sta provando a prendere qualche provvedimento. PornHub, ad esempio, blocca sul nascere la chiave di ricerca “deepfake” sul suo portale, impedendo di fatto di poter accedere ai contenuti, e anche di caricarli; il suo concorrente più quotato, YouPorn, non ha politiche così restrittive, e tra le maglie larghe della censura sfuggono almeno una dozzina di porno deepfake. Ma ormai, visto che il mercato si è creato ed è fiorente, esistono anche siti porno specializzati nel genere. Chiaramente eviteremo di svelarne il nome per non alimentare il sistema, ma vi basti sapere che tra le loro pagine si trova davvero di tutto: da Ivanka Trump intenta a masturbarsi con un gigantesco dildo a Emily Watson, in versione Hermione Granger e non, impegnata in un ménage à trois. E ancora: Emilia Clarke, Scarlett Johansson, Selena Gomez, Katy Perry, Jennifer Lopez, una quantità impressionante di girl band del K-pop e di star di Bollywood. Il realismo è inquietante, e probabilmente la sensazione di disagio nel guardarli supera di gran lunga qualsivoglia eccitazione.

Per generare un deepfake che sia veritiero e sofisticato occorre ben più di una semplice app: gli strumenti informatici necessari sono costosi e non alla portata di tutti. E questo è una fonte di ulteriore preoccupazione per lo star system e la politica, perché chiaramente chi si dedica alla creazione di questi contenuti deve trovare un sistema per monetizzare. Una delle nuove frontiere possibili è quella del deepfake gossip: scoop venduti come veri ai tabloid, ma generati ad arte da un supercomputer. Un rischio già sfiorato da Mark Zuckerberg, che in un finto video indirizzato ai suoi dipendenti si vantava di poter governare il mondo grazie ai dati che rubava agli utenti, e da Kim Kardashian, che in una finta story di Instagram affermava di fregarsene degli hater, perché il traffico che portavano sui suoi profili l’aveva resa ricca.

Fortunatamente, stavolta in entrambi i casi si trattava di una video installazione per la mostra Alternate Realities, anche se una volta trapelati online sono stati trattati alla stregua di filmati reali. Ma quando il video di un’apparentemente ubriaca Nancy Pelosi, speaker della Camera per il partito democratico, è finito su tutti i giornali americani, c’è voluto del bello e del buono per convincere gli elettori che si trattava di un falso.

Secondo i beninformati anche l’industria musicale si troverà presto a combattere contro i deepfake, perché se ciò che colpisce di più in questo tipo di prodotto è il realismo dell’immagine, anche la manipolazione della voce è ormai abbastanza raffinata da poter passare per vera. I software specifici sono sempre più all’avanguardia, e anche molto più accessibili di quelli dedicati alle immagini: Adobe, la casa produttrice di Photoshop, sembra intenzionata a lanciare sul mercato Voco, un programma a uso professionale e domestico che è in grado di creare dal nulla, o modificare, interi discorsi a partire da poche parole pronunciate da una persona.

Se si applicherà questa tecnologia anche al cantato – e non dovrebbe essere particolarmente difficile, in futuro, data la velocità con cui i mezzi si stanno evolvendo – il mercato potrebbe essere invaso da inediti di Amy Winehouse cantati da un’intelligenza artificiale, o da bootleg in cui un finto Lucio Battisti duetta con vecchie glorie cadute in disgrazia, o da collaborazioni tra una Beyoncé virtuale e patiti del karaoke. I motivi per tenere alta la guardia, insomma, sono molteplici. E forse è un bene che qualcuno abbia scoperchiato il vaso di Pandora, prima che ci inghiotta tutti.

Leggi anche