Lo scienziato che vuole trovare "un vaccino" per le fake news | Rolling Stone Italia
Home Cultura

Lo scienziato che vuole trovare “un vaccino” per le fake news

Ispirato da ricerche dei tempi della guerra fredda su come resistere alla propaganda nemica, Sander van der Linden ha inventato quello che chiama "prebunking", che funziona come un vaccino – ma per la disinformazione

Stephanie Keith/Getty Images

Qualche anno fa, Sander van der Linden era nel suo ufficio all’università di Cambridge quando aveva ricevuto una strana telefonata. Professore di Psicologia sociale, van der Linden è tra i maggiori esperti al mondo su come si combatte la disinformazione. Riceve continuamente richieste di collaborazione da agenzie governative, media e gruppi della società civile. Ma in questo caso a chiamarlo non era un burocrate o un diplomatico: era un rappresentante di L’Oréal, l’azienda di prodotti di bellezza. L’Oréal aveva quello che definitiva un problema di “disinformazione scientifica” che riguardava alcuni dei suoi prodotti. Forse van der Linden poteva aiutarli?

Al centro della ricerca di van der Linden c’è una teoria: la crisi dell’informazione può essere trattata come un’epidemia virale. Smentire le fake news e rispondere alle teorie del complotto è incredibilmente insufficiente, proprio come le cure somministrate dopo l’infezione sono un’altra cosa rispetto alla vaccinazione. Un numero sempre maggiore di ricerche al riguardo sembra suggerire che il fact-checking e il debunking facciano ben poco per correggere la percezione delle persone che vengono esposte alla disinformazione. Secondo van der Linden, per potreteggere queste persone bisogna trovare qualcosa di simile a un vaccino. Un vaccino-verità. Lui chiama questa cosa “prebunking”.

“Mi piace pensarlo come un sistema di difesa stratificato a disposizione della società”, afferma. “Dobbiamo cominciare con il prebunking se possiamo, poi passare al fact-checking in tempo reale, e se anche quello fallisce c’è il debunking. Dobbiamo pensare a questa cosa come a un sistema su più livelli”.

In quell’occasione, van der Linden aveva detto al rappresentante di L’Oréal che aveva una politica personale sull’essere consultato su questioni riguardanti singoli prodotti e aveva declinato. Ma la stessa natura della richiesta aveva attratto il suo interesse. Chi lancerebbe mai una campagna di disinformazione riguardo a uno shampoo? Come mi ha detto van der Linden in una intervista recente, “ho scoperto che c’è un sacco di disinformazione nel settore privato”.

Nell’ultimo decennio, ogni volta che si parla di disinformazione, trolling online e teorie del complotto, se ne parla nel contesto di elezioni e cosa pubblica, diplomazia e geopolitica. Pensiamo ai bot russi che provano a influenzare le elezioni americane, o alle click farma gestite da adolescenti macedoni che pubblicano fake news per fare soldi. Pensiamo alle persone che, volenti o no, amplificano teorie del complotto come QAnon e a quelle che ci cascano e sono spinte a commettere atti di violenza. Ma ultimamente, la crisi della disinformazione è arrivata anche nel mondo delle aziende. 

Un primo segnale è stato il caso di Wayfair, un’azienda che vende mobili e che è stata presa di mira dagli adepti della teoria del complotto QAnon che si erano convinti che l’azienda stesse segretamente trafficando bambini dentro i suoi mobili. Poi è stata la volta di Victoria’s Secret, accusata senza prove di traffico di esseri umani. Una piccola azienda della Pennsylvania, la Koch Family Farms, è stata presa di mira da un’operazione di disinformazione russa che ha diffuso la teoria senza fondamento secondo cui i tacchini allevati dalla Koch stessero avvelenando i consumatori. (Gli esperti ritengono che l’azienda sia stata presa di mira sulla base della possibilità che fosse collegata ai fratelli Koch, miliardari attivi in politica, che però sono solo omonimi). E per ogni caso di disinformazione legata al mondo delle aziende che arriva a fare notizia, ce ne sono molti altri che non diventano di dominio pubblico. 

Quest’anno, van der Linden ha ricevuto un’altra richiesta dal settore privato. Stavolta veniva dalla compagnia di pubbliche relazioni Edelman, che rappresenta alcune delle aziende più importanti del mondo e che ogni anno pubblica un report con cui valuta la fiducia del pubblico nei confronti di aziende, brand e istituzioni. Nel 2020, nel corso di questo progetto, Edelman ha dichiarato che gli Stati Uniti stanno vivendo una “infodemia”, per dire quanto era stato danneggiato dal cinismo e dalla confusione l’ecosistema informativo americano. “Viviamo in un’epoca di bancarotta dell’informazione, in cui il pubblico è convinto che i suoi leader siano dei bugiardi e che le piattaforme siano politicamente orientate”, ha detto il CEO di Edelman, Richard Edelman.

I rappresentanti di Edelman che hanno contattato van der Linden gli hanno spiegato che l’azienda stava pensando a un nuovo prodotto per combattere la diffusione di disinformazione nel settore privato. E che volevano incorporare le sue teorie sul vaccino contro la disinformazione e sul prebunking nello sviluppo di tale prodotto, trasformandolo nel caso più importante di applicazione di teorie riguardanti l’epidemiologia nello studio della crisi dell’informazione. 

Così, martedì scoros, Edelman ha lanciato quello che ha battezzato Disinformation Shield, un tool basato sull’informazione artificiale, sul monitoraggio in tempo reale di internet e sulla psicologia sociale, che serve a tracciare, identificare e disinnescare il prossimo meme virale o la prossima teoria del complotto contro questa o quell’azienda. Il prodotto parte dalle teorie di van der Linden sulla vaccinazione contro la disinformazione per cercare di fare per l’informazione quello che le agenzie sanitarie cercano di fare contro i virus potenzialmente pericolosi: fermarla prima che si diffonda. Jim O’Leary, dirigente di Edelman, ha detto che la disinformazione “non è ‘la prossima grande minaccia’. È già qui. Per i nostri clienti, non è una questione di ‘se’ ma di ‘quando'”.

La disinformazione prolifera prima di tutto perché i social hanno reso infinitamente facile ed economico per chiunque raggiungere un pubblico e diffondere un messaggio. E così sono nate le fake news, la guerra ibrida condotta con i bot, le click farm che diffondono disinformazione per profitto. Ci sono aziende che offrono servizi innocui come comprare like, retweet e condivisioni su Facebook, Instagram e Twitter per apprarire più popolari. Ma secondo Roman Sannikov, ex FBI e oggi direttore del gruppo di intelligence specializzato in cybercrime Insikt Group, online ci sono anche servizi ben peggiori a disposizione di chiunque abbia i soldi per pagarli e sappia dove cercare. 

Nel 2019, Insikt Group ha pubblicato un report intitolato The Price of Influence: Disinformation in the Private Sector, in cui Sannikov e il suo team hanno fatto ricerca sotto copertura nei mercati neri in cui si possono comprare campagne di disinformazione, campagne di diffamazione e molto altro. Hanno creato una finta azienda e hanno cercato di ottenere i servizi di due diverse aziende: una affinché creasse contenuti fake positivi sulla loro finta azienda, e una che la attaccasse. A Sannikov sono stati chiesti 15 dollari per un breve articolo, 8 dollari per un post sui social, 150 dollari per un account fake su Facebook e 200 dollari per un account fake su LikedIn. Una di queste aziende si è persino offerta di sporgere una falsa denuncia, e ha offerto un servizio di “takedown” che prometteva anche, tra le altre cose, di “aiutare ad affossare un avversario elettorale”.

Più di recente, Sannikov ha detto che lui e i suoi colleghi hanno notato che i gruppi che vendono servizi di disinformazione stanno cominciando a offrire manipolazioni finanziarie. Mi ha detto che Insikt ha fatto ricerca sulla possibilità che questo tipo di disinformazione abbia giocato un ruolo nel recente caso GameStop, ma che non sono riusciti a trovare prove. Ma ha comunque detto che è perfettamente possibile che questi gruppi adottino tattiche simili su titoli meno noti, per fregare i mercati senza attirare troppa attenzione.

Sannikov mi ha detto che la maggior parte dei gruppi che ha incontrato opera nell’est Europa o nelle Filippine. L’errore più grande che si fa quando si pensa alla moderna disinformazione, mi ha spiegato, è di pensare che si tratti di qualcosa che gli Stati si fanno uno con l’altro e che è l’opera di organizzazioni di alto profilo come i servizi segreti. Nella sua esperienza, la maggior parte delle operazioni di disinformazione sono molto più casalinghe e commerciali. “Tendiamo a concentrarci sui grandi nomi”, mi ha detto, “ma in realtà ci sono un sacco di piccoli gruppi che sono coinvolti in questa attività e che hanno migliaia di bot sotto il loro controllo, che attivano per il giusto prezzo”.

Un giorno, nel 2015, la catena di fastfood KFC si era ritrovata vittima di una campagna di disinformazione virale. Un tizio della California aveva postato su Facebook scrivendo che gli era stato servito un topo fritto e mettendo in guardia le persone su “cosa mangiate” perché “la gente è pazza”. Il post virale aveva attirato l’attenzione di KFC quando ne aveva parlato la CNN, che gli aveva fatto fare il giro del mondo. “Abbiamo letteralmente visto la notizia viaggiare da un paese all’altro e causare perdite, in alcuni casi a due cifre”, racconta Staci Rawls, capo della comunicazione dell’azienda.

Rawls aveva contattato l’autore del post, l’azienda aveva fatto le sue ricerche e aveva scoperto che non si trattava di un topo fritto ma di un pezzo di pollo dalla forma sfortunata. Ma intanto la storia aveva raggiunto un pubblico di milioni di persone. Si trattava di misinformazione, di una falso diffuso in buona fede, o di una campagna di disinformazione studiata per danneggiare la catena di fastfood? In un certo senso, la risposta non conta perché il danno è stato comunque fatto.

Oggi ogni grande azienda traccia quante più piattaforme social possibile, monitorando in tempo reale quello che la gente dice e cercando di stare una mossa avanti rispetto alla prossima teoria del complotto – al prossimo caso del topo fritto. Ma la velocità con cui un tweet o un video di TikTok virali sono in grando di viaggiare su internet e raggiungere un pubblico di milioni di persone fa sì che anche il monitoraggio costante non si abbastanza come difesa. E allora la domanda che le grandi aziende di pubbliche relazioni come Edelman si pongono è cosa bisogna fare quando il contenuto virale è già in circolo. Come si rallenta la sua diffusione, come si riduce il pubblico che potrebbe raggiungere? È per questo che Edelman si è rivolta a van der Linden.

Van der Linden ha partorito l’idea del prebunking quando si è imbattuto nella storia di Bill McGuire. McGuire era uno psicologo sociale di Yale negli anni ’50 e ’60, che studiava gli effetti della propaganda dell’epoca della guerra fredda. Aveva fatto lavori pionieristici sulla persuasione e poi aveva cominciato a guardare la questione dall’altra parte: come resistere alla persuasione. “Quello che ha scoperto è che se le persone non sono pronte a difendere le loro credenze e le loro conoscenze, è molto facile intortarle con le argomentazioni”, spiega van der Linden says. “Quindi aveva comicniato a pensare a un modo per rafforzare le difese mentali delle persone”.

Secondo van der Linden, le ricerche di McGuire su come proteggere le popolazioni dalla propaganda nemica sono poi cadute nel dimenticatoio. Ma si trattava di un metodo antico che poteva essere applicato a un problema moderno. Cinque o sei anni fa, va der Linden ha comincianto a interessarsi al negazionismo del cambiamento climatico, per testare se la sua teoria potesse essere applicata a quel tipo di complottismo. Se fosse possibile cioè fare prebunking, vaccinare contro il negazionismo del cambiamento climatico e rafforzare le difese mentali delle persone perché, una volta esposte ad argomentazioni di quel tipo, non se ne facessero convincere. 

In un espertimento, van der Linden ha studiato un modo di rispondere a una petizione diffusa da un gruppo di negazionisti climatici in cui si affermava che nella comunità scientifica non ci fosse consenso sul fatto che il cambiamento climatico sia causato dall’uomo. Per prima cosa ha mostrato ai soggetti che si sono sottoposti all’esperimento un breve messaggio di prebunking: “Alcuni gruppi con scopi politici usano tattiche di disinformazione per cercare di convincere il pubblico che la comunità scientifica si trovi spesso in disaccordo”. Poi ha mostrato loro la petizione. In un altro tentativo, prima di mostrare la petizione ha mostrato una forma di prebunking più dettagliata: sempre lo stesso avvertimento sui “gruppi con scopi politici che usano tattiche di disinformazione” ma anche il fatto che tra le firme della petizione negazionista ci fossero membri delle Spice Girls e Charles Darwin. Voleva vedere quale delle due forme di prebunking avrebbe funzionato: quella breve e generica o quella lunga e dettagliata che univa all’avvertimento anche alcune informazioni specifiche?

Ha scoperto che funzionavano entrambe. Lui e i suoi collaboratori sono poi passati a sviluppare una serie di giochi online che mettevano il giocatore nella posizione di chi diffonde disinformazione. L’idea era che mostrando alle persone come la rabbia, la paura e altre emozioni di base possano essere sfruttate per la diffusione della disinformazione, queste sviluppino una consapevolezza in grado di proteggerle quando poi si trovano nella posizione di chi la disinformazione la riceve. Una specie di anticorpi. Secondo van der Linden, è un po’ come quando si scoprono i trucchi di un mago. “Ci sono due modi per potenziare le difese delle persone: uno è passivo, e cioè qualcuno ti spiega come funziona il trucco. L’altro è attivo: impari con la pratica, cercando tu di capire come funziona”.

Adesso, durante la pandemia da COVID-19, van der Linden ha cominciato a pensare alla possibilità di raggiungere una versione dell’immunità di gregge per la disinformazione. Altri esperti di disinformazione sono scettici sulla possibilità di applicare all’informazione un concetto del genere. Shawn Walker, professore di Scienze sociali all’univeristà dell’Arizona, è convinto che l’approccio epidemiologico rischi di trascurare le differenze che esistono tra le diverse comunità online e il fatto che una forma di intervento possa funzionare bene su Reddit ma non altrettanto su Twitter. “Dev’esserci una comprensione di quanto sono diverse e balcanizzate queste comunità”, afferma Walker. “In alcune si può entrare e si può discutere, in altre farlo è solo sfamare il mostro”.

Ci sono anche alcune questioni etiche che riguardano il fatto che il settore privato, motivato dal profitto, possa usare le tecniche sviluppate da van der Linden per intervenire nell’ecosistema informativo. Aziende diverse hanno scopi diversi e questo potrebbe far sì che i mezzi per combattere la disinformazione vengano messi al servizio di scopi tutt’altro che nobili. E ovviamente c’è il problema di un’azienda privata come la Edelman che potrebbe ambire a posizionarsi quale arbitro della verità, decidendo cosa è informazione e cosa è disinformazione sulla base degli interessi dei suoi clienti. Un rappresentante di Edelman, a questo proposito, ha detto che l’azienda ha contattato l’azienda di consulenza Compass Ethics per chiederle conisglio su come affrontare la lotta alla disinformazione senza mettersi nei panni del giudice di cosa è vero e cosa no.

Sander van der Linden è ben consapevole di questo ginepraio etico. Ma alla fine ha deciso di accettare di fare il consulente per Edelman sul suo progetto riguardante la lotta alla disinformazione perché ha pensato che il fatto che una grande azienda metta a disposizione le sue risorse per fare ricerca sul tema potrebbe portare a dei veri passi avanti. “Lavorare con il governo è bello”, afferma, “ma per ottenere il massimo effetto, bisogna lavorare anche con i privati”.

Questo articolo è apparso originariamente su Rolling Stone US