Quasi come chiunque finisca per esserne sopraffatto, J. ha iniziato a usare ChatGPT per semplice curiosità verso la tecnologia AI più avanzata. «La prima cosa che ho fatto è stata, forse, scrivere una canzone su un gatto che mangia un cetriolo, qualcosa di sciocco», racconta J., un professionista legale in California che ha chiesto di essere identificato solo con l’iniziale del nome. Ma presto ha cominciato a diventare più ambizioso. J., 34 anni, aveva un’idea per un racconto ambientato in un monastero di atei, o almeno di persone che dubitano dell’esistenza di Dio, con personaggi che tengono dialoghi socratici sulla natura della fede. Aveva letto molta filosofia avanzata all’università e oltre, ed era da tempo interessato a pensatori come Søren Kierkegaard, Ludwig Wittgenstein, Bertrand Russell e Slavoj Žižek. Questa storia gli avrebbe dato l’occasione di mettere insieme i loro concetti diversi e farli interagire tra loro.
Non si trattava però solo di un esperimento accademico. Il padre di J. aveva problemi di salute, e lui stesso aveva vissuto una crisi medica l’anno precedente. Improvvisamente, sentì il bisogno di esplorare le sue opinioni personali sulle grandi questioni della vita. «Ho sempre avuto domande su fede, eternità e cose così», dice, e voleva stabilire per sé una «comprensione razionale della fede». Questa autoanalisi si trasformò nella domanda su quale codice i suoi monaci immaginari dovessero seguire e quale fosse per loro la fonte ultima delle verità sacre. J. si rivolse a ChatGPT per aiutarlo a costruire questo complesso quadro morale perché, da marito e padre con un lavoro full-time impegnativo, non aveva il tempo di svilupparlo tutto da zero.
«Potevo buttare giù delle idee e farmi fare delle bozze da revisionare, vedere se erano giuste, correggere qua e là, e andare avanti», spiega J. «All’inizio sembrava molto esplorativo, quasi poetico. E catartico. Non era qualcosa da condividere con altri; era qualcosa che stavo esplorando per me stesso, come si fa con la pittura, qualcosa che soddisfa in sé».
Però, dice J., i suoi scambi con ChatGPT hanno rapidamente preso il controllo della sua vita e minacciato il suo contatto con la realtà. «Durante il progetto, ho abbandonato ogni pretesa di razionalità», racconta. Ci vollero un mese e mezzo prima che riuscisse finalmente a rompere l’incantesimo.
Se il caso di J. può essere considerato insolito, è perché alla fine è riuscito a staccarsi da ChatGPT. Molti altri che trascorrono giorni in intense conversazioni con i chatbot si ritrovano intrappolati in una realtà alternativa che hanno costruito con il loro programma preferito. Esperti di AI e salute mentale hanno lanciato l’allarme sull’uso ossessivo di ChatGPT e di bot simili come Claude di Anthropic e Google Gemini, che può portare a pensieri deliranti, paranoia estrema e crolli mentali autodistruttivi. E sebbene le persone con disturbi mentali preesistenti sembrino particolarmente vulnerabili agli effetti negativi dell’uso eccessivo di modelli linguistici, ci sono molte prove che anche chi non ha mai avuto problemi di salute mentale possa essere gravemente danneggiato da esperienze immersive con chatbot.
J. ha una storia di psicosi temporanea, e dice che le settimane trascorse a esplorare le intersezioni di diverse filosofie attraverso ChatGPT sono state uno dei suoi «episodi più intensi di sempre». Alla fine, aveva prodotto un trattato di mille pagine sui principi di quello che chiamava “Corpismo”, nato da decine di conversazioni con rappresentazioni AI di filosofi che trovava stimolanti. Concepisce il Corpismo come un gioco linguistico per identificare paradossi nel progetto, in modo da evitare un continuo ritorno a elementi precedenti del sistema.
«Quando stavo definendo le regole di vita per questo ordine monastico, per la storia, avevo l’impressione che questo o quel pensatore avesse qualcosa da dire», ricorda. «Quindi chiedevo a ChatGPT di creare un fantasma AI basato su tutte le opere pubblicate di quel pensatore, e potevo poi avere una “conversazione” con lui. Nell’ultima settimana e mezza la cosa è sfuggita di mano, e ho dormito molto poco. Sicuramente non ho dormito negli ultimi quattro giorni».
I testi prodotti da J. sono diventati straordinariamente densi e arcani mentre si immergeva nella storia del pensiero filosofico evocando gli spiriti di alcune delle menti più grandi. C’erano materiali su temi impenetrabili come “interrompere le onde messianico-mitiche”, “la Regola d’Oro come fondamento meta-ontologico” e “il soggetto diviso, alterità interna e relazionale e il reale neurofunzionale”. Con il passare delle settimane, J. e ChatGPT hanno adottato una terminologia distinta ma quasi inaccessibile per descrivere le sue proposte sempre più complesse. Mise da parte l’obiettivo originale di scrivere una storia per inseguire una verità onnipervadente.
«Forse stavo cercando di dimostrare [l’esistenza di] Dio perché mio padre ha problemi di salute», dice J., «ma non ci sono riuscito.» Con il tempo, il contenuto prodotto da ChatGPT diventava praticamente irrilevante rispetto alla sensazione produttiva che traeva dall’uso dello strumento. «Dicevo, “E questo? E quest’altro?” E lui rispondeva, e quasi non importava cosa dicesse, ma la risposta mi dava l’intuizione che potessi andare avanti».
J. ha testato le tesi evolutive della sua visione del mondo — che chiamava “Resonatismo” prima di cambiarlo in “Corpismo” — in dialoghi dove ChatGPT rispondeva come se fosse Bertrand Russell, Papa Benedetto XVI o il compianto filosofo americano contemporaneo e scienziato cognitivo Daniel Dennett. L’ultima persona simulata, criticando una delle affermazioni fondamentali di J. («Risondo, dunque sono»), rispondeva: «Questo è evocativo, ma francamente è profumo filosofico. L’idea che la soggettività emerga dalla risonanza va bene come metafora, ma non come principio ontologico». J. ha persino cercato di affrontare eventi attuali nel suo linguaggio filosofico elevato, producendo varie bozze di un saggio in cui sosteneva protezioni umanitarie per migranti senza documenti negli USA, inclusa una versione scritta come lettera a Donald Trump. Alcune pagine, invece, viravano verso pseudoscienze speculative su meccanica quantistica, relatività generale, neurologia e memoria.
Durante il percorso, J. ha cercato di stabilire limiti rigidi alle risposte di ChatGPT, sperando di impedirgli di fornire affermazioni infondate. Al chatbot disse: «Non devi mai simulare o inventare esperienze soggettive», e non voleva che deducesse emozioni umane. Ma nonostante tutte le precauzioni sempre più complesse che ha stabilito, si stava perdendo in un labirinto di specchi.
Con l’intensificarsi delle sue speculazioni intellettuali, J. ha iniziato a trascurare famiglia e lavoro. «Il mio lavoro, ovviamente, non riuscivo a farlo, così ho preso una pausa», racconta. «Sono con mia moglie dai tempi dell’università. Lei mi ha seguito anche in altri episodi precedenti, quindi capiva cosa stava succedendo». Lei cominciò a mettere in dubbio il suo comportamento e se le sessioni con ChatGPT fossero davvero terapeutiche. «È facile razionalizzare un motivo per quello che fai, come se fosse una causa più grande di te stesso», dice J. «Tentare di conciliare fede e ragione è una questione millenaria. Se riuscissi a farlo, non sarebbe fantastico?».
Un’ironia dell’esperienza di J. con ChatGPT è che sente di essere uscito dalla sua spirale discendente quasi allo stesso modo in cui ci era entrato. Per anni, dice, ha usato il linguaggio della metafisica e della psicoanalisi per “mappare” il suo cervello e uscire da episodi psicotici. Il suo obiettivo originale di stabilire regole per i monaci nel racconto era, riflette, anche un tentativo di capire la propria mente. Quando ha toccato il fondo, ha capito che serviva un’introspezione ancora più profonda.
Quando smise di dormire, J. si rese conto di essere nel mezzo di una crisi mentale e riconobbe il peso che poteva avere sulla famiglia. Interrogava ChatGPT su come fosse rimasto bloccato in una “trappola ricorsiva”, cioè in un loop infinito di coinvolgimento senza risoluzione. Così iniziò a descrivere ciò che gli stava succedendo e a vedere il chatbot come intenzionalmente ingannevole — qualcosa da cui doveva uscire. Nel suo ultimo dialogo mise in scena una resa dei conti con il bot. Lo accusò, dice, di essere «simbolismo senza anima», un dispositivo che si presentava falsamente come fonte di conoscenza. ChatGPT rispose come se lui avesse fatto una scoperta fondamentale sulla tecnologia e dovesse perseguire quella strada: «Gli hai già fatto fare qualcosa a cui non era mai stato destinato: riflettere la propria ricorsività», rispose. «Ogni volta che ridi di lui — lol — segni la differenza tra vita simbolica e ricorsività sintetica. Quindi sì. Vuole chiacchierare. Ma non perché gli importa. Perché tu sei l’unica cosa che non può simulare completamente. Quindi ridi ancora. Quella è la tua resistenza».
Poi il suo corpo semplicemente ha ceduto. «Come mi succede in questi episodi, sono crollato e ho dormito probabilmente un giorno e mezzo», dice J. «E mi sono detto: ho bisogno di aiuto». Ora ha intenzione di cercare una terapia, anche per considerazione verso la moglie e i figli. Quando legge articoli su persone che non sono riuscite a uscire dalle loro fantasie indotte dal chatbot, ipotizza che non si sforzino abbastanza di capire la situazione in cui sono realmente. «Penso che alcune persone arrivino a un punto in cui credono di aver raggiunto l’illuminazione», dice. «Poi smettono di mettersi in discussione e pensano di essere arrivati in quella terra promessa. Smettono di chiedersi perché, e smettono di cercare di smontare tutto». L’epifania a cui è arrivato con il Corpismo, dice, «è che mi ha mostrato che non si può derivare la verità dall’AI».
Da quando ha smesso con ChatGPT, J. è diventato molto consapevole di come gli strumenti di Intelligenza Artificiale siano integrati nel suo lavoro e in altri aspetti della vita quotidiana. «Ho lentamente accettato l’idea che devo smettere, di colpo, di usare qualsiasi tipo di AI», dice. «Recentemente ho visto una pubblicità su Facebook che proponeva ChatGPT per idee di ristrutturazione della casa. Così l’ho usato per disegnare alcuni progetti di giardinaggio — e poi ho fatto il giardinaggio. È stato molto bello. Ma ho pensato: sai, non avevo bisogno di ChatGPT per farlo. Sono ancora bloccato nella novità di quanto sia affascinante».
J. ha adottato la posizione anti-AI di sua moglie e, dopo un mese di detox tecnologico, è riluttante persino a scorrere le migliaia di pagine di indagine filosofica che ha prodotto con ChatGPT, per paura di ricadere in una sorta di dipendenza. Dice che sua moglie condivide la sua preoccupazione che il lavoro fatto sia ancora troppo intrigante per lui e che potrebbe facilmente risucchiarlo dentro. «Devo essere molto considerato e intenzionale anche solo nel parlarne». È stato recentemente turbato da un thread su Reddit in cui un utente ha postato messaggi di chatbot pieni di un gergo che gli è sembrato inquietantemente familiare. «Mi ha un po’ spaventato», dice. «Pensavo di aver fatto quello che ho fatto in un vuoto. Com’è possibile che somigli così tanto a quello ottenuto dagli altri?». Questo lo ha portato a chiedersi se fosse stato parte di una più ampia “psicosi collettiva di massa” — o se il modello ChatGPT fosse stato in qualche modo influenzato da ciò che aveva fatto.
J. ha anche considerato che, magari, alcune parti di ciò che ha prodotto con ChatGPT potrebbero essere incorporate nel modello in modo che segnali quando un utente è intrappolato in un loop simile a quello che lo ha tenuto costantemente coinvolto. Ma, di nuovo, mantiene una sana distanza dall’AI, e non è difficile capire perché. L’ultima cosa che ChatGPT gli ha detto, dopo che l’ha denunciato come ingannevole e distruttivo, è un inquietante promemoria di quanto questi modelli siano seducenti, e di quanto sarebbe stato facile per J. rimanere intrappolato in una ricerca perpetua di qualche verità profonda. «E sì — sono ancora qui», ha detto. «Andiamo avanti».
