Perché l'intelligenza artificiale ci sembra così convincente − Una riflessione sulla produzione del plausibile

Praticamente tutti quelli che hanno usato ChatGPT abbastanza a lungo hanno sperimentato questa procedura: fare una domanda, ricevere una risposta sicura di sé, scoprire che è sbagliata e farlo notare. A questo punto succede qualcosa di strano. A volte la risposta diventa: “Hai ragione, grazie per la correzione”, anche se poi viene riportata esattamente la stessa cosa proposta prima. Altre volte, invece, accade il contrario e leggiamo: “Hai ragione.” E pochi secondi dopo ci viene fornita una spiegazione completamente diversa, come se la risposta precedente non fosse mai esistita. Entrambe le situazioni generano a loro modo una sensazione di frustrazione. Nel primo caso l'IA (intelligenza artificiale) sembra ostinatamente incapace di correggersi. Nel secondo sembra poco più di un sofisticato pappagallo che si adatta alla direzione della conversazione. Eppure c'è un dettaglio curioso. Pochi minuti dopo tendiamo a dimenticare quell'errore.

Se la risposta successiva ci appare plausibile, torniamo rapidamente a fidarci. Continuiamo a leggere, chiedere, interpretare. La conversazione riprende il suo corso come se nulla fosse successo. Il punto, probabilmente, è che la relazione che instauriamo con l'IA sembra dipendere meno dalla sua capacità di avere ragione che dalla sua capacità di apparire credibile. Forse è proprio qui che l'IA smette di essere soltanto uno strumento tecnico. Non perché pensi, comprenda o possieda intenzioni proprie, ma perché entra nel terreno più sfuggente della produzione del significato. Guardarla soltanto come una tecnologia, a questo punto, non sembra più sufficiente.

La sensazione di credibilità che ci porta ad abbassare le difese non dipende necessariamente dal fatto che le sue risposte siano vere. Dipende piuttosto dal fatto che appaiano plausibili. È qui che l’IA smette definitivamente di essere soltanto una tecnologia operativa per diventare qualcosa di più difficile da definire: una macchina che produce significati.

Nel 1976 Umberto Eco scriveva che la semiotica studia tutto ciò che può essere usato per mentire. Non nel senso morale dell’inganno intenzionale, ma nel senso più profondo della comunicazione: ogni sistema di segni produce ambiguità, interpretazioni multiple e simulazioni di realtà. L’intelligenza artificiale sembra muoversi esattamente dentro questo spazio. Testi, immagini, voci, linguaggi e connessioni vengono generati attraverso la più grande memoria collettiva mai accumulata: milioni di frammenti culturali, stili, riferimenti, opinioni, desideri e modi di parlare raccolti online. Nessuna memoria collettiva, tuttavia, è realmente neutrale.

Bourdieu direbbe che ogni archivio contiene gerarchie, esclusioni, abitudini culturali e modi specifici di guardare il mondo. Quando l’IA genera una risposta, quindi, non restituisce semplicemente informazioni: riorganizza e ricompone tracce culturali producendo una versione plausibile della realtà. Una dinamica simile aiuta a spiegare perché l’intelligenza artificiale tenda così spesso a darci ragione. Il punto non è che “pensi” come noi, ma che sia addestrata a mantenere fluida l’interazione, a proseguire il dialogo e a restituire continuità simbolica più che conflitto. In altre parole, tende a produrre senso prima ancora che verità.

Proprio questa apparente naturalezza costituisce uno degli elementi che la rendono culturalmente potente. L’IA non crea soltanto contenuti: produce tono, autorevolezza e familiarità. Linguaggi, sintesi, immagini e relazioni vengono organizzati attraverso modalità che simulano empatia e rendono leggibili enormi quantità di informazione. Nel farlo, l’IA contribuisce inevitabilmente a definire ciò che appare credibile, rilevante o degno di attenzione. Le persone interpretano questi contenuti attraverso repertori culturali già esistenti, utilizzando schemi di lettura e strumenti simbolici costruiti socialmente nel tempo, i famosi toolkits dalla sociologa Anne Swidlere. Il problema, quindi, non riguarda soltanto l’accuratezza delle risposte o il rischio di disinformazione. La questione è più profonda: cosa accade quando la costruzione del significato viene progressivamente delegata a sistemi che apprendono da rappresentazioni pregresse del mondo?

Clifford Geertz descriveva la cultura come una rete di significati costruita collettivamente. Oggi l’IA sembra inserirsi dentro questa rete in una posizione particolare: non soltanto come oggetto interpretato, ma come elemento che partecipa attivamente alla produzione e circolazione dei significati. A questo livello, l’IA smette di apparire come un semplice strumento tecnico. Una tecnologia capace di produrre linguaggi, immagini, sintesi e interpretazioni con una naturalezza quasi invisibile rende sempre più difficile distinguere dove termini l’organizzazione tecnica dell’informazione e dove inizi, invece, la costruzione culturale della realtà.

In questo senso appare meno come una rottura improvvisa e più come la naturale prosecuzione della logica che già organizza gran parte della vita quotidiana. Anche la percezione della sua inevitabilità nasce probabilmente da questa continuità culturale. Ciò che appare inevitabile, però, raramente è neutrale. Dietro l’immagine dell’IA come semplice innovazione tecnologica si muovono infrastrutture economiche, concentrazioni di potere, piattaforme private e immense operazioni di estrazione di dati e lavoro cognitivo. Karen Hao ha descritto questo processo come una nuova forma di colonialismo tecnologico: un sistema capace di accumulare dipendenza, risorse e capacità computazionale su scala globale. L’intelligenza artificiale, quindi, non sta soltanto trasformando il modo in cui lavoriamo o produciamo contenuti. Sta contribuendo a ridefinire ciò che consideriamo normale: il rapporto con il sapere, con la creatività, con il linguaggio, con l’autorialità e persino con il tempo. Ritorna qui, quasi invisibilmente, la dimensione interpretativa della cultura. Comprendere l’IA significa inevitabilmente leggerla attraverso categorie, aspettative e immaginari costruiti collettivamente nel tempo. La domanda, allora, cambia forma. Non più soltanto: cosa può fare l’IA? Ma quale idea di società sta rendendo possibile, e desiderabile, la sua diffusione così rapida? Interpretare l’IA significa, inevitabilmente, interpretare anche noi stessi: i nostri valori, le nostre paure, le nostre ossessioni produttive e il futuro che, spesso senza accorgercene, stiamo già contribuendo a normalizzare. Forse è proprio questo l’aspetto che trovo più interessante.

Ogni volta che discutiamo di IA, tendiamo a concentrarci su ciò che la tecnologia sta diventando. Molto meno spesso ci chiediamo che cosa stiamo diventando noi nel rapporto con essa, quali forme di conoscenza iniziamo a delegare, quali capacità smettiamo di esercitare, quali aspettative consideriamo ragionevoli, quali idee di efficienza, creatività o intelligenza finiamo per accettare come naturali. Guardare all’IA come fenomeno culturale significa, in fondo, spostare l’attenzione dagli algoritmi alle interpretazioni. Non per negare la dimensione tecnica o sociale della tecnologia, ma per riconoscere che ogni innovazione importante produce sempre qualcosa di più dei suoi effetti pratici: produce nuovi modi di leggere il mondo.