Sintassi

I modelli di intelligenza artificiale generativa non sono progettati per dire il vero. Sono progettati per dire ciò che suona giusto. È una distinzione fondamentale, spesso fraintesa, su cui si fonda gran parte dell’ambiguità che circonda l’uso dell’AI nei contesti informativi.

Dal punto di vista tecnico, questi sistemi non possiedono alcuna nozione di verità, di fatto, di realtà. Non verificano, non confrontano, non mettono alla prova le affermazioni che producono. Il loro compito è un altro: generare sequenze linguistiche che risultino plausibili rispetto a ciò che, statisticamente, tende a comparire insieme nel linguaggio umano. In altre parole, non rispondono alla domanda “è vero?”, ma alla domanda “è probabile che si dica così?”.

Sotto il vestito niente

La competenza dell’AI non è epistemica, ma probabilistica. Non riguarda il rapporto fra un enunciato e il mondo, ma il rapporto fra un enunciato e altri enunciati. L’AI non sa se qualcosa è accaduto; sa solo se quella frase assomiglia a molte altre frasi che parlano di eventi simili. Questo spiega perché possa produrre testi perfettamente scritti, coerenti, dettagliati e al tempo stesso completamente infondati.

Il punto critico è che questa logica funziona straordinariamente bene dal punto di vista umano. Il nostro cervello è abituato a usare la verosimiglianza come indicatore di affidabilità. Se un testo è fluido, ben strutturato, privo di incertezze, tendiamo a considerarlo autorevole. L’AI sfrutta questa scorciatoia cognitiva in modo sistematico, perché è esattamente ciò per cui è stata addestrata.

Il risultato è un cortocircuito: una macchina progettata per produrre plausibilità linguistica viene interpretata come una fonte di conoscenza. Ma la plausibilità non coincide con la verità, e non è nemmeno una sua approssimazione affidabile. È una qualità formale, non sostanziale.

Nessun dubbio

Questo non significa che l’AI menta. La menzogna presuppone intenzione, consapevolezza, volontà di ingannare. L’AI non ha nulla di tutto questo. Quando manca un’informazione, quando i dati sono incompleti o contraddittori, il sistema non sospende il giudizio. Produce comunque una risposta coerente con il contesto linguistico. Il silenzio, il dubbio, l’“non lo so” non fanno parte del suo funzionamento nativo.

Ed è proprio qui che la verosimiglianza diventa un problema culturale prima ancora che tecnologico. Perché più un testo è ben scritto, più tende a nascondere la propria fragilità informativa. Più è fluido, meno segnala le proprie lacune. L’AI eccelle in questo: non mostra attrito, non mostra incertezza, non lascia intravedere il confine tra ciò che è noto e ciò che è semplicemente plausibile.

Capire che la verosimiglianza è l’obiettivo nativo dell’AI significa smettere di chiederle di “dire la verità” e iniziare a usarla per ciò che realmente è: una potente macchina retorica, capace di organizzare il linguaggio in modo convincente, ma strutturalmente incapace di garantire il rapporto fra le parole e il mondo.

È da questa consapevolezza che dovrebbe partire qualsiasi uso responsabile dell’AI nell’informazione. Perché confondere la qualità del discorso con la qualità della conoscenza è il primo, grande errore che l’AI rende facile, automatico, scalabile.