Che cosa sono le allucinazioni dell’IA? Perché i chatbot inventano con sicurezza

Un gatto può fissare un angolo vuoto con straordinaria convinzione. Un chatbot può fare qualcosa di simile, solo che fornisce tre paragrafi e una bibliografia. La parte inquietante è quanto il risultato assomigli a una risposta sensata.

Le allucinazioni dell’IA sono risultati falsi o non supportati prodotti nel generare una risposta. Possono essere raffinati, specifici e persuasivi. Capirli non significa rifiutare l’IA, ma sapere quali parti del suo lavoro richiedano qualcosa di più solido di una bella voce narrante.

Che cosa conta come allucinazione dell’IA?

Non esiste una tassonomia usata ovunque. Il profilo di rischio del NIST per l’IA generativa usa «confabulazione» per i contenuti erronei e include risposte che si discostano dall’input o contraddicono affermazioni precedenti. Esempi comuni sono una citazione inesistente, una data sbagliata o un riassunto che aggiunge un’affermazione assente dalla fonte.

Non è necessariamente un’affermazione falsa copiata da qualche parte. Il modello può assemblare una falsità nuova. Né la definizione è semplicemente «qualcosa che manca nei dati di addestramento»: un’inferenza corretta può essere nuova, mentre un mito molto rappresentato può restare falso.

La sicurezza rende più difficili da notare gli errori, ma una cautela linguistica non rende vera una falsità. «Probabilmente» seguito da un articolo scientifico immaginario ti lascia comunque un articolo immaginario.

Perché una risposta scorrevole può essere sbagliata?

Come spiega la nostra guida a come funzionano gli LLM (in inglese), i modelli linguistici generano sequenze di token usando schemi appresi. Il NIST osserva che ciò può produrre affermazioni accurate ma anche incoerenti o inesatte. La scorrevolezza non è quindi un certificato di verità incorporato.

Contano anche addestramento e valutazione. Una ricerca pubblicata su Nature nell’aprile 2026 esamina come punteggi concentrati sull’accuratezza possano premiare il tentare una risposta invece di ammettere incertezza. Se sia una risposta sbagliata sia un’onesta astensione valgono zero, tentare offre una possibilità di ottenere punti. Gli autori spiegano anche perché fatti scarsamente rappresentati pongano problemi persino con ipotesi idealizzate sui dati di addestramento.

Questo non significa che i modelli non siano mai addestrati a esprimere incertezza. L’addestramento successivo può incoraggiare esplicitamente comportamenti più affidabili. Il punto è che obiettivi e valutazioni diversi creano incentivi diversi; «l’IA non viene mai premiata per dire che non sa» è troppo assoluto.

Un’applicazione chatbot può anche cercare sul web, consultare documenti o usare una calcolatrice. Dire che nessuno di questi sistemi cerchi mai informazioni sarebbe fuorviante. Gli strumenti cambiano il flusso di lavoro, anche se l’interpretazione generata va comunque controllata.

Gli errori che potresti incontrare

Immagina di chiedere una breve storia di una città immaginaria chiamata Whiskerton. Se chiedi un racconto, un sindaco inventato è parte del divertimento. Se chiedi documenti comunali e ricevi il sindaco Felix Purrington, eletto nel 1847, la stessa creatività è finita nell’ufficio sbagliato.

I fallimenti più ordinari possono essere sottili:

• Un’invenzione a forma di riferimento: titolo impressionante, autori plausibili e numero di rivista che non corrispondono a un lavoro reale.
• Una fonte non pertinente: un link vero associato a un’affermazione che la pagina non supporta.
• Un riassunto che va troppo oltre: «la proposta sarà discussa» diventa «la proposta è stata approvata».
• Dettagli mescolati: fatti su due persone o versioni di un prodotto uniti in una descrizione.

Errori aritmetici e di ragionamento possono accompagnarli, anche se non tutti classificano ogni calcolo sbagliato come allucinazione. Per chi usa la risposta, la domanda utile è solitamente come verificarla, non in quale schedario vada messo l’errore.

Un caso reale di casi immaginari

Nell’ordinanza sanzionatoria del giugno 2023 di Mata contro Avianca, il tribunale descrisse avvocati che avevano depositato decisioni inesistenti generate da ChatGPT, continuando a difenderle dopo che l’autenticità era stata contestata. Fu imposta congiuntamente ai destinatari una sanzione di 5.000 dollari, insieme ad altri obblighi.

La lezione va oltre «un chatbot ha sbagliato». Il tribunale individuò mancanze nella verifica umana e nella condotta successiva. Una citazione formattata era stata trattata come prova dell’esistenza di una decisione. Chiedere rassicurazioni allo stesso generatore non sostituisce il reperimento della decisione vera.

Che cosa aiuta davvero?

Fornire documenti pertinenti può migliorare il lavoro fattuale. La ricerca originale sulla generazione aumentata dal recupero di informazioni combinava generazione e materiale recuperato, ottenendo risultati più fattuali del modello di confronto nei compiti valutati. La nostra spiegazione della RAG (in inglese) illustra l’idea.

Non è una promessa su ogni sistema con quell’etichetta. Il recupero può scegliere il documento sbagliato o un passaggio superato. Il modello può poi fraintenderlo. Le prove devono essere pertinenti e la risposta fedele.

Nell’uso quotidiano, rendi concreto il controllo:

1. Individua le affermazioni importanti. Un titolo scherzoso e una scadenza per il reso citata richiedono livelli diversi di scrutinio.
2. Apri la fonte effettiva. Controlla autore, data, passaggio pertinente e se sostenga proprio quell’affermazione.
3. Separa estrazione e interpretazione. Chiedi cosa dica esplicitamente il documento e quali conclusioni siano inferenze.
4. Verifica i numeri indipendentemente. Ricalcola il totale invece di accettare il paragrafo che lo spiega.
5. Lascia visibili i vuoti. «Non stabilito da questa fonte» è più utile di una risposta inventata che riempia ordinatamente lo spazio.

La nostra guida al prompt engineering (in inglese) offre esempi di richieste più chiare. Queste istruzioni aiutano il lavoro, non sono comandi che rendono impossibili gli errori.

Un’altra IA può scoprire il problema?

A volte. Uno studio di Nature del 2024 sull’entropia semantica ha indagato come rilevare un particolare sottoinsieme di allucinazioni esaminando la variazione dei significati delle risposte generate. È un approccio di ricerca sull’incertezza, non un rilevatore universale di verità.

Per un lettore, risposte contrastanti sono un motivo per indagare. Risposte concordanti non sono una prova: i sistemi possono ripetere lo stesso errore. Riformulare una domanda può mostrare instabilità, ma senza prove non dice quale versione sia corretta.

Non c’è neppure una base solida per promettere che ogni modello nuovo allucini meno in ogni compito, o per prevedere con certezza che il problema non verrà mai risolto. Valuta l’applicazione che usi e il lavoro che le chiedi.

Goditi le idee, le bozze e le spiegazioni insolitamente pazienti. Quando la risposta dipende da un fatto reale, risali a qualcosa di verificabile. Il gatto può restare certo di quell’angolo; tu puoi comunque accendere la luce.

Traduzione italiana dell’articolo originale in inglese del 2026-06-19. Tradotto il 30 ottobre 2026 con assistenza IA; i riferimenti temporali restano quelli dell’originale.