Perché un’AI che cita la fonte sbaglia meno: la RAG spiegata semplice

01 Cos’è un’allucinazione dell’AI, e perché succede

Il 20 febbraio 2026 il Tribunale di Siracusa ha condannato una società a pagare alla controparte 14.103 euro oltre alle spese di lite, e 2.000 euro alla Cassa delle ammende. Il suo atto citava quattro sentenze della Cassazione con passaggi tra virgolette. Il giudice le ha cercate nelle banche dati: nessuna conteneva quei passaggi, e alcune trattavano tutt’altro. La spiegazione che il Tribunale ritiene l’unica plausibile è uno strumento di AI generativa usato senza verificarne i risultati. La causa, ha concluso, è stata condotta con colpa grave, anche per questo.

La sentenza contiene anche una buona definizione di allucinazione: la generazione di «contenuti formalmente plausibili ma sostanzialmente falsi o inesistenti». La parola chiave è plausibili. Un’allucinazione non si riconosce dalla forma, perché ha la stessa sicurezza di una risposta giusta.

Perché succede? Un modello linguistico non consulta un archivio: produce il testo più probabile sulla base di quello che ha visto durante l’addestramento. Un gruppo di ricercatori di OpenAI e del Georgia Tech l’ha spiegato nel settembre 2025 con un’immagine scolastica: come uno studente davanti a una domanda difficile, il modello a volte tira a indovinare invece di ammettere che non sa, perché il modo in cui i modelli vengono addestrati e valutati premia il tentativo più dell’ammissione di incertezza.

Quanto spesso? Dipende molto da come lo si misura. Lo Stanford AI Index 2026 riporta un test recente, AA-Omniscience di Artificial Analysis (6.000 domande su 42 argomenti), che misura proprio questo comportamento: tra le domande a cui un modello non risponde correttamente, quante volte dà una risposta sbagliata invece di un «non lo so». Su 26 modelli di punta la quota va dal 22% al 94%.

02 Cos’è la RAG, in parole semplici

La RAG (retrieval-augmented generation) è un modo di far rispondere un modello di AI in due tempi: prima cerca, in un archivio di documenti scelto da voi, i passaggi pertinenti alla domanda; poi scrive la risposta a partire da quei passaggi, e può indicare da quali viene. Il nome viene da un articolo del 2020 di ricercatori di Facebook AI Research, University College London e New York University, presentato alla conferenza NeurIPS.

I ricercatori di Stanford che hanno studiato gli strumenti di ricerca giuridica usano un’immagine che rende bene l’idea: senza RAG il modello affronta la domanda come un esame a memoria, con la RAG come un esame a libro aperto. Invece di affidarsi al ricordo approssimativo di quello che ha letto in addestramento, lavora sul testo che ha davanti.

Già l’articolo del 2020 indicava due problemi aperti dei modelli che rispondono a memoria: dire da dove viene una risposta e aggiornare quello che il modello sa. Gli autori dimostrarono il secondo con un esperimento semplice. Presero 82 leader mondiali cambiati tra il 2016 e il 2018 e fecero la stessa domanda («chi è il presidente del Perù?») allo stesso modello con due archivi diversi. Con l’archivio dell’anno giusto le risposte corrette furono il 70% e il 68%; con quello sbagliato il 12% e il 4%. Il modello era lo stesso. Erano cambiati i documenti.

È anche la differenza con l’altra strada di cui si sente parlare, il fine-tuning (l’addestramento aggiuntivo). Il fine-tuning cambia il modello, e per aggiornarlo va rifatto. La RAG cambia i documenti che il modello legge, e per aggiornarla basta aggiornare i documenti.

03 Quanto sbaglia meno: cosa dicono le misure

La domanda giusta non è se la RAG funzioni, ma quanto e dove. Ecco le misure più solide che abbiamo trovato, lette alla fonte, con i loro limiti.

Fonti: i lavori citati nei riferimenti. Gli studi misurano compiti, modelli e anni diversi: i numeri si confrontano dentro la stessa riga, non tra righe diverse.

Il caso più istruttivo è il test di Stanford (RegLab e Institute for Human-Centered AI), pubblicato nel 2025 sul Journal of Empirical Legal Studies. Alcuni fornitori di ricerca giuridica presentavano la RAG come la fine delle allucinazioni; i ricercatori hanno preparato e registrato in anticipo oltre 200 domande e le hanno poste a tre strumenti professionali basati sulla RAG, di LexisNexis e Thomson Reuters, e a GPT-4. Gli strumenti sbagliano meno di GPT-4 (43%), ma una risposta su sei, o una su tre a seconda dello strumento, contiene ancora un’allucinazione: un’affermazione falsa, o una fonte citata per qualcosa che non dice. La conclusione degli autori è asciutta: le promesse dei fornitori erano esagerate.

Il secondo dato mostra il limite di fondo. La classifica di Vectara, aggiornata il 22 settembre 2026, dà a 108 modelli lo stesso compito: riassumere un testo usando solo quello che c’è scritto. Anche con il documento davanti, nessun modello arriva a zero: i riassunti giudicati non fedeli vanno dall’1,8% al 24,2%. I curatori stessi aggiungono due avvertenze: il giudizio lo dà un loro modello di valutazione automatico, non una persona, e misura la fedeltà al testo, non la qualità del riassunto.

In medicina, una meta-analisi di 20 studi pubblicata nel 2025 sul Journal of the American Medical Informatics Association trova un miglioramento reale ma moderato: un odds ratio di 1,35, cioè probabilità relative di un risultato migliore più alte del 35% circa con la RAG. Gli autori segnalano anche una possibile distorsione da pubblicazione, la tendenza a pubblicare prima i risultati positivi.

La sintesi onesta è questa: lavorare sui documenti riduce di molto gli errori, ma non li elimina. Cambia però la natura dell’errore che resta. Non è più un’invenzione senza appigli: è un’affermazione accanto a una fonte che si può aprire. Ed è qui che entra la citazione.

04 Perché la citazione conta quanto la risposta

Una risposta con la fonte non è giusta per definizione. È controllabile, che è diverso. Lo mostra un audit del 2023 su quattro motori di ricerca con AI allora molto usati: le risposte erano scorrevoli e sembravano informative, ma solo il 51,5% delle frasi era pienamente sostenuto dalle citazioni, e solo il 74,5% delle citazioni sosteneva davvero la frase a cui era attaccata. Gli autori giudicano questi numeri preoccupanti per strumenti che sembrano affidabili e che molti usano come prima fonte di informazione.

C’è poi una differenza decisiva tra una citazione recuperata e una scritta a memoria. Quando un modello produce i riferimenti da solo, senza cercarli, li può inventare. Uno studio pubblicato nel 2024 sul Journal of Medical Internet Research ha chiesto a tre modelli molto diffusi di ritrovare la letteratura di 11 revisioni sistematiche: tra i riferimenti proposti risultavano allucinati, cioè sbagliati in almeno due elementi tra titolo, primo autore e anno, il 28,6% per GPT-4, il 39,6% per GPT-3.5 e il 91,4% per Bard. In un sistema RAG la citazione punta invece a un documento che il sistema ha davvero trovato, e che potete aprire.

È lo stesso punto della sentenza di Siracusa: per il Tribunale, usare questi strumenti senza verificarne i risultati sulle fonti primarie è colpa grave. La citazione non toglie il dovere di controllare; ne abbassa il costo. Per questo conta il dettaglio: una citazione a un manuale di 300 pagine costringe a cercare di nuovo, una citazione alla pagina giusta si controlla in pochi secondi.

05 Dove la RAG sbaglia ancora

Se la RAG riduce gli errori senza azzerarli, conviene sapere dove nascono quelli che restano. Uno studio presentato alla conferenza CAIN 2024, ricavato da tre progetti reali in ricerca, istruzione e biomedicina, elenca sette punti di rottura, per lo più tecnici. Per un’azienda che usa questi sistemi, i punti deboli da tenere d’occhio sono quattro.

1. La ricerca non trova il passaggio giusto. La risposta c’è, ma in un documento che la ricerca non mette tra i primi, o scritta con parole diverse da quelle della domanda. Nel test di Stanford la ricerca poco accurata contribuiva a quasi metà (47%) delle allucinazioni di uno degli strumenti. Riempire il modello di testo non risolve: con testi molto lunghi, i modelli usano peggio le informazioni che stanno nel mezzo.
2. Il documento è vecchio o sbagliato. La RAG ripete quello che trova. In uno studio di Stanford presentato a NeurIPS 2024, sei modelli di punta, davanti a un documento con un dato sbagliato, l’hanno preferito alla risposta giusta che conoscevano in oltre il 60% dei casi. Se nella stessa cartella convivono il listino 2024 e quello 2026, il sistema può citare quello sbagliato con la massima sicurezza.
3. La risposta non c’è, e il sistema ne inventa una. È il primo dei sette punti di rottura: quando la domanda riguarda l’argomento ma nei documenti la risposta non c’è, il sistema può essere indotto a rispondere comunque. Un buon sistema dice «non lo trovo nei documenti».
4. I permessi arrivano dopo. Se l’archivio contiene tutto e gli accessi si controllano solo sulla risposta, una domanda formulata bene può far emergere quello che non dovrebbe. OWASP, la fondazione no profit nota per le sue liste dei rischi di sicurezza delle applicazioni, inserisce questo rischio nella lista 2025 per le applicazioni basate su modelli linguistici e raccomanda archivi di ricerca che tengano conto dei permessi.

Gli autori dello studio presentato a CAIN aggiungono un’osservazione utile a chi deve comprare: la solidità di un sistema RAG si costruisce con l’uso, non si dichiara all’inizio. Conviene metterlo alla prova sulle proprie domande prima di fidarsi.

06 Cosa chiedere a qualunque sistema di AI aziendale

Dai dati discendono cinque domande da fare prima di scegliere un assistente che lavora sui documenti dell’azienda, qualunque sia il prodotto.

1. Cita il documento e la pagina? Non basta il nome del file: la citazione deve portare al passaggio in un clic, così il controllo costa pochi secondi.
2. Dice quando non lo sa? Fate una domanda a cui i documenti non rispondono. La risposta giusta è «non lo trovo», non un’ipotesi ben scritta.
3. Applica i permessi prima della ricerca? Chi non può aprire un documento non deve trovarne il contenuto in una risposta, nemmeno girando la domanda.
4. Le fonti restano aggiornate da sole? Quando un file cambia dove sta, deve cambiare anche quello che il sistema legge, e le versioni vecchie devono poter uscire.
5. Si lascia mettere alla prova? Preparate 20 o 30 domande vere di cui conoscete la risposta e il documento, e contate: giuste con la fonte giusta, giuste senza fonte, sbagliate, «non trovato».

Un esempio concreto di come si traduce: in ekory ogni risposta di un Eko, l’agente AI che lavora sui documenti dell’azienda, cita documento e pagina, e quando la risposta non è nei documenti lo dice. Un Eko legge solo i documenti che gli avete dato, e il controllo dei permessi avviene prima della ricerca, non dopo. I dettagli sono nelle pagine Prodotto e Sicurezza.

Diffidate di chi promette zero errori: nessuna misura seria lo conferma. La RAG rende l’errore più raro e soprattutto visibile, ed è la differenza tra fidarsi di una risposta e poterla controllare. Se state pensando a come organizzare i documenti dell’azienda per un sistema così, la nostra guida alla knowledge base aziendale parte da lì.

Domande frequenti

Fonti

1. Lewis P. e altri, Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS, 2020.
2. Shuster K. e altri, Retrieval Augmentation Reduces Hallucination in Conversation, Findings of EMNLP, 2021.
3. Magesh V. e altri, Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools, Journal of Empirical Legal Studies, 2025.
4. Liu N. F., Zhang T., Liang P., Evaluating Verifiability in Generative Search Engines, Findings of EMNLP, 2023.
5. Wu K., Wu E., Zou J., ClashEval: Quantifying the tug-of-war between an LLM’s internal prior and external evidence, NeurIPS Datasets and Benchmarks, 2024.
6. Barnett S. e altri, Seven Failure Points When Engineering a Retrieval Augmented Generation System, CAIN, 2024.
7. Liu N. F. e altri, Lost in the Middle: How Language Models Use Long Contexts, Transactions of the ACL, 2024.
8. Liu S., McCoy A. B., Wright A., Improving large language model applications in biomedicine with retrieval-augmented generation, JAMIA, 2025.
9. Chelli M. e altri, Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews, Journal of Medical Internet Research, 2024.
10. Vectara, Hallucination Leaderboard, versione del 22 settembre 2026.
11. Kalai A. T. e altri, Why Language Models Hallucinate, OpenAI e Georgia Tech, 2025.
12. Stanford HAI, AI Index Report 2026, Responsible AI, 2026; Artificial Analysis, AA-Omniscience, 2025.
13. Tribunale di Siracusa, sezione II civile, sentenza 20 febbraio 2026, n. 338 (testo).
14. OWASP, LLM08:2025 Vector and Embedding Weaknesses, OWASP Top 10 for LLM Applications, 2025.