Concetti
Cos'è il RAG (Retrieval-Augmented Generation) e perché conta per un'azienda
Il RAG è la tecnica che permette a un modello linguistico di rispondere su documenti che non ha mai visto in addestramento: prima li cerca, poi scrive la risposta citando quello che ha trovato.
È il modo più diretto per far usare l'intelligenza artificiale su materiale aziendale senza riaddestrare nulla e senza consegnare gli archivi a un fornitore. Questa pagina spiega come funziona, cosa lo distingue dal fine-tuning e dove si rompe.
La definizione, in due frasi
RAG sta per Retrieval-Augmented Generation, cioè generazione potenziata dal recupero. Invece di chiedere a un modello linguistico di rispondere a memoria, il sistema cerca prima i passaggi pertinenti dentro una raccolta di documenti e li passa al modello insieme alla domanda, chiedendogli di rispondere solo sulla base di quelli.
La conseguenza è che il modello smette di essere la fonte della risposta e diventa il redattore. La fonte sono i tuoi documenti, e ogni affermazione può essere ricondotta al punto preciso da cui è stata presa.
Il modo più breve per dirlo: senza RAG chiedi a un modello cosa ricorda; con il RAG gli chiedi di leggere e riferire.
Perché serve, se i modelli sanno già tantissime cose
Perché non sanno nulla di te. Un modello linguistico è stato addestrato su testo pubblico fino a una certa data: i tuoi contratti, le tue perizie, le tue circolari interne e i verbali dell'anno scorso non ne fanno parte e non ne faranno mai parte.
Ci sono poi tre problemi che il RAG risolve e che l'uso diretto di un modello non risolve affatto. Il primo è l'aggiornamento: i documenti cambiano, e reindicizzarli costa minuti, mentre riaddestrare un modello costa molto di più. Il secondo è la verificabilità: se non sai da dove viene una risposta, non puoi usarla per prendere una decisione che dovrai difendere. Il terzo è il controllo degli accessi: potendo filtrare i passaggi prima che arrivino al modello, una persona non riceve mai una risposta costruita su documenti che non avrebbe potuto aprire.
Le quattro fasi, in ordine
- 01
Ingest
Carichi dalla web UI o dall'API REST. PDF, DOCX, XLSX, HTML, TXT, Markdown e CSV. Le pagine scansionate vengono riconosciute da sole e passate all'OCR in italiano e inglese.
Tika · OCR
- 02
Embed & store
Il testo viene diviso in blocchi sovrapposti ed embeddato con BAAI/bge-m3 (1024 dimensioni, oltre 100 lingue), nello stesso processo. I vettori finiscono in Qdrant con i metadati che servono al filtraggio per ruolo.
bge-m3 · Qdrant
- 03
Retrieve
La domanda viene embeddata allo stesso modo e la risposta si costruisce dai passaggi più vicini. Soglia di rilevanza e top-K sono configurabili, e il filtro per ruolo si applica qui: una query non arriva mai al modello con passaggi che chi chiede non può vedere.
I3K orchestrator
- 04
Generate
I passaggi vanno al modello linguistico locale, che genera la risposta parola per parola mostrando ogni fonte. Il modello gira sul tuo hardware. Zero chiamate esterne.
EuLLM · Mistral 7B
RAG o fine-tuning: non sono la stessa domanda
Vengono spesso presentati come alternative, ma servono a cose diverse. Il fine-tuning cambia il comportamento del modello: il tono, il formato, il modo di affrontare un certo tipo di compito. Il RAG cambia le informazioni a cui il modello ha accesso nel momento in cui risponde.
- Se il problema è «non conosce i nostri documenti», la risposta è il RAG. Il fine-tuning su un corpus aziendale è un modo costoso e inaffidabile di memorizzare fatti.
- Se il problema è «risponde nel modo sbagliato», allora si guarda al prompt e, solo dopo, al fine-tuning.
- Se i documenti cambiano spesso, il RAG è l'unica opzione praticabile: si reindicizza, non si riaddestra.
- Se serve citare la fonte, serve il RAG: un modello addestrato su un testo non sa dirti da quale pagina viene ciò che afferma.
Da cosa dipende davvero la qualità delle risposte
Quasi mai dal modello linguistico. Quando un sistema RAG risponde male, nella grande maggioranza dei casi ha recuperato i passaggi sbagliati — e nessun modello, per quanto grande, può scrivere una buona risposta partendo dal materiale sbagliato.
I punti in cui si gioca la partita
- Come il documento viene diviso in blocchi. Un blocco tagliato nel punto sbagliato spezza una clausola a metà e la rende irrecuperabile.
- Quanto contesto ogni blocco si porta dietro. Un paragrafo estratto da pagina 340 senza sapere a quale capitolo appartiene è ambiguo anche per un lettore umano.
- Il modello di embedding, cioè come il testo viene trasformato in numeri confrontabili. Se è multilingua, una domanda in italiano trova un passaggio in inglese.
- La qualità dell'estrazione del testo. Su un PDF scansionato senza OCR non c'è recupero possibile, perché non c'è testo da recuperare.
- Il modo in cui i risultati vengono ordinati prima di finire nel prompt: i primi passaggi contano molto più degli ultimi.
Per questo un sistema RAG curato e ospitato in casa può battere un servizio costruito su un modello molto più potente ma con un recupero mediocre. La potenza del modello è il fattore che si nota di più e che conta di meno.
Dove il RAG si rompe
- Domande che richiedono di leggere tutto: «riassumi l'orientamento di tutti i 4.000 verbali» non è una domanda di recupero, perché non esistono tre passaggi che la contengono.
- Domande aggregate: contare, sommare, raggruppare per data. Il recupero semantico trova testo simile, non calcola totali — servono metadati strutturati accanto ai vettori.
- Documenti contraddittori: se in archivio ci sono due versioni di una procedura, il sistema può citare quella superata. La soluzione è governare l'archivio, non il modello.
- Domande formulate male: se la domanda non contiene nessuno dei termini del documento e nemmeno un concetto vicino, il recupero non ha appigli.
Nessuno di questi limiti è un difetto dell'implementazione: sono la forma del problema. Conoscerli in anticipo è la differenza fra un progetto che parte con le aspettative giuste e uno che viene giudicato un fallimento a tre mesi.
Perché il RAG è la strada più corta verso un'AI che non esce dall'azienda
Perché nessuna delle sue fasi ha bisogno di un servizio esterno. L'estrazione del testo, il calcolo degli embedding, il database vettoriale e il modello che scrive la risposta possono girare tutti sulla stessa macchina, e sono tutti disponibili come software open-source.
È esattamente ciò che fa il motore Community di I3K RAG Enterprise: un unico eseguibile che avvia da sé il database vettoriale e il motore di inferenza, calcola gli embedding nel proprio processo e, dopo il primo avvio, non ha più bisogno di rete.
Domande frequenti sul RAG
- Cosa significa RAG?
- RAG è l'acronimo di Retrieval-Augmented Generation, in italiano generazione potenziata dal recupero. Indica un sistema che, prima di far scrivere una risposta a un modello linguistico, recupera da una raccolta di documenti i passaggi pertinenti alla domanda e glieli fornisce come base.
- Come funziona un sistema RAG, in pratica?
- In quattro fasi. I documenti vengono caricati e il testo estratto, anche via OCR se sono scansioni. Il testo viene diviso in blocchi e trasformato in vettori numerici salvati in un database vettoriale. Al momento della domanda, anche la domanda viene trasformata in vettore e si recuperano i blocchi più vicini. Infine quei blocchi vengono passati al modello linguistico, che scrive la risposta citando le fonti.
- Qual è la differenza fra RAG e fine-tuning?
- Il fine-tuning modifica il comportamento del modello riaddestrandolo, ed è adatto a cambiare stile o formato delle risposte. Il RAG non tocca il modello: cambia le informazioni che gli vengono messe davanti al momento della domanda. Per far conoscere a un'AI documenti aziendali che cambiano nel tempo, il RAG è l'approccio corretto, perché basta reindicizzare invece di riaddestrare.
- Il RAG elimina le allucinazioni?
- Le riduce molto ma non le elimina. Il vantaggio decisivo è un altro: siccome ogni risposta arriva accompagnata dai passaggi da cui è stata ricavata, un'affermazione sbagliata è verificabile in pochi secondi anziché essere indistinguibile da una corretta.
- Serve una connessione a internet per far funzionare il RAG?
- No, se tutti i componenti sono locali. Estrazione del testo, embedding, database vettoriale e modello linguistico possono girare sulla stessa macchina. Il motore Community di I3K RAG Enterprise scarica i propri componenti al primo avvio e da lì in poi funziona anche senza rete.
- Quanti documenti può gestire un sistema RAG?
- Dipende dall'hardware e dal database vettoriale, non dal modello linguistico: il numero di documenti incide sulla memoria e sui tempi di indicizzazione, mentre il costo di una singola risposta resta sostanzialmente costante perché al modello arrivano sempre pochi passaggi. Il modo serio di rispondere è misurare sul proprio corpus e sul proprio hardware.
Pronto a far girare RAG sulla tua infrastruttura?
Parti dall'edizione Community open-source, oppure parla con noi di Pro con estrazione strutturata, SSO, audit log e SLA.