Un tecnico di assistenza riceve una chiamata: il cliente ha una macchina installata sei anni fa e un codice di errore che nessuno in ufficio ricorda. La risposta esiste, sta in un PDF di trecento pagine, in una circolare interna del 2021 e nella testa del collega che oggi è in ferie. Il problema non è che l'informazione manchi: è che costa troppo tempo trovarla. Un chatbot RAG nasce esattamente per questo.
Che cos'è RAG, detto senza gergo
RAG sta per Retrieval-Augmented Generation, generazione aumentata dal recupero. Un modello linguistico (LLM) da solo risponde con quello che ha imparato durante l'addestramento: conosce molto del mondo, ma nulla dei vostri listini, delle vostre procedure o dei vostri contratti. Con RAG, prima di rispondere, il sistema va a cercare nei vostri documenti i passaggi pertinenti alla domanda e li passa al modello insieme alla domanda stessa. Il modello scrive la risposta basandosi su quei passaggi, non sulla memoria generica.
La differenza pratica è che la risposta diventa verificabile: si può sapere da quale documento arriva, e se il documento non contiene la risposta il sistema può dirlo invece di inventarla.
Come funziona, passo per passo
1. Indicizzazione dei documenti
Si parte raccogliendo le fonti: manuali, FAQ, schede prodotto, procedure, normative interne, pagine del sito. Ogni documento viene convertito in testo pulito, diviso in porzioni (i cosiddetti chunk) e trasformato in una rappresentazione numerica, un embedding, che cattura il significato del testo. Questi vettori finiscono in un indice di ricerca, insieme ai metadati: titolo, versione, data, reparto, livello di riservatezza.
È la fase più sottovalutata. Un PDF scansionato senza testo, una tabella spezzata a metà, un manuale con tre versioni diverse dello stesso capitolo: tutti problemi che, se non risolti qui, si ripresentano più avanti come risposte sbagliate.
2. Retrieval
Quando l'utente fa una domanda, il sistema la trasforma nello stesso tipo di rappresentazione e cerca i chunk più vicini per significato. Nei sistemi seri la ricerca semantica si combina con quella per parole chiave (utile per codici prodotto, numeri di articolo, sigle) e con i filtri sui metadati: un cliente non deve ricevere passaggi da documenti interni, un operatore del reparto A non deve vedere i contratti del reparto B.
3. Generazione con citazioni
I passaggi recuperati vengono inseriti nel prompt con istruzioni precise: rispondi solo sulla base di questi testi, cita la fonte, se l'informazione non c'è dillo. L'utente riceve una risposta in linguaggio naturale con il riferimento al documento e, quando serve, il link alla pagina o al paragrafo. Questo è il punto che separa un assistente utile da un generatore di frasi plausibili.
Quando serve davvero
RAG ha senso quando ci sono tre condizioni insieme: un corpus documentale ampio o disperso, domande ricorrenti che richiedono di consultarlo, e persone che oggi perdono tempo a cercare o a rispondere sempre alle stesse cose. Alcuni esempi concreti:
- Assistenza tecnica su macchine e impianti, dove la risposta sta in manuali lunghi e bollettini di aggiornamento. È il caso tipico di un assistente AI per manuali tecnici.
- Customer service con molte domande ripetitive su spedizioni, resi, garanzie e caratteristiche dei prodotti.
- Studi professionali che devono orientarsi tra circolari, modelli e prassi interne: pensiamo agli studi di commercialisti o agli studi legali.
- Enti pubblici con regolamenti, modulistica e orari che i cittadini cercano senza trovarli.
- Onboarding interno: il nuovo assunto che chiede come si apre un ordine o dove si trova la procedura di sicurezza.
Quando invece non serve
Essere onesti su questo fa risparmiare mesi. Un chatbot RAG non è la scelta giusta se:
- i documenti sono pochi e brevi: una buona pagina FAQ e un motore di ricerca interno bastano;
- le domande richiedono dati transazionali in tempo reale (lo stato di un ordine, la giacenza di un articolo): lì serve un'integrazione con il gestionale o l'ERP, eventualmente affiancata dal chatbot, non la ricerca nei documenti;
- la risposta richiede una valutazione professionale caso per caso: l'assistente può preparare il materiale, ma la decisione resta a chi ha la competenza e la responsabilità;
- nessuno in azienda è disposto a curare i contenuti. Un RAG senza manutenzione invecchia come un sito mai aggiornato.
Quali documenti servono, e in che stato
Non serve che tutto sia perfetto, ma serve sapere cosa si ha. Prima di scrivere una riga di codice conviene fare un inventario:
- Quali fonti: manuali, FAQ, procedure, cataloghi, contratti tipo, pagine web, ticket risolti.
- Quale versione è valida: se esistono tre edizioni dello stesso manuale, bisogna decidere quale fa fede, oppure etichettarle per modello o per anno.
- Chi può vedere cosa: documenti pubblici, riservati ai clienti con contratto, solo interni.
- In che formato sono: Word e PDF con testo selezionabile vanno bene; le scansioni richiedono OCR e un controllo; le tabelle complesse vanno spesso ristrutturate.
- Chi ne è responsabile: per ogni gruppo di documenti, una persona che sa quando cambia qualcosa.
I ticket di assistenza già risolti e le email ricorrenti sono una miniera: mostrano le domande reali, con le parole che usano davvero i clienti, che spesso non sono quelle dei manuali.
La manutenzione nel tempo
Un chatbot RAG non è un progetto che si consegna e si dimentica. Le cose che vanno previste fin dall'inizio:
- Aggiornamento dell'indice: quando un documento cambia, deve essere reindicizzato e la vecchia versione rimossa. Meglio automatizzare il flusso partendo da una cartella condivisa o dal CMS.
- Revisione delle conversazioni: leggere periodicamente le domande senza risposta o con feedback negativo. Quasi sempre indicano un documento mancante o scritto male, non un problema del modello.
- Test di regressione: un set di domande con risposte attese da rilanciare dopo ogni modifica importante, per accorgersi se qualcosa è peggiorato.
- Aggiornamento del modello: i fornitori di LLM rilasciano nuove versioni e ritirano le vecchie. L'architettura deve permettere di cambiare modello senza riscrivere tutto.
Gli errori tipici che vediamo
Caricare tutto e sperare
Mettere nell'indice l'intero file server, bozze e duplicati compresi, produce risposte che mescolano versioni diverse. Meno documenti ma curati battono molti documenti disordinati.
Chunk tagliati male
Se un passaggio viene diviso a metà di una procedura, il sistema recupera il passo 4 senza il passo 3. Il modo in cui si divide il testo va adattato al tipo di documento: un manuale tecnico non si spezza come una pagina FAQ.
Nessuna citazione
Senza fonti, l'utente non può verificare e l'azienda non può capire da dove arriva un errore. Le citazioni sono anche lo strumento di debug più efficace che esista.
Nessuna via d'uscita
Un assistente che non sa dire «non lo so» e non sa passare la conversazione a una persona finisce per inventare. Il passaggio a un operatore, via email, ticket o chat, va progettato insieme al resto.
Promettere troppo
Un chatbot RAG riduce il lavoro ripetitivo e accorcia i tempi di ricerca. Non sostituisce chi conosce il prodotto e non elimina gli errori: li rende più rari e più facili da individuare. Presentarlo internamente come «quello che risponde a tutto» porta a delusioni rapide.
Come lo costruiamo noi
Nei progetti di AI Engineering partiamo sempre dal problema operativo: chi fa le domande, quante volte, dove sta la risposta oggi. Poi costruiamo la pipeline di indicizzazione, il retrieval con i filtri di permesso, la generazione con citazioni, il passaggio all'operatore e una dashboard per vedere cosa chiedono davvero gli utenti. Se volete vedere un caso concreto, la scheda dell'assistente AI per il customer service racconta un progetto costruito su una knowledge base aziendale.
Il modo più rapido per capire come si comporta un assistente di questo tipo è provarne uno: Caddy, il chatbot di questo sito, risponde sui contenuti che abbiamo pubblicato e cita le pagine da cui prende le informazioni. Se invece avete già in mente i documenti su cui vorreste costruire il vostro, scriveteci: partiamo da un inventario delle fonti e vi diciamo con franchezza se RAG è la strada giusta.
