Definizione in una frase
Pattern che recupera informazioni esterne rilevanti e le incorpora al contesto prima di generare una risposta.
Come interpretare questo concetto
RAG combina il recupero di documenti con la generazione di una risposta. Di fronte a una domanda, il sistema cerca frammenti pertinenti in un corpus, li incorpora al contesto e chiede al modello di rispondere con quella prova. Aggiornare il corpus non equivale a riaddestrare il modello: cambia l'informazione che può consultare, non i suoi pesi.
Un'implementazione utile distingue errori di ricerca e di formulazione. Se il documento corretto non appare tra i risultati recuperati, cambiare il prompt di risposta può non risolvere il problema. Se appare ma la risposta lo distorce, bisogna revisionare le istruzioni, la selezione dei frammenti e le citazioni. È opportuno valutare entrambe le fasi separatamente.
Esempio pratico: un assistente di supporto cerca la politica di reso vigente per il paese e la data di acquisto. Prima di rispondere deve verificare permessi, versione ed eccezioni. Se non trova prove sufficienti, deve indicarlo. RAG non garantisce verità, aggiornamento né protezione contro istruzioni malevole contenute nei documenti.
