Definition in einem Satz
Muster, das relevante externe Informationen abrufen und in den Kontext einbezieht, bevor eine Antwort generiert wird.
So ist dieser Begriff zu verstehen
RAG kombiniert die Abrufung von Dokumenten mit der Generierung einer Antwort. Bei einer Frage sucht das System relevante Fragmente in einem Korpus, bezieht sie in den Kontext ein und bittet das Modell, mit dieser Evidenz zu antworten. Die Aktualisierung des Korpus ist nicht gleichbedeutend mit dem erneuten Training des Modells: Es ändert die Informationen, die es konsultieren kann, nicht aber seine Gewichte.
Eine nützliche Implementierung unterscheidet Such- und Formulierungsfehler. Wenn das richtige Dokument nicht unter den abgerufenen Ergebnissen erscheint, kann die Änderung des Antwort-Prompts das Problem nicht lösen. Wenn es erscheint, aber die Antwort es verzerrt, müssen die Anweisungen, die Auswahl der Fragmente und die Zitate überprüft werden. Es ist sinnvoll, beide Stufen separat zu bewerten.
Praktisches Beispiel: Ein Support-Assistent sucht die geltende Rückgabepolitik für das Land und das Kaufdatum. Vor der Antwort muss er Berechtigungen, Version und Ausnahmen überprüfen. Wenn er nicht genügend Evidenz findet, muss er dies angeben. RAG garantiert keine Wahrheit, Aktualität oder Schutz vor bösartigen Anweisungen in den Dokumenten.
