Grounding: Definition, Funktionsweise und Grenzen in der KI

Definition und Konzepte, die nicht verwechselt werden dürfen

Grounding im Kontext der künstlichen Intelligenz und großer Sprachmodelle (LLMs) ist der Prozess, die vom Modell generierte Ausgabe mit externen, korrekten und aktuellen Informationen zu verbinden. Im Gegensatz zur Generierung, die ausschließlich auf dem parametrischen Gedächtnis (den Gewichten des Modells) basiert, verlangt Grounding, dass Aussagen bis zu einer abrufbaren Quelle der Wahrheit zurückverfolgt werden können, wie einem Dokument, einer Datenbank oder einem externen Tool.

Es ist entscheidend, das technische Grounding in der KI von anderen gleichnamigen Konzepten zu unterscheiden. Es sollte beispielsweise nicht mit der 'Grounded Theory' (Fundamentierten Theorie), einer qualitativen Forschungsmethode in den Sozialwissenschaften, verwechselt werden, noch mit dem philosophischen 'Symbol Grounding Problem' von Stevan Harnad, das sich damit befasst, wie Symbole eine intrinsische Bedeutung erlangen. In der aktuellen KI-Praxis ist Grounding eine Frage der Evidenz: Kann ein bestimmter Satz bis zu einer Quelle zurückverfolgt werden, die jemand öffnen und lesen kann?

Funktionsweise Schritt für Schritt

Der Grounding-Prozess findet zur Inferenzzeit statt, nicht während des Trainings. Zuerst muss das System auf eine verwaltete und abfragbare Quelle der Wahrheit zugreifen können. Wenn der Benutzer eine Anfrage stellt, ruft das System die relevantesten Datensegmente aus dieser Quelle ab. Anschließend erhält das Sprachmodell diese Passagen als Kontext und generiert eine Antwort, die strikt durch dieses Material bedingt ist.

Die kritische Phase ist die Einschränkung der Generierung. Das Modell muss sich auf das beschränken, was die abgerufene Quelle angibt, ohne es mit veralteten Kenntnissen aus dem Training zu vermischen. Schließlich zeigt das System die Zitate oder Verweise auf die spezifischen Abschnitte des ursprünglichen Dokuments an, sodass ein Mensch oder ein automatisierter Auswerter die Rückverfolgbarkeit jeder Aussage überprüfen kann.

Drei ausgearbeitete Beispiele in relevanten Bereichen

Grounding ist besonders kritisch in Umgebungen mit hohem Risiko, in denen Präzision und Auditierbarkeit unverhandelbar sind. Im Folgenden werden drei Szenarien detailliert beschrieben, in denen diese Technik die Zuverlässigkeit des Systems verändert.

Im juristischen Bereich kann ein System zur Vertragsprüfung Verpflichtungen und Klauseln aus komplexen PDF-Dokumenten extrahieren. Ohne Grounding könnte das Modell Daten oder Beträge erfinden. Mit Grounding wird jeder extrahierte Wert mit der spezifischen Seite und dem Abschnitt des Vertrags verknüpft, sodass der Anwalt die genaue Quelle überprüfen kann.

Wie man das Ergebnis bewertet

Um zu bewerten, ob ein System tatsächlich fundiert ist, reicht es nicht aus, nur zu prüfen, ob die Antwort 'plausibel' ist. Die Forschung legt nahe, dass ein Modell nur dann fundiert ist, wenn es das notwendige Wissen aus dem bereitgestellten Kontext vollständig nutzt und innerhalb der Grenzen dieses Wissens bleibt. Eine Antwort, die ein echtes Dokument zitiert, aber zwei Sätze plausibler Erfindung hinzufügt, ist nicht fundiert, selbst wenn der Abruf funktioniert hat.

Die Bewertung sollte sich auf Rückverfolgbarkeit und Adhärenz konzentrieren. Wenn das Modell über das hinausgeht, was die abgerufene Quelle angibt, ist das Grounding gescheitert, unabhängig von der Qualität des Abrufs. Darüber hinaus ist es entscheidend zu überprüfen, ob die abgerufenen Quellen die richtigen und aktuellen sind, da ein Grounding auf veralteten oder falschen Daten zu fehlerhaften Antworten mit hoher Konfidenz führt.

Häufige Fehler und Grenzen

Der häufigste Fehler ist die Annahme, dass Grounding Halluzinationen vollständig eliminiert. Dies ist falsch. Grounding reduziert die Erfindung von Fakten und macht den Rest rückverfolgbar, garantiert aber keine absolute Korrektheit. Wenn die abgerufene Quelle falsch, veraltet oder widersprüchlich ist, kann das Modell seine Antwort mit voller Konfidenz auf diese falschen Informationen stützen.

Eine weitere wichtige Grenze ist die Datenverwaltung (Governance). Ein Modell, das auf nicht verwalteten Daten fundiert ist, kann auf Informationen zugreifen, die der Benutzer nicht sehen sollte (Datenlecks), oder veraltete Metrikdefinitionen verwenden. Grounding bestimmt, dass das Modell externe Daten verwendet, aber die Governance bestimmt, ob diese Daten die richtigen, aktuellen und autorisierten sind. Außerdem deckt Grounding nicht den gesamten Kontext ab: Es weiß nicht, wer der Benutzer ist oder was in früheren Gesprächsrunden passiert ist, Aspekte, die von der umfassenderen Kontext-Engineering abhängen.

Häufig gestellte Fragen und Primärquellen

Ist Grounding dasselbe wie Fine-Tuning? Nein. Fine-Tuning ändert die Gewichte des Modells, um sein Verhalten oder seinen Stil zu verändern, bietet aber keine Zitate oder Aktualisierungsgarantien. Grounding lässt die Gewichte unverändert und liefert Evidenz zur Inferenzzeit, was die Antwort zuordenbar und sofort aktualisierbar macht, wenn sich die zugrunde liegende Quelle ändert.

Warum scheitert Grounding? Es scheitert in der Regel beim Abruf, nicht bei der Generierung. Wenn der Abruf nichts Nützliches zurückgibt, füllt das Modell die Lücke mit Halluzinationen. Die Verbesserung des Abrufs (z. B. durch kontextuelle Embeddings oder Reranking) ist der effektivste Weg, um das Grounding zu verbessern, da es sich um ein Informationsabruf-Problem handelt, das ein Sprachmodell als Schnittstelle verwendet.

Verwandte Begriffe