KI verstehen, Begriff für Begriff.
Direkte Definitionen mit Beispielen, häufigen Fehlern, technischen Entscheidungen und geprüften redaktionellen Analysen.
Grundlagen
Grundlegende Einheiten, Fähigkeiten und Grenzen zum Verständnis eines KI-Systems.
Multimodalität: Definition, Funktionsweise und Grenzen
Multimodalität ermöglicht KI-Systemen, Text, Bilder, Audio und Video zu verarbeiten und miteinander in Beziehung zu setzen. Dieser Glossareintrag erklärt die technische Pipeline von der Kodierung über die Projektion bis zur Fusion, veranschaulicht das Konzept anhand von Beispielen aus Medizin, Industrie und autonomem Fahren und erläutert Grenzen wie Rechenaufwand, Datenabgleich und Datenschutzrisiken.
Parameter
Während des Trainings gelernter numerischer Wert, der zur Transformation von Eingaben in Ausgaben beiträgt.
Token: Definition, Funktionsweise und Grenzen in Sprachmodellen
Ein Token ist die kleinste Texteinheit, die ein Sprachmodell verarbeitet, um Inhalte zu verstehen und zu generieren. Er entspricht weder exakt einem Wort noch einem Zeichen, sondern einem Fragment, das durch den spezifischen Tokenizer des jeweiligen Modells definiert ist. Dieser Artikel erklärt, wie Text aufgeteilt wird, wie Identifikatoren zugewiesen werden, wie Tokens die Kontextgrenzen und API-Kosten beeinflussen, und bietet praktische Beispiele zur Optimierung ihrer Nutzung.
Kontextfenster
Maximale Anzahl an Tokens, die ein Modell in einer Anfrage zwischen Eingabe, Verlauf, Tools und Ausgabe berücksichtigen kann.
Modelle und Lernen
Architekturen, Training und Techniken, die das Verhalten eines Modells bestimmen.
Fine-Tuning: Was sich durch weiteres Training ändert – und was es nicht garantiert
Fine-Tuning ist das zusätzliche Training eines bereits vortrainierten Modells, um es an ein konkretes Ziel anzupassen. Dieser Glossareintrag erklärt den Prozess, zeigt drei Beispiele und grenzt den Begriff von anderen Arten ab, Modelle anzupassen oder zu verwenden.
Selbstüberwachtes Lernen: Was es ist und wie es funktioniert
Beim selbstüberwachten Lernen werden Trainingsziele aus den Daten selbst abgeleitet. Dieser Leitfaden erklärt den Mechanismus, zeigt Beispiele aus Sprache, Bildverarbeitung und Audio und erläutert die Grenzen sowie die Unterschiede zu anderen Ansätzen.
RLHF: Was es ist, wie es funktioniert und wo seine Grenzen liegen
Reinforcement Learning from Human Feedback (RLHF) nutzt menschliche Bewertungen oder Präferenzen, um die Anpassung eines Modells zu steuern. Der typische Ablauf umfasst die Generierung von Antworten, das Erfassen von Vergleichen, das Trainieren eines gelernten Belohnungsmodells und die Optimierung einer Policy. Jede dieser Phasen bringt eigene Entscheidungen und Grenzen mit sich.
Synthetische Daten: Was sie sind, wie sie erzeugt werden und was sie nicht garantieren
Synthetische Daten werden künstlich erzeugt, um relevante Eigenschaften realer Daten für einen bestimmten Zweck zu bewahren. Ihr künstlicher Ursprung belegt für sich genommen weder ihren Nutzen noch ihre Qualität oder den Schutz der Privatsphäre.
Wissensdestillation im maschinellen Lernen: Wie ein Schülermodell von einem Lehrermodell lernt – und was das nicht garantiert
Bei der Wissensdestillation nutzt ein Schülermodell Trainingssignale eines Lehrermodells. Dafür gibt es verschiedene Verfahren. Die Destillation garantiert weder, dass das Schülermodell alle Fähigkeiten des Lehrermodells bewahrt, noch dass es in jeder Umgebung effizienter ist.
Verlustfunktion: Was sie während des Trainings misst – und was sie nicht über ein Modell aussagt
Eine Verlustfunktion quantifiziert anhand eines festgelegten Kriteriums die Abweichung zwischen einer Vorhersage und einem Zielwert. Wer versteht, was sie bestraft – und was außerhalb ihrer Messung liegt –, kann das Training besser einordnen, ohne es mit einer vollständigen Modellbewertung zu verwechseln.
LoRA: Wie Modelle mit Matrizen niedrigen Rangs angepasst werden – und was das nicht garantiert
LoRA passt ein vortrainiertes Modell an, indem die ursprünglichen Gewichte unverändert bleiben und zusätzliche Matrizen niedrigen Rangs trainiert werden. Dieser Glossareintrag erklärt den Mechanismus, vergleicht LoRA mit anderen Anpassungsverfahren und zeigt, welche Schlüsse sich allein aus der Zahl der trainierbaren Parameter nicht ziehen lassen.
Aufmerksamkeitsmechanismus: Wie ein Modell Teile der Eingabe miteinander in Beziehung setzt
Aufmerksamkeit ist eine mathematische Operation, die Repräsentationen anhand ihrer Kompatibilität kombiniert. Dieser Leitfaden erklärt Q, K und V, verschiedene Varianten des Mechanismus und seine Grenzen – ohne ihn mit menschlicher Aufmerksamkeit oder einer automatischen Erklärung des Modells gleichzusetzen.
Destilliertes Modell: Was die Bezeichnung bedeutet – und was sie nicht belegt
Ein destilliertes Modell ist das Student-Modell, das aus einem Verfahren zur Übertragung eines Teils des Verhaltens eines Teacher-Modells hervorgeht. Die Bezeichnung beschreibt eine Trainingsbeziehung, ist aber keine Garantie für Gleichwertigkeit, Qualität oder Effizienz.
Fundamentalmodell
Großskalig auf breiten Daten trainiertes Modell, das an mehrere nachgelagerte Aufgaben anpassbar ist.
Vortraining: Was ein Modell lernt, bevor es angepasst wird
Vortraining ist eine Trainingsphase, die bestimmten späteren Anwendungen oder Anpassungen vorausgeht. Ziel, Daten und Verhältnis zu weiteren Phasen hängen vom Modell ab: Es gibt kein allgemeingültiges Rezept, und Vortraining allein garantiert kein zuverlässiges System.
Overfitting: Definition, Erkennungsmechanismen und Grenzen der Generalisierung
Overfitting tritt auf, wenn ein Machine-Learning-Modell Rauschen und spezifische Muster der Trainingsdaten auswendig lernt, was zu hoher Präzision auf diesen Daten, aber zu Fehlschlägen bei der Generalisierung auf neue Daten führt. Diese technische Übersicht erklärt das Phänomen über den Bias-Varianz-Trade-off, beschreibt Detektionsmethoden mittels Verlustkurven und Kreuzvalidierung und unterscheidet Overfitting von Underfitting und Datenlecks. Sie enthält angewandte Beispiele aus Betrugserkennung, medizinischer Diagnostik und Logistik sowie ein Minderungsprotokoll basierend auf Regularisierung, Early Stopping und Data Augmentation.
Transformer
Eine neuronale Architektur, die hauptsächlich auf Aufmerksamkeit basiert und Beziehungen zwischen Elementen einer Sequenz oder mehrerer Modalitäten verarbeitet.
Generierung und Interaktion
Begriffe zum Anfordern, Steuern und Prüfen einer generierten Antwort.
Few-Shot-Prompting: Definition, Mechanism and Limits of In-Context Learning
Few-Shot-Prompting is a context engineering technique that includes input-output pairs in the prompt to guide the model's response without updating its weights. This article explains the in-context learning mechanism, provides three applied examples in different domains, distinguishes the technique from zero-shot, fine-tuning, and chain-of-thought, and outlines its operational constraints.
In-Context Learning (ICL): Wie ein Modell auf Beispiele im Prompt reagiert
Beim In-Context Learning lässt sich die Antwort eines Modells durch Anweisungen und Beispiele in der Eingabe steuern. Hier erfahren Sie, was das bedeutet, wie sich der Ansatz testen lässt und worin er sich von Training und anderen Methoden unterscheidet.
Chain of Thought in der KI: Was sie ist – und was sie nicht belegt
Eine Chain of Thought ist eine Folge textlich formulierter Zwischenschritte, die ein Modell erzeugt oder als Beispiel erhält. Sie kann eine Aufgabe strukturieren und einzelne Schritte sichtbar machen. Ihre Plausibilität beweist jedoch weder, dass die Schritte korrekt sind, noch dass sie den internen Prozess, der zur Antwort geführt hat, zuverlässig wiedergeben.
Kontext-Engineering: Wie KI-Systeme die passenden Informationen erhalten und aktuell halten
Kontext-Engineering bedeutet, festzulegen, welche Informationen ein Modell für eine bestimmte Aufgabe benötigt, wie diese beschafft werden und wie sie während der Ausführung relevant bleiben. Es ist nicht dasselbe wie ein längerer Prompt: Dazu gehören auch die Auswahl von Dokumenten, der Einsatz von Werkzeugen und die Verwaltung des Arbeitsstands.
Prompt
Satz von Anweisungen und Kontext, der einem Modell übergeben wird, um eine Aufgabe und ihr Ausgabeformat zu steuern.
Schlussfolgerung in Modellen: Funktionsweise, Beispiele und Grenzen
Eine präzise Definition der Schlussfolgerungsfähigkeit in Sprachmodellen, eine schrittweise Erklärung des Funktionsmechanismus, drei anwendungsbezogene Beispiele, Bewertungsmethoden und eine Analyse der in der Primärliteratur dokumentierten Grenzen.
Strukturierte Ausgabe: Definition, Erzwingungsmechanismen und Grenzen der automatischen Validierung
Strukturierte Ausgabe beschränkt die Generierung eines LLM auf ein formales Schema (JSON, XML), um den programmatischen Konsum zu ermöglichen. Dieser Eintrag unterscheidet zwischen der Vorschlagung per Prompt und der technischen Erzwingung durch constrained Decoding, analysiert die Grenzen der syntaktischen Validierung gegenüber der semantischen Korrektheit und bietet angewandte Beispiele in der Datenerfassung, Agenten-Orchestrierung und Konfigurationsgenerierung.
Temperatur: Definition, Funktionsweise und Grenzen des Sampling-Parameters in Sprachmodellen
Die Temperatur ist ein Inferenzparameter, der die Wahrscheinlichkeitsverteilung der Logits modifiziert, um die Zufälligkeit der Ausgabe zu steuern. Dieser Artikel erklärt den mathematischen Mechanismus, die Interaktion mit Top-k und Top-p sowie die Grenzen für Reproduzierbarkeit und Evaluation.
Daten und Wissen
Wie Daten dargestellt, abgerufen und mit überprüfbaren Antworten verbunden werden.
Vektordatenbank: Was sie speichert und wie sie nach Ähnlichkeit sucht
Eine Vektordatenbank speichert numerische Repräsentationen und kann die nächstgelegenen zu einer Anfrage abrufen. Sie erzeugt nicht zwangsläufig Embeddings und entscheidet nicht selbst, welche Treffer relevant sind.
Semantische Suche
Informationsabruf basierend auf Bedeutungsbeziehungen, normalerweise kombiniert mit Filtern oder lexikalischer Suche.
Einbetten
Numerische Darstellung, die Elemente in einem Raum positioniert, in dem bestimmte Beziehungen durch Nähe gemessen werden können.
Dokumentfragmentierung (Chunking): Definition, Strategien und Grenzen
Die Dokumentfragmentierung teilt Inhalte in abrufbare Einheiten für KI-Systeme auf. Dieser Artikel erklärt den Funktionsmechanismus, die wichtigsten Strategien, die Parameter für Größe und Überlappung sowie die Bewertung der Ergebnisse.
Primärquelle: Was sie ist, wie man sie erkennt und was sie belegen kann
Eine Quelle ist in Bezug auf eine bestimmte Frage primär, wenn sie den untersuchten Gegenstand, die Daten, die Methode oder die Entscheidung unmittelbar präsentiert. Das bedeutet nicht, dass sie wahr, unparteiisch oder ausreichend ist: Entscheidend ist, was sie aussagt und wo ihre Grenzen liegen.
Erweiterung durch Abruf (RAG)
Muster, das relevante externe Informationen abrufen und in den Kontext einbezieht, bevor eine Antwort generiert wird.
Grounding: Definition, Funktionsweise und Grenzen in der KI
Grounding verbindet die Ausgabe eines KI-Modells mit überprüfbaren externen Beweisen. Dieser Leitfaden erklärt, wie es funktioniert, wie es sich von RAG und Fine-Tuning unterscheidet und welche Grenzen es in der Praxis hat.
Re-Ranking: Definition, Funktionsweise und Grenzen in Retrieval-Systemen
Re-Ranking ist die zweite Bewertungsstufe in Retrieval-Systemen, die Abfrage-Dokument-Paare analysiert, um die Präzision zu erhöhen. Dieser Artikel erklärt die technische Funktionsweise, unterscheidet zwischen Ein- und Zwei-Stufen-Architekturen und analysiert die operativen Grenzen in RAG-Pipelines und semantischer Suche.
Agenten und Automatisierung
Werkzeuge, Speicher und Muster für Systeme, die Aufgaben ausführen können.
KI-Agent: Was er ist, wie er funktioniert und wie er sich von einem Chatbot unterscheidet
Ein KI-Agent ist ein System, das ein Ziel verfolgt, indem es seine Umgebung beobachtet und Handlungen auswählt. Dieser Leitfaden erklärt den Funktionszyklus, die Grenzen und die Unterschiede zu Chatbots und festgelegten Automatisierungen.
Tool-Aufruf
Mechanismus, durch den ein Modell eine Operation auswählt und strukturierte Argumente vorschlägt, damit die Anwendung sie ausführt.
Agent-Speicher
Mechanismus zum Speichern und Abrufen relevanter Zustände zwischen Schritten oder Sitzungen eines modellbasierten Systems.
Model Context Protocol (MCP): Was es verbindet, wie es funktioniert und was es nicht garantiert
MCP ist ein offener Integrationsstandard, der KI-Anwendungen mit externen Systemen, Daten und Tools verbinden soll. Dieser Glossareintrag erläutert, was sich anhand der verfügbaren Quellen sagen lässt, gibt bedingte Anwendungsbeispiele und grenzt das Protokoll von einer API, Tool-Aufrufen und einem Agenten ab.
Bewertung
Methoden zur Messung von Qualität, Kosten, Robustheit und Nutzen unter reproduzierbaren Bedingungen.
Benchmark in der künstlichen Intelligenz: Was er misst und was ein Ergebnis aussagt
Ein Benchmark ist eine durch Aufgaben, Daten, Protokoll und Metriken definierte Evaluation. Sein Ergebnis beschreibt die Leistung unter genau diesen Bedingungen; für sich genommen belegt es weder eine allgemeine Fähigkeit noch garantiert es den Erfolg im Produktivbetrieb.
Datenkontamination
Vollständige oder teilweise Anwesenheit von Bewertungsdaten im Training, der Anpassung oder dem vorherigen Kontext eines Modells.
KI-Bewertung
Reproduzierbarer Test, der ein Verhalten anhand von Fällen, Bedingungen, Metriken und einer expliziten Rubrik misst.
Generalisierung im Machine Learning: Definition, Funktionsweise und Grenzen
Generalisierung ist die Fähigkeit eines Modells, nützliches Verhalten gegenüber Beispielen aufrechtzuerhalten, die nicht exakt mit den Trainingsdaten übereinstimmen. Dieser Artikel erklärt die Messmethoden, die Risiken bei der Verletzung von Annahmen wie der Unabhängigkeit der Daten und die empirischen Grenzen, die in jüngsten Studien beobachtet wurden.
Unsicherheit: Definition, Typen und Quantifizierungsmethoden in prädiktiven Modellen
Unsicherheit misst den Grad an Mangel an Gewissheit über eine Vorhersage oder Messung. Dieser Eintrag erklärt die grundlegende Unterscheidung zwischen aleatorischer (inhärentem Rauschen) und epistemischer (Wissensmangel) Unsicherheit, beschreibt Quantifizierungsmethoden wie Monte-Carlo-Simulationen und Gauß-Prozesse und bietet Anwendungsbeispiele aus Meteorologie, Ingenieurwesen und Sozialwissenschaften zur Bewertung der Zuverlässigkeit von Modellen.
LLM-as-a-Judge: Was ein Modell bewertet und welche Verzerrungen zu prüfen sind
Ein Modell als Judge nutzt ein Sprachmodell, um Antworten oder Aktionen anhand expliziter Kriterien zu bewerten. Dieser Leitfaden erklärt den Ablauf, unterscheidet verschiedene Urteilsformate und zeigt, was überprüft werden sollte, bevor man den Ergebnissen vertraut.
Reproduzierbarkeit
Fähigkeit, eine Bewertung mit dokumentierten Versionen, Daten, Konfiguration und Verfahren zu wiederholen und kompatible Ergebnisse zu erzielen.
Robustheit: Definition, Funktionsweise und Grenzen in Machine-Learning-Systemen
Robustheit ist keine absolute Eigenschaft, sondern eine Beziehung zwischen einem Ziel, einem Modifikator, einem Variationsbereich und einer Toleranz. Dieser Eintrag erklärt, wie man das Konzept operationalisiert, wie man Modelle auf Verteilungsänderungen hin auditiert und warum eine hohe Leistung unter Laborbedingungen keine zuverlässige Leistung in der realen Welt garantiert.
Bewertungsraster: Definition, Gestaltung und Grenzen bei der Bewertung von KI-Ergebnissen
Ein Bewertungsraster (Rubric) organisiert Kriterien und Leistungsniveaus, um nachvollziehbare Bewertungen zu ermöglichen. Dieser Artikel erklärt die Struktur, unterscheidet analytische und holistische Typen und analysiert die Grenzen bei der Bewertung von KI-Ausgaben, akademischen Arbeiten und Machine-Learning-Systemen.
Sicherheit und Governance
Risiken, Kontrollen und Verantwortlichkeiten über den gesamten Lebenszyklus.
Halluzinationen in der KI: Was sie bedeuten und wie sich unbelegte Antworten erkennen lassen
Eine flüssig formulierte Antwort ist nicht automatisch richtig. Dieser Leitfaden erklärt, was unter einer KI-Halluzination verstanden wird, wie sie sich von anderen Fehlern unterscheidet und welche Prüfungen bei konkreten Aussagen helfen.
Guardrails in der KI: Was sie kontrollieren, wo sie wirken und was sie nicht garantieren
Ein Guardrail ist eine Kontrolle, die Eingaben, Ausgaben oder Aktionen eines KI-Systems anhand einer festgelegten Richtlinie prüft. Was sie leisten kann, hängt davon ab, was sie prüft und wann sie eingreift: Sie kann bestimmte Risiken verringern, beweist für sich genommen aber nicht, dass das gesamte System sicher ist.
Human-in-the-Loop (HITL): Was eine Person entscheidet – und was ihre Beteiligung nicht garantiert
HITL bezeichnet ein Design, bei dem eine Person an einem festgelegten Punkt in ein automatisiertes System eingreift. Die Bezeichnung allein sagt weder aus, welche Befugnisse sie hat, noch garantiert sie, dass sie Fehler erkennt.
Anweisungsinjektion
Angriff oder Störung, bei der unzuverlässiger Inhalt versucht, das System von seinen Regeln oder seinem legitimen Ziel abzulenken.
Moderation: Definition, Funktionsweise und Grenzen in digitalen Plattformen
Moderation umfasst die automatisierten und menschlichen Maßnahmen, die Plattformen ergreifen, um Inhalte zu erkennen, zu identifizieren und zu behandeln, die gegen ihre Nutzungsbedingungen oder das Gesetz verstoßen. Dieses Glossar erklärt den Ablauf, regulatorische Rahmenwerke wie den DSA sowie die technischen und ethischen Herausforderungen der Automatisierung.
Prinzip der geringsten Berechtigung: Bedeutung und Anwendung in KI-Systemen
Das Prinzip der geringsten Berechtigung begrenzt jede Identität – Person, Prozess oder Dienst – auf die für ihre Aufgabe erforderlichen Berechtigungen. In KI-Systemen steuert es den Zugriff von Agenten, Werkzeugen und Diensten, ersetzt aber keine Authentifizierung und garantiert nicht allein, dass das Modell sicher handelt.
Adversarial Testing: Definition, Methodology and Limits in AI Systems
Adversarial testing in AI is a deliberate evaluation discipline that seeks to break a system's guarantees through hostile inputs or designed scenarios. This entry defines the concept, distinguishes manual practice from automation, details the technical lifecycle, and analyzes its inherent limits regarding coverage and reproducibility.
Menschliche Aufsicht: Definition, Kontrollmechanismen und operative Grenzen in KI-Systemen
Menschliche Aufsicht bedeutet nicht bloße Anwesenheit eines Operators, sondern die effektive Fähigkeit, ein KI-System zu verstehen, zu überwachen, einzugreifen und zu stoppen. Diese Karteikarte unterscheidet Autonomieebenen, erklärt die technischen und organisatorischen Mechanismen gemäß dem AI Act und grenzt die kognitiven und operativen Grenzen ab, bei denen die Aufsicht wirkungslos wird.
Tatsachenprüfung
Prozess des Abgleichs überprüfbarer Aussagen mit identifizierbarer, gültiger und hinreichend autorisierter Evidenz.
Betrieb und Infrastruktur
Techniken zum Bereitstellen, Optimieren und Beobachten von KI-Systemen in der Produktion.
Kontext-Cache in der KI: Was wiederverwendet wird – und warum das kein „Erinnern“ bedeutet
Ein Cache kann Modellberechnungen speichern, damit sie nicht erneut ausgeführt werden müssen. Dieser Eintrag unterscheidet KV-Cache und Präfix-Cache, erklärt, wann sie genutzt werden können, und zeigt ihre Grenzen.
Quantisierung in der KI: Was sich ändert, wenn die numerische Präzision sinkt
Bei der Quantisierung werden Zahlen mit weniger Stufen dargestellt, um Ressourcen zu sparen. Die Angabe „4 Bit“ allein sagt jedoch weder Speicherbedarf noch Geschwindigkeit oder Modellqualität voraus.
KI-Inferenz: Was geschieht, wenn ein Modell eine Eingabe verarbeitet?
Inferenz bezeichnet die Nutzung eines bereits trainierten Modells, um aus einer Eingabe eine Ausgabe zu berechnen. Das Ergebnis kann eine Klasse, ein Score, eine Repräsentation oder generierter Inhalt sein – und ist nicht automatisch korrekt.
Latenz in KI: Welche Zeit gemessen wird und warum der Antwortzeitpunkt zählt
Latenz ist die Zeit zwischen einem definierten Anfangs- und Endpunkt. Erfahre, wie sich der erste Ausgabeteil, die vollständige Antwort und die von Nutzenden wahrgenommene Wartezeit unterscheiden.
Verarbeitungsdurchsatz
Menge an Arbeit, die ein System pro Zeiteinheit abschließt, z. B. Anfragen oder Tokens pro Sekunde.
Versuche ein anderes Wort, einen Alias oder einen anderen Bereich.