Definition in einem Satz
Angriff oder Störung, bei der unzuverlässiger Inhalt versucht, das System von seinen Regeln oder seinem legitimen Ziel abzulenken.
SICHERHEIT UND GOVERNANCE · MITTEL
Anweisungsinjektion
Angriff oder Störung, bei der unzuverlässiger Inhalt versucht, das System von seinen Regeln oder seinem legitimen Ziel abzulenken.
Auch bekannt alsprompt injection
ANALYSE
Verwandte Analysen
Robustheit: Definition, Funktionsweise und Grenzen in Machine-Learning-Systemen
Robustheit ist keine absolute Eigenschaft, sondern eine Beziehung zwischen einem Ziel, einem Modifikator, einem Variationsbereich und einer Toleranz. Dieser Eintrag erklärt, wie man das Konzept operationalisiert, wie man Modelle auf Verteilungsänderungen hin auditiert und warum eine hohe Leistung unter Laborbedingungen keine zuverlässige Leistung in der realen Welt garantiert.
21 Okt 2026 ↗
Adversarial Testing: Definition, Methodology and Limits in AI Systems
Adversarial testing in AI is a deliberate evaluation discipline that seeks to break a system's guarantees through hostile inputs or designed scenarios. This entry defines the concept, distinguishes manual practice from automation, details the technical lifecycle, and analyzes its inherent limits regarding coverage and reproducibility.
17 Okt 2026 ↗
Vom Prototyp zur ausgerollten Änderung: KI mit begrenzten Berechtigungen integrieren
Eine Anleitung, um ein Modell mit einem internen Tool zu verbinden, ohne ihm direkte Befugnisse zum Ändern von Daten zu geben: Schnittstelle begrenzen, jeden Vorschlag im Code prüfen und mit Kontrollen und Rücksetzplan schrittweise ausrollen.
16 Okt 2026 ↗
Guardrails in der KI: Was sie kontrollieren, wo sie wirken und was sie nicht garantieren
Ein Guardrail ist eine Kontrolle, die Eingaben, Ausgaben oder Aktionen eines KI-Systems anhand einer festgelegten Richtlinie prüft. Was sie leisten kann, hängt davon ab, was sie prüft und wann sie eingreift: Sie kann bestimmte Risiken verringern, beweist für sich genommen aber nicht, dass das gesamte System sicher ist.
01 Okt 2026 ↗