Warum die Herkunft von Modellausgaben schwer zu prüfen ist
Nutzer können heute nicht zuverlässig feststellen, ob eine Antwort tatsächlich von dem Modell stammt, das sie ausgewählt haben. Ein Routingdienst könnte aus Kostengründen ein günstigeres Modell einsetzen, oder ein Angreifer könnte den Tokenstrom verändern. Die Qualität einer Antwort belegt nicht, welches Modell sie erzeugt hat. Das ist besonders für unabhängige Evaluatoren, Unternehmenskunden und Regulierungsbehörden relevant.
Anthropic beschreibt diese Lücke als Vertrauensproblem beim Einsatz von KI. Das Ziel der nachweisbaren Inferenz besteht darin, Nutzern mit begrenzten Rechenressourcen die Prüfung zu ermöglichen, ob eine Antwort von dem angefragten Modell stammt – ohne Zugriff auf dessen private Gewichte und ohne das Modell selbst auszuführen.
Wie FlashProve zkSNARK-Beweise einsetzt
FlashProve basiert auf zkSNARKs, also kurzen Zero-Knowledge-Beweisen. Der Modellanbieter veröffentlicht zunächst ein kryptografisches Commitment, einen kurzen digitalen Fingerabdruck der Modellgewichte. Für eine Antwort erstellt er anschließend einen Beweis dafür, dass das festgelegte Modell aus dem angegebenen Prompt genau diese Ausgabetokens erzeugt hat.
Der Ansatz zielt auf vier Eigenschaften: Vollständigkeit bedeutet, dass ein ehrlicher Beweis akzeptiert wird; Korrektheit soll verhindern, dass ein falscher Beweis gültig erscheint; Zero Knowledge bedeutet, dass der Beweis die Gewichte und Zwischenwerte nicht offenlegt; und Kürze soll eine schnelle, ressourcenschonende Prüfung ermöglichen. Die Modellarchitektur bleibt sichtbar – verborgen werden sollen die Gewichte.
Angestrebte Eigenschaften der FlashProve-Beweise
| Eigenschaft | Bedeutung |
|---|---|
| Vollständigkeit | Ein ehrlicher Beweis für die festgelegte Berechnung wird vom Prüfer akzeptiert. |
| Korrektheit | Ein Beweis für eine falsche Aussage soll nicht gültig sein; die Sicherheit beruht auf kryptografischen Annahmen. |
| Zero Knowledge | Der Beweis legt weder die Modellgewichte noch Zwischenwerte oder die Auswahl der Experten offen. |
| Kürze | Der Beweis soll sich mit begrenztem Rechenaufwand prüfen lassen; die Modellarchitektur wird dabei nicht verborgen. |
Berichtete Leistung und Testbedingungen
Anthropic testete FlashProve mit Llama 4 Maverick, einem Mixture-of-Experts-Modell mit 400 Milliarden Parametern und 4-Bit-quantisierten Gewichten. Auf einer einzelnen H100-GPU erzeugte das System laut Unternehmen ungefähr 110 Tokens pro Sekunde. Ein Beweis für eine Anfrage mit 1.024 Tokens war rund 19 MB groß.
Die Prüfung eines Beweises dauerte laut Anthropic etwa 17 Sekunden auf einer CPU mit 24 Threads. Die Beweiserzeugung beanspruchte ungefähr das 70- bis 95-Fache der GPU-Zeit, die für den Vergleich mit vLLM angesetzt wurde. Diese Angaben beziehen sich auf die beschriebene Testkonfiguration und sind keine allgemeine Leistungsgarantie. Anthropic hat keine unabhängige Reproduktion dieser Messwerte angegeben.
Von Anthropic berichtete FlashProve-Messwerte
| Messgröße | Berichteter Wert | Testbedingungen |
|---|---|---|
| Beweiserzeugung | etwa 110 Tokens/s | Eine H100-GPU; Llama 4 Maverick mit 4-Bit-Quantisierung |
| Beweisgröße | etwa 19 MB | Pro Anfrage mit 1.024 Tokens |
| Prüfdauer | etwa 17 Sekunden | CPU mit 24 Threads |
| Zusätzlicher GPU-Aufwand | etwa 70- bis 95-fach | Vergleich mit der Inferenz über vLLM in der beschriebenen Konfiguration |
Veröffentlichte Komponenten und formale Prüfung
Anthropic veröffentlichte fünf Komponenten unter der Apache-2.0-Lizenz: den Forschungsbeitrag, einen technischen Bericht, eine Protokollspezifikation, ausführbaren Code mit einem Beweiser und zwei Verifizierern sowie Lean-Beweise für übergeordnete mathematische Aussagen. Zum Code gehören ein schneller Verifizierer in C++ und ein in Lean formal spezifizierter Verifizierer.
Das Team nutzte den Beweisassistenten Lean zur formalen Verifikation der angestrebten Eigenschaften Vollständigkeit, Korrektheit und Zero Knowledge. Solche formalen Beweise schließen jedoch nicht automatisch die Lücke zwischen der geprüften Spezifikation und dem ausführbaren Programm. Anthropic weist darauf hin, dass die formalen Aussagen selbst geprüft werden müssen und dass auch die Übereinstimmung des Codes mit dem Protokoll eine Prüfung erfordert.
Was das System nachweist – und was nicht
FlashProve ist ein Forschungsprototyp, kein als verfügbar bestätigtes Produkt. Der veröffentlichte Test betrifft ein Mixture-of-Experts-Modell mit quantisierten Gewichten und eine festgelegte Rechenkonfiguration. Die beschriebenen Nachweise beziehen sich auf eine Anfrage mit 1.024 Tokens; daraus folgt nicht, dass längere Kontexte oder andere Modellarchitekturen gleichermaßen unterstützt werden.
Das System erzeugt die Beweise nach der Inferenz. Dieses nachträgliche Verfahren kann eine passende Antwort im Nachhinein mit einem Modell-Commitment verknüpfen, verhindert aber keine Manipulation, bevor die Antwort ausgeliefert wird. Außerdem prüft der Beweis die Integrität der Berechnung, nicht die Richtigkeit, Sicherheit oder Fairness der Antwort. Anthropic zufolge muss das Commitment nach ungefähr 16 Millionen Anfragen erneuert werden; diese Angabe betrifft die beschriebene technische Konfiguration.
Warum nachträgliche Beweise ein praktischer Kompromiss sind
Bei der Einbindung von Beweisen in einen Inferenzdienst gibt es grundsätzlich zwei Ansätze: Das System kann während der Ausgabe fortlaufend Beweise erzeugen oder erst nachträglich einen Beweis für bereits verarbeitete Tokens erstellen. FlashProve verfolgt den zweiten Ansatz. Dadurch kann der Anbieter fertige Texte gesammelt und parallel bearbeiten, statt jede Anfrage gleichzeitig mit ihrer Ausgabe zu beweisen.
Der Kompromiss kostet Zeit und zusätzliche Rechenarbeit: Der Anbieter muss die Berechnung nach der Ausgabe erneut nachweisen, und die Prüfung steht nicht sofort zur Verfügung. Anthropic nennt außerdem eine gewisse Nichtdeterministik als Einschränkung des nachträglichen Verfahrens. Daraus folgt nicht, dass der Ansatz fehlerfrei oder in jeder Umgebung reproduzierbar ist; die konkrete Ausgestaltung und ihre Auswirkungen hängen von Protokoll und Implementierung ab.
Mögliche Anwendungen und ihre Grenzen
Kryptografische Beweise könnten unabhängigen Evaluatoren helfen, zu prüfen, ob ein getestetes Modell auch tatsächlich ausgeliefert wurde. Kunden eines Routingdienstes könnten kontrollieren, ob eine Antwort dem Modell zugeordnet ist, für das sie bezahlt haben. Auch die Erkennung veränderter Tokenströme oder die Prüfung, ob ein Anbieter ein festgelegtes Modell verwendet, zählen zu den von Anthropic beschriebenen Anwendungsmöglichkeiten.
Für Aufsichtsbehörden könnten solche Nachweise ein Werkzeug sein, um bestimmte Aussagen über die Nutzung von Modellen zu prüfen. Sie belegen jedoch nicht automatisch, dass ein Anbieter keine weiteren Berechnungen ausführt oder alle regulatorischen Anforderungen erfüllt. Anthropic hält ausdrücklich fest, dass der Nachweis einer Inferenz nicht zeigt, ob dieselbe Hardware nebenbei zum Training verwendet wird. Ein gültiger Beweis beantwortet nur die Aussage, die das Protokoll tatsächlich abdeckt.
Sicherheitsannahmen und verbleibender Prüfbedarf
FlashProve nutzt einen softwarebasierten kryptografischen Ansatz. Anders als Lösungen mit vertrauenswürdiger Hardware setzt es laut Anthropic nicht voraus, dass ein Hersteller manipulationssichere Hardware bereitstellt. Die Sicherheit soll stattdessen auf der Schwierigkeit bestimmter rechnerischer Probleme beruhen; ein Angreifer soll keinen gültigen Beweis für eine falsche Aussage erzeugen können, sofern diese Annahmen gelten.
Formale Verifikation stärkt das Vertrauen in klar definierte Aussagen, beseitigt aber nicht jeden Prüfbedarf. Die Sicherheitsanalyse hängt unter anderem davon ab, ob die formalen Aussagen dem beabsichtigten Protokoll entsprechen und ob die ausführbare Implementierung dieses Protokoll korrekt umsetzt. Anthropic veröffentlichte dazu Lean-Beweise und einen interaktiven Betrachter, erklärte aber auch, dass die Prüfung der formalen Aussagen und des Codes weiterhin wichtig ist.
Weiter entdecken
Verwendete Quellen
Korrekturen und Transparenz
Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.
Korrektur vorschlagen