Clairic von Cloudflare: Strukturierte Datenextraktion in einem Durchgang zu 49 % geringeren Kosten als LLMs

Was ist Clairic und seine Position im KI-Ökosystem

Cloudflare hat die Vorschau von Clairic veröffentlicht, einem Extraktionsmodell, das als 'System One' klassifiziert ist. Im Gegensatz zu großen Sprachmodellen (LLMs), die Text Token für Token generieren und bewusste Schlussfolgerungen erfordern, ist Clairic so konzipiert, dass es in einem einzigen Durchgang typisierte Werte direkt aus der Eingabe extrahiert, berechnet oder schätzt.

Das Modell integriert sich in eine von Cloudflare vorgeschlagene Drei-Ebenen-Architektur: Extraktionsmodelle (wie Clairic) wandeln rohe Eingaben in typisierte Werte um; Entscheidungsmodelle (wie Clef) transformieren diese Werte in Entscheidungen; und LLMs (wie GLM-5.3) formulieren die endgültige Antwort. Diese Trennung ermöglicht es jedem Komponente, die Aufgabe auszuführen, für die sie optimiert ist, und reduziert die kognitive und rechnerische Last der Generalistenmodelle.

Technische Architektur: Extraktion in einem einzigen Durchgang

Der zentrale Mechanismus von Clairic ist die Eliminierung der zwischengeschalteten Textgenerierung. Die Entwickler senden einen 'Zustand' (Text und Bilder) und ein Schema typisierter Felder. Das Modell verarbeitet diese Informationen in einem einzigen Inferenz-Durchgang und gibt für jedes Feld einen gültigen Wert oder 'null' zurück, wenn der Datenpunkt in der Eingabe nicht vorhanden ist.

Jede skalare Antwort enthält einen Konfidenzpunkt und 'p_null', die Wahrscheinlichkeit, dass der Wert durch die Eingabe nicht bestimmt ist. Für Textfelder gibt das Modell die Zeichenverschiebungen (Spans) zurück, die es ermöglichen, das Originalfragment im Dokument zu verfolgen. Diese Nachverfolgbarkeit ist für Audits und Korrekturen entscheidend, da sie die Ambiguität darüber beseitigt, woher ein extrahierter Datenpunkt stammt.

Analyse der Kosten und Leistung gegenüber LLMs

Der Preis von Clairic beträgt 0,10 USD pro Million Eingabetokens, ohne Gebühren für Ausgabetokens. Diese Kostenstruktur ist erheblich niedriger als die von LLMs, die sowohl für Eingaben als auch für generierte Ausgaben berechnen. Im Referenztest von Cloudflare kostete eine Reklamations-Pipeline für beschädigte Produkte, die Clairic, Clef und GLM-5.3 kombinierte, 6.032 USD pro Million Reklamationen, im Vergleich zu 11.740 USD für eine Pipeline, die ausschließlich auf GLM-5.3 basierte.

In Bezug auf die Latenz dauerte die Extraktion mit Clairic 0,46 Sekunden, während GLM-5.3 für dieselbe Aufgabe 16,1 Sekunden benötigte. Die vollständige Pipeline mit Clairic wurde in 19,3 Sekunden abgeschlossen, was 69 % schneller ist als die 61,7 Sekunden des rein LLM-basierten Workflows. Es ist wichtig zu beachten, dass der größte Teil der verbleibenden Zeit (18,6 Sekunden) für die Formulierung der Antwort durch das LLM aufgewendet wurde, nicht für die Extraktion.

Optimale Anwendungsfälle und bekannte Einschränkungen

Clairic ist bei der Extraktion strukturierter Daten aus semi-strukturierten Dokumenten wie Rechnungen, Support-E-Mails, Reklamationsformularen und Incident-Reports überlegen. Seine Fähigkeit, bis zu vier Bilder pro Anfrage zu verarbeiten, macht es nützlich für die Verarbeitung von Fotos von Kassenbons oder gescannten Dokumenten mit niedriger Qualität.

Cloudflare warnt jedoch, dass das aktuelle Modell ein früher Checkpoint ist. Arithmetische Ketten mit mehr als zwei Schritten (wie das Addieren mehrerer Tabellenzeilen) sind nicht zuverlässig, und es wird empfohlen, diese Operationen im Code durchzuführen. Darüber hinaus erfordern Schätzungen Beweise in der Eingabe (wie Vergleichspreise); ohne diese können die Konfidenzintervalle zu breit sein. Die Vorhersage von Zeitreihen ist grundlegend und ersetzt keine spezialisierten Modelle, die auf spezifischen Daten trainiert wurden.

Auswirkungen auf Entwickler und Adoption

Für Entwickler bietet Clairic einen Weg, die Komplexität von KI-Pipelines zu reduzieren. Durch die Trennung von Extraktion und Generierung werden die JSON-Validatoren und Wiederholungen eliminiert, die normalerweise erforderlich sind, wenn ein LLM für strukturierte Aufgaben verwendet wird. Die Integration erfolgt direkt über Workers AI mittels env.AI.run() oder der REST API.

Die Verfügbarkeit offener Gewichte ist für die Zukunft geplant, was es Organisationen ermöglichen wird, Fine-Tuning durchzuführen oder das Modell lokal auszuführen. Derzeit sollte die Adoption schrittweise erfolgen, beginnend mit Extraktionsaufgaben mit geringem Risiko und engem Monitoring der Konfidenzpunkte. Die offene Frage ist, wie sich das Modell bei Dokumentformaten außerhalb des Standards oder in Sprachen außer Englisch verhalten wird, ein kritischer Punkt für die Adoption in Märkten wie Lateinamerika.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.