Flint von Recursive: Ein lokales Code-Modell, entwickelt durch sein eigenes KI-System

Die Einführung von Flint und die Rolle der Eureka Machine

Recursive, gegründet von Richard Socher, stellte am 21. Oktober 2026 sein erstes Modell, Flint, vor. Es handelt sich um ein Open-Weight-Sprachmodell, das speziell für die agentische Programmierung auf lokaler Hardware konzipiert ist. Das herausragendste Merkmal dieses Launches ist nicht nur das Modell selbst, sondern der Prozess, der es hervorbrachte: das automatisierte Forschungssystem des Unternehmens, bekannt als Eureka Machine.

Laut dem Unternehmen war die Eureka Machine an fast allen Entwicklungsstufen beteiligt, von der Definition der Architektur bis zur Optimierung der Inferenz. Ein kleines Team aus Forschern und Agenten baute das Modell in weniger als vier Monaten von Grund auf auf, eine Zeitspanne, die deutlich kürzer ist als üblich für Modelle dieser Größenordnung in der Branche. Das Unternehmen beschreibt diesen Prozess als einen Schritt in Richtung seiner Vision einer rekursiv selbstverbessernden Superintelligenz, wobei das System derzeit jedoch unter menschlicher Aufsicht arbeitet.

Technische Architektur: 40B-Parameter-MoE

Flint nutzt eine Mixture-of-Experts-Architektur (MoE) mit insgesamt 39,8 Milliarden Parametern, die in der öffentlichen Kommunikation auf 40B gerundet wird. Der Schlüssel zu seiner Effizienz liegt darin, dass pro verarbeiteten Token nur etwa 2,5 Milliarden Parameter aktiviert werden. Diese Konfiguration ermöglicht es dem Modell, eine wettbewerbsfähige Schlussfolgerungsfähigkeit beizubehalten, während die Rechenaufwände während der Textgenerierung drastisch reduziert werden.

Das Modell ist als Transformer-Decoder mit 49 Schichten konzipiert, von denen 47 MoE-Schichten und 2 dichte Schichten sind. Es verwendet 256 geroutete Experten, wobei pro Token 6 plus ein geteilter Experte aktiviert werden. Das dokumentierte Kontextfenster erreicht 262.144 Tokens, obwohl das Unternehmen empfiehlt, unter 256.000 zu bleiben, um die Leistung bei Programmieraufgaben zu optimieren.

Leistung und Inferenzgeschwindigkeit

Recursive berichtet, dass Flint bis zu zweimal schneller ist als vergleichbare Modelle seiner Klasse. Auf einem MacBook Pro mit M4 Pro-Chip erreicht das Modell mehr als 125 Tokens pro Sekunde, während es auf einer NVIDIA RTX Spark mit 64 GB Speicher die 150 Tokens pro Sekunde überschreitet. Diese Zahlen beziehen sich auf kurze Kontexte und nutzen den vom Unternehmen optimierten Inferenz-Engine.

In Bezug auf die Fähigkeit, Aufgaben zu lösen, zitiert das Unternehmen 89,7 % bei SWE-bench Pro v2, 74,2 % bei SWE-bench Verified und 54,9 % bei Terminal-Bench 2.1. Es ist wichtig zu beachten, dass diese Ergebnisse von Recursive selbst gemeldet wurden und bis heute nicht von unabhängigen Stellen validiert wurden. Das Unternehmen räumt ein, dass das Modell im Vergleich zu größeren Closed-Source-Modellen möglicherweise mehr Anleitung und die Aufteilung komplexer Aufgaben in Teilaufgaben erfordert.

Wie die autonome Forschung funktionierte

Das Eureka-Machine-System hat nicht nur Hyperparameter angepasst, sondern auch strukturelle Verbesserungen vorgeschlagen und implementiert. Laut Dokumentation startete das System mit einer Referenzkonfiguration und erkundete verschiedene Expertenarchitekturen, um das optimale Gleichgewicht zwischen Geschwindigkeit und Präzision zu finden. Darüber hinaus entwickelte es spezialisierte Kernels, um Operationen mit niedriger Präzision und Aufmerksamkeit auf spezifischer Hardware wie Apple Silicon und NVIDIA zu beschleunigen.

Eine der bemerkenswertesten Beiträge war die Optimierung der Quantisierung. Die Eureka Machine schaffte es, das Modell in der Ausgabeschicht (lm_head) auf 4 Bit zu komprimieren und einen Offline-Destillierungsschritt anzuwenden, der die erforderlichen Trainingsschritte fast halbierte. Das Ergebnis war eine NVFP4-Version, die in internen Tests weniger als 0,7 Punkte vom 16-Bit-Modell entfernt blieb und so den Qualitätsverlust minimierte.

Verfügbarkeit und Hardwareanforderungen

Die Gewichte von Flint sind unter der Apache-2.0-Lizenz auf Hugging Face verfügbar, was deren freie Nutzung, Modifikation und Verbreitung ermöglicht. Der Haupt-Checkpoint im BF16-Format belegt etwa 80 GB, was für die vollständige Ausführung Hochleistungs-Hardware wie B300- oder H200-GPUs erfordert.

Um die Adoption auf Consumer-Geräten zu erleichtern, bereitet Recursive quantisierte Varianten für NVIDIA und Apple Silicon vor. Diese Versionen reduzieren den Speicherbedarf und ermöglichen die Ausführung des Modells auf modernen Laptops. Das Modell ist mit beliebten Frameworks wie llama.cpp, Ollama, LM Studio, vLLM und SGLang kompatibel, sowie mit einer leichten Inferenz-Engine, die für Apple-Geräte optimiert wurde.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.