Flint von Recursive: Lokale KI für Programmierung auf Laptops

Recursive hat Flint vorgestellt, ein für die Programmierung entwickeltes Modell, das auf einem Standard-Notebook ausgeführt werden kann und kostenlos verfügbar ist. Das Unternehmen betont die bedeutende Rolle seiner Eureka Machine bei der Entwicklung des Systems, unterstreicht jedoch, dass der Prozess unter menschlicher Aufsicht stattfand.

Flint wurde dank der Nutzung der Eureka Machine, dem von Recursive entwickelten automatisierten Forschungssystem, in weniger als vier Monaten von Grund auf aufgebaut. Das Modell ist unter der Apache 2.0-Lizenz auf Hugging Face verfügbar, die seine Nutzung und Modifizierung erlaubt.

Flint Recursive: Warum das wichtig ist

Das Projekt zielt darauf ab, die Idee einer künstlichen Intelligenz, die zur Erstellung anderer KI-Systeme beiträgt, in die Realität umzusetzen. Recursive beschreibt Eureka als einen von Menschen gesteuerten automatisierten Forschungsassistenten, der Experimente vorschlägt und die Ergebnisse nutzt, um die nächsten Phasen des Prozesses zu definieren.

Die lokale Ausführung bietet Entwicklern praktische Vorteile: Flint kann auch offline funktionieren, behält die Programme auf dem Computer des Nutzers und vermeidet Kosten, die mit der Verarbeitung großer Textmengen in Cloud-Diensten verbunden sind. Allerdings erfordert es kompatible Hardware-Ressourcen und benötigt laut Recursive detailliertere Anweisungen als kostenpflichtige KI-Assistenten.

Flint nutzt eine Mixture-of-Experts-Architektur, die für jede Anfrage nur einen Teil seiner 40 Milliarden Parameter (genau 2,5 Milliarden) aktiviert. Diese Konfiguration reduziert die Rechenauslastung und macht die Ausführung auf einem gängigen Notebook möglich, zumindest nach Angaben von Recursive.

Der Vergleich mit Muse Spark Open von Meta verdeutlicht die Unterschiede in Bezug auf die Skalierung: Das für Macs bestimmte Open-Source-Modell verfügt über 816 Milliarden Parameter und erfordert mindestens ein Terabyte Speicher. In den vom Unternehmen durchgeführten Tests generierte Flint etwa 131 Token pro Sekunde auf einem MacBook Pro mit Apple M4 Pro Chip, was die 58–69 Token pro Sekunde übertraf, die ähnliche Modelle wie Gemma 4 von Google und Nemotron 3.5 Lightning von Nvidia auf derselben Maschine erzielten. Auf der Nvidia RTX Spark hätte es die Marke von 150 Token pro Sekunde überschritten.

Auf dem Benchmark SWE-Bench Verified, der die Fähigkeit bewertet, echte Softwareprobleme zu beheben, behauptet Recursive, dass Flint bessere Ergebnisse als alle anderen Modelle mit weniger als 50 Milliarden Parametern erzielt hat. Im über sechs Tests berechneten Durchschnitt soll nur Qwen3.8 27B von Alibaba einen höheren Score erreicht haben. Die vollständigen Ergebnisse und die Ausführungsbedingungen wurden nicht im Detail dargelegt, daher sind die Vergleiche als vorläufige Hinweise zu betrachten.

Was sich ändert und welche Auswirkungen es hat

Recursive schreibt Eureka Beiträge zu, die vom Pre-Training bis zur Optimierung und Inferenz reichen, darunter eine sparsamere Struktur, das Training mit niedriger Präzision (das die Größe von Flint um 71 % bei minimalem Qualitätsverlust reduzierte) und benutzerdefinierte Kernels zur Beschleunigung der Berechnungen.

Die von Richard Socher geführte Startup-Firma, ehemaliger Chief Scientist bei Salesforce, ist im Mai aus der geschlossenen Phase mit 650 Millionen Dollar eingesammeltem Kapital und einer Bewertung von 4,65 Milliarden Dollar hervorgegangen. Im Juni schloss sie zudem einen Vertrag mit Amazon Web Services über ein Engagement in Höhe von 410 Millionen Dollar für Rechenkapazität ab.

Recursive betrachtet Flint als ersten Schritt zu Systemen, die längere Forschungssitzungen mit weniger menschlichem Eingriff durchführen können, und hofft, dass jedes Modell Eureka verbessert und die Entwicklung des nächsten beschleunigt, wobei die menschliche Aufsicht und die Möglichkeit, den Prozess zu unterbrechen, erhalten bleiben. Derzeit zeigt Flint vor allem, dass das Unternehmen es geschafft hat, ein lokales Modell von relativ überschaubarer Größe auf den Markt zu bringen; die Erreichung einer echten rekursiven Selbstverbesserung bleibt noch ein zukünftiges Ziel.

Quelle und weiterführende Informationen zu Flint Recursive: Originalartikel.

* Inhalt mit Unterstützung von Künstlicher Intelligenz erstellt.