Cognition veröffentlicht Coding-Modell SWE-2 Flash auf Basis von Inkling 2 Small
Matthew Berman bezeichnet Cognitions SWE-2 Flash, eine nachtrainierte Version von Inkling 2 Small, als schnelles Modell für Coding-Sub-Agenten.
Cognition hat SWE-2 Flash veröffentlicht, ein Coding-Modell, das durch Post-Training von Inkling-Small aus dem Haus Thinking Machines entstanden ist. Die Gewichte bleiben unter Verschluss. In Cognitions Beitrag heißt es: „Wir veröffentlichen die Gewichte vorerst nicht“. Als Begründung nennt das Unternehmen die Cyberrisiken eines leistungsfähigen Modells und eine jüngste Häufung von Cyberangriffen. Stattdessen arbeite man an einem Programm, um die Gewichte mit vertrauenswürdigen Industriepartnern und Forschungslaboren zu teilen; „mehr dazu in einigen Wochen“. Cognition bezeichnet das Modell als „vollständig amerikanisches Coding-Modell“.
Inkling-Small verfügt über insgesamt 276B Parameter, davon 12B aktiv. Vor dem Reinforcement Learning absolvierte Cognition eine umfangreiche Mid-Training-Phase mit einigen Billionen Token aus wissenschaftlichen Artikeln, Blogs, Code und weiteren Quellen. Diese Phase war in drei Abschnitte gegliedert, damit die knappsten und hochwertigsten Daten zuletzt kamen. Um die Datenmischung festzulegen, maß das Team, wie viele Token jede Kandidatenmischung benötigte, um denselben Validierungsverlust wie eine Baseline zu erreichen, und trug dieses Verhältnis als Maß für die Token-Effizienz auf. Laut Cognition wurde das Rezept aus dem früheren Modell SWE-2 in der Reinforcement-Learning-Phase leicht angepasst. Der Großteil der Verbesserungen sei jedoch darauf zurückzuführen, dass man Anweisungen, Umgebungen und Verifier der Aufgaben überprüft und neue Aufgabentypen ergänzt habe.
Die zentralen Zahlen zeigen große Sprünge, allerdings von einem niedrigen Ausgangsniveau. Cognition zufolge steigt der Wert in Terminal-Bench 4.0 von 0,9 % bei Inkling-Small auf 20,0 %. Bei FrontierCode 2.0 geht es von 3,2 % auf 24,0 % nach oben, bei ExploitBench von 11,3 % auf 34,8 %; Letzteres spiegelt gezielte Arbeit im Bereich Cybersicherheit wider. Zudem behauptet Cognition, SWE-2 Flash „übertrifft alle amerikanischen Open-Weight-Modelle“ in führenden Evaluierungen, darunter auch dreimal größere Modelle. Diese Vergleiche stammen aus Cognitions eigenen Tabellen und beruhen auf einer selbst gewählten Auswahl an Konkurrenten. Über die Namen der Benchmarks hinaus beschreibt der Beitrag den Evaluierungsaufbau nicht.
Im Mittelpunkt stehen Kosten und Geschwindigkeit. Laut Cognition ist SWE-2 Flash ab sofort in Devin Desktop und im CLI verfügbar, zu einem Fünftel des Preises und mit dreifacher Geschwindigkeit im Vergleich zum größeren Schwestermodell SWE-2. Bis 11/30 ist die Nutzung kostenlos. Der Geschwindigkeitsvergleich spielt eine einzelne Aufgabe aus Terminal-Bench 4.0 erneut ab, simuliert mit 200 Token pro Sekunde für SWE-2 Flash und 60 für SWE-2, wobei die Transkripte auf gleiche Länge gekürzt wurden. Das veranschaulicht den Durchsatz, ist aber eine einzelne Aufgabe mit simulierten Raten und kein gemessener Benchmark über verschiedene Workloads hinweg.
Matthew Berman beschrieb das Modell als schnelles, effizientes Coding-Modell, an das man Coding-Aufgaben delegieren kann. In seiner Lesart übernimmt ein größeres Modell die Planung und reicht Arbeit an SWE-2 Flash als Sub-Agenten weiter. Er stellte es als weiteres Beispiel dafür dar, dass Labore auf Open-Weight-Modellen aufbauen, nannte jedoch keine Benchmark-Zahlen. Cognitions Beitrag greift die Sub-Agenten-Perspektive nicht auf. Dort heißt es, kleinere Modelle könnten zunehmend Automatisierungen, Code-Reviews, Feature-Entwicklung und Aktualisierungen der Dokumentation übernehmen. Das passt zur Idee der Delegation, ist aber eine engere Aussage.
Was sich ändert
Art: Neue Funktion · Betrifft: SWE-2 Flash, Inkling-Small, SWE-2, Devin Desktop, CLI
Warum es wichtig ist
Coding-Tools könnten Routine-Teilaufgaben an kleinere, schnellere Modelle weiterleiten, was die Kosten für Teams mit Agenten-Workflows senken kann.
Originalquelle
Wo wir es gesehen haben
Forward Future (Matthew Berman)
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es