SII und GAIR wenden agentengesteuerte Selbstverbesserung auf einen kompletten Pre-Training-Lauf an
Forschende von SII und GAIR setzen rekursive Selbstverbesserung bei einem vollständigen Frontier-Pre-Training-Lauf von Grund auf ein und legen die Details offen.
Forschende von SII und GAIR berichten, dass sie rekursive Selbstverbesserung auf einen kompletten Frontier-Pre-Training-Lauf von Grund auf angewendet haben. Das Ergebnis ist 801-30B-A3B-Base, ein Mixture-of-Experts-Modell mit 30B Parametern, das ein neu gegründetes Team in drei Monaten auf 11,8T Token trainiert hat. Laut den Autoren übertrifft das Basismodell Qwen3-30B-A3B und Nemotron-3.5-Lightning-30B-A3B und liegt nur hinter dem größeren Qwen3.5-35B-A3B. Zudem erreiche es auf vier agentischen Benchmarks den höchsten Durchschnitt im Vergleich mit Modellen, die ein vollständiges Post-Training durchlaufen haben. Diese Vergleiche stammen von den Autoren selbst, und das agentische Ergebnis beruht auf einer schlanken SFT-Phase mit 6B Token ohne RL.
Ausgangspunkt ist ein Problem mit dem üblichen Rezept. Öffentliche Arbeiten zu rekursiver Selbstverbesserung zielten bisher auf das Post-Training: Ein Lauf beginnt dort mit einem vorhandenen Basismodell, jeder Versuch kostet GPU-Stunden, und das Ergebnis kommt als überprüfbarer Score zurück. Beim Pre-Training gilt keine dieser drei Bedingungen. Ein einzelner Lauf verbraucht über Monate Hunderttausende GPU-Stunden und lässt sich nicht wiederholen. Sein Ziel, der Spielraum für das Post-Training, lässt sich an keinem einzelnen Score ablesen. Verbessert werden muss ein ganzes Produktionssystem aus Daten-Pipelines, Trainingsinfrastruktur und den Teams, die sie betreiben. Die Antwort des Papers: Die Schleife wird in kleinere Zyklen zerlegt, die sich jeweils schließen lassen und von denen jeder einen Schritt wiederherstellt, den der vollständige Lauf unmöglich macht.
Laut den Kernpunkten des Papers fallen diese Zyklen in drei Gruppen. Agenten führen Debugging-Schleifen über Infrastruktur und Daten aus. Eine Headroom-Schleife prüft mit winzigen SFT-Läufen und Tests zur Lernfähigkeit, ob sich das Basismodell in der Weise verbessert, die das Post-Training braucht. Experience-to-Metric-Schleifen übersetzen Expertenurteile in Metriken für Datenklassifikatoren und die Crawl-Abdeckung. Alle teilen sich eine Kontextinfrastruktur, die negative Ergebnisse festhält, damit ein späterer Vorschlag nicht erneut versucht, was ein früherer bereits ausgeschlossen hat. Das System umfasst sechs Daten-Pipelines und mehr als 130 Infrastrukturversionen.
Bewertet wurde das Modell als Basismodell. Die Autoren berichten außerdem, dass es seinen Vorsprung vor Qwen3-30B-A3B und Nemotron-3.5-Lightning-30B-A3B auch bei identischem SFT behält. Anders liegt der Fall bei der agentischen Aussage. Sie stützt sich auf 6B Token SFT ohne Reinforcement Learning, und verglichen wird mit Modellen, die ein vollständiges Post-Training erhalten haben, darunter Qwen3.6-35B-A3B. Das Paper versteht das schlanke SFT als Test des Post-Training-Spielraums, nicht als fertiges Post-Training-Rezept. Im Abstract heißt es, das schlanke SFT „prüft lediglich den Post-Training-Spielraum“, was die eigene Einordnung der Autoren ist.
Die Autoren veröffentlichen sowohl das Basismodell als auch die schlanken SFT-Daten. Das Abstract verweist dafür auf ein GitHub-Repository, GAIR-NLP/801-30B. Ihr Argument: RSI im Post-Training setzt voraus, dass bereits ein starkes Basismodell existiert. Wendet man Selbstverbesserung auf das Pre-Training an, verändert man das Fundament, auf dem jede spätere Phase aufbaut.
Was sich ändert
Art: Forschung · Betrifft: 801-30B-A3B-Base, Qwen3-30B-A3B, Nemotron-3.5-Lightning-30B-A3B, Qwen3.5-35B-A3B, Qwen3.6-35B-A3B
Warum es wichtig ist
Wenn Agenten das Pre-Training verbessern, könnte das Basismodell besser werden, auf dem jede spätere Phase aufbaut, und die offene Veröffentlichung erlaubt es anderen, den Ansatz zu überprüfen.
Originalquelle
Wo wir es gesehen haben
DAIR.AI (Elvis Saravia)
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es