Recursive Intelligence veröffentlicht Open-Weights-Modell Ripple 65B als Preview
Laut dem Kommentator Matthew Berman unterstützt das dichte 65B-Modell Ripple einen Kontext von 1M Token und erreicht auf Terminal Bench 2.1 unter den Open-Weights-Modellen 80,5%.
Recursive Intelligence, auf der eigenen Website Ricursive Intelligence geschrieben, hat Ripple-65B Preview veröffentlicht, ein dichtes Open-Weight-Sprachmodell mit 65 Milliarden Parametern. Nach Angaben des Unternehmens setzt es mit einem Wert von 80,52 auf TerminalBench 2.1 einen neuen US-Bestwert unter den Open-Weight-Modellen für agentisches Coding. Die Gewichte sind auf Hugging Face, Together AI, GMI Cloud, OpenRouter und Fireworks verfügbar. Das Unternehmen beschreibt das Modell als Allzweckvariante eines proprietären Modells, das seine KI-Plattform für Chipdesign antreibt. Es sei auf 12 Billionen Token vortrainiert worden und unterstütze bis zu 1M Token Kontext.
Zu den Designentscheidungen, die das Unternehmen hervorhebt, gehört die Architektur. Andere Labs setzen laut Unternehmen häufig auf Mixture-of-Experts-Designs, die pro Token nur einen Teil des Netzes aktivieren. Ripple nutzt dagegen einen dichten Transformer, bei dem jeder Parameter an jedem Token beteiligt ist. Das verringere die Komplexität der Infrastruktur für Pretraining und Posttraining und ermögliche dennoch starkes Reasoning, argumentiert das Unternehmen. Das Modell habe eine MFU von 40% gehalten, und das trotz einfachen Shardings, ohne eigene Kernels und ohne Quantisierung. Die MFU ist ein Maß dafür, welchen Anteil des Spitzendurchsatzes der Hardware das Training ausnutzte. Das Netz ist nach Darstellung des Unternehmens schmal und tief: eine Modellbreite von 5120 über 80 Schichten, mit überdimensionierten Attention Heads und einem veränderten Verhältnis von Sliding-Window- und globalen Attention-Schichten.
Matthew Berman, ein YouTube-Kommentator, der über KI-Veröffentlichungen berichtet, nannte den Benchmark-Wert und verglich ihn ausschließlich mit anderen Open-Weight-Modellen. In seiner Grafik lag Ripple mit 80,5% auf Terminal Bench 2.1 vor Reflection Beam mit 501B Parametern (80,1), Meta Muse Spark Open mit 816B (76,4), Thinking Machines Inkling mit 975B (63,8) und NVIDIA Nemotron 3 Ultra mit 550B (56,4). Die Seite des Unternehmens zieht denselben Vergleich und betont, dass die Konkurrenzmodelle deutlich größer sind.
Die zweite zentrale Zahl betrifft die Kosten. Die gesamten Forschungs- und Entwicklungskosten beliefen sich laut Unternehmen auf 32 Mio. US-Dollar. Darin enthalten sind die Entwicklung der Pretraining-Ladder, Data Mixing, Evaluierungen, Debugging, die Erzeugung synthetischer Daten, Posttraining und der finale Pretraining-Lauf. Das sei ein Zehntel der Kosten des bisherigen Open-Weight-Spitzenmodells für agentisches Coding, nach bestem Wissen des Unternehmens geschätzt. Eine Fußnote verweist auf Berichte, wonach Reflection 150 Mio. US-Dollar pro Monat für Rechenleistung bei SpaceX Colossus zugesagt habe und das Pretraining seines Modells Beam 4 Wochen sowie das Posttraining weitere 4 Wochen gedauert habe.
Das Reinforcement Learning habe den Wert von 80,5 mit nur 1,4M Rollouts erreicht, rund 70-mal weniger als bei Beam, so das Unternehmen. Posttraining-Daten habe man nicht zugekauft, sondern auf eigene Pipelines für synthetische Daten und Qualitätsfilterung gesetzt. Die Pretraining-Arbeit baute auf der Modell-Ladder auf, die das Allen Institute for AI für Olmo 3 veröffentlicht hat. Das Unternehmen beschreibt eine Reihe von Ladder-Versionen, in denen es Änderungen im kleinen Maßstab testete. Eine Variante wurde verworfen, weil sie im 4B-Maßstab keine Verbesserung brachte. Die finalen Änderungen hätten die Recheneffizienz bei Code im 4B-Maßstab um bis zum 16-Fachen verbessert, gemessen an einer Größe, die das Unternehmen dolma_stack CE nennt.
Berman zufolge ist das Modell klein genug, um lokal auf einem MacBook oder einem NVIDIA DGX Spark zu laufen. Er nennt Preise von 20 Cent pro Million Input-Token und 60 Cent pro Million Output-Token. Die Seite des Unternehmens führt den DGX Spark als Beispiel für ein lokales Gerät an, auf dem das Modell effizient laufen kann, nennt aber keine Preise. Diese Zahlen stammen also allein von Berman. Berman ordnete Ripple zudem in einen Trend ein, wonach US-Unternehmen kleine und mittelgroße Open-Weight-Modelle veröffentlichen. Er verwies auf Inkling 2 Small von Thinking Machines, das seinen Angaben zufolge 31 Punkte im Artificial Analysis Intelligence Index erreichte.
Was sich ändert
Art: Neue Funktion · Betrifft: Ripple-65B Preview
Warum es wichtig ist
Ein kleines Open-Weights-Modell mit langem Kontext und niedrigen genannten Preisen bietet Entwicklern eine selbst hostbare Option für Agenten-Workloads.
Wie sich die Meldung entwickelt hat
Ergänzt die Angabe des Herstellers aus dessen eigenem Beitrag, das dichte Modell sei das beste US-Open-Weight-Modell für agentisches Coding.
Originalquelle
Wo wir es gesehen haben
Forward Future (Matthew Berman), Latent Space
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es