AI News
Alle Meldungen
Berichtet

Thinking Machines veröffentlicht Inkling 2 Mini, einen kleinen Looped Transformer mit offenen Gewichten

Thinking Machines hat Inkling 2 Mini unter Apache 2.0 veröffentlicht. Mit 5,4B aktiven Parametern erreicht das Modell laut Artificial Analysis 20 Punkte auf dessen Intelligence Index.

Modelle · · 2 Min. Lesezeit

Thinking Machines hat Inkling 2 Mini veröffentlicht, ein Modell mit offenen Gewichten, das laut Artificial Analysis auf dessen Intelligence Index 20 Punkte erreicht. Pro Token aktiviert das Modell 5,4B seiner insgesamt 26B Parameter. Es basiert auf einer Mixture-of-Experts-Architektur, steht unter einer Apache-2.0-Lizenz, verarbeitet Text- und Bildeingaben und bietet ein Kontextfenster von 1M Token. Laut Artificial Analysis liegt es auf der Pareto-Front für Intelligenz, sowohl gemessen an der Gesamtzahl als auch an der Zahl der aktiven Parameter. Auf dem Index zieht es mit Qwen3.8 27B (xhigh) und Nanbeige4.3-33B gleich, kommt dabei aber mit etwa 5- bzw. 6-mal weniger aktiven Parametern aus.

Zwölf seiner 24 Schichten laufen pro Token dreimal. Die 5,4B aktiven Parameter enthalten also drei Durchgänge durch die geloopten Schichten. Pro Text-Token nutzt das Modell 3,1B verschiedene Gewichte. Das ist laut Artificial Analysis klein genug, um auf einem MacBook oder einem DGX Spark zu laufen. Das Looping erhöht den Rechenaufwand, ohne zusätzliche Output-Token zu erzeugen.

Die Kehrseite dieser Zahlen ist die Ausführlichkeit, wie die Werte von Artificial Analysis zeigen. Inkling 2 Mini erzeugt pro Intelligence-Index-Aufgabe im Schnitt rund 152K Output-Token. Bei Qwen3.8 27B sind es etwa 110K, bei Nanbeige4.3-33B etwa 158K. Laut Artificial Analysis bedeutet das für denselben Score rund 38% mehr Output als bei Qwen3.8 27B, aber etwa 2,8-mal weniger Rechenaufwand. Als Maß dafür dient die hauseigene Näherung aus aktiven Parametern multipliziert mit Token. Insgesamt erzeugte die Evaluierung 161M Output-Token, gegenüber einem Median von 85,7M bei vergleichbaren Modellen mit offenen Gewichten. Die Plattform bezeichnet das als sehr ausführlich.

Bei Kosten und Geschwindigkeit sprechen die Zahlen von Artificial Analysis für das Modell von Thinking Machines und gegen Qwen3.8 27B. Inkling 2 Mini kostet pro Intelligence-Index-Aufgabe 0,59 US-Dollar und braucht 9,0 Minuten. Qwen3.8 27B kostet 3,53 US-Dollar und braucht 38,2 Minuten. Artificial Analysis bezeichnet das Modell als pro Aufgabe etwa 6-mal günstiger und etwa 4-mal schneller. Die Kostenangaben beruhen auf den Preisen von Thinking Machines selbst: 0,15 US-Dollar pro 1M Input-Token, 0,50 US-Dollar pro 1M Output-Token und 0,015 US-Dollar pro 1M Cache-Hit-Token. Der Vergleich hat allerdings Einschränkungen. Artificial Analysis weist darauf hin, dass GPT-6 Luna (max) für 0,15 US-Dollar pro Aufgabe auf 28 Punkte kommt. Zudem ist der genannte Preis nur der Tarif eines einzigen Anbieters, denn laut der Plattform ist das Modell über nur einen API-Anbieter verfügbar.

Was sich ändert

Art: Neue Funktion · Betrifft: Inkling 2 Mini

Warum es wichtig ist

Teams, die ein leistungsfähiges Modell auf einem Laptop oder kleinen Server betreiben wollen, erhalten eine offen lizenzierte Option. Artificial Analysis bewertet es bei ähnlichem Score als pro Aufgabe günstiger und schneller als Qwen3.8 27B. Die Zahlen stammen aus den eigenen Benchmark-Ergebnissen von Artificial Analysis.

Was Sie tun können

Testen Sie Inkling 2 Mini mit Ihren eigenen Workloads gegen Ihre bisherigen kleinen Modelle mit offenen Gewichten, bevor Sie etwas umstellen. Der Vergleich stützt sich auf einen einzigen Benchmark-Index.

Originalquelle

Für diese Meldung haben wir noch keinen Link zur Originalquelle.

Weitere Berichte

Wo wir es gesehen haben

1 Quelle

Artificial Analysis

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es