Baidu: ERNIE 5.5 Flash Preview ist gestartet, Gewichte bis 25. November erwartet
Laut Baidu ist ERNIE 5.5 Flash Preview gestartet, die Modellgewichte werden bis 25. November erwartet.
Baidu hat angekündigt, dass ERNIE 5.5 Flash Preview gestartet ist und die Modellgewichte bis 25. November erwartet werden. Das geht aus einem Screenshot der Ankündigung hervor, der auf Reddit geteilt wurde. Beschrieben wird ein Modell mit insgesamt 280B Parametern, davon 14B aktiv, einem Kontextfenster von 1M Token und einer Generierungsgeschwindigkeit von über 200 Token pro Sekunde. Es handelt sich um Angaben aus der Ankündigung, die nicht unabhängig überprüft wurden. Positioniert wird das Modell für Coding, 3D-Modellierung, Wissensarbeit und Content-Erstellung. Auf welcher Hardware der Wert von über 200 Token pro Sekunde gemessen wurde, lässt der Beitrag offen.
Die Kommentare im Reddit-Thread fielen vorsichtig positiv aus: Gelobt wurde, dass Baidu ein konkretes Datum nennt, statt nur vage eine baldige Veröffentlichung zu versprechen. Einige meinten, Baidu sei trotz seiner frühen Forschung im Bereich Machine Learning hinter den Erwartungen zurückgeblieben. Ein Kommentator scherzte, lokal werde er niemals 200 Token pro Sekunde erreichen.
Derselbe Kommentator liefert auch eine grobe Abschätzung der Anforderungen: Eine Quantisierung der Q4-Klasse oder zumindest IQ4_XS könnte für ein System mit rund 32GB VRAM und 128GB Arbeitsspeicher passen. Zudem verlinkt er einen Entwurf für einen Pull Request in llama.cpp, ggml-org/llama.cpp#31925. Das deutet darauf hin, dass die Community bereits daran arbeitet, das Modell in diesem Stack lauffähig zu machen.
Was sich ändert
Art: Neue Funktion · Betrifft: ERNIE 5.5 Flash Preview
Warum es wichtig ist
Ein großes Modell mit langem Kontext aus einem führenden chinesischen Labor könnte Teams eine weitere Open-Weight-Option für Coding und Dokumentenarbeit bieten, sofern die Gewichte tatsächlich erscheinen und sich die Angaben bestätigen.
Was Sie tun können
Warten Sie auf die Gewichte und unabhängige Benchmarks, bevor Sie das Modell im Produktivbetrieb testen.
Wie sich die Meldung entwickelt hat
Ergänzt die Angaben zu 280B Parametern insgesamt und 14B aktiven Parametern, den Kontext von 1M Token, den kostenlosen Zugang über OpenRouter sowie die von Arena genannte Apache-2.0-Lizenz.
Originalquelle
Für diese Meldung haben wir noch keinen Link zur Originalquelle.
Weitere Berichte
Wo wir es gesehen haben
Latent Space
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es