AI News
Alle Meldungen
Berichtet

Baidu: ERNIE 5.5 Flash Preview ist gestartet, Gewichte bis 25. November erwartet

Laut Baidu ist ERNIE 5.5 Flash Preview gestartet, die Modellgewichte werden bis 25. November erwartet.

Modelle · · Aktualisiert · 1 Min. Lesezeit

Baidu hat angekündigt, dass ERNIE 5.5 Flash Preview gestartet ist und die Modellgewichte bis 25. November erwartet werden. Das geht aus einem Screenshot der Ankündigung hervor, der auf Reddit geteilt wurde. Beschrieben wird ein Modell mit insgesamt 280B Parametern, davon 14B aktiv, einem Kontextfenster von 1M Token und einer Generierungsgeschwindigkeit von über 200 Token pro Sekunde. Es handelt sich um Angaben aus der Ankündigung, die nicht unabhängig überprüft wurden. Positioniert wird das Modell für Coding, 3D-Modellierung, Wissensarbeit und Content-Erstellung. Auf welcher Hardware der Wert von über 200 Token pro Sekunde gemessen wurde, lässt der Beitrag offen.

Die Kommentare im Reddit-Thread fielen vorsichtig positiv aus: Gelobt wurde, dass Baidu ein konkretes Datum nennt, statt nur vage eine baldige Veröffentlichung zu versprechen. Einige meinten, Baidu sei trotz seiner frühen Forschung im Bereich Machine Learning hinter den Erwartungen zurückgeblieben. Ein Kommentator scherzte, lokal werde er niemals 200 Token pro Sekunde erreichen.

Derselbe Kommentator liefert auch eine grobe Abschätzung der Anforderungen: Eine Quantisierung der Q4-Klasse oder zumindest IQ4_XS könnte für ein System mit rund 32GB VRAM und 128GB Arbeitsspeicher passen. Zudem verlinkt er einen Entwurf für einen Pull Request in llama.cpp, ggml-org/llama.cpp#31925. Das deutet darauf hin, dass die Community bereits daran arbeitet, das Modell in diesem Stack lauffähig zu machen.

Was sich ändert

Art: Neue Funktion · Betrifft: ERNIE 5.5 Flash Preview

Warum es wichtig ist

Ein großes Modell mit langem Kontext aus einem führenden chinesischen Labor könnte Teams eine weitere Open-Weight-Option für Coding und Dokumentenarbeit bieten, sofern die Gewichte tatsächlich erscheinen und sich die Angaben bestätigen.

Was Sie tun können

Warten Sie auf die Gewichte und unabhängige Benchmarks, bevor Sie das Modell im Produktivbetrieb testen.

Wie sich die Meldung entwickelt hat

  1. Ergänzt die Angaben zu 280B Parametern insgesamt und 14B aktiven Parametern, den Kontext von 1M Token, den kostenlosen Zugang über OpenRouter sowie die von Arena genannte Apache-2.0-Lizenz.

Originalquelle

Für diese Meldung haben wir noch keinen Link zur Originalquelle.

Weitere Berichte

Wo wir es gesehen haben

1 Quelle

Latent Space

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es