Sarvam veröffentlicht offenes Entscheidungsmodell PRISM mit Antwortwahrscheinlichkeiten
Das Open-Weight-Modell PRISM von Sarvam basiert auf dem hauseigenen 105B-Modell und liefert in einem einzigen Forward Pass eine Wahrscheinlichkeit für jede vorgegebene Antwortoption, ohne Text zu generieren.
Sarvam hat PRISM veröffentlicht, ein Entscheidungsmodell mit offenen Gewichten, das auf dem eigenen Modell Sarvam 105B aufbaut. Sein Kennzeichen: Statt eine Antwort zu formulieren, gibt es für jede Antwortoption eine Wahrscheinlichkeit aus. Laut Matthew Berman, der über die Veröffentlichung berichtete, erhält PRISM einen Kontext sowie eine oder mehrere Multiple-Choice-Fragen mit jeweils festgelegten Antwortmöglichkeiten. In einem einzigen Forward Pass liefert es dann für jede Option eine Wahrscheinlichkeit. Freien Text erzeugt das Modell nicht, seine Ausgabe ist daher immer eine der vorgegebenen Optionen.
Berman bezeichnete PRISM als Entscheidungsmodell, nicht als Modell zur Textgenerierung. Fließtext sollte man von ihm nicht erwarten, und die Antwort ist stets eine der vorgegebenen Optionen.
Bei der Hardware empfiehlt Sarvam laut Berman GPUs der Klasse B200 oder H200, also nicht unbedingt Chips für Endkunden. Die Gewichte benötigen nach seinen Angaben rund 106 GB Festplattenspeicher. Berman hielt es für möglich, dass das Modell auf einem recht leistungsstarken Consumer-Rechner läuft, das war jedoch seine Vermutung und keine ausdrücklich genannte Anforderung. Die Gewichte stehen auf Hugging Face bereit, wo laut Berman auch die Einrichtungsschritte beschrieben sind.
Was sich ändert
Art: Neue Funktion · Betrifft: PRISM
Warum es wichtig ist
Entscheidungen im Stil einer Klassifikation lassen sich mit festen Optionen und Wahrscheinlichkeitswerten abbilden, was gut zu Routing, Triage und Scoring passt.
Was Sie tun können
Teams mit Klassifikations- oder Routing-Aufgaben könnten PRISM mit einem kleineren Modell vergleichen, bevor sie für generative Aufrufe bezahlen.
Wie sich die Meldung entwickelt hat
Der Kommentar ergänzt die empfohlene Hardware (B200 oder H200) und die Größe der Gewichte von rund 106 GB.
Originalquelle
Für diese Meldung haben wir noch keinen Link zur Originalquelle.
Wo wir es gesehen haben
Forward Future (Matthew Berman)
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es