Anthropic veröffentlicht FlashProve: Nachweis, welches KI-Modell eine Antwort erzeugt hat
Der Open-Source-Prototyp FlashProve von Anthropic erstellt kryptografische Beweise dafür, dass eine Antwort von einem bestimmten Modell stammt, ohne dessen Gewichte offenzulegen.
Anthropic hat FlashProve veröffentlicht, einen Open-Source-Prototyp, mit dem Nutzer bestätigen können, dass eine Antwort von einem bestimmten KI-Modell stammt, ohne dass die privaten Gewichte dieses Modells offengelegt werden. Gewichte sind die trainierten Parameter, die das Modell ausmachen. Dank dieses Ansatzes können Dritte die Herkunft einer Antwort prüfen, ohne dass der Anbieter das Modell selbst herausgeben muss.
Laut Anthropic ist ein praktischer Einsatz dieser Forschung noch nicht geplant.
Was sich ändert
Art: Forschung · Betrifft: FlashProve
Warum es wichtig ist
Unternehmen, die für Modell-APIs bezahlen, könnten damit grundsätzlich prüfen, welches Modell ihre Anfragen tatsächlich beantwortet hat. Allerdings handelt es sich um einen Forschungsprototyp, für dessen Einsatz es noch keinen Termin gibt.
Wie sich die Meldung entwickelt hat
Der Beitrag von Anthropic liefert zusätzlich die Benchmark-Werte, die formale Verifikation der Sicherheitseigenschaften in Lean, die Apache-2.0-Lizenz sowie die genannten Einschränkungen des Prototyps.
Originalquelle
Wo wir es gesehen haben
Anthropic Research, Forward Future (Matthew Berman)
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es