AI News
Alle Meldungen
Offiziell

Anthropic veröffentlicht FlashProve: Nachweis, welches KI-Modell eine Antwort erzeugt hat

Der Open-Source-Prototyp FlashProve von Anthropic erstellt kryptografische Beweise dafür, dass eine Antwort von einem bestimmten Modell stammt, ohne dessen Gewichte offenzulegen.

Forschung · · Aktualisiert · 1 Min. Lesezeit

Anthropic hat FlashProve veröffentlicht, einen Open-Source-Prototyp, mit dem Nutzer bestätigen können, dass eine Antwort von einem bestimmten KI-Modell stammt, ohne dass die privaten Gewichte dieses Modells offengelegt werden. Gewichte sind die trainierten Parameter, die das Modell ausmachen. Dank dieses Ansatzes können Dritte die Herkunft einer Antwort prüfen, ohne dass der Anbieter das Modell selbst herausgeben muss.

Laut Anthropic ist ein praktischer Einsatz dieser Forschung noch nicht geplant.

Was sich ändert

Art: Forschung · Betrifft: FlashProve

Warum es wichtig ist

Unternehmen, die für Modell-APIs bezahlen, könnten damit grundsätzlich prüfen, welches Modell ihre Anfragen tatsächlich beantwortet hat. Allerdings handelt es sich um einen Forschungsprototyp, für dessen Einsatz es noch keinen Termin gibt.

Wie sich die Meldung entwickelt hat

  1. Der Beitrag von Anthropic liefert zusätzlich die Benchmark-Werte, die formale Verifikation der Sicherheitseigenschaften in Lean, die Apache-2.0-Lizenz sowie die genannten Einschränkungen des Prototyps.

Originalquelle

Wo wir es gesehen haben

2 Quellen

Anthropic Research, Forward Future (Matthew Berman)

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es