AI News
Alle Meldungen
Berichtet

Anthropic: Claude erstellt nach jeder Antwort eine Missbrauchsbewertung

Laut Anthropic hat die Bewertung pro Antwort Missbrauch aufgedeckt, für dessen Erkennung die Klassifikatoren des Unternehmens nicht ausgelegt waren. Zudem werde die Bewertung mit dem Modell besser.

Sicherheit · · 1 Min. Lesezeit

Nach Angaben von Anthropic erstellt Claude seit Juni unmittelbar nach jeder Antwort eine vorläufige Missbrauchsbewertung. Diese entsteht also erst nach der Antwort, nicht davor.

Laut Anthropic hat die Bewertung Missbrauch zutage gefördert, für dessen Erkennung die Klassifikatoren des Unternehmens nicht ausgelegt waren. Außerdem verbessere sich die Bewertung in dem Maß, in dem sich das zugrunde liegende Modell verbessert.

Was sich ändert

Art: Neue Funktion · Betrifft: Claude

Warum es wichtig ist

Setzen sich modellgenerierte Missbrauchsbewertungen als Standard durch, müssen Plattform-Teams sie womöglich in ihre Risikokontrollen einbauen. Erkennungsraten nennt der Bericht allerdings nicht.

Was Sie tun können

Fragen Sie Ihre Modellanbieter, welche Missbrauchssignale sie Kunden überhaupt zur Verfügung stellen, bevor Sie sich bei Ihren Risikokontrollen darauf verlassen.

Originalquelle

Für diese Meldung haben wir noch keinen Link zur Originalquelle.

Wo wir es gesehen haben

1 Quelle

Latent Space

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es