Claude erhält unsichtbare Text-Wasserzeichen, prüfen dürfen nur ausgewählte Stellen
Laut einem Reddit-Beitrag, der sich auf eine Hilfeseite von Anthropic beruft, wird Claudes statistisches Text-Wasserzeichen ab 3. November weltweit auf mehrere Modelle ausgeweitet. Die Erkennung bleibt eingeschränkt.
Ab 3. November sollen Texte von Claude bei weiteren Modellen ein unsichtbares statistisches Wasserzeichen tragen. Das berichtet ein Reddit-Beitrag unter Berufung auf eine Hilfeseite von Anthropic. Demnach wird die Markierung auf Mythos 5, Opus 4.7, Opus 4.6 und Sonnet 4.6 ausgeweitet, neuere Modelle sind bereits erfasst. Prüfen können das Wasserzeichen laut dem Beitrag nur ausgewählte Regulierungsbehörden, Medien, Forschende, Bildungseinrichtungen und einige Unternehmen mit hohen Compliance-Anforderungen, nicht aber gewöhnliche Nutzerinnen und Nutzer.
In der Praxis wiegt vor allem diese Einschränkung schwer. Das Wasserzeichen ist unsichtbar: Für Menschen liest sich der Text ganz normal, ein Detektor kann es aber aufspüren. Wenn nur ein kleiner Kreis diesen Detektor einsetzen darf, kann jemand, der ein von Claude verfasstes Dokument erhält, dieses nicht selbst überprüfen. Die Kontrolle liegt bei den Institutionen, die der Beitrag nennt. Wie diese Zugang erhalten und was sie mit einem Ergebnis tun dürfen, lässt der Beitrag offen.
In den Kommentaren ging es auch um die Zuverlässigkeit der Erkennung. Ein Nutzer berichtete, eine Masterarbeit aus dem Jahr 2020 sei mit einer Wahrscheinlichkeit von 56 Prozent als KI-generiert eingestuft worden. Das ist ein Wert, kein Urteil, und die Sorge galt falsch positiven Ergebnissen.
Der Beitrag spricht auch Grenzfälle an. Ein Kommentator schilderte, wie Opus 5.5 eine E-Mail überarbeitete und dabei einen Punkt und zwei Wörter änderte, und fragte, ob eine Markierung eine so geringfügige Bearbeitung übersteht. Der Beitrag argumentiert, dass eine Umformulierung durch ein anderes Modell ein lexikalisches oder statistisches Wasserzeichen entfernen könnte. Zudem heißt es dort, Detektoren von Drittanbietern könnten das Verfahren über sogenannte Watermark-Stealing-Angriffe erlernen.
Ein Kommentator unterschied zwischen einer Markierung, die angibt, dass ein Inhalt von Claude stammt, und einer, die einen bestimmten Nutzer identifiziert, etwa über eine Nutzer-ID. Ersteres ist ein Herkunftsnachweis für den Inhalt. Letzteres würde Texte einem einzelnen Konto zuordnen, was der Kommentator für inakzeptabel hielt. Welche Art von Information das Wasserzeichen enthält, geht aus dem Beitrag nicht hervor.
Was sich ändert
Art: Sonstiges · Betrifft: Mythos 5, Opus 4.7, Opus 4.6, Sonnet 4.6
Warum es wichtig ist
Unternehmen, die mit Unterstützung von Claude erstellte Texte veröffentlichen oder prüfen, könnten mit Fragen zur Urheberschaft konfrontiert werden, die sie selbst nicht klären können. Sie brauchen klare interne Regeln, wie KI-gestützte Inhalte gekennzeichnet werden.
Was Sie tun können
Rechts- und Compliance-Abteilungen können prüfen, ob für mit Unterstützung von Claude erstellte Dokumente Herkunftsnachweise nötig sind, da Endnutzer Wasserzeichen möglicherweise nicht selbst überprüfen können.
Originalquelle
Für diese Meldung haben wir noch keinen Link zur Originalquelle.
Wo wir es gesehen haben
Latent Space
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es