OpenRouter: CSAM-Prüfung kann Zero Data Retention aushebeln
Laut einem Screenshot eines Richtlinien-Updates von OpenRouter kann die CSAM-Prüfung Vorrang vor der Zero Data Retention haben. Prompts können dann zur Überprüfung oder Meldung gespeichert werden.
Die Zero-Data-Retention-Richtlinie von OpenRouter verspricht, dass Prompts und Antworten nach der Verarbeitung nicht aufbewahrt werden. Ein Screenshot eines Richtlinien-Updates, der in einem Reddit-Beitrag geteilt wurde, zeigt jedoch eine Ausnahme für die Prüfung auf Darstellungen sexuellen Kindesmissbrauchs (CSAM). Laut dem Screenshot werden Prompts und Antworten nach der Verarbeitung grundsätzlich nicht aufbewahrt, können aber für CSAM-Prüfung, Überprüfung, Meldung oder rechtliche Beweissicherung gespeichert werden. Der Verfasser des Beitrags argumentierte, die Änderung schwäche die Garantien der Zero Data Retention.
Der Screenshot zeigt die Ausnahme, nicht aber den Mechanismus dahinter, und im Thread gingen die Meinungen darüber auseinander, wie weit sie reicht. Einige Kommentatoren verstanden die Richtlinie so, dass sie sich auf Hash-Abgleiche von Bildern und Videos beschränkt. Das ist ein gängiges Verfahren, das hochgeladene Medien mit Fingerabdrücken bekannter illegaler Dateien vergleicht; gewöhnliche Text-Prompts blieben damit außen vor. Andere befürchteten, dass die Prüfung auch auf Text ausgeweitet werden könnte. Diese Kommentatoren argumentierten, eine Textklassifizierung bräuchte kontextuelles Urteilsvermögen, um Fehlalarme in langen fiktionalen Rollenspielen zu vermeiden. In solchen Rollenspielen könnte sich eine Szene unter Erwachsenen auf die jüngere Vorgeschichte einer Figur beziehen, und ein oberflächlicher Klassifikator hätte damit Mühe. Aus dem Beitrag geht nicht hervor, ob Text überhaupt geprüft wird, was eine Speicherung auslöst oder wie lange aufbewahrtes Material gespeichert bleibt.
Die Skepsis im Thread drehte sich um das Wort „zero“. Ein Kommentator meinte, das „Zero“ in ZDR habe „eine Menge Sternchen“: Eine Aufbewahrungsgarantie mit definierten Ausnahmen sei ein anderes Versprechen als eine ohne jede Ausnahme. Ein anderer Kommentator misstraute der Zusicherung, dass sich die Prüfung auf Bilder und Videos beschränken werde.
Was sich ändert
Art: Inkompatible Änderung · Betrifft: OpenRouter
Warum es wichtig ist
Unternehmen, die sensible Prompts über OpenRouter leiten, sollten davon ausgehen, dass die Zero Data Retention Ausnahmen kennt, und den Umfang der Prüfung klären, bevor sie sich darauf verlassen.
Was Sie tun können
Fragen Sie bei OpenRouter den genauen Umfang der CSAM-Prüfung und der Aufbewahrungsausnahmen nach, bevor Sie sensible Daten über den Dienst senden.
Originalquelle
Für diese Meldung haben wir noch keinen Link zur Originalquelle.
Wo wir es gesehen haben
Latent Space
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es