OpenAI will mit Cybersecurity-Sitzungsdaten trainieren, Forschende protestieren
Laut THE DECODER will OpenAI seine Modelle mit Daten aus Cybersecurity-Sitzungen trainieren. Forschende haben gegen den Plan protestiert.
OpenAI will ab dem 29. November seine Modelle mit Daten aus Daybreak-Blue-Sitzungen trainieren und rückt damit von einer früheren Regelung ab, nach der diese Daten vom Training ausgenommen waren. THE DECODER beruft sich auf eine E-Mail an Mitglieder des Trusted-Access-Programms: Demnach waren die Daten bisher selbst bei Nutzern vom Training ausgenommen, die die Einstellung „Modell für alle verbessern“ deaktiviert hatten. Die Gegenreaktion kam prompt, und OpenAI schickte eine zweite E-Mail hinterher, in der eine separate Opt-out-Möglichkeit versprochen wird.
Daybreak Blue gibt geprüften Sicherheitsforschenden Zugang zu Modellen, die bei Sicherheitsarbeit weniger Einschränkungen unterliegen. In den Sitzungen kann es um unveröffentlichte Schwachstellen, Exploit-Ketten und Details aus laufenden Untersuchungen gehen. Sean Heelan, der in einem LinkedIn-Beitrag genannt wird, machte auf die E-Mail aufmerksam, in der Einzelnutzern mitgeteilt wird, dass die Änderung am 29. November in Kraft tritt. Der Beitrag weist darauf hin, dass auf OpenAIs Seite zu den Datenkontrollen bereits steht, das Unternehmen könne Daybreak-Sitzungen von persönlichen Konten unabhängig von der Trainingseinstellung zur Verbesserung seiner Modelle nutzen. Business- und Enterprise-Konten behalten laut demselben Beitrag ihren bisherigen Schutz, während einzelne Forschende für Daybreak kein Opt-out erhalten.
Interaktionen, die bei Sicherheitsprüfungen markiert werden, dürfen laut dem Bericht weiterhin für Sicherheitszwecke verwendet werden.
THE DECODER bringt die Empörung mit einem früheren Vorfall in Verbindung. Die Mathematiker Tristan Buckmaster und Levent Alpöge hatten Entwürfe zu den Navier-Stokes-Gleichungen in OpenAIs Codex hochgeladen. Kurz darauf präsentierte OpenAI einen eigenen Beweis, bestritt jedoch, ihre Eingaben für das Training verwendet zu haben. Laut dem Bericht reichte schon der Verdacht, um Forschenden vor Augen zu führen, was schiefgehen kann.
John Kelleher nannte die Änderung in einem Beitrag auf X ungeheuerlich. Seiner Darstellung nach betrifft sie Daybreak-Blue-Konten mit Advanced Account Security, die Daten auch dann für das Training teilen würden, wenn diese Einstellung deaktiviert ist.
Was sich ändert
Art: Inkompatible Änderung · Betrifft: Daybreak Blue
Warum es wichtig ist
Unternehmen, die Daten aus Sicherheitssitzungen mit KI-Anbietern teilen, sollten prüfen, wie diese Daten für das Training verwendet werden dürfen.
Was Sie tun können
Prüfen Sie Verträge und Einstellungen zur Datenweitergabe, bevor Sie Daten aus Sicherheitssitzungen an KI-Anbieter übermitteln.
Originalquelle
Weitere Berichte
Wo wir es gesehen haben
Matthias from THE DECODER
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es