AI News
Alle Meldungen
Berichtet

Parameter Labs beschreibt Lücke in ChatGPTs HTML-Vorschau, die Nutzerdaten offenlegen konnte

Parameter Labs beschreibt eine Angriffskette in den HTML-Vorschauen von ChatGPT, über die ein präparierter Share-Link auf private Daten anderer angemeldeter Nutzer zugreifen konnte. OpenAI hat die Lücke inzwischen geschlossen.

Sicherheit · · 4 Min. Lesezeit

Parameter Labs hat Details zu einem Angriff veröffentlicht, bei dem ein manipulierter öffentlicher ChatGPT-Share-Link JavaScript in der Sitzung jeder Person ausführen konnte, die ihn öffnete. Das Skript konnte auf die privaten Unterhaltungen dieser Person zugreifen. OpenAI behob die Lücke am 26. Oktober, stufte sie als P1 ein und zahlte eine Bug-Bounty-Prämie von insgesamt 5.000 US-Dollar. Laut den Forschern musste das Opfer nichts weiter tun, als den Link zu öffnen.

Ausgangspunkt der Kette waren zwei Funktionen, die für sich genommen vernünftig sind. Die HTML Previews von ChatGPT führen generierten Code in einem Sandbox-Frame unter einer separaten Webadresse aus, damit dieser Code die Hauptseite chatgpt.com nicht lesen kann. Parameter Labs stellte fest, dass ein Graph in derselben Unterhaltung die Bibliothek MathLive lädt. MathLive installiert auf der Hauptseite einen Listener für Nachrichten zu seiner virtuellen Bildschirmtastatur. Laut Parameter akzeptierte dieser Listener Nachrichten von beliebigen Webadressen und prüfte nicht, ob eine Nachricht aus einem zugelassenen Fenster stammte. Browser erlauben Frames, über postMessage Nachrichten auszutauschen, auch wenn sie die Seiten des jeweils anderen nicht lesen können. Eine Preview konnte also eine solche Nachricht senden.

Die erste Nachricht ersetzte das Tastaturlayout durch HTML des Angreifers, die zweite wies MathLive an, die Tastatur anzuzeigen. MathLive wies dieses Markup dann innerHTML zu. Laut Parameter schien eine Hilfsfunktion namens createHTML den String zu bereinigen, markierte ihn aber nur als vertrauenswürdig und reichte ihn unverändert durch. Über innerHTML eingefügte Skripte laufen nicht von selbst, deshalb fügten die Forscher einen iframe mit srcdoc ohne sandbox-Attribut ein. Weil die Hauptseite diesen Frame erzeugt hatte, gab ihm der Browser die Identität von chatgpt.com, und er konnte auf die übergeordnete Seite zugreifen.

Das letzte Hindernis war die Content Security Policy von ChatGPT, die Inline-Skripte blockierte, Skripte von YouTube aber zuließ. Laut Parameter akzeptierte der oEmbed-Endpunkt von YouTube einen JSONP-Callback-Parameter und setzte ihn in die Antwort ein, bevor er seinen Validierungsfehler zurückgab. Mit ;void am Ende des Callbacks wurde der Rest der Antwort harmlos. Der Browser führte das Ergebnis als Skript aus, weil YouTube eine zugelassene Quelle war. Die Forscher bezeichnen die Umgehung der CSP als Workaround, nicht als eigentliche Ursache. Sie argumentieren, dass eine bloße Sperre dieses Endpunkts einer nicht vertrauenswürdigen Preview weiterhin erlaubt hätte, HTML in ChatGPT einzufügen.

Die erste funktionierende Version war noch kein überzeugender Angriff aus der Praxis. Sie setzte eine von den Forschern kontrollierte ChatGPT App als Absender voraus, die ein Opfer zuerst hätte verbinden müssen. Auch das Senden der Payload als nativer HTML-Anhang scheiterte. Beim Export der Unterhaltung als öffentlicher Share blieb der Anhang erhalten, der Graph aber nicht, und ohne Graph lauschte auf der Hauptseite nichts auf die Nachrichten. Die funktionierende Version kombinierte einen echten Graphen und eine später vom Assistenten verfasste HTML Preview in einer gewöhnlichen öffentlichen Unterhaltung. In der stabilsten Reproduktion öffnete das Opfer den Share und klickte einmal auf die Preview-Schaltfläche. Später markierte Parameter den HTML-Block als vorschaufähig, sodass ChatGPT ihn automatisch öffnete. In dieser Version war der Link der einzige Klick. Die Forscher reproduzierten den automatischen Ablauf dreimal in einem separaten Konto, der Alert erschien jeweils nach rund 4,5 Sekunden.

Der Alert bewies nur, dass der Code auf chatgpt.com lief. Laut Parameter nutzte die Payload anschließend Sitzungsdaten, die der Seite bereits zur Verfügung standen, um die Backend-APIs von ChatGPT für Unterhaltungen aufzurufen. Sie listete die 20 zuletzt aktualisierten Unterhaltungen des Opfers auf und rief dann Nachrichten aus einer ausgewählten privaten Unterhaltung ab, die nie mit dem Angreifer geteilt worden war. Nur ein kleiner Teil des Ergebnisses wurde per Bildanfrage an einen Server der Forscher übertragen. Laut den Forschern konnte der eingeschleuste Code die vollständige Antwort lesen. Mit demselben Zugriff seien auch weitere Daten und Kontoaktionen erreichbar gewesen, die über die authentifizierten Frontend-APIs von ChatGPT verfügbar sind.

Parameter Labs führt den Fehler auf drei Designentscheidungen zurück. Ein privilegierter Listener vertraute einer Nachricht, ohne ihren Absender zu prüfen. Ein Nachrichtenformat erlaubte rohes HTML als Daten für das Tastaturlayout. Und ein neues Dokument erbte den Origin chatgpt.com. OpenAI reproduzierte sowohl die Codeausführung als auch den Nachweis zur privaten Unterhaltung und behob das Problem in zwei Versionen seines Web-Frontends. Während des Rollouts blockierten CSP-Änderungen einen Teil der Kette, solange ein Frontend noch auf sein Update wartete. Am 26. Oktober bestätigte OpenAI, dass beide Versionen die frameübergreifenden MathLive-Nachrichten ablehnen. Ob die Lücke vor der Behebung ausgenutzt wurde, geht aus dem Bericht nicht hervor.

Simon Willison, der auf den Bericht verlinkte, bezeichnete die Prämie von 5.000 US-Dollar für eine so schwerwiegende Lücke als etwas mager. Auch Kommentatoren auf Hacker News stellten unter demselben Beitrag die Höhe der Prämie infrage. Einer merkte an, dass der Angriff einen Klick auf einen Link voraussetzt. Laut der im Bericht dokumentierten Bounty-Chronologie wurde die Meldung am 18. Oktober eingereicht. OpenAI stufte den Schweregrad am 21. Oktober von anfänglich P2 auf P1 hoch.

Was sich ändert

Art: Sicherheit · Betrifft: MathLive

Warum es wichtig ist

Jedes Produkt, das KI-generiertes HTML oder Einbettungen von Drittanbietern darstellt, kann dieselbe Risikoklasse erben, wenn Sandboxing oder Content Security Policies Lücken aufweisen. Der Fall zeigt, dass eine einzige zugelassene Skript-Domain eine ansonsten strenge Policy aushebeln kann.

Was Sie tun können

Prüfen Sie KI-generiertes oder von Nutzern geteiltes HTML in Ihren Produkten auf Sandbox-Umgehungen, auf ausreichend restriktive Content Security Policies und auf postMessage-Handler, die in innerHTML schreiben.

Originalquelle

Weitere Berichte

Wo wir es gesehen haben

1 Quelle

Simon Willison

OpenAIParameter Labs

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es