AI News
Alle Meldungen
Offiziell

llm 0.37.2 behebt Fehler, der OpenAI-API-Keys an andere Anbieter senden konnte

Das Release llm 0.37.2 schließt eine Sicherheitslücke, durch die ein konfigurierter OpenAI-API-Key versehentlich an andere OpenAI-kompatible API-Anbieter gelangen konnte.

Sicherheit · · 4 Min. Lesezeit

Simon Willisons llm 0.37.2, erschienen am 11. November, behebt die in zwei Sicherheitshinweisen (Advisories) beschriebenen Probleme. Beide beschreiben unterschiedliche Wege, auf denen ein konfigurierter OpenAI-API-Key an einen OpenAI-kompatiblen Endpunkt eines Drittanbieters gesendet werden konnte. Beide Advisories haben den Schweregrad Moderate und sind als CWE-201 klassifiziert (Einfügen sensibler Informationen in gesendete Daten). Für keines gibt es eine CVE.

Mit llm können Nutzer Modelle über eine Datei extra-openai-models.yaml auf andere Anbieter umleiten. Version 0.37 hat den Befehl llm openai endpoint add eingeführt, um diese Datei zu verwalten. Jeder Eintrag kann eine api_base festlegen, also die URL des Endpunkts, sowie einen api_key_name, den Namen, unter dem ein Key mit llm keys set gespeichert wird.

Der erste Fehler steckt in der Auflösung dieses Key-Namens. Laut dem Advisory zu GHSA-v9h7-jj4g-f862 setzt register_models() das needs_key des Modells auf den api_key_name, belässt key_env_var der Klasse aber bei OPENAI_API_KEY. Ist unter dem Alias kein Key gespeichert, greift get_key() auf diese Umgebungsvariable zurück, die den OpenAI-Key enthält, und die Anfrage sendet ihn als Bearer Token an api_base. Ein Tippfehler im Namen, ein vergessenes llm keys set oder ein frisch aufgesetzter Rechner, auf dem nur OPENAI_API_KEY exportiert ist, genügt als Auslöser. Die Reproduktion im Advisory setzt die Variable auf einen Canary-String und zeigt, dass ein Drittanbieter-Host ihn im Authorization-Header erhält. Betroffen ist demnach jedes Release von 0.6 (Juli 2023, als api_key_name hinzukam) bis einschließlich 0.37.1. In den Versionen 0.6 bis 0.7.1 war das Problem noch umfassender, weil die Umgebungsvariable gespeicherte Keys überschrieb. Dieses Verhalten wurde in 0.8 im Rahmen von Issue #158 behoben. Das Advisory weist darauf hin, dass die Dokumentation api_key_name als Weg darstellt, einen anderen Key zu senden, und angibt, der OpenAI-Key werde nicht gesendet, wenn api_base gesetzt ist.

In 0.37.2 bricht ein Modell in dieser Konfiguration mit dem Fehler No key found ab, statt den Key aus der Umgebung zu senden. Der im Advisory vorgeschlagene Patch leert key_env_var, sobald api_base gesetzt ist. Das Advisory räumt ein, dass dies eine Verhaltensänderung ist: Wer sich darauf verlassen hat, dass OPENAI_API_KEY für ein solches Modell den Key eines Drittanbieters enthält, müsste llm keys set mit dem entsprechenden Namen ausführen. Als Alternative schlägt es eine Einstellung key_env_var in der YAML-Datei vor, die im geschlossenen Issue #566 diskutiert wurde.

Der zweite Fehler, GHSA-r639-rr7r-x72w, betrifft Modelle, die mit responses: true markiert sind und zugleich eine api_base haben. Wird ein solches Modell mit -o chat_completions 1 ausgeführt, sendet es den gespeicherten OpenAI-Key des Nutzers oder OPENAI_API_KEY an diesen Endpunkt. Das Advisory führt das auf die Reihenfolge bei der Konstruktion zurück. register_models() setzt needs_key erst nach dem Erzeugen des Modells auf None, wenn api_base gesetzt ist. Das Responses-Modell baut anschließend aus seinen Delegate-Keyword-Argumenten ein gleichrangiges Chat-Modell. Da needs_key aber kein Konstruktorargument ist, behält der Delegate den Klassenstandard openai. Das äußere Modell übergibt keinen Key, und get_client() des Delegates ruft dann get_key(None) auf, was den OpenAI-Key zurückliefert. Das Leck tritt nur auf, wenn kein api_key_name gesetzt ist, also genau in dem Fall, den die Dokumentation laut Advisory als sicher beschreibt. Die Doku in other-models.md hält fest, dass der vorhandene OpenAI-Key standardmäßig nicht gesendet wird, wenn api_base gesetzt ist. Als betroffenen Bereich nennt das Advisory 0.32a2 bis 0.37.1. Ab 0.32rc2 habe zudem der Befehl llm openai endpoint URL --responses, ausgeführt ohne --key und mit -o chat_completions 1, den Key auf dieselbe Weise preisgegeben.

Als Beleg dient im Advisory ein Test nach dem Vorbild der bestehenden Endpunkt-Tests des Projekts. Er führt dieselbe Anfrage einmal mit gespeichertem Key und einmal mit Key aus der Umgebung aus. Mit dem ungepatchten Code enthält der Authorization-Header den OpenAI-Key. Laut dem Autor schlägt ein Raster aus 12 Kombinationen von Modelltyp, Verwendung von api_key_name und Key-Quelle nur in genau diesen beiden Fällen fehl. Der vorgeschlagene Patch kopiert needs_key sowohl in der synchronen als auch in der asynchronen Responses-Methode auf den Delegate. Mit dem Patch besteht das Raster mit 12 Fällen, die gesamte Testsuite läuft mit 1319 Tests durch, und mypy meldet keine Fehler. Den Parameter in Chat.__init__ aufzunehmen, hat der Autor unterlassen, weil Plugins diese Klasse importieren.

Der Autor der Advisories beschreibt die Auswirkung als Offenlegung des OpenAI-Keys des Nutzers gegenüber jedem Server, auf den api_base zeigt. Das kann ein Drittanbieter, ein Proxy oder ein selbst gehostetes Gateway sein, und der Nutzer erhält keinen Hinweis darauf, dass der Key gesendet wurde. Auch das Advisory zum ersten Fehler hält fest, dass für den Nutzer nicht erkennbar ist, dass stattdessen der OpenAI-Key gesendet wurde. Laut beiden Berichten wurden die Fehler bei einer KI-gestützten Überprüfung der Dokumentation entdeckt. Der Autor hat jedes Problem reproduziert, den Patch lokal gegen main getestet und erklärt, dass die Fehler nirgendwo sonst offengelegt wurden. Ob in der Praxis tatsächlich echte Keys von Nutzern an Dritte gelangt sind, geht aus den Advisories nicht hervor.

Was sich ändert

Art: Sicherheit · Betrifft: llm 0.37.2

Warum es wichtig ist

Teams, die llm auf OpenAI-kompatible Endpunkte von Drittanbietern richten, könnten OpenAI-Zugangsdaten unbeabsichtigt an diese Anbieter weitergegeben haben.

Was Sie tun können

Aktualisieren Sie llm auf 0.37.2 und prüfen Sie die konfigurierten OpenAI-kompatiblen Endpunkte. Rotieren Sie den OpenAI-Key, falls ein nicht vorgesehener Endpunkt ihn erhalten haben könnte.

Originalquelle

Wo wir es gesehen haben

1 Quelle

Simon Willison

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es