Google: Hacker bauen KI-Werkzeug, das Sicherheitsupdates in Angriffe verwandelt
Laut Google haben Angreifer ein KI-Werkzeug gebaut, das frisch veröffentlichte Sicherheitsupdates in Angriffe umsetzt, bevor Unternehmen sie installieren können. Ein Mensch ist daran nicht beteiligt.
Google zufolge haben Hacker ein KI-Werkzeug namens exploit_agent gebaut, das verbreitete Software auf neue Sicherheitspatches überwacht. Es ermittelt, was der jeweilige Fix behebt, schreibt einen Angriff auf die Schwachstelle und führt ihn aus. Kein Schritt wird von einem Menschen freigegeben. Die Google Threat Intelligence Group und die Incident-Response-Einheit Mandiant beschreiben das Werkzeug in einem Quartalsbericht. Ihnen zufolge ist es das erste Mal, dass sie beobachtet haben, wie Angreifer KI nutzen, um das Aufspüren und Ausnutzen von Schwachstellen vollständig zu automatisieren, ganz ohne menschliche Kontrolle.
Der Mechanismus beruht auf einer einfachen Tatsache über Patches: Wenn ein Softwarehersteller einen Fix ausliefert, verrät dieser Fix auch, wo die Lücke war. Laut Bericht ist exploit_agent ein Multi-Agenten-System, das laufend Differenzanalysen an weit verbreiteter Webanwendungssoftware durchführt. Es vergleicht den Code vor und nach Patch-Ankündigungen, analysiert die Unterschiede auf mögliche Schwachstellen, entwirft anschließend Exploits und führt sie automatisch aus. Laut Googles Bericht bindet das System mehrere Frontier-Modelle und lokale Sprachmodelle ein.
Google hat das Werkzeug nicht mitten in einem Angriff entdeckt. Die Forscher stießen auf einem offen zugänglichen Staging-Server darauf, einer Testmaschine der Betreiber, die aus dem Internet erreichbar geblieben war. Neben dem Werkzeug lagen von Opfern abgezogene Daten und mehrere Skripte für die Arbeit nach einer Kompromittierung: interne Aufklärung, Brute-Forcing, das Installieren von Webshells und das Entfernen der Webshells anderer Angreifer. Telemetriedaten der Opfer deuten darauf hin, dass sich der Betreiber für französische Websites aus der Medien- und Unterhaltungsbranche sowie aus dem Bildungsbereich interessierte. Der Bericht enthält ein Codebeispiel aus einer Analyse des WordPress-Plugins Spectra (Ultimate Addons for Gutenberg) in Version 2.19.25, in dem der Agent eine Zugriffskontrollprüfung untersucht.
Die Zuordnung steht auf wackligen Füßen. Wie CyberScoop berichtete, verzichteten Googles Analysten darauf, eine Gruppe oder einen Staat zu nennen. Der Hinweis auf russischsprachige Akteure stützt sich auf Kommentare im Code der Operation, darunter in einer Konfigurationsdatei. Diese weist den Nutzer an, LLM-API-Keys für die Auto-Exploitation dort einzutragen statt in einem Chat. Die Datei ist als Pilot gekennzeichnet. Der Bericht selbst spricht nur davon, dass das Werkzeug von Bedrohungsakteuren und einem Betreiber eingesetzt wurde.
Einiges lässt der Bericht offen. Er nennt weder die ausgenutzte Schwachstelle noch die Zahl der Opfer, noch wie lange das Werkzeug von einem neuen Patch bis zum Angriff brauchte. Er belegt auch nicht, dass exploit_agent die Einbrüche verursacht hat, deren erbeutete Daten daneben gefunden wurden. Auf genau diese Lücken wies laut einer Zusammenfassung von State of AI auch VentureBeat hin. Google und Mandiant verkaufen beide Sicherheitsdienstleistungen, und die Einstufung als „erster“ Fall ist Googles eigenes Urteil, keine unabhängig festgestellte Tatsache.
Als wichtigste Auswirkung nennt der Bericht das Tempo. Nachdem Hersteller am 21. Oktober zwei PHP-Schwachstellen gepatcht hatten, tauchten laut Google binnen weniger Tage Hunderte angebliche Exploits auf, die meisten davon funktionsunfähig und vermutlich mit LLMs erzeugt. Unabhängig davon zählte die GTIG laut Bericht im August 2026 22 Zero-Day-Exploits, gegenüber 11 pro Monat zuvor im Jahr 2026 und durchschnittlich 8 pro Monat im Jahr 2025. Ein Zero-Day ist eine Schwachstelle, die ausgenutzt wird, bevor der Softwarehersteller davon weiß oder einen Fix hat.
Die weiteren Beispiele im Bericht weisen in dieselbe Richtung. Greynoise meldete, dass ein Bedrohungsakteur vermutlich LLMs nutzte, um Exploits für zwei PaperCut-Schwachstellen, CVE-2026-81578 und CVE-2026-82078, zu bauen und zu testen. Vier Tage nach der ersten Offenlegung startete der Akteur eine Kampagne gegen Hunderte Organisationen. Laut Greynoise baute der Angreifer seinen ersten Zugang innerhalb von Minuten bis zum Domänenadministrator aus. Dabei kommt es auf die Patch-Fenster an: Laut Bericht verkürzen LLMs die Zeit, die Organisationen zum Patchen bleibt.
Derzeit tauschen die Werkzeuge laut Bericht Tarnung gegen Tempo. Uneingeschränkte autonome Ausführung erzeugt forensisch auswertbaren Datenverkehr, stützt sich auf erkennbare Kennungen und hinterlässt eindeutige Spuren im Code, was die Wahrscheinlichkeit einer Entdeckung erhöht. Die Autoren schreiben, dass die Werkzeuge weiterhin sehr gut in der Lage sind, ihre Ziele zu erreichen. Googles Security-Operations-Team hat Rulepacks bereitgestellt, die den Einsatz von ARTEX erkennen, einem separaten Framework, das der Bericht behandelt. Mandiant Consulting hat einen Härtungsleitfaden veröffentlicht, der auf Tempo und Ausmaß LLM-gestützter Angriffswerkzeuge zugeschnitten ist.
Was sich ändert
Art: Sicherheit · Betrifft: exploit_agent
Warum es wichtig ist
Trifft Googles Darstellung zu, wird die Zeitspanne zwischen der Veröffentlichung eines Fixes und der Installation des Patches zur direkten Angriffsfläche. Langsames Patchen ist damit riskanter als bisher.
Was Sie tun können
Prüfen Sie, wie schnell Ihre Teams Sicherheitspatches für KI-Werkzeuge, Bibliotheken und Infrastruktur einspielen, und verkürzen Sie diese Zeitspanne dort, wo sie zu lang ist.
Originalquelle
Weitere Berichte
Wo wir es gesehen haben
State of AI (Melissa Rosenthal)
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es