DeepMinds AlphaProof Code schreibt 3 Millionen Zeilen Lean-Beweise für Signals Verschlüsselung
Laut Google DeepMind haben Agenten von AlphaProof Code drei Millionen Zeilen Lean-Beweise geschrieben, die die zentrale Verschlüsselung von Signal verifizieren.
Google DeepMind zufolge hat sein Framework AlphaProof Code mithilfe von KI-Agenten wesentliche Sicherheitseigenschaften des Codes hinter der Signal-Verschlüsselung mathematisch bewiesen. Beim Umfang des Ergebnisses widersprechen sich die beiden Quellen allerdings. Im Blogpost ist von über sechs Millionen Zeilen die Rede, die die Agenten erzeugt hätten, während das begleitende technische Paper von rund 6,5 Millionen Zeilen maschinell geprüften Beweiscodes spricht.
Ziel war libsignal, Signals Referenzimplementierung des Protokolls, und nicht das Protokoll, wie es auf dem Papier beschrieben ist. Laut Paper bewiesen die Agenten Eigenschaften eines Binärprogramms, das mit dem Standard-Compiler für AArch64 Linux aus dem unveränderten Rust-Code kompiliert und in einen kleinen Kommandozeilen-Harness eingebunden wurde. Die Beweise umfassen den Post-Quanten-Handshake PQXDH und den Triple Ratchet und sollen Forward Secrecy, Authentifizierung, Post-Compromise Security und die Geheimhaltung des Handshakes nachweisen. Dem Blogpost zufolge ist es das erste Mal, dass eine weit verbreitete Protokollimplementierung überhaupt formal verifiziert wurde, ob mit oder ohne KI. Frühere formale Arbeiten zu Signal stützten sich laut Paper auf abstrakte Modelle, Neuimplementierungen, veränderten Code oder engere Eigenschaften wie Absturzfreiheit.
Kern der Methode ist die Arbeitsteilung. Menschen schreiben in Lean eine Spezifikation, also eine formale Aussage darüber, was der Code garantieren muss. Diese Spezifikation ist der Teil, dem man vertrauen muss. Ein Spezifikations-Agent entwirft sie, Reviewer-Agenten kritisieren sie, und der Nutzer gibt sie frei. Danach erzeugen Beweis-Agenten die Beweise. Ein Gatekeeper akzeptiert einen Beweis nur, wenn der Kernel von Lean ihn erfolgreich prüft und ein Komparator bestätigt, dass er genau die freigegebene Aussage beweist. Da Lean jeden Schritt kontrolliert, wird ein fehlerhafter Beweis zurückgewiesen. Die Verlässlichkeit des Ergebnisses hängt also nicht von der Verlässlichkeit der Agenten ab, sehr wohl aber von der Korrektheit der Spezifikation. Das Paper räumt ein, dass menschliches Review nicht jeden Fehler in einer großen Spezifikation finden dürfte. Deshalb ergänzte das Team Reviewer-Agenten, Mutationstests und Beweise dafür, dass die Theoreme nicht bloß trivial (vakuös) wahr sind.
Die Vertrauensgrenze reicht zudem bis unterhalb der Spezifikation. Das Paper bezeichnet die Lean-Semantik des AArch64-Maschinencodes als vertrauenswürdige Definition. Sie umfasst 467 Instruktionen und 31 Systemaufrufe in 7.578 Zeilen und bildet weder Threads noch Signale, dynamisches Linken oder Dateien außerhalb des aktuellen Verzeichnisses ab. Programme, die darauf angewiesen sind, lassen sich nicht verifizieren. Für die kryptografischen Primitive wird keine Sicherheit bewiesen. Sie gehen als Annahmen in die Ergebnisse ein oder als vertrauenswürdige Verträge, die den Code durch ein Modell ersetzen. Laut Paper lässt sich auch nicht beweisen, dass die Semantik gegenüber echter Hardware und echten Kernels korrekt ist. Stattdessen testete das Team sie gegen Emulatoren und qemu-aarch64. Die symbolischen Beweise idealisieren die Kryptografie als Black Boxes, und die Geheimhaltung des Handshakes gegenüber einem künftigen Quantenangreifer wird nur in diesem symbolischen Modell beansprucht.
Am auffälligsten an der Ankündigung sind die Angaben zu Zeit und Aufwand, und sie stammen von DeepMind. Laut Blogpost dauerte die Verifikation vier Wochen, eine Aufgabe, für die Expertenteams bisher Jahre gebraucht hätten. Die Agenten prüften ihre eigenen Beweise und markierten etwa ein Prozent der Codebasis für eine zweite Prüfung durch Menschen, den Rest kontrollierte Lean. Der Post führt das als Grund dafür an, dass sich menschliche Reviewer auf jene Teile konzentrieren konnten, bei denen es auf Urteilsvermögen ankommt. Keine der beiden Quellen misst, wie lange vergleichbare Expertenarbeit dauert. Die Angabe von Jahren ist eine Schätzung, keine Messung.
Um zu prüfen, ob die Spezifikation guten von schlechtem Code unterscheiden kann, baute das Team zwei bereits behobene libsignal-Fehler in eine isolierte Kopie des Codes wieder ein. In beiden Fällen lieferte das System einen maschinell geprüften Beweis, dass die fehlerhafte Version unsicher war. Das Paper beschreibt außerdem einen Mutationstest, bei dem Agenten die MAC-Prüfung des Chiffretexts in Signal übersprangen und bewiesen, dass das Sicherheitstheorem für das mutierte Binärprogramm falsch ist. Diese Ergebnisse zeigen, dass die Spezifikation diese beiden Fehler und das mutierte Binärprogramm zurückweist. Sie zeigen nicht, dass außerhalb der genannten Eigenschaften und der Vertrauensgrenze keine weiteren Fehler verbleiben.
Signals Chief Technology Officer Ehren Kret wird im Post mit Lob für die Arbeit zitiert: Sie gehe deutlich über frühere formale Verifikationen mit kleinerem Umfang hinaus. DeepMind kündigt an, die Artefakte der formalen Verifikation als Open Source zu veröffentlichen, und das Paper verlinkt ein Code-Repository sowie eine Lean-Entwicklung. Der Post argumentiert außerdem, der Ansatz könne später auch für Firmware medizinischer Geräte und Software für Stromnetze genutzt werden. In Kombination mit dem Agenten CodeMender könne er zudem eine automatisierte Abwehr von Cyberbedrohungen unterstützen.
Was sich ändert
Art: Forschung · Betrifft: libsignal
Warum es wichtig ist
Sollte sich die Behauptung bestätigen, könnten KI-Agenten formale Beweise für große, sicherheitskritische Codebasen zu einer praktikablen Option für Unternehmen machen, die auf solche Software angewiesen sind.
Was Sie tun können
Teams, die für sicherheitskritischen Code verantwortlich sind, könnten ihre Anbieter fragen, ob für die Komponenten, auf die sie sich stützen, eine formale Verifikation verfügbar ist.
Wie sich die Meldung entwickelt hat
Ergänzt den Umfang auf Ebene des kompilierten Maschinencodes und eine Zahl von über 6 Millionen Zeilen Beweisen statt der 3 Millionen im früheren Bericht, dazu den Zeitrahmen von vier Wochen mit fünf Personen.
Originalquelle
Weitere Berichte
Wo wir es gesehen haben
Google DeepMind, Latent Space
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es