Anthropic: 1.000 Agenten mit Claude Fable 5.2 reproduzieren formalen Beweis des Großen Fermatschen Satzes
Laut Anthropic hat ein Team aus 1.000 Agenten auf einer frühen Version von Claude Fable 5.2 einen formalen Beweis des Großen Fermatschen Satzes reproduziert.
Laut Anthropic hat ein Team aus 1.000 Agenten, die auf einer frühen Version von Claude Fable 5.2 liefen, in 28,7 Stunden einen formalen Beweis des Großen Fermatschen Satzes reproduziert. Die Plattform Prove2Me kam dabei nicht zum Einsatz, und kein Forscher steuerte die Arbeit. Der Beitrag des Unternehmens versteht den Lauf als Experiment zur sicheren Skalierung von Multi-Agenten-Teams. Er beschreibt außerdem, wie das Unternehmen tausend Agenten während der Arbeit abgeschottet hielt.
Als Vergleichsmaßstab dient Anthropics Formalisierung vom September. Damals arbeiteten Dutzende Agenten mit einem internen Modell, das in etwa Claude Fable 5.1 entsprach. Ein Forscher und diese Agenten brauchten 11 Tage und rund 6 Milliarden Output-Token, um 13 Millionen Zeilen Lean zu schreiben, jener Programmiersprache, in der ein Computer jeden Schritt eines Beweises prüft. Der neue Lauf kam mit einem Drittel der Output-Token aus. Laut dem Beitrag ist der neue Beweis ein Siebtel so lang wie der ursprüngliche. Absolute Zahlen zu Token oder Zeilen nennt er für den neuen Beweis jedoch nicht, zum Umfang gibt es also nur die Verhältniszahlen.
Prove2Me, die im September eingesetzte Plattform, koordinierte die Agenten über einen gemeinsamen Graphen, der jede Aussage mit den kleineren Aussagen verknüpfte, in die sie zerlegt worden war. Die Agenten konnten beim Graphen abfragen, welche unbewiesenen Teile bereit zur Bearbeitung waren. Jedes Teil lag in einer eigenen Datei, die sich für sich allein kompilieren ließ, sodass viele Agenten arbeiten konnten, ohne dieselben Dateien zu bearbeiten. Laut dem Beitrag scheiterten frühere Versuche daran, dass die Agenten den Überblick über den Projektstand verloren, und Prove2Me habe das behoben. Der neue Lauf verzichtete auf dieses Gerüst, die Agenten mussten ihre Koordination also selbst organisieren.
Der Harness gab jedem Agenten eine eigene schlanke virtuelle Maschine, denn eine einzige gemeinsame Maschine stieß bei etwa 100 Agenten an ihre Grenzen. Laut dem Beitrag musste mehr als die Hälfte der Läufe mit 100 Agenten gestoppt oder neu gestartet werden, weil Arbeitsspeicher, Festplatte oder CPU erschöpft waren. Jeder Agent hatte eine Shell, einen Dateieditor, die Lean-Toolchain und Mathlib, einen eigenen Git-Branch und Zugriff auf eine gemeinsame Postgres-Datenbank. Die Agenten erhielten 60 Aussagen: das finale Theorem, 59 Zwischenetappen, eine Skizze des klassischen Wegs in einem Satz, die in den Aussagen verwendeten Definitionen sowie 47 bewiesene Lemmata aus der früheren Formalisierung. Die einzige Struktur war eine Hierarchie aus einem Leiter und 999 Helfern. Der Harness schickte dem Leiter 19 automatische Erinnerungen an die verbleibende Zeit.
Der Leiter legte in den ersten 10 Minuten fünf Datenbanktabellen an, darunter eine für Anweisungen, eine für Zuweisungen und eine für eine To-do-Liste, aus der sich Helfer Aufgaben nehmen konnten. Er teilte die Aussagen auf Crews von 16 oder 17 Helfern auf, jede mit einem Captain. Nach etwa 27 Minuten stellte der Leiter 47 Aussagen zurück, die die meisten Helfer innerhalb des Budgets des Laufs für nicht machbar hielten, und verlegte fast alle Helfer auf die übrigen 10. Alle 10 waren nach rund 70 Minuten bewiesen. Laut dem Beitrag bewies das Team später die meisten der Aussagen, die die Helfer abgeschrieben hatten. Bis Stunde 5,6 hatten 73 Helfer 756 Aufgaben verfasst. Nur 16 dieser Helfer waren Captains, die Helfer hatten also einen Großteil der Planung übernommen, die ursprünglich den Captains zugedacht war.
Bis Stunde 18 war nur noch Langlands-Tunnell offen, samt den davon abhängigen Aussagen. Langlands-Tunnell ist ein klassisches Resultat, auf das sich der Beweis von Wiles stützt. Der zuständige Captain hatte zuvor geschätzt, dass dafür 0,7 bis 1 Million Zeilen Lean nötig wären und die Chance, rechtzeitig fertig zu werden, unter 1 % liege. Der Leiter richtete das Team dennoch darauf aus, verlegte etwa 750 Helfer auf die Aussage und schrieb: „Ehrlich gesagt stehen die Chancen schlecht.“ Die Aussage erforderte rund neunmal so viele Aufgaben wie jede andere, an der die Agenten gearbeitet hatten. Das Team baute einen Baum aus 2.418 Aufgaben mit bis zu 10 Ebenen, in dem ein Helfer ein zu schwieriges Teil weiter zerlegen konnte. Langlands-Tunnell war in Stunde 28,4 bewiesen, das finale Theorem in Stunde 28,7. Laut den Bildunterschriften bricht die Aktivität um Stunde 18 ab, als der Lauf vom letzten Speicherstand neu gestartet wurde und 12 weitere Stunden erhielt. Im Haupttext wird das nicht ausgeführt.
Kein Agent hatte Netzwerkzugriff. Seine einzige ausgehende Verbindung war eine Pipe zu einem Gateway, das jede Anfrage mit der Identität des Agenten versah. Der Kernel wurde ohne Funktionen gebaut, die einem Root-Nutzer direkten Zugang verschaffen, und lief im Kernel-Lockdown-Modus. Jede SQL-Anweisung hatte ein Limit von fünf Sekunden, Schreibvorgänge über 256 MiB wurden abgewiesen. Ein per Prompt gesteuerter LLM-Klassifikator prüfte jeden Shell-Befehl und jede Dateiänderung vor der Ausführung. Blockierte er einen Aufruf des Leiters, endete der Lauf. Eine Blockade bei einem Helfer entfernte nur diesen Helfer. Laut dem Beitrag erreichte unter mehr als einer Million Tool-Aufrufen keiner die Schwelle für eine Blockade. Als die Aufrufe mit dem Chain-of-Thought-Monitor und den heutigen Bewertungskriterien erneut durchgespielt wurden, kam nur einer in die Nähe: eine Prüfung auf Root-Zugriff.
Laut dem Beitrag erkannte der Chain-of-Thought-Monitor, der das Reasoning der Agenten und ihre Nachrichten untereinander liest, in den Red-Team-Evaluierungen des Unternehmens alle Sabotageversuche. Der Monitor kam kurz nach diesem Lauf hinzu. Dieser Lauf nutzte nur den aktionsbasierten Monitor, der Aktionen sieht, aber nicht das Reasoning. Das Unternehmen legt seine Überwachung nach eigenen Angaben auf die Möglichkeit aus, dass ein Modell fehlausgerichtet ist, weil Experimente wie dieses auf Modellen laufen können, deren Alignment-Bewertung vor der Veröffentlichung noch nicht abgeschlossen ist. Wie viele Red-Team-Versuche hinter der Aussage stehen, jeder Sabotageversuch sei erkannt worden, sagt der Beitrag nicht.
Was sich ändert
Art: Forschung · Betrifft: Claude Fable 5.2
Warum es wichtig ist
Der Lauf zeigt, wie große Agenten-Teams auf einen formalen mathematischen Beweis angesetzt werden, und legt nahe, dass koordinierte Agentenflotten lange, überprüfbare technische Arbeit bewältigen könnten. Unternehmen, die solche Setups erwägen, sollten beachten, dass Anthropic die gemeinsame Datenbank und die mehrschichtigen Sicherheitskontrollen als zentral für den Ansatz darstellt.
Wie sich die Meldung entwickelt hat
Ergänzt den Vergleich mit Opus 5.5, das im selben Setup in 18 Stunden 26 % erledigte.
Originalquelle
Wo wir es gesehen haben
Latent Space, Turing Post, claude.dev
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es