Drafter- und Reviewer-Agenten eines Pre-Sales-Assistenten drehten über 800 Schleifen bis zur Abschaltung
Ingenieure stoppten einen Pre-Sales-Assistenten, nachdem seine Drafter- und Reviewer-Agenten mehr als 800 Schleifen gedreht hatten. Der Fall kam auf der AGNTCon + MCPCon zur Sprache.
Beim Pre-Sales-Assistenten eines Kunden mussten Ingenieure die Agenteninstanz abschalten, nachdem ihre Drafter- und Reviewer-Agenten mehr als 800 Iterationen desselben Austauschs durchlaufen hatten. Jay Mehta von Cygnet Infotech schilderte den Fall in seinem Vortrag auf der AGNTCon + MCPCon North America. Der Drafter lieferte immer neue Antworten, der Reviewer verlangte immer neue Änderungen. Der Kreislauf lief weiter, bis er die Infrastruktur in Mitleidenschaft zog. Laut der Darstellung des Vortrags im AAIF-Blog konnten die Betreuer des Systems nicht erkennen, was geschah, während sich die beiden Agenten im Kreis drehten.
Mehtas Team hatte den Assistenten für einen Kunden gebaut, doch es fehlte eine wirksame Abbruchbedingung. Jeder Agent erfüllte seine zugewiesene Rolle, und nichts im umgebenden System bemerkte, dass ihre Interaktion keine Fortschritte mehr machte. Der Autor des Blogbeitrags, Steve Kearns, beschreibt das als teure Lektion: Zwei Agenten, die jeweils ihre Arbeit machen, ergeben nicht zwangsläufig ein funktionierendes Team. In Mehtas Fall bestand der Schaden aus verschwendeter Rechenleistung und einem abgebrochenen Prozess. Ernster wird dasselbe Muster, wenn Agenten auf gemeinsamer Infrastruktur handeln.
Aditi Mewada, Software-Ingenieurin bei Apple, die als Privatperson sprach, skizzierte ein hypothetisches Szenario. Darin leitet ein Remediation-Agent den Traffic aus einer ausfallenden Availability Zone ab, während ein Kosten-Agent 12 Knoten mit rund 4% CPU-Auslastung im Leerlauf sieht und sie beendet. Sobald sich die Zone erholt, schickt der Remediation-Agent den Traffic in eine leere Zone zurück und verursacht einen Ausfall. Keiner der beiden Agenten hat einen Bug. Jede Entscheidung war innerhalb des eigenen Zuständigkeitsbereichs sinnvoll, doch diese Zuständigkeiten waren nicht aufeinander abgestimmt. Mewadas Lösungsvorschlag ist ein zentraler Schiedsrichter zwischen Agenten und Infrastruktur. Die Agenten reichen Vorschläge ein, statt direkt zu handeln. Der Schiedsrichter weist Pläne zurück, die auf veralteten Ressourcenversionen beruhen, und vergibt zeitlich begrenzte Leases, um Konflikte aufzulösen. In ihrer Hierarchie hat Sicherheit Vorrang vor Verfügbarkeit, Verfügbarkeit vor Performance und Performance vor Kosten. Der Schiedsrichter enthält kein LLM. Seine Entscheidungen folgen Regeln in deterministischem Code.
Praneeth Patil von CoreWeave sprach ein enger gefasstes Problem an. Ein Flugbuchungs-Agent, der auf eine Reservierungsanfrage keine Antwort erhält, versucht es womöglich erneut. Gehen beide Anfragen durch, entstehen aus einer Anweisung zwei Buchungen. Idempotency Keys, ein bekanntes Werkzeug aus verteilten Systemen, können wiederholte Anfragen als dieselbe Operation erkennen. Patil nannte eine zusätzliche Schwierigkeit: Ein Modell, das einen Schritt wiederholen soll, führt ihn unter Umständen leicht anders aus. Deshalb sollte seiner Ansicht nach der Orchestrator die Keys erzeugen und verwalten, statt das dem Modell zu überlassen.
Der Schiedsrichter-Ansatz funktioniert, wenn eine einzige Organisation die Infrastruktur kontrolliert. Jodee Varney von Outshift by Cisco stellte mit Mycelium ein anderes Design vor, in dem Agenten als Gleichrangige verhandeln. In einer Demonstration bewerteten die Agenten jedes Angebot mit 0 bis 100 Punkten, und deterministischer Code wählte das Angebot mit der höchsten Mindestbewertung. Varney beschrieb außerdem, wie Agenten einen falschen Konsens entwickeln: Sie übernehmen eine Schlussfolgerung, weil andere zugestimmt haben, statt die Belege zu prüfen. Die Mechanismen ihres Teams verbrauchen zusätzliche Token. Die Qualität der Ergebnisse hängt davon ab, ob man den selbst angegebenen Bewertungen der Agenten trauen kann, und Mycelium geht derzeit davon aus, dass das der Fall ist.
Munindar Singh von der North Carolina State University wählte einen dritten Weg mit expliziten Verpflichtungen zwischen autonomen Teilnehmern. In seinem Beispiel verspricht Alice Bob eine Flasche Wasser, wenn Bob 1 US-Dollar zahlt. Das Protokoll kann anhand formaler Regeln feststellen, ob eine Verpflichtung erfüllt oder verletzt wurde. Es akzeptiert auch, dass ein Teilnehmer eine Verpflichtung bewusst bricht, wie es Fluggesellschaften tun, wenn sich Überbuchung wirtschaftlich lohnt. Eine separate Kompensationsverpflichtung legt dann die Abhilfe fest. Das formale Protokoll erkennt den Verstoß, doch keiner der beiden Mechanismen garantiert, dass das ursprüngliche Versprechen eingehalten wird.
Jay Mehtas Harness, aufgebaut auf der MAST-Fehlertaxonomie mit 14 Fehlermodi, ergänzte Iterationslimits, Prüfungen auf wiederholte Zustände sowie Zeit- und Token-Budgets. Zugleich warnte er davor, die Klassifizierungen eines LLM-Judges als maßgeblich zu behandeln, da auch gut gemeinte Schutzmechanismen legitime Arbeit blockieren können. Teams sollten seiner Ansicht nach die verbrauchten Token pro abgeschlossener Aufgabe messen, nicht nur die zusätzlichen Token für die Verifikation. Er berichtet von höheren Abschlussraten nach Einführung des Harness. Laut dem Blog erhielt er keine Freigabe, die Leistungszahlen seines Teams zu veröffentlichen.
Über alle Vorträge hinweg sind sich die Sprecher uneinig, wie Agenten sich koordinieren sollen, aber einig darin, dass wichtige Regeln in Code gehören und nicht allein in Modellanweisungen. Der Hauptunterschied liegt darin, wie viel Freiheit jeder Agent innerhalb dieser Regeln hat. Ein zentraler Schiedsrichter passt zu einer einzelnen Organisation, die gemeinsame Prioritäten durchsetzen kann. Verhandlung oder explizite Verpflichtungen eignen sich für Fälle, in denen kein Teilnehmer Weisungsbefugnis über die anderen hat. Für Entwickler lautet die praktische Frage, welche Aktionen automatisch blockiert werden können und bei welchen Meinungsverschiedenheiten ein Mensch entscheiden muss.
Warum es wichtig ist
Multi-Agenten-Systeme können in Schleifen geraten oder Aktionen wie Buchungen wiederholen. Vor dem produktiven Einsatz brauchen sie daher explizite Koordinationsmechanismen.
Was Sie tun können
Ergänzen Sie jeden Multi-Agenten-Workflow um ein Schleifenlimit und eine Kontrolle auf Orchestrator-Ebene, etwa Idempotency Keys.
Originalquelle
Wo wir es gesehen haben
Demetrios from the AAIF
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es