Arca: KI-Agenten arbeiten bis zu zehn Tage an Aufgaben, Menschen geben Trades und Zahlungen frei
Laut Arcas KI-Chef erledigen die Agenten langwierige Arbeit in der Vermögensverwaltung mit einem eigenen Harness und Gedächtnissystem. Die finanziellen Entscheidungen treffen am Ende Menschen.
Arca bezeichnet sich selbst als KI-native Vermögensverwaltung. Nach eigenen Angaben erledigen die Agenten des Unternehmens den Großteil der Hintergrundarbeit, während menschliche Berater die finalen finanziellen Entscheidungen treffen. Eine einzelne Aufgabe kann einen Agenten bis zu zehn Tage beschäftigen. Aman Singh, Lead AI Engineer bei Arca, beschrieb diese langfristige Arbeit im Podcast Latent Space als „sehr stockend“, mit vielen Übergaben und Entscheidungspunkten.
Für jeden Kunden führt Arca ein dauerhaftes Gedächtnis, in das die Agenten schreiben. Laut Singh hält es fest, was bisher geschehen ist, was in den nächsten Tagen und langfristig beobachtet wird und welche Person für welche Aktion verantwortlich ist.
Arca setzt Modelle führender Labs ein, darunter Anthropic und OpenAI, wobei Claude als primärer Anbieter dient. Der eigene Harness, also die Softwareschicht, die die Modelle umschließt und ihnen Arbeit zuteilt, wählt für jede Aufgabe ein Modell auf Basis interner Benchmarks aus. Weil Arca einen eigenen Harness besitzt, statt auf einen verwalteten Agenten-Harness zu setzen, bleibe das Unternehmen flexibel und könne bei Bedarf den Anbieter wechseln, so Singh.
Bei der Sicherheit setzt Arca laut Singh vollständig auf deterministische Regeln: „Alle unsere Sicherheitsbeschränkungen sind vollständig deterministisch“, sagte er. Sie würden „dem Agenten die Entscheidung aus der Hand nehmen“. In der Praxis können Agenten analysieren und Lösungen vorschlagen, Trades und jede andere Geldbewegung bleiben aber bei einem menschlichen Berater. Zusätzlich prüft Arca auf bekannte KI-Sicherheitsprobleme wie Prompt Injection. Welche Werkzeuge auf der Seite des Agenten liegen und welche auf der des Menschen, wurde im Gespräch nicht aufgeschlüsselt.
Für den Zugriff auf Kundendaten gelten zusätzliche Schutzmaßnahmen. Laut Singh schreiben die Agenten Code, um Kundendaten abzufragen. Dieser Code wird in ein striktes, vom Unternehmen vorgegebenes Format übersetzt und danach verworfen. Auf dieses Format werden Guardrails angewendet, bevor irgendetwas die Backend-Systeme erreicht. Der Agent selbst läuft nicht in einer Sandbox, nutzt aber Sandboxes für Berechnungen. So könnten Agenten Kundendaten zusammenführen und umformen, um etwa einen Finanzplan zu erstellen, während die Guardrails steuern, was zu den dahinterliegenden Systemen gelangt, erklärte Singh.
Außerdem speist Arca das Feedback der Berater und die Traces der Agenten in einen „Meta-Agenten“ ein, der diese Daten auswertet und Änderungen am Harness vorschlägt. Wie Latent Space berichtete, hat Arca kürzlich 48,5 Millionen US-Dollar in einer von General Catalyst angeführten Finanzierungsrunde eingesammelt, an der sich auch Index Ventures und Venrock beteiligten.
Warum es wichtig ist
Unternehmen, die mehrtägige Agenten-Workflows in regulierten Umfeldern betreiben, behalten die Kontrolle, wenn sie den Harness selbst besitzen, den dauerhaften Zustand außerhalb des Modells speichern und Handlungsgrenzen im Code statt über Prompts durchsetzen.
Was Sie tun können
Prüfen Sie, welche Aktionen von Agenten in Ihren eigenen Workflows sich mit deterministischen Regeln absichern lassen, und lassen Sie Schritte, die Geld bewegen oder Kunden betreffen, weiterhin von Menschen freigeben.
Originalquelle
Für diese Meldung haben wir noch keinen Link zur Originalquelle.
Wo wir es gesehen haben
Latent Space
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es