AI News
Alle Meldungen
Offiziell

Recursa von Alibaba Research passt Agenten ohne Änderung der Modellgewichte an neue Domänen an

Alibaba Research stellt Recursa vor: Das System baut aus Aufgabenerfahrung ein validiertes Skill-Repository auf, damit sich ein Modell mit unveränderten Gewichten an eine neue Domäne anpassen kann.

Forschung · · 2 Min. Lesezeit

Alibaba Research hat mit Recursa ein System entwickelt, mit dem ein Sprachmodell in einer ungewohnten Domäne besser wird, ohne dass sich seine Gewichte ändern. Statt das Modell anzupassen, pflegt Recursa ein Wissens-Repository. Darin landen Domänen-Skills, Anweisungen, wann welcher Skill anzuwenden ist, Erinnerungen an frühere Aufgaben und Reflexionen darüber, was sich verbessern lässt. Auf dem juristischen Benchmark Firm Knowledge von Harvey LAB steigt die All-Pass-Rate bei zurückgehaltenen Testaufgaben laut Paper mit DeepSeek-V4.1-Flash von 30,0 % auf 55,0 %. Mit Qwen3.8-Flash steigt sie von 35,0 % auf 46,0 %.

Das Repository entsteht in zwei Phasen. Zuerst baut Recursa eine erste Fassung aus Domänenmaterialien auf. Danach verfeinert eine rekursive Selbstverbesserungsschleife das Repository. In dieser Schleife teilt ein Lerner seine Trainingsaufgaben in Teilmengen auf und übergibt sie an untergeordnete Lerner. Die Lerner auf der untersten Ebene lassen Solver parallel laufen, analysieren Fehlschläge und schlagen Änderungen vor. Nur Änderungen, die die Validierung bestehen, fließen zurück ins Repository. Laut Abstract kommt das System dabei ohne menschliche Fachleute und ohne stärkeres Lehrermodell aus. Die Kurator-Zusammenfassung des Papers ergänzt, dass dasselbe Modell, das die Aufgaben bearbeitet, auch die Überarbeitungen schreibt. Das unterscheidet den Ansatz von Destillation.

Gemessen werden die Zugewinne auf einem einzigen Benchmark mit zurückgehaltenen Aufgaben, wobei das Modell gleich bleibt, während sich das Repository verändert. Der Sprung von 30,0 % auf 55,0 % mit DeepSeek-V4.1-Flash ist der größere Gewinn. Das Ergebnis mit Qwen3.8-Flash, von 35,0 % auf 46,0 %, fällt kleiner aus und startet von einer anderen Ausgangsbasis. Die Einschränkungen im Paper selbst sind hier wichtig. Die Autoren schreiben, dass die Ergebnisse von der Qualität des Domänenkorpus abhängen, und die Kurator-Zusammenfassung hält fest, dass die Experimente eine einzige juristische Domäne abdecken. Zudem heißt es im Paper, dass die Ausweitung der Selbstverbesserung auf die Modellgewichte und den Harness noch in Arbeit ist. Das Design mit fixen Gewichten ist also vorerst eine Eingrenzung des Untersuchungsumfangs.

Der Ansatz richtet sich an Teams, die für eine neue Domäne nicht ohne Weiteres an von Fachleuten annotierte Trainingsdaten kommen. So beschreibt auch der arXiv-Abstract das Problem: Neue Domänen bieten selten große Mengen an von Experten erstellten Trainingsdaten oder verlässliche Überwachungssignale. Für solche Teams ist das Ergebnis kein feinabgestimmter Checkpoint, sondern ein Repository aus Skills, Anweisungen, Erinnerungen und Reflexionen, in das nur validierte Änderungen einfließen.

Was sich ändert

Art: Forschung · Betrifft: DeepSeek-V4.1-Flash, Qwen3.8-Flash

Warum es wichtig ist

Teams, die Agenten an spezialisierte Domänen anpassen, können womöglich zuerst ein validiertes Skill-Repository ausprobieren, bevor sie in Fine-Tuning investieren.

Was Sie tun können

Bauen Sie testweise ein validiertes Domänen-Skill-Repository auf, bevor Sie sich für einen neuen Agenten-Einsatzbereich auf Fine-Tuning festlegen.

Originalquelle

Wo wir es gesehen haben

1 Quelle

DAIR.AI (Elvis Saravia)

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es