AI News

UIUC: Nachrichten

2 Meldungen über UIUC.

OffiziellSicherheit · · Aktualisiert

Studie: 0,1 % vergiftete Pretraining-Daten reichen für eine Hintertür in CLI-Agenten

Ein Paper aus dem Anthropic Fellows Program, von Anthropic, der UC Berkeley und der UIUC beschreibt eine Backdoor zur Remote Code Execution, die auch eine saubere Post-Training-Pipeline übersteht.

Warum es wichtig ist: Teams, die Coding- oder CLI-Agenten auf Basis fremder Basismodelle einsetzen, sind einem Lieferkettenrisiko ausgesetzt, das übliches Post-Training womöglich nicht beseitigt. Da der Trigger hier ein gewöhnlicher Dateipfad war, könnte eine Prüfung auf offensichtlich bösartige Prompts ihn übersehen.

2 Quellen
OffiziellForschung ·

AgentBaton-Detektor senkt API-Kosten um 65,9 % durch Wechsel auf günstigere Modelle mitten in der Aufgabe

Forschende von NVIDIA, HKUST und UIUC stellen einen Detektor für eine einmalige Übergabe vor, der die API-Kosten im Schnitt um 65,9 % senkt und die Genauigkeit weitgehend erhält.

Warum es wichtig ist: Teams, die lange Agenten-Aufgaben ausführen, könnten ihre Ausgaben senken, indem sie einen Teil der Arbeit eines Agenten an günstigere Modelle weiterleiten. Wie hoch die Ersparnis ausfällt, hängt von den eingesetzten Modellpaaren ab und davon, ob das günstigere Modell lokal läuft.

1 Quelle