AI News

UC Berkeley: Nachrichten

2 Meldungen über UC Berkeley.

OffiziellForschung ·

Studie aus Berkeley und Illinois: Agentenkosten entstehen durch Kontext-Lesen und Tool-Aufrufe

Die UC Berkeley und die University of Illinois Urbana-Champaign analysieren die Kosten von KI-Agenten und entwickeln Agency, eine Schicht, die Kosten senkt, ohne das Modell zu verändern.

Warum es wichtig ist: Unternehmen, die KI-Agenten betreiben, könnten feststellen, dass ein Großteil ihrer Rechnung aus wiederholtem Kontext-Lesen und zusätzlichen Tool-Aufrufen stammt. Das lässt sich optimieren, ohne das Modell zu wechseln.

1 Quelle
OffiziellSicherheit · · Aktualisiert

Studie: 0,1 % vergiftete Pretraining-Daten reichen für eine Hintertür in CLI-Agenten

Ein Paper aus dem Anthropic Fellows Program, von Anthropic, der UC Berkeley und der UIUC beschreibt eine Backdoor zur Remote Code Execution, die auch eine saubere Post-Training-Pipeline übersteht.

Warum es wichtig ist: Teams, die Coding- oder CLI-Agenten auf Basis fremder Basismodelle einsetzen, sind einem Lieferkettenrisiko ausgesetzt, das übliches Post-Training womöglich nicht beseitigt. Da der Trigger hier ein gewöhnlicher Dateipfad war, könnte eine Prüfung auf offensichtlich bösartige Prompts ihn übersehen.

2 Quellen