Studie: 0,1 % vergiftete Pretraining-Daten reichen für eine Hintertür in CLI-Agenten
Ein Paper aus dem Anthropic Fellows Program, von Anthropic, der UC Berkeley und der UIUC beschreibt eine Backdoor zur Remote Code Execution, die auch eine saubere Post-Training-Pipeline übersteht.
Warum es wichtig ist: Teams, die Coding- oder CLI-Agenten auf Basis fremder Basismodelle einsetzen, sind einem Lieferkettenrisiko ausgesetzt, das übliches Post-Training womöglich nicht beseitigt. Da der Trigger hier ein gewöhnlicher Dateipfad war, könnte eine Prüfung auf offensichtlich bösartige Prompts ihn übersehen.