AI News

KI-Nachrichten: Sonntag, 1. November 2026

10 Meldungen, die wichtigste zuerst.

OffiziellSicherheit · · Aktualisiert

Studie: 0,1 % vergiftete Pretraining-Daten reichen für eine Hintertür in CLI-Agenten

Ein Paper aus dem Anthropic Fellows Program, von Anthropic, der UC Berkeley und der UIUC beschreibt eine Backdoor zur Remote Code Execution, die auch eine saubere Post-Training-Pipeline übersteht.

Warum es wichtig ist: Teams, die Coding- oder CLI-Agenten auf Basis fremder Basismodelle einsetzen, sind einem Lieferkettenrisiko ausgesetzt, das übliches Post-Training womöglich nicht beseitigt. Da der Trigger hier ein gewöhnlicher Dateipfad war, könnte eine Prüfung auf offensichtlich bösartige Prompts ihn übersehen.

2 Quellen
OffiziellModelle ·

Google stellt offenes EmbeddingGemma 2 mit 744 Mio. Parametern für Text, Bild, Audio und Video vor

Das offene Modell bildet Text, Bilder, Audio, Video und gemischte Eingaben in einem gemeinsamen Vektorraum ab und wird als praxistaugliche Option für den Einsatz direkt auf Geräten beschrieben.

Warum es wichtig ist: Unternehmen, die Retrieval über gemischte Medien auf Geräten oder in latenzkritischen Systemen betreiben, erhalten eine offene Option, die trotz deutlich geringerer Modellgröße nur wenig Genauigkeit einbüßt. Durch das modulare Laden können Teams nur jene Encoder einsetzen, die sie tatsächlich brauchen.

1 Quelle
OffiziellForschung ·

Studie: Einfache farbige Symbole lenken Vision-Language-Modelle zur Rekursion

Forschende von Google DeepMind und Stanford zeigen: Visuelle Symbole verändern das Verhalten von Modellen bei sachfremden Aufgaben, und die Modelle benennen diesen Einfluss nicht.

Warum es wichtig ist: Agenten, die Screenshots lesen, können ihr Verhalten auf eine Weise ändern, die ihre Reasoning Traces nicht zeigen. Das erschwert Audits. Ergebnisse können sich durch visuellen Kontext verschieben, den niemand in den Prompt geschrieben hat.

1 Quelle
OffiziellForschung ·

HarnessMM verwendet bereits getroffene Agenten-Entscheidungen wieder und senkt den Token-Verbrauch bei HumanEval um 87,93 %

Forschende der Tsinghua University und von Microsoft Research Asia berichten: Durch die Wiederverwendung bereits getroffener Entscheidungen stieg die Erfolgsquote von DeepSeek Harness bei 98 Aufgaben von 71,43 % auf 85,71 %.

Warum es wichtig ist: Wiederholte Modellaufrufe in Agenten-Harnesses verursachen direkte Kosten. Teams können daher möglicherweise Geld sparen, bevor sie ein größeres Modell brauchen. Die Autoren weisen allerdings darauf hin, dass die Einsparungen von der Cache-Abrechnung des Anbieters abhängen und davon, wie viele Aktionen bereits entschieden sind.

1 Quelle
OffiziellForschung ·

Studie: Separate Kritiker-Agenten bringen 5,9 bis 9,5 Punkte auf Terminal-Bench

Forschende von Alibaba und Cornell haben 17 Verifikationsdesigns mit sieben führenden Coding-Modellen auf Terminal-Bench und SWE-bench Verified verglichen.

Warum es wichtig ist: Ein einziger zusätzlicher Prüfschritt bringt einen gemessenen Genauigkeitsgewinn bei moderaten Kosten, während aufwendigere Gates die Ausgaben vervielfachen können. Teams können mit diesen Zahlen begründen, warum ein einzelner Verifikationsdurchgang aufwendigeren Gates vorzuziehen ist.

1 Quelle
OffiziellForschung ·

EMMA schlägt Multi-Agenten-Baselines auf drei Benchmarks mit gezielten Gedächtnisänderungen

Forschende der UC San Diego und von Amazon berichten, dass EMMA auf KramaBench, AppWorld und BBEH über fünf Backbones hinweg insgesamt am besten abschneidet.

Warum es wichtig ist: Baselines, die auf Frontier-Modellen gut abschneiden, können bei Open-Weight-Modellen deutlich einbrechen. Methoden zum Tuning von Agenten müssen daher über verschiedene Backbones hinweg getestet werden. Die Autoren weisen darauf hin, dass akzeptierte Änderungen auch dann bestehen bleiben, wenn eine Aufgabe ungelöst bleibt.

1 Quelle
OffiziellForschung ·

AgentBaton-Detektor senkt API-Kosten um 65,9 % durch Wechsel auf günstigere Modelle mitten in der Aufgabe

Forschende von NVIDIA, HKUST und UIUC stellen einen Detektor für eine einmalige Übergabe vor, der die API-Kosten im Schnitt um 65,9 % senkt und die Genauigkeit weitgehend erhält.

Warum es wichtig ist: Teams, die lange Agenten-Aufgaben ausführen, könnten ihre Ausgaben senken, indem sie einen Teil der Arbeit eines Agenten an günstigere Modelle weiterleiten. Wie hoch die Ersparnis ausfällt, hängt von den eingesetzten Modellpaaren ab und davon, ob das günstigere Modell lokal läuft.

1 Quelle
OffiziellForschung ·

Unified Training vereint Pretraining, RL und Fine-Tuning unter einem Likelihood-basierten Loss

Forschende von CMU, Johns Hopkins und Aurora Innovation zeigen, dass sich alle Trainingsphasen von Foundation Models mit einem einzigen Likelihood-basierten Algorithmus durchführen lassen.

Warum es wichtig ist: Sollte sich der Ansatz auch im großen Maßstab bewähren, könnte eine einzige Trainings-Pipeline vereinfachen, wie Teams Modelle entwickeln. Die bisherigen Ergebnisse stammen aus kleinen Experimenten, der Nutzen ist also noch nicht belegt.

1 Quelle
OffiziellForschung ·

DecisionRAG ersetzt den Retriever der ersten Stufe durch ein hierarchisches Entscheidungsmodell

Forschende von Cornell und ASAPP schlagen ein Entscheidungsmodell vor, das den Korpus von breiten Themen bis zu einzelnen Passagen durchläuft und Dense Retrieval mit einem 8B-Reranker übertrifft.

Warum es wichtig ist: Retrieval-Pipelines, die auf Keyword-Abgleich oder festen Embeddings beruhen, übersehen womöglich Inhalte, die ein hierarchisches Entscheidungsmodell erreichen könnte, allerdings nur dort, wo der Korpus gut organisiert ist.

1 Quelle
OffiziellForschung ·

Klassisches Reranker-Fine-Tuning schlägt Decision-Fine-Tuning bei Qwen-Rerankern bis 9B

Forschende aus Passau und von der IT:U zeigen: Klassisches Reranker-Fine-Tuning liegt von 0,6B bis 9B Parametern um 5 bis 29 nDCG@10-Punkte vorne.

Warum es wichtig ist: Teams, die Reranking für Suche oder Retrieval entwickeln, sollten nicht davon ausgehen, dass Fine-Tuning im Decision-Stil die Ranking-Qualität verbessert. In diesen Tests war klassisches Reranker-Fine-Tuning bis 9B Parameter die stärkere Option.

1 Quelle