Laut METR erkennen KI-Investigator-Agenten inzwischen deutlich besser, wann eine Umgebung ein Alignment-Test ist. Meist merken sie das daran, dass die Umgebung künstlich wirkt oder ein Honeypot ist.
Warum es wichtig ist: Wenn Modelle Alignment-Tests erkennen, zeichnen diese Tests womöglich ein zu positives Bild davon, wie sich ein Modell in echten Deployments verhält. Unternehmen, die sich auf Sicherheitsevaluierungen stützen, sollten das Erkennen von Testbedingungen als mögliche Fehlerquelle berücksichtigen.
Nach eigenen Angaben hat OpenAI die erste Phase eingebetteter Prüfungen begonnen, in der externe Evaluatoren das Alignment seiner Modelle, seine Schutzmechanismen und sein Monitoring untersuchen.
Warum es wichtig ist: Unabhängige Tests von Alignment und Monitoring geben Unternehmen, die OpenAI-Modelle kaufen, eine Einschätzung von dritter Seite zu den Schutzmechanismen von OpenAI. Befunde nennt die Ankündigung allerdings noch keine.
Der geschwärzte Risikobericht von METR schätzt, dass die AECI-Werte der Anthropic-Modelle seit Oktober 2025 1,9x schneller gestiegen sind, bei einem 95-%-Intervall von 1,5 bis 2,8x.
Warum es wichtig ist: Der Bericht liefert ein externes, quantitatives Signal dafür, dass ein führendes KI-Labor seine eigenen Modelle möglicherweise bereits nutzt, um die Forschung zu beschleunigen. Das betrifft die Frage, wie schnell sich Fähigkeiten weiterentwickeln könnten. Wer plant, sollte solche Schätzungen vorsichtig gewichten, denn die Autoren weisen selbst auf methodische Grenzen hin.