AI News

Goodfire: Nachrichten

2 Meldungen über Goodfire.

OffiziellSicherheit ·

OpenAI startet eingebettete Prüfungen mit Apollo Research, METR, Transluce und Goodfire

Nach eigenen Angaben hat OpenAI die erste Phase eingebetteter Prüfungen begonnen, in der externe Evaluatoren das Alignment seiner Modelle, seine Schutzmechanismen und sein Monitoring untersuchen.

Warum es wichtig ist: Unabhängige Tests von Alignment und Monitoring geben Unternehmen, die OpenAI-Modelle kaufen, eine Einschätzung von dritter Seite zu den Schutzmechanismen von OpenAI. Befunde nennt die Ankündigung allerdings noch keine.

3 Quellen