AI News
Alle Meldungen
Berichtet

Newsom empfiehlt grundlegende Sicherheitsstandards und unabhängige Tests für leistungsstarke KI

Die Empfehlungen von Kaliforniens Gouverneur Gavin Newsom sähen unabhängige Tests von Training bis Deployment vor und würden es dem Bundesstaat erlauben, gefährliche Modelle vom Netz nehmen zu lassen.

Politik und Regulierung · · 1 Min. Lesezeit

Kaliforniens Gouverneur Gavin Newsom hat Empfehlungen für grundlegende Sicherheitsstandards und unabhängige Tests leistungsstarker KI-Systeme veröffentlicht, die über Training und Deployment hinweg gelten sollen. Zudem bekäme der Bundesstaat eine Notfallbefugnis, ein gefährliches Modell vom Netz nehmen zu lassen. Es handelt sich um Empfehlungen, nicht um geltendes Recht. Der Gesetzgeber müsste das gesamte Paket beschließen, und die Landesbehörden arbeiten derzeit die Details der Umsetzung aus.

Der Plan geht über den bisherigen Ansatz des Bundesstaats hinaus, der auf Offenlegung setzt. Er würde die Meldepflichten bei Vorfällen ausweiten, überprüfte Abschaltverfahren verlangen und rekursive Selbstverbesserung begrenzen. Diesen letzten Punkt beschreiben die Empfehlungen als Fall, in dem ein KI-System ohne direkte menschliche Kontrolle dabei hilft, einen leistungsfähigeren Nachfolger zu entwickeln.

Die Empfehlungen bauen auf zwei Gesetzen auf, die Newsom in diesem Jahr unterzeichnet hat. SB 813 schafft einen Rahmen für die Zertifizierung unabhängiger KI-Prüfstellen, AB 1405 richtet ein Register und Standards für KI-Auditoren ein. Beschließt der Gesetzgeber das gesamte Paket, ginge Kalifornien über Offenlegungsregeln und freiwillige Zusagen der Unternehmen hinaus. Stattdessen würde der Bundesstaat auf eine laufende externe Aufsicht zusteuern, sobald ein Frontier-Modell ein unmittelbares Sicherheitsrisiko darstellt.

Was sich ändert

Art: Regeln und Regulierung · Betrifft: California

Warum es wichtig ist

Beschließt der Gesetzgeber das Paket, müssten Unternehmen, die Frontier-Modelle in Kalifornien einsetzen, womöglich nicht nur Offenlegungspflichten erfüllen, sondern sich auch laufenden externen Tests unterziehen und Abschaltpflichten nachkommen.

Was Sie tun können

Verfolgen Sie das kalifornische Gesetzespaket sowie die Regeln für Prüfstellen und Auditoren, wenn Ihr Unternehmen dort Frontier-Modelle einsetzt.

Originalquelle

Für diese Meldung haben wir noch keinen Link zur Originalquelle.

Wo wir es gesehen haben

1 Quelle

Forward Future (Matthew Berman)

California

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es