US-Heimatschutzminister bringt KI als mögliche Ursache großer Tech-Ausfälle ins Spiel
Markwayne Mullin meinte, KI könnte zu Ausfällen bei Microsoft, JPMorgan Chase und im US-Flugverkehr beitragen. Belege für einen direkten Zusammenhang gibt es keine.
Heimatschutzminister Markwayne Mullin hat angedeutet, dass KI zu großen Technologieausfällen beitragen könnte, von denen Microsoft, JPMorgan Chase und der US-Flugverkehr betroffen waren. Er warnte, autonome KI-Systeme, die Code verändern, könnten eine veraltete Infrastruktur überfordern. Belege, die KI direkt mit den Vorfällen in Verbindung bringen, gibt es nicht. Seine Bemerkung nennt eine mögliche Ursache und ist kein Befund darüber, was tatsächlich ausgefallen ist.
Der KI-Forscher Gary Marcus argumentierte in eine ähnliche, aber allgemeinere Richtung. Er warnte, unsicherer KI-generierter Code und schlecht beaufsichtigte Agenten könnten kritische Infrastruktur gefährden, und vertrat die Ansicht, dass bestehende Schutzmechanismen mit der Technologie nicht Schritt gehalten hätten. Er forderte eine Pause beim Einsatz autonomer Agenten sowie eine Meldepflicht für schwerwiegende KI-Vorfälle.
Warum es wichtig ist
Auf autonome Agenten, die Code verändern, könnten neue Meldepflichten und eine genauere Prüfung ihres Einsatzes zukommen. Das betrifft Teams, die Agenten Änderungen an Produktivsystemen vornehmen lassen.
Was Sie tun können
Prüfen Sie, welche Agenten Produktivcode verändern dürfen, und verlangen Sie für diese eine menschliche Freigabe sowie die Protokollierung von Vorfällen.
Originalquelle
Für diese Meldung haben wir noch keinen Link zur Originalquelle.
Wo wir es gesehen haben
Forward Future (Matthew Berman)
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es