Stanford-Studie: KI-Unterstützung in über einem Drittel der Klagen in Santa Clara
Laut den Forschenden stiegen die Anzeichen für KI-gestütztes Verfassen von nahezu null im Jahr 2022 auf mehr als ein Drittel der untersuchten Klagen in Santa Clara im Jahr 2026.
Forschende in Stanford schätzen, dass die Anzeichen für KI-gestütztes Verfassen von nahezu null im Jahr 2022 auf mehr als ein Drittel der untersuchten Klagen im Santa Clara County im Jahr 2026 gestiegen sind. Veröffentlicht haben die Ergebnisse das Stanford Institute for Human-Centered AI und dessen Regulation, Evaluation, and Governance Lab (RegLab). Bei Verfahren ohne Inkassobezug lag der Anteil 2026 im Santa Clara County bei 38% und im San Francisco County bei 36%. In den Countys Tulsa und Oklahoma im Bundesstaat Oklahoma waren es dagegen 17% bzw. 16%.
Die KI-Nutzung hängt auch davon ab, wer die Klage einreicht. In Santa Clara stieg der Anteil der Klagen von Personen ohne anwaltliche Vertretung mit Anzeichen für KI-Nutzung von 19% im Jahr 2024 auf 72% im Jahr 2026. Bei Klagen, die von Anwältinnen und Anwälten eingereicht wurden, stieg der Anteil von 5% auf 34%. Auch die Art des Verfahrens spielt eine Rolle: Arbeits- und Wirtschaftsklagen in Kalifornien weisen die höchsten Werte auf. Inkassoklagen beruhen dagegen auf Vorlagen und machen an manchen Gerichten fast die Hälfte aller Eingaben aus, zeigen aber kaum KI-Nutzung. Innerhalb eines Schriftsatzes taucht KI-typischer Text häufiger in der Sachverhaltsdarstellung und bei den Klagegründen auf.
Die Messung ist schwierig, und handelsübliche Detektoren sind für juristische Texte laut den Forschenden unzuverlässig. Die Rechtssprache verwendet einen engeren Wortschatz als die Alltagssprache und stützt sich stark auf wiederkehrende Standardformulierungen, wodurch ein Detektor weniger Anhaltspunkte hat. Zudem könnten juristische Texte in kommerziellen Trainingsdaten gefehlt haben. Die Ergebnisse reagieren empfindlich auf die Einstellungen: Ein KI-Detektor stufte je nach Konfiguration zwischen 10% und 98% derselben Klagen aus Santa Clara aus dem Jahr 2026 als KI-generiert ein.
Um dieses Problem zu umgehen, untersuchte das Team Eingaben, bei denen die KI-Nutzung außer Zweifel steht. Die AI Hallucinations Cases Database von Damien Charlotin, die im April 2025 eingerichtet wurde, erfasst Fälle, in denen Richterinnen und Richter Parteien vorwerfen oder sie dafür rügen, dass sie erfundene Fundstellen zitiert haben. Die Forschenden kombinierten diese Fälle mit einer Reihe von Kontrollfällen zu einem Benchmark, den sie PhantomDocket nennen. Außerdem entwickelten sie eine Kalibrierungsmethode namens ScoreMix, die den Anteil der Eingaben schätzt, die den halluzinierten Texten ähnlicher sind als Texten aus der Zeit vor ChatGPT. Die Autorinnen und Autoren bezeichnen die so ermittelten Werte als kalibriert, robust und konservativ. Gleichzeitig berichten sie, dass die Raten falsch positiver und falsch negativer Ergebnisse selbst bei den besten Detektoren nicht zu vernachlässigen sind.
Wegen dieser Fehlerraten eignet sich die Erkennung laut den Forschenden am besten dazu, die Verbreitung der KI-Nutzung über eine Gesamtheit von Eingaben hinweg abzuschätzen, nicht aber dazu, zu entscheiden, ob bei einem bestimmten Schriftsatz KI im Spiel war. Die Studie wirft offene Fragen auf: Hilft KI Prozessparteien, die sich keinen Anwalt leisten können, oder überschwemmt sie die Gerichte mit unzureichender Rechtsarbeit? Die Autorinnen und Autoren verweisen auf mehr als 1.500 dokumentierte Fälle in den USA, in denen juristische Halluzinationen vorkamen. Sie plädieren für bessere Offenlegungsregeln an den Gerichten, damit sich KI-Unterstützung in Eingaben künftig genauer nachverfolgen lässt.
Was sich ändert
Art: Forschung · Betrifft: Santa Clara County complaints
Warum es wichtig ist
Gerichte und Kanzleien, die sich bei beruflichen Dokumenten auf KI-Detektoren verlassen, erhalten möglicherweise extrem widersprüchliche Ergebnisse. Die Ausgabe eines Detektors allein ist daher nur ein schwacher Beleg für einen einzelnen Schriftsatz. Die Studie deutet außerdem darauf hin, dass KI-verfasste Texte bei Prozessparteien ohne anwaltliche Vertretung am schnellsten zunehmen.
Was Sie tun können
Verlassen Sie sich nicht auf handelsübliche KI-Detektoren, um einzelne juristische oder andere berufliche Dokumente zu beurteilen. Kombinieren Sie jede Erkennung mit einer Kalibrierung und klaren Offenlegungsregeln.
Originalquelle
Wo wir es gesehen haben
Stanford HAI
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es