Gerichtliche Überprüfung
Das Rechtsverfahren, mit dem Gerichte die Rechtmäßigkeit von Entscheidungen bewerten, die von KI getroffen oder unterstützt werden, um Rechenschaftspflicht und ein ordnungsgemäßes Verfahren sicherzustellen.
Definition
Wenn eine KI-gestützte Entscheidung (z. B. Verurteilungsempfehlung, Verweigerung von Leistungen) angefochten wird, prüfen die Gerichte, ob das KI-Verfahren den rechtlichen Standards entsprach — angemessene menschliche Aufsicht, Datenrechte und Transparenz der Begründung. Bei der gerichtlichen Überprüfung stützt sich die Rechenschaftspflicht auf etablierte Grundsätze eines ordnungsgemäßen Verfahrens, was die Pflege von Protokollen, Erklärbarkeit und die Verfügbarkeit menschlicher Rechtsbehelfsmechanismen erfordert.
Real-World Example
Ein Sozialhilfeempfänger legt Berufung gegen eine KI-gestützte Leistungsverweigerung ein. Vor Gericht überprüft der Richter die Entscheidungsprotokolle der KI und die SHAP-Erklärungen, stellt fest, dass das Modell die Einkommensschwellen falsch angewendet hat, und ordnet die Behörde an, die Leistungen wieder einzuführen und ihre AI-Prüfverfahren dahingehend zu überarbeiten, dass auch eine Überprüfung der Berufung eingeleitet wird.
.svg)
