Worst-Case-Analyse
Bewertung der extremsten potenziellen Ausfälle oder Missbräuche eines KI-Systems, um solide Risikominderungs- und Notfallplanungsstrategien zu entwickeln.
Eine Stresstest-Methodik, bei der Systeme theoretischen oder simulierten Szenarien mit maximaler Auswirkung ausgesetzt werden – adversariale Angriffe, kaskadierende Ausfälle, regulatorische Verstöße –, um potenzielle Verluste (finanziell, reputationsbezogen, sicherheitsrelevant) zu quantifizieren und Notfallpläne zu entwickeln. Governance-Vorgaben schreiben vor, dass KI-Anwendungen mit hohem Risiko jährlich einer Worst-Case-Analyse unterzogen werden, einschließlich dokumentierter Reaktions-Playbooks und einer Überprüfung der Ergebnisse auf Führungsebene.
Ein Anbieter von KI-Lösungen im Gesundheitswesen führt für seinen Triage-Chatbot eine Worst-Case-Analyse durch: Er simuliert gleichzeitige Serverausfälle, Modellfehlklassifikationen kritischer Symptome sowie Datenschutzverletzungsszenarien, um Patientenschäden zu quantifizieren und Reaktionsprotokolle zu entwickeln, einschließlich der Aktivierung einer Fallback-Hotline und Verfahren zur Bereitstellung von Notfall-Patches.
