Sicherzustellen, dass KI-Systeme unter allen Bedingungen sicher funktionieren, insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen, erfolgt oft durch Redundanz und Überprüfungen.
Umfasst die Entwicklung von Systemen, die darauf ausgelegt sind, Hardware-/Softwarefehler zu erkennen, zu tolerieren und sich davon zu erholen, ohne Schaden zu verursachen. Funktionale Sicherheitsnormen (ISO 26262, IEC 61508) erfordern Gefährdungsanalysen, Fail-Safe-Mechanismen, Redundanz, formale Verifizierung von Sicherheitsanforderungen sowie eine Dokumentation über den gesamten Sicherheitslebenszyklus. Governance stellt sicher, dass Sicherheitsintegritätsstufen (SIL) zugewiesen und während der gesamten Entwicklung und des Betriebs aufrechterhalten werden.
Ein OEM für autonome Fahrzeuge entwickelt redundante Wahrnehmungs-Stacks (LiDAR + Radar + Kameras). Jede Sensorfusions-Pipeline läuft unabhängig, und ein Sicherheitsmonitor gleicht die Ausgaben gegeneinander ab. Wenn Abweichungen auftreten, wechselt das Fahrzeug in einen Safe-Stop-Modus. Alle Sicherheitsaktivitäten und Tests werden gemäß ISO 26262 dokumentiert, um die ASIL-D-Zertifizierung zu erreichen.
