Funktionale Sicherheit
Sicherzustellen, dass KI-Systeme unter allen Bedingungen sicher funktionieren, insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen, häufig durch Redundanz und Überprüfungen.
Definition
Umfasst die Entwicklung von Systemen, die Hardware- und Softwarefehler erkennen, tolerieren und beheben, ohne Schaden anzurichten. Die Normen für funktionale Sicherheit (ISO 26262, IEC 61508) erfordern Gefahrenanalysen, Ausfallsicherheitsmechanismen, Redundanz, die formale Überprüfung der Sicherheitsanforderungen und eine Dokumentation des Sicherheitslebenszyklus. Die Unternehmensführung stellt sicher, dass Sicherheitsintegritätsstufen (SIL) festgelegt und während der gesamten Entwicklung und des Betriebs eingehalten werden.
Real-World Example
Ein OEM für autonome Fahrzeuge baut redundante Wahrnehmungsstapel (LiDAR + Radar + Kameras). Jede Sensorfusionspipeline läuft unabhängig voneinander, und ein Sicherheitsmonitor überprüft die Ausgänge. Treten Unstimmigkeiten auf, wechselt das Fahrzeug in den Safe-Stop-Modus. Alle Sicherheitsaktivitäten und Tests werden gemäß ISO 26262 dokumentiert, um die ASIL-D-Zertifizierung zu erhalten.
.svg)
