Zuletzt aktualisiert am:
Sicherstellung, dass KI-Systeme unter allen Bedingungen sicher funktionieren – insbesondere in Branchen wie der Automobilindustrie oder dem Gesundheitswesen –, häufig realisiert durch Redundanz und Kontrollmechanismen.
Beinhaltet den Entwurf von Systemen zur Erkennung, Tolerierung und Behebung von Hardware- und Softwarefehlern, ohne dass Schäden entstehen. Funktionale Sicherheitsstandards (ISO 26262, IEC 61508) erfordern Gefahrenanalysen, ausfallsichere Mechanismen, Redundanz, die formale Verifikation von Sicherheitsanforderungen sowie eine Dokumentation des Sicherheitslebenszyklus. Die Governance stellt sicher, dass Sicherheitsintegritätslevel (SIL) während der gesamten Entwicklung und des Betriebs zugewiesen und eingehalten werden.
Praxisbeispiel:
Ein Erstausrüster (OEM) für autonome Fahrzeuge entwickelt redundante Wahrnehmungssysteme (LiDAR + Radar + Kameras). Jede Sensorfusions-Pipeline läuft unabhängig, und ein Sicherheitsmonitor gleicht die Ergebnisse ab. Treten Diskrepanzen auf, wechselt das Fahrzeug in einen sicheren Stopp-Modus. Alle Sicherheitsaktivitäten und -tests werden gemäß ISO 26262 dokumentiert, um die ASIL-D-Zertifizierung zu erlangen.
