Glossar
Aktualisiert
Ein proaktiver Ansatz, der Sicherheitsaspekte in jede Ebene einbettet: von der Datenerfassung über das Modelltraining und das API-Design bis hin zur Bereitstellung. Er umfasst Bedrohungsanalysen (Threat Modeling) während der Anforderungsphase, sichere Codierungsstandards, Verschlüsselung im Ruhezustand und bei der Übertragung, strenge Zugriffskontrollen sowie kontinuierliche Sicherheitstests (statische Analysen, Penetrationstests). Die Governance stellt sicher, dass Sicherheitsanforderungen verbindliche Projektmeilensteine sind, die vor jedem Phasenübergang freigegeben werden müssen.
Beispiel
Ein KI-Team im Gesundheitswesen integrierte das Prinzip „Security by Design“ in sein Patientendiagnosesystem, indem es alle Dateneingaben verschlüsselte, statische Sicherheitsprüfungen des Modellcodes vor dem Training durchführte und monatliche Penetrationstests auf der Inferenz-API ausführte. So konnten Schwachstellen erkannt und behoben werden, lange bevor Live-Daten jemals offengelegt wurden.