Sicherheit durch Design
Integration von Sicherheitskontrollen und Best Practices in KI-Systeme von den frühesten Entwurfsphasen an, um Sicherheitslücken und Datenschutzverletzungen zu verhindern.
Definition
Ein proaktiver Ansatz, der Sicherheitsaspekte in jede Ebene einbezieht — Datenaufnahme, Modelltraining, API-Design und Bereitstellung. Dazu gehören Bedrohungsmodellierung während der Anforderungen, sichere Codierungsstandards, Verschlüsselung bei Speicherung und Übertragung, strenge Zugriffskontrollen und kontinuierliche Sicherheitstests (statische Analysen, Penetrationstests). Die Unternehmensführung stellt sicher, dass Sicherheitsanforderungen zu den obligatorischen Meilensteinen eines Projekts gehören. Vor jeder Übergangsphase werden Absichtserhebungen vorgenommen.
Real-World Example
Ein KI-Team im Gesundheitswesen integrierte „Security by Design“ in sein Patientendiagnosesystem, indem es alle Dateneingaben verschlüsselte, vor dem Training statische Sicherheitsscans des Modellcodes durchführte und monatliche Pen-Tests an der Inferenz-API durchführte. So wurden Sicherheitslücken erkannt und gepatcht, lange bevor Live-Daten offengelegt wurden.
.svg)
