White-Box-Tests
Bewertung von KI-Systemen mit umfassender Kenntnis der internen Abläufe (Code, Parameter, Architektur) zur Überprüfung von Richtigkeit, Sicherheit und Konformität.
Definition
Ein gründlicher Validierungsansatz, bei dem Tester Quellcode, Modellgewichte und Konfiguration untersuchen, um Tests zu erstellen, die auf bestimmte Logikpfade, Parameterbereiche und potenzielle Sicherheitslücken abzielen. Governance integriert White-Box-Tests in CI/CD-Pipelines und schreibt Grenzwerte für die Abdeckung kritischer Module, automatische Tools zur Sicherheitsanalyse und manuelle Codeüberprüfungen vor, um sicherzustellen, dass sich die Modelle wie vorgesehen verhalten und die Richtlinien einhalten.
Real-World Example
Das Wahrnehmungsmodul eines selbstfahrenden Autos wird einem White-Box-Test unterzogen: Die Ingenieure injizieren Sensoreingänge am Rand des Modells direkt in die internen Schichten des Modells, um zu überprüfen, ob die Objekterkennungslogik Okklusionen korrekt verarbeitet, und statische Analysetools scannen den Code für unsichere Bibliotheksbesuche, bevor es eingesetzt wird.
.svg)
