ホワイトボックステスト
内部動作（コード、パラメーター、アーキテクチャ）に関する十分な知識に基づいてAIシステムを評価し、正確性、セキュリティ、およびコンプライアンスを検証します。
Definition
テスターがソースコード、モデルの重み、構成を検査して、特定のロジックパス、パラメーター範囲、潜在的な脆弱性を対象としたテストを作成する徹底的な検証アプローチです。ガバナンスでは、ホワイトボックステストを CI/CD パイプラインに統合します。そのため、モデルが意図したとおりに動作し、ポリシーに準拠していることを確認するために、重要なモジュールのカバレッジ閾値、自動セキュリティ分析ツール、手動によるコードレビューが必要になります。
Real-World Example
自動運転車の認識モジュールはホワイトボックステストを受けます。エンジニアはエッジケースのセンサー入力をモデルの内部層に直接注入して、オブジェクト検出ロジックがオクルージョンを正しく処理することを検証し、静的解析ツールは展開前にコードをスキャンして安全でないライブラリ呼び出しがないか確認します。
.svg)
