最終更新日:
コンピュータービジョンシステムに特化したガバナンスプロセスであり、画像およびビデオに基づく意思決定におけるデータ品質の確保、バイアスチェック、そして透明性を担保します。
特化した監視手法として、データセットの多様性監査（照明、デモグラフィック、環境）、敵対的堅牢性テスト（オクルージョン、摂動）、視覚的特徴の説明可能性（サリエンシーマップ）、およびドメイン特定のパフォーマンス基準（例：医療画像の正確性）が挙げられます。Vision AI監視機関は、画像ラベル付けの基準を定義し、サブグループ間でのモデル出力の定期的な監査を義務付け、不確実な検出に対するヒューマン・イン・ザ・ループ（人間による介在）レビューを要求します。
実際の導入事例：
ある医療提供者の放射線スキャン用AIが、Vision AIガバナンス（Vision AI Oversight）のプロセスを経ています。ガバナンスチームは、トレーニング画像に複数のスキャナータイプや多様な患者層が含まれていることを検証し、テストケースにおけるサリエンシーマップによる説明をレビューし、信頼性の低い検出については放射線科医による承認を義務付けています。これにより、診断画像タスクにおける高いデータおよびモデル品質を保証しています。
