質的評価
専門家によるAIシステムの行動、意思決定、文書に関する主観的なレビューにより、定量的に捉えられなかった倫理的、法的、評判上の懸念事項を特定します。
Definition
定量的指標を専門家の判断（倫理パネル、法的レビュー、ユーザーエクスペリエンス調査）で補完し、文化的な無関心、欺瞞的なUXパターン、法的な曖昧さなどの問題を明らかにします。ガバナンスでは、主要なマイルストーン (設計、パイロット、リリース後) に定性評価を組み込み、調査結果をレビューレポートに文書化し、改善措置を追跡して、指標が捉える範囲を超えた説明的リスクや文脈上のリスクに対処します。
Real-World Example
顔認識ツールの設計時には、法律と公民権の専門家からなるパネルが定性評価を行い、不正な監視による悪用の可能性を特定します。ベンダーは、そのフィードバックに基づいて、正確性やバイアスの指標だけに頼るのではなく、明示的なユーザー同意フローと厳格な監査ログを追加しています。
.svg)
