用語集
更新日
歪んだデータセット、不適切なラベリング、または誤って指定された目的などに起因し、特定のグループを不当に優遇または冷遇する、AI出力における系統的な偏差。これらは検出、測定、および緩和を必要とします。
例
主に明るい肌色でトレーニングされた顔認識システムは、肌色の濃い個人に対して高いエラー率を示します。このベンダーは、トレーニングデータセットをリバランシングし、継続的なバイアス監視ダッシュボードを導入することで、すべての肌色において公平なパフォーマンスを確保しています。
用語集
更新日
歪んだデータセット、不適切なラベリング、または誤って指定された目的などに起因し、特定のグループを不当に優遇または冷遇する、AI出力における系統的な偏差。これらは検出、測定、および緩和を必要とします。
例
主に明るい肌色でトレーニングされた顔認識システムは、肌色の濃い個人に対して高いエラー率を示します。このベンダーは、トレーニングデータセットをリバランシングし、継続的なバイアス監視ダッシュボードを導入することで、すべての肌色において公平なパフォーマンスを確保しています。