影響評価

導入前にAIシステムの潜在的な倫理的、法的、社会的影響を特定、分析、軽減するための体系的な評価です。

Definition

多くの場合、環境影響調査をモデルにした正式なプロセスです。このプロセスでは、学際的なチームがAIのユースケースを利害関係者グループにマッピングし、起こり得る危害(プライバシー、バイアス、安全性)を列挙し、その深刻さと可能性をスコア化し、緩和策を処方します。これにより「影響登録簿」とアクションプランが作成され、製品リリース前にガバナンス機関による承認を受ける必要があります。

Real-World Example

自動採用スクリーナーを導入する前に、人事部門は影響評価を行います。候補者のパイプラインをシミュレートし、ジェンダーバイアスのリスクを特定し、影響の大きいものとして採点し、バイアス軽減計画(多様なトレーニングデータ、人間によるレビュー)を設計し、法務委員会や倫理委員会からの承認を確保します。