サーベイランスリスク

AIシステムが個人やグループの侵入的な監視に悪用され、プライバシーや市民的自由を侵害する可能性があるという脅威。

Definition

AI、特にコンピュータービジョンや行動分析ツールが、同意なしに人々の追跡、プロファイリング、差別に使用される可能性があります。緩和策には、厳格なユースケース定義、匿名化要件、アクセス制御、透明性対策 (監視ゾーンの公告など) が含まれます。ガバナンスには、監視機能の利用に関する定期的な監査、公民権への影響評価、プライバシー法の遵守を確認するための法的レビューなどが含まれます。

Real-World Example

市議会は、スマートカメラによる物体検知AIの導入について議論しました。監視リスクに対処するため、カメラはリアルタイムで顔をぼかし、歩行者数の集計のみを保存し、AI の使用を説明する公共の看板を表示することを義務付けました。これにより、プライバシー規制と市民の期待を確実に遵守できるようになりました。