最終更新日:
AIシステムが個人または集団に対する侵害的な監視に悪用され、プライバシーや市民の自由を侵害する恐れがあるという脅威。
AI（特にコンピュータビジョンや行動分析ツール）が、同意なしに個人の追跡、プロファイリング、または差別を行うために使用される潜在的なリスク。軽減策としては、厳格なユースケースの定義、匿名化の要件、アクセス制御、および透明性の確保（例：監視区域の一般への通知）が挙げられます。ガバナンスには、監視利用の定期的な監査、市民権への影響評価、およびプライバシー法への準拠を確認するための法的レビューが含まれます。
実際の導入事例：
ある市議会において、スマートカメラによるオブジェクト検出AIの導入が議論されました。監視リスクに対処するため、市議会は、カメラがリアルタイムで顔にぼかしをかけること、集計された歩行者数のみを保存すること、およびAIの使用目的を説明する公共の看板を設置することを義務付けました。これにより、プライバシー規制の遵守と市民の期待への確実な応えを両立させています。
