AIシステムが個人やグループに対して侵入的な監視に利用され、プライバシーや市民の自由を侵害する可能性があります。
AI、特にコンピュータービジョンおよび行動分析ツールが、同意なしに人々を追跡、プロファイリング、または差別するために利用される可能性があります。これを軽減するためには、ユースケースの厳格な定義、匿名化要件、アクセス制御、ならびに透明性確保のための措置（例：監視区域に関する公的告知）が必要です。ガバナンスには、監視利用に関する定期的な監査、市民の権利への影響評価、そしてプライバシー関連法令への準拠を確保するための法務レビューが含まれます。
ある市議会では、スマートカメラによる物体検知AIの導入について審議が行われました。監視に伴うリスクに対処するため、同議会は、カメラが顔をリアルタイムでぼかすこと、歩行者数の集計データのみを保存すること、そしてAIの利用について説明する公共表示を設置することを義務付けました。これにより、プライバシー規制および市民の期待への適合を確保しています。
