AIシステムの開発者および運用者は、そのシステムが責任を持って設計および使用され、倫理的基準と法的要件を遵守することを保証する義務があります。
AIシステムのあらゆる段階（データ収集から導入、そして廃止に至るまで）に対する責任を正式に割り当てること。アカウンタビリティとは、役割（例：モデルオーナー、データスチュワード、コンプライアンス責任者）を明確に定義し、障害発生時のエスカレーション経路を明確化し、さらにレビュー・プロセスを組み込むことを意味します。これにより、AIの意思決定が損害や法令違反を引き起こした場合には常に、誰が調査し、誰が是正措置を講じ、組織がどのように再発を防止したかを示す文書化された追跡記録が確実に残ります。
大手銀行の自動与信スコアリングAIが、顧客を誤って高リスクと判定しました。AIガバナンスチームは、この誤りの原因が代表性を欠くデータセットにあることを特定し、「根本原因」解明のためのタスクフォースを招集しました。その後、バランスの取れたデータでモデルを再学習させ、当該顧客に対して謝罪を行うとともに、同様の不一致が発生した場合には即時に人によるレビューを実施するようポリシーを更新し、責任の明確化と是正措置の実行を示しました。
