最終更新日:
AIシステムの障害や予期しない挙動の根本的な原因を特定するための構造化された調査であり、是正措置の指針となります。
障害イベント（モデルの誤分類やシステムの停止など）をデータパイプライン、モデルロジック、インフラストラクチャの各レイヤーにわたって追跡し、根本的な欠陥を特定する事後分析手法（「なぜなぜ分析」や「フィッシュボーン図」など）です。根本原因分析（RCA）は、調査結果と是正計画を文書化し、是正措置がシステム全体の問題に対処していることを確認し、再発を防止します。ガバナンスの観点から、重大度の高いインシデントに対してはRCAの実施が義務付けられており、その結果は経営陣によってレビューされます。
実際の導入事例：
レコメンデーションエンジンが不適切なコンテンツを推奨し始めたため、チームは根本原因の分析を行いました。その結果、データ取り込みスクリプトがテストデータと本番データをマージし、トレーニングに偏りが生じていたことが判明しました。チームはスクリプトを修正し、モデルの再検証を行い、取り込みパイプラインに単体テストを追加しました。これにより、将来的な環境間でのデータ混入のリスクが排除されました。
