不透明度

内部表現や決定ロジックにアクセスできない、または人間が解釈するには複雑すぎる「ブラックボックス」モデルを指します。説明のしやすさが求められるハイステークな領域では、不透明性が問題になります。ガバナンスでは、不透明なモデルをリスクの低いタスクに限定したり、不透明性の信頼やコンプライアンスのリスクを軽減するために、外部の説明ツールや人間によるレビュープロセスとの組み合わせを義務付けたりすることがあります。