透明性

AIシステムのプロセス、意思決定論理、データ使用を明確にして利害関係者が説明責任を果たせるようにする慣行。

Definition

データの収集方法、モデルのトレーニング方法、組み込む前提条件、意思決定の方法を説明する、公開または利害関係者向けの開示(モデルカード、データシート、API文書)が含まれます。透明性には、個々の意思決定に関するわかりやすい説明や明確なバージョン履歴も含まれます。ガバナンスでは、透明性要件をプロジェクト憲章に組み込み、システムの進化に合わせて定期的に文書を更新することを義務付けています。

Real-World Example

ある公衆衛生機関が、COVID-19入院予測因子の「モデルカード」を発行しています。このカードには、トレーニングデータソース、地域別のパフォーマンス指標、既知の制限、更新ログが詳述されています。これにより、臨床医や政策立案者はモデルのアウトプットを理解し、信頼できるようになります。