信頼できる AI
AIシステムは、倫理的で信頼性が高く、安全で、人間の価値観や社会規範に沿った方法で設計および運用されています。
Definition
技術的堅牢性、公平性、透明性、プライバシー、および人間による監視が含まれます。信頼できる AI プログラムは、各次元の測定可能な基準 (バイアス閾値、稼働時間保証など) を定義し、それを開発パイプライン (影響評価、監査) に組み込み、ガバナンスダッシュボードで倫理的KPIを追跡します。継続的な利害関係者の関与、外部監査、公開された透明性レポートにより、時間の経過とともに信頼性が強化されます。
Real-World Example
ある政府は、失業給付AIに信頼フレームワークを採用しています。正式な倫理審査を義務付け、モデルの誤りや偏見を含む透明性の高いダッシュボードを公開し、適格性の上書きに関するヒューマン・イン・ザ・ループを実施し、毎年恒例の第三者監査を委託することで、システムが市民や規制当局にとって信頼できるものであり続けることを保証しています。
.svg)
