ハイステークス AI
障害が重大な損害を引き起こすおそれのあるAIアプリケーション（医療診断、自動運転車など）。ガバナンスと監視の強化が必要です。
Definition
エラーが人身傷害、経済的破滅、または社会的危害につながる可能性があるシステム。ハイステークス AI には、影響とリスクの評価、臨床試験の正式な検証、ヒューマンインザループコントロール、リアルタイムモニタリングなど、完全なガバナンスが求められます。通常、導入前には認証と規制当局の承認 (FDA、FAA、EU AI 法) が必要であり、継続的なコンプライアンス監査が義務付けられています。
Real-World Example
電力線の自律型ドローン検査サービスはハイステークスに分類されます。ガバナンスプロトコルでは、実地検査任務を許可する前に、フライトシミュレータによるテスト、正式なセーフティケースの文書化、オペレーターによるリモートオーバーライド制御の義務化、四半期ごとの安全監査が義務付けられています。
.svg)
