Last updated:
重大な被害を引き起こす可能性があるAIアプリケーション（例えば、医療診断や自律走行車）には、厳格なガバナンスと監視が必要です。
エラーが身体的な傷害、経済的破綻、または社会的被害につながり得るシステムです。ハイステークスAIには、影響評価およびリスク評価、形式的検証または臨床試験、ヒューマン・イン・ザ・ループの制御、そしてリアルタイム監視を含む、完全かつ厳格なガバナンスが求められます。通常、導入前には認証および規制当局の承認（FDA、FAA、EU AI Act）が必要であり、導入後も継続的なコンプライアンス監査の実施が義務付けられます。
Real world example:
送電線向けの自律型ドローン点検サービスは、高リスク案件に分類されます。ガバナンス・プロトコルでは、実運用の点検ミッションを承認する前に、フライトシミュレーター試験、正式なセーフティケース文書の整備、人的オペレーターによるリモートオーバーライド制御の義務化、ならびに四半期ごとの安全監査を求めています。
