最終更新日:
重大な被害をもたらす恐れのあるAIアプリケーション（例：医療診断、自動運転車）であり、より高度なガバナンスと監視が必要とされるもの。
エラーが発生した場合に、身体的な傷害、財政的破綻、または社会的危害につながる可能性のあるシステムです。重大な影響を伴うAIには、影響・リスク評価、フォーマル検証または臨床試験、ヒューマン・イン・ザ・ループによる管理、リアルタイムのモニタリングといった、完全かつ厳格なガバナンスが求められます。通常、導入前には規制当局による承認や認証（FDA、FAA、EU AI法など）が必要であり、導入後も継続的なコンプライアンス監査が義務付けられます。
実際の導入事例：
送電線の自律飛行型ドローン点検サービスは、非常に重大なリスクを伴う（ハイステークスな）ものに分類されます。ガバナンスプロトコルにより、実際の点検ミッションを承認する前に、フライトシミュレーターによるテスト、正式な安全性立証ドキュメントの作成、人間オペレーターによる必須の遠隔オーバーライド制御、および四半期ごとの安全性監査が義務付けられています。
