用語集
更新日
エラーが発生した場合に、身体的な傷害、財政的破綻、または社会的危害につながる可能性のあるシステムです。重大な影響を伴うAIには、影響・リスク評価、フォーマル検証または臨床試験、ヒューマン・イン・ザ・ループによる管理、リアルタイムのモニタリングといった、完全かつ厳格なガバナンスが求められます。通常、導入前には規制当局による承認や認証(FDA、FAA、EU AI Actなど)が必要であり、導入後も継続的なコンプライアンス監査が義務付けられます。
例
送電線の自律飛行型ドローン点検サービスは、非常に重大なリスクを伴う(ハイステークスな)ものに分類されます。ガバナンスプロトコルにより、実際の点検ミッションを承認する前に、フライトシミュレーターによるテスト、正式な安全性立証ドキュメントの作成、人間オペレーターによる必須の遠隔オーバーライド制御、および四半期ごとの安全性監査が義務付けられています。
