Last updated:
自律型AIシステムのガバナンスに関する説明です。これらのシステムは、予測AI（インサイトを提供するもの）や生成AI（コンテンツを作成するもの）とは異なり、独立した行動（例：取引、コードの展開）を実行する能力を有しています。
モデルの精度、バイアス、コンテンツモデレーションに焦点を当てる標準的なAIガバナンスとは異なり、Agentic Governanceは権限と運用上の境界に重点を置きます。これは、現実世界と相互作用できるシステムであるエージェントの「能動的リスク」に対処するものです。主要な統制には、「実質的な人間による統制」メカニズム、自動化されたキルスイッチ、ならびにリスクレベルに応じてエージェントの権限（例：読み取り専用アクセスと書き込みアクセス）を制限する「権限付与（permissioning）」アーキテクチャが含まれます。
Real world example:
ある金融サービス企業は、返金処理を実行する権限を持つ自律型カスタマーサービスエージェントを導入しています。エージェント型ガバナンスのプロトコルにより、当該エージェントは1取引あたり最大50ドルの返金上限に制限されています。仮に、ハルシネーションまたはエラーによりエージェントが5,000ドルの返金を処理しようとした場合でも、ガバナンス層（「ガードレール」）がそのアクションを自動的にブロックし、人による確認のためにフラグ付けすることで、金銭的損失を未然に防止します。
