Last updated:
1つのAIエージェントの推論におけるエラーや悪意ある入力が、接続された複数のエージェントやシステム全体にわたる障害の連鎖を引き起こす障害モード。
多くのエンタープライズエージェントは、現在マルチエージェントシステムとして稼働しています。エージェントAが汚染されたデータ入力を受け入れ、TrustedラベルをエージェントBに渡すと、エラーは業務ワークフロー全体へと連鎖的に拡大する可能性があります。ガバナンスでは、エージェント間にアイソレーション・バリアを設け、ひとつの侵害された推論チェーンがエコシステム全体を停止させないようにする必要があります。
Real world example:
AI監査エージェントが偽の領収書を有効と判断し、そのSuccessシグナルを支払いエージェントに渡します。支払いエージェントはその後、不正なベンダーに支払いを実行し、その結果、金銭的損失を招くカスケーディング障害が発生します。
