arXiv (AI)AI
TITLE_JA: エージェント失敗経路から定量化された残存リスクへ:レジリエントなエージェンティックAIのための組合せ的フレームワーク
From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
エージェンティックAI(自律エージェント型AI)は、現在のリスク管理モデルが対応できるよりも速いペースで信頼境界を越えて普及している。これまでの既存アプローチには、二つの不完全な側面しかなかった。一方は失敗メカニズムを記述しながらも、転送可能な残存リスク推定値を生成できず、もう一方は内部の失敗経路をブラックボックスとして扱いながらリスク推定値を生成している。
本研究は、これら二つの視点を結合するため、CPSAINTと呼ばれる7層の完全性分解フレームワークを提案している。これは物理状態、センサー、データ、計算、アクチュエーター、環境、時間という7つの層で構成されており、FRIESA-Kという残存リスク関数と組み合わせられている。FRIESA-Kは各失敗経路を定量化されたリスク事象へと対応させ、抵抗項Kを制御吸収マルコフモデルに基づかせることで、制御有効性が非形式的なスコア割り当てではなく状態ダイナミクスから導出される。その結果、レジリエントなエージェンティック・システムおよび組込AI向けの簡潔なメカニズム・マグニチュード・パイプラインが実現される。
ガバナンス可視性は、抵抗関数に新しい変数として組み込むのではなく、独立した加法的ペナルティとして報告される。著者らは構造的な組合せ可能性を定式化し、有効な失敗経路を明確に定義されたリスク事象へと結びつけ、二つの対照的なシナリオで本フレームワークを実証している。すなわち、リアルタイムで動作する倉庫ロボットとガバナンス計測機能を備えた金融サービス向けエージェントである。両事例を通じて、同じ層の文法、変数の意味論、動的抵抗構築が一貫性を保つため、コンパクトなカーネルが得られ、クロスドメイン推論、明示的な仮定、および組合せ可能な信頼の定量的に根拠のある形式化をサポートする。