arXiv (AI)AI
TITLE_JA: エージェントAIシステムの実行時ガバナンスのための義務論的ポリシー
Deontic Policies for Runtime Governance of Agentic AI Systems
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
大規模言語モデル(LLM)によって駆動される自律型エージェントAIシステムは、ツール呼び出し、データ操作、ソフトウェアインストール、組織横断的なピアエージェント間の調整など、複雑で強力な機能を備えている一方で、新たなセキュリティ、プライバシー、コンプライアンスの課題を生み出しています。認証とアクセス制御だけでなく、エンタープライズガバナンスの全体構造によって制約される必要があります。これには、エージェントが何をすることが許可・禁止されているか、特定のアクションの後に何をする義務があるか(例えばCISO通知)、どのような条件下で義務が免除されるか、ポリシーが競合する場合どのルールが優先されるか、といった複雑な要件が含まれます。
現在のポリシーエンジンはこのガバナンス問題に完全には対応していません。XACML、Rego、Cedarなどのシステムは、許可・禁止のサブセットのみしか対応しておらず、義務のライフサイクル管理、メタポリシーの競合解決、特定の状況での義務免除(ディスペンセーション)、ヘルスケアやサイバーセキュリティ、データプライバシーなどのアプリケーションで一般的に見られるドメインクラス階層に関する本体論的推論といった機能が欠けています。
本研究では、AgenticReiというシステムを提案しており、これは義務、ディスペンセーション、ポリシー競合解決、ポリシーに関する推論、基本的な許可・禁止制約といった主要なガバナンス要件を実現しています。OWL(Web Ontology Language)で表現された義務論的ポリシー言語をReiフレームワークに基づいて構築し、LLMの外側の高性能ロジックエンジンで実行時に評価されます。エージェントのツール呼び出しとエージェント間メッセージの両方が同じパイプラインで管理され、セキュリティとプライバシーに関するガバナンス制約を、現在の本番環境エンジンではほぼ表現不可能な方法で捉えることが可能になります。