arXiv (AI)AI
因果グラフを用いた明示的で監査可能な推論フレームワーク「Causal-Audit」の提案
Causal-Audit: Explicit and Auditable Graph-based Reasoning via Target-Aware Causal Chain Construction
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
大規模言語モデル(LLM)の推論能力を次のレベルへ進化させるため、因果関係と介入に基づく質問応答の研究が重要な課題となっています。現在のLLMベースの手法の多くは、言語レベルでの暗黙的な推論に依存しているため、因果の仮定が不透明で推論経路が検証不可能であり、複雑な介入下での予測が脆弱になるという問題を抱えています。特にコンテキストがない設定での問題が顕著です。
こうした課題に対して、新たに提案された「Causal-Audit」フレームワークは、因果推論を明示的な因果グラフ上での構造化推論として定式化します。従来のような暗黙的な端から端への予測ではなく、4つのモジュール化された段階を通じて進行します。このフレームワークの最大の特徴は、ターゲット変数を中心的制約として組み込む「ターゲット認識型因果グラフ構築戦略」です。この戦略により、無関連な変数や偽の因果関係、推論ノイズを効果的に抑制できます。
さらに、複数の因果経路を組み合わせながら、強化効果と相殺効果の両方をモデル化する「経路レベルの因果証拠集約メカニズム」も導入されています。これにより、単一チェーンの推論では得られない堅牢な意思決定が可能になります。3つのベンチマークでの広範な実験により、本フレームワークは既存のLLMベースの手法を一貫して上回る性能を発揮しながら、解釈可能かつ監査可能な因果推論トレースを提供することが実証されました。