arXiv (AI)AI
介入的グラウンディング監査:述語置換によるLLM思考の鎖の前提依存性のブラックボックステスト
Interventional Grounding Audits: Black-Box Premise-Dependency Tests for LLM Chain-of-Thought via Predicate Substitution
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
大規模言語モデル(LLM)は、論理的に妥当に見える推論を生成しますが、その推論が実際に明示された前提に依存しているかどうかは明確ではありません。本研究は、この問題に対処するための新しい評価手法「介入的グラウンディング監査」を提案しています。
この手法は、ブラックボックス形式で推論の各ステップレベルにおける前提依存性をテストするものです。具体的には、単一の前提に介入して、その述語を新しい記号に置換し、モデルを再実行してから、各推論ステップの正規化された結論(標準述語形式)が変化するかどうかを確認します。このアプローチにより、推論が真に前提に基づいているのか、それとも単に表面的に論理的に見えるだけなのかを判定できます。
評価はProntoQAという合成マルチホップ演繹推論ベンチマークで実施されました。このベンチマークは金標準の証明木と既知のステップレベル前提依存性を含んでいます。GPT-4oを使用した50個のProntoQA問題への適用により、提案手法は証明木依存性の検出でF1スコア0.806を達成し、自己一貫性ベースライン(F1 = 0.343)を大幅に上回りました。また、正しく解決された問題の66%には、一貫性のある置換の下で直接的な証明木依存性に対して鈍感なステップが少なくとも1つ含まれていることが判明しました。これらのステップはすべてエンティティ導入前提を含んでおり、「正しい答え、間違った推論」という受動的な方法では検出できない現象を明らかにしています。
この研究は、LLMの推論プロセスにおける隠れた欠陥を検出するための重要な手段を提供します。すべての監査証明書、生のアウトプット、再現スクリプトはパブリックGitHubリポジトリで利用可能であり、研究者による今後の検証や発展を促進しています。