arXiv (AI)AI
TITLE_JA: 部分観測環境下における不確実性ゲート付きLLM支援「ASK in the Dark」
ASK in the Dark: Uncertainty-Gated LLM Assistance under Partial Observability
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
強化学習エージェントが不完全な情報下で動作する環境において、小言語モデル(SLM)からの支援を効果的に活用することは重要な課題です。本研究は、部分観測マルコフ決定過程(POMDP)環境下でSLMの推論能力をエージェントに統合する際の課題に取り組んでいます。
従来のアプローチでは、不確実性ゲート機構を用いてSLMに頼るかどうかを判断していましたが、複数のテスト環境において、バニラ版のASKはほぼゼロに近い上書き率を示し、SLMがほとんど独立した行動を提案することがありませんでした。研究チームはこの失敗の原因を、最小限の自己中心的プロンプトが推論に必要な文脈情報を欠いていることにあると特定しました。これは処理能力の問題ではなく、文脈提供の問題であることが明らかになりました。
そこで提案されたのがASK+です。このアプローチは、SLMに対して軌跡を認識した文脈情報(部分的に明かされた地図、訪問済みの位置、行動履歴)と構造化された思考の連鎖を供給することで、受動的な冗長性チェックから、より情報量の多いコンサルタント役へと変換します。さらに、予測エントロピー信号が状態不確実性ではなく行動不確実性を測定することを確立し、POMDP環境でも不確実性ゲート付き支援が機能することを示しました。
実験結果は顕著な改善を示しています。DoorKeyでは、バニラ版ASKとPPOが同じ89%の成功率であったのに対し、ASK+は93%に到達しました。FourRoomsでは成功率が53%から70%に、HigherLowerでは精度が73.7%に達し、SLM単独での上限値と同等の性能を実現しました。全環境を通じてQwen3.5-2BがQwen3.5-4B以上の性能を示し、プロンプト設計と選別的ゲーティングがモデルサイズの影響を上回ることを確認しました。これにより、大規模モデルなしでも効果的な支援が可能であることが示されています。