arXiv (NLP)AI
TITLE_JA: 繰り返しの質問に対するビジョン言語モデルの安定性を評価する「Just Keep Prompting」フレームワーク
Just Keep Prompting: Evaluating Repetitive Socratic Prompting in VLMs
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
ビジョン言語モデル(VLM)を実世界に導入する際、強力な視覚推論能力だけでなく、持続的な会話圧力の下での安定性が求められます。新しい研究では「Just Keep Prompting(JKP)」という多ターン評価フレームワークが提案されており、ユーザーがモデルの回答に繰り返し異議を唱えたり、疑問を投げかけたり、矛盾を指摘したりする際の認識的安定性を測定しています。
JKPは最大10ターンのフォローアップを通じて、3つの戦略を使用してモデルを検証します。まず「敵対的否定」は回答の繰り返しの拒否、次に「純粋なソクラテス的尋問」は繰り返し確実性の再評価を促すもの、そして「文脈認識的ソクラテス的要約」はモデルの前の根拠を反映してから再考を促すものです。研究者たちはGPT-4o、Gemini 2.5 Pro、Qwen3-VL-30BをSTARベンチマークの部分集合で評価し、720回の多ターン実行を行いました。
ターン0からターン10への総合精度の変化は穏やかですが、軌跡レベルの分析では相当な不安定性が明らかになっています。正しい回答が後退し、間違った回答が回復し、多くの実行で繰り返しの回答フリップが見られました。繰り返しのプロンプティングは上昇の可能性が限定的であり、推論支援というより不安定化要因として機能することが多いのです。
この効果はモデルに大きく依存しており、Qwen3-VL-30Bは最高の最終精度を達成しますが、直接的な矛盾の下で確信を持って間違います。Gemini 2.5 Proは比較的安定していますがトークンコストが高く、GPT-4oは最も脆弱で振動的です。これらの知見は、多ターンVLM評価が追加的推論だけでなく、繰り返しの挑戦の下で視覚的根拠付け、キャリブレーション、会話的応答性をどのようにトレードオフするかという圧力応答プロフィールを捉えることを示しています。