arXiv (AI)AI
TITLE_JA: TAPR:タスク認識プロンプト書き換えによるLLMの性能向上
TAPR: Enhancing LLM Performance with a Task-Aware Prompt Rewriter
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
大規模言語モデル(LLM)の潜在能力を最大限に引き出すためには、慎重に設計されたプロンプトが必要とされていますが、これは専門知識を持たないユーザーにとって大きな障壁となっていました。このペーパーでは、この課題に対処するため、ユーザーが入力したプロンプトをタスク最適化されたプロンプトに書き換える「タスク認識プロンプト書き換え器(TAPR)」というモデルを提案しています。TAPRはユーザーの意図をより正確に反映させ、下流のLLMの性能向上を明示的な目標として設計されています。
TAPRの訓練には、グループ相対ポリシー最適化(GRPO)を用いた強化学習が採用されています。報酬は書き換えられたプロンプトおよびそれに対応するタスク出力についてLLMを評価者として用いた「LLM-as-judge」評価から導出されます。この仕組みにより、プロンプト書き換え能力が継続的に改善されていきます。
実験ではベースモデルとしてPhi-4-mini-instructをファインチューニングし、質問応答、要約、算術推論など多様なタスクにおいてテストされました。その結果、書き換えられたプロンプトはより明確で指示的な言語を含むようになり、Natural QuestionsおよびGSM8Kなどの確立されたベンチマークで高い精度を達成しています。この研究成果とコードはGitHubで公開されており、今後のプロンプト最適化技術の発展に貢献することが期待されています。