arXiv (NLP)AI
TITLE_JA: Text-to-SQLにおける推論タイミングの学習:SFTとDPOを用いた効率的なアプローチ
Learning When to Reason for Text-to-SQL via SFT and DPO
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
自然言語をSQL文に変換するText-to-SQL技術は、近年のAI研究において重要な課題となっています。従来の手法では、Chain-of-Thought(CoT)などの推論中心的なパラダイムに大きく依存しており、複雑なクエリに対して優れた性能を発揮する一方で、推論時のオーバーヘッドが課題となっていました。しかし現実世界のクエリの多くは、単純な検索や集計操作であり、複数段階の推論なしに解決可能です。こうした単純なクエリに対して強制的に推論を行うことは、計算資源の無駄につながります。
今回発表されたAutoThinkSQLというフレームワークは、この問題に対処するため、Supervised Fine-Tuning(SFT)とDirect Preference Optimization(DPO)の両者に自動思考メカニズムを統合しています。このアプローチにより、モデルは単純なクエリに対しては推論をバイパスしながら、複雑なクエリに対してのみ深いCoTを実行するという動的な判断が可能になります。
Qwen3-Coder-30B-A3Bモデルを用いた評価では、SpiderおよびBIRDベンチマークの両方において、従来の最良手法と比較して一貫した性能向上を達成しました。同時に、出力トークン数を24.6%と18.3%削減し、平均レイテンシーもCoT専用生成と比べて17.1%と11.5%の短縮を実現しています。詳細な分析結果から、モデルがクエリの難易度に応じて推論判断を適切に調整することを学習していることが明らかになりました。この効率性と性能のバランスの取れたアプローチは、実運用環境でのText-to-SQL技術の実用化に向けた重要な進展といえます。