arXiv (NLP)AI
BridgeAlign:人文科学・社会科学における嗜好アラインメントの橋渡し
BridgeAlign: Bridging Preference Alignment for Humanities and Social Sciences
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
大規模言語モデル(LLM)のデータ合成は、従来は検証可能な答えを持つ領域に主に焦点が当てられてきました。しかし人文科学・社会科学(HSS)の領域では、客観的な正誤よりもニュアンスに富んだ品質判断が重要であるにもかかわらず、この分野への対応が十分ではありませんでした。このような状況を踏まえ、研究チームはBridgeAlignという人文科学・社会科学の広範な学問領域に対応した嗜好アラインメント・パイプラインを提案しました。
BridgeAlignは3つのフェーズで構成されています。まずシード・キュレーション段階では、ウェブコーパスからヒューリスティックおよびLLMベースのフィルタリングとテキスト精製により、HSS関連の種となるドキュメントを収集します。次に嗜好データ合成段階では、ペルソナベースの命令反転とQ&A一貫性チェックを通じて、嗜好トリプレット(比較対象となる文章の組み合わせ)を生成します。最後に嗜好最適化段階では、人間対モデルという単純なヒューリスティックを超え、HSS特有の品質ルーブリックを基礎として、制御された品質低下を通じて推移的応答を生成し、より細かい品質識別が可能な境界付近の嗜好ペアを構築します。
この手法により、210,000以上の合成嗜好サンプルを用いてアラインメントを行ったQwen3-8Bは、11の強力なベースラインに対して17のベンチマークで平均的に最良の性能を達成しました。特に重要なのは、人間の嗜好と知識ベースの能力の両面で優れた成果を上げながら、両者の間にトレードオフが生じなかったという点です。これは広範な実験と既存の理論的背景により支持されています。