arXiv (ML)AI
D2PO:動的選好最適化による拡散サンプラーの最適化
D2PO: Optimizing Diffusion Samplers via Dynamic Preference
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
画像生成モデルの推論を高速化する新しい手法「D2PO(Dynamic Direct Preference Optimization)」が提案されました。これは拡散モデルのサンプリング政策を、タイムステップスケジュールとクラシファイアーフリーガイダンス(CFG)の重みに関して最適化する枠組みです。
従来のアプローチでは、学生モデルが教師モデルの振る舞いを模倣することで高速化を図っていました。しかし低いNFE(ネットワーク関数評価回数)の学生サンプラーは、粗い全体構造は保持しつつ、高周波のテクスチャ詳細度を犠牲にしてしまい、知覚品質との乖離が生じていました。D2POはこの課題を、選好ベースの整合問題として再構成することで解決します。Direct Preference Optimization(DPO)フレームワークを活用し、サンプリング政策をエネルギーベースモデル(EBM)として表現することで、選好比較を扱いやすいエネルギー差分に変換しました。
特に革新的なのは「動的選好」の導入です。従来の固定された教師モデルによる監督ではなく、学習とともに優先されるサンプルが段階的に改善され、自己改善メカニズムが機能します。このアプローチにより、より強い整合シグナルが反復的に提供されます。実験結果は、D2POが従来の回帰ベースのスケジューラーを低NFE制約下で一貫して上回り、知覚品質に忠実に拡散サンプラーを整合させることを示しています。