arXiv (CV)AI
TITLE_JA: 内部潜在空間の解析を通じた拡散モデルの統一的バックボーン改善
Unified Backbone Refinement for Diffusion Models via Internal-Latent Analysis
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
拡散モデルは様々な分野で顕著な成功を収めており、スコア関数をパラメータ化するデノイジングバックボーンの性能がモデル全体の品質に大きく影響することが知られています。本研究は、拡散モデルの各段階におけるコンポーネントの振る舞いを体系的に分析し、特に深い層における潜在変数の初期段階での急激な変動がアーティファクト(画像の歪みやノイズ)と強く関連していることを発見しました。
この知見に基づき、研究者らはDUNE(Diffusion Unified Network refiNEr)と呼ばれる訓練不要の改善フレームワークを提案しました。DUNEは、EMA(指数移動平均)に基づく共有の基準を使用して、深い低ノイズの内部潜在空間における急激な偏差を検出し、検出された箇所に対してバックボーン固有の抑制を適用します。このアプローチはU-Netから派生していますが、同じ検出・抑制の原理は、深い自己注意ブロックの潜在変数に作用させることで、Transformerベースの拡散モデルにも自然に拡張可能です。
複数のバックボーンを対象とした広範な実験により、DUNEは画像の忠実度を向上させながら幻覚現象を削減できることが示されました。本研究は、拡散モデルのバックボーンがどこで、いつ制御されるべきかについて新たな知見をもたらし、拡散モデルの性能向上に向けた実用的なアプローチを提供しています。