arXiv (ML)AI
正則性を考慮した確率的MGDA:適応的な競合回避更新方向制御
Regularity-Aware Stochastic MGDA with Adaptive Conflict-Avoidant Update Direction Control
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
複数の目的を同時に最適化する多目的学習(MOL)は、機械学習における重要な課題です。特にマルチタスク学習やパレート最適化など、複数の目標のバランスを取る必要があるアプリケーションで活用されています。この分野で広く使われているのが多勾配降下法(MGDA)で、複数の目的関数に対して共通の降下方向、または競合回避(CA)方向に沿って繰り返し更新を行います。
しかし、確率的設定(ミニバッチサンプリングを使用する現実的な学習状況)では、従来の確率的MGDA法(SMG)は収束速度が遅いという問題がありました。ミニバッチサンプリングに由来する勾配ノイズが更新方向に偏りをもたらし、これがCA方向の連続性によって制御されるためです。本研究では、CA方向がヤコビアン行列に対して1/2-ホルダー連続性を持つこと、そしてこの指数1/2は最悪の場合改善不可能であることを証明しました。これが従来の確率的MGDAの収束速度が最適でない理由を説明しています。
より重要な発見として、追加的な正則性条件の下では、CA方向の連続性がリプシッツ連続まで改善可能であることが分かりました。この知見に基づき、著者らは多目的正則性認識法(MoRe)を提案しています。このアルゴリズムは、部分問題が正則である場合にはCA方向の更新を活用し、そうでない場合には固定スカラー化重み付けに切り替えるという適応的戦略を採用しています。直感的には、勾配競合が大きい場合にはCA方向更新を用い、そうでない場合には線形スカラー化更新を用いるということです。
理論的には、MoReはSMGの収束率を非凸設定において$\widetilde{\mathcal O}(T^{-1/4})$から$\widetilde{\mathcal O}(T^{-1/2})$に改善します。さらに反復ごとの競合回避保証も確立されています。実験結果は、マルチタスク性能において有効性を示し、確立された理論的収束速度と一致する収束動作を検証しています。