arXiv (ML)AI
TITLE_JA: 外生変数ドロップアウト:共変量を用いた時系列予測の汚染耐性を実現するシンプルで強力なベースライン手法
Exogenous Dropout: A Simple, Strong Baseline for Corruption-Robust Time Series Forecasting with Covariates
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
時系列予測モデルが外部データ(共変量)を活用する際、実運用環境での堅牢性が大きな課題となっています。外生変数にノイズが含まれたり、時間的にズレたり、あるいは欠落したりすると、複雑な外生変数融合モデルでも性能が急速に低下してしまいます。本研究は、このような堅牢性を実現するために複雑な専用アーキテクチャが必要かどうかを検証しています。
研究チームが提案するのは「外生変数ドロップアウト」という、モデルに依存しないシンプルな訓練手法です。この方法は、訓練時にランダムに外生変数チャネル全体をゼロに設定することで、モデルを外生変数への過度な依存から保護します。電力価格予測、貯水池の水文学、気象学など複数の実践的な領域で実験したところ、ガウスノイズ、時間的ズレ、完全な欠損チャネルに対する耐性が大幅に向上し、同時にクリーンなデータでの精度も維持されました。
比較対象として、学習可能なゲート機構、外生変数への落ち込みとして機能する残差接続、チャネル単位の外生変数FiLM変調を組み合わせた「BoundEx」という意図的に強力に設計されたアーキテクチャと比較しても、外生変数ドロップアウトを適用した双相関ネットワークが最も堅牢な結果を示しました。
アブレーション実験と表現レベルの理論的境界分析により、明示的にアーキテクチャの境界を制限することが堅牢性に必須ではないことが明らかになりました。外生変数ドロップアウトで訓練された境界を持たないモデルが、すべての領域で境界付きモデルを上回る堅牢性を発揮したのです。研究チームは汚染耐性ベンチマークを公開し、外生変数ドロップアウトを共変量を用いた時系列予測研究の標準的ベースライン手法として推奨しています。