arXiv (ML)AI
Chisao: GPU対応の並列最適化アルゴリズムが多峰性ブラックボックス関数の全モード探索を実現
\chisao{}: A GPU-Native Parallel Optimizer for Multimodal Black-Box Functions via Convergence-Anticonvergence Oscillation
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
複数の最適値を持つ多峰性ブラックボックス関数から全てのモード(極値)を効率的に見つけることは、最適化問題やベイズ推論、科学計算において重要な課題です。従来のbasin-hopping、CMA-ES、マルチスタート勾配降下法といったアプローチは逐次的に処理を行うため、現代のGPUハードウェアが持つ大規模な並列処理能力を活かせていませんでした。
今回発表されたChisaoは、このギャップを埋める新しいGPU対応の群最適化アルゴリズムです。サンプルバッチ全体を同時に実行し、独特の「収束-反収束振動」サイクルを意図的に活用して局所最適値からの脱出を実現します。その仕組みは非対称的で、真の峰に到達したサンプルは凍結(固定)されて保存される一方、他のサンプルはモーメンタムベースの反収束と確率的に平滑化された勾配を使い続けることで探索を継続します。Repulse MonkeyとGolden Roosterという2つの相補的な戦略による適応的な再シーディングにより、最適化過程を通じて種の多様性を維持します。
Simon Fraser University最適化ベンチマークスイートの42個の関数を次元2から64まで評価した結果、Chisaoは全ての関数で100%のモード回復を実現しました。対照的にCPUベースの従来手法は次元8以上で最難関な多峰関数上で破綻します。basin-hoppingとの比較では、全手法が成功する関数(Michalewicz d=64)で34倍、単峰関数(Rotated Hyper-Ellipsoid d=64)では39倍というスピードアップを達成しています。さらに、ノイズレベルが大きい場合(σ_noise=1.0まで)でも、モード検出の信頼性は100%を保ちます。本アルゴリズムはPyPI上でオープンソースのPythonパッケージとして公開されており、誰でも自由に利用できます。