arXiv (Neural Computing)AI
大規模言語モデルを用いた進化的アルゴリズム生成による多目的ベイズ最適化の自動設計
LLM-Driven Evolutionary Generation of Multi-Objective Bayesian Optimization Algorithms
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
多目的最適化問題に対応するベイズ最適化(MOBO)アルゴリズムの設計は、相互に依存する多数の設計選択肢のバランスを取る必要があり、最適な構成は問題ごとに異なるため、従来は専門知識を要する困難な作業でした。本研究は、大規模言語モデル(LLM)を進化的戦略内のミューテーションおよびクロスオーバーオペレータとして活用するLLaMEAフレームワークをMOBOに拡張し、完全なアルゴリズム実装を自動生成しています。この過程ではSMAC超パラメータ最適化が進化ループに統合され、9回の進化実行を通じて約900個のアルゴリズムが生成されました。
生成されたアルゴリズムは12個の合成ベンチマーク問題(ZDT、DTLZ、WFG)と3つの実世界エンジニアリング問題(RE)で評価されました。BoFire qParEGO実装を最先端のベイズ最適化ベースラインとして使用した結果、合成スイートにおいて生成されたアルゴリズムは最高の平均正規化ハイパーボリューム(0.971対qParEGOの0.869)を達成しながら、必要な計算時間はおよそ60分の1に削減されました。Friedman検定による事後分析では両者が同じ最高性能グループに位置付けられ、問題ごとのテストでは生成アルゴリズムがqParEGOを12問中7問で有意に上回り、12問すべてにおいて劣ることはありませんでした。
未見の3つの実世界エンジニアリング問題においても、生成されたアルゴリズムは平均正規化ハイパーボリューム0.985を達成し、qParEGOの0.971を上回りました。3問中2問ではqParEGOより有意に優れており、計算時間は約3.4倍削減されています。この結果は、合成環境での成果が実世界でも転送可能であることを確認しており、LLM駆動の進化的探索が手動設計では達成困難なパレート効率的なトレードオフを持つアルゴリズム設計を発見できることを実証しています。