arXiv (Multi-Agent)AI
マルチエージェントシステムにおける遅延認識オーケストレーション学習
Learning Latency-Aware Orchestration for Multi-Agent Systems
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
複数のLLMパワードエージェントを協調させるマルチエージェントシステム(MAS)は、構造化されたワークフローを通じて推論能力を大幅に向上させることができます。しかし、多段階の実行と繰り返されるモデル呼び出しにより、推論遅延が深刻な課題となっています。既存のオーケストレーション手法の多くはタスク性能と推論コストの最適化に注力してきたため、遅延への対応がほぼ放置されてきました。MASにおいては、エンドツーエンドの遅延はクリティカルパス(最長経路)に支配されるため、総コストだけを削減しても遅延の確実な短縮には繋がりません。
この課題に対応するため、研究チームはLatency-Aware Multi-agent System(LAMaS)という新しいフレームワークを提案しました。LAMaSは二段階で遅延最適化に取り組みます。まず訓練時には、クリティカルパス認識の信用割当を伴う制約付き最適化を通じて、遅延認識実行グラフを学習します。次に推論時には、訓練時に確定されたグラフではランタイム情報を活用できないため、実行が進むにつれて冗長な将来のエージェント相互作用を適応的に除去する軽量コントローラで補完します。
四つのベンチマークにおける実験結果によると、LAMaSは評価対象となった学習ベースのMASベースラインの中で最高の遅延性能を達成しており、エンドツーエンド遅延を50%以上削減しながら、競争力のあるまたはそれ以上の精度を維持しています。さらにLAMaSはモジュール設計であり、最小限の変更で他のMASに転移可能であり、一貫した遅延削減をもたらします。