機械学習システムの最適化は、従来、複数の専門領域にまたがるエンジニアリングチームの調整を必要とする複雑なプロセスでした。こうした課題に対して、新たな多エージェントフレームワーク「Arbor」が提案されています。Arborは、自律型エージェントが大規模で状態を持つアクション空間で動作する際に、構造化されたツリーサーチを認知層として機能させるシステムです。従来のシステムが孤立した目標に対して無状態の評価を行っていたのに対し、Arborは点数付きされた仮説の明示的なサーチツリーを維持し、これを複数のエージェント間の共有作業メモリとして機能させます。 Arborの実装には、オーケストレーターエージェントとクリティックエージェントという二つの主要な役割を持つエージェントが組み込まれています。オーケストレーターエージェントは推論スタック全体のドメインスペシャリストに最適化タスクを委譲することで最適化を推進し、クリティックエージェントは根本原因分析と計測検証を通じてシステムの安定性を保証します。この相互チェック体制により、単一のエージェントがシステムを一方的に動かしてしまう事態を防いでいます。エージェント機能は領域知識による硬いスキルと、複数の貢献を統合するための調整プロトコルからなる柔軟なスキルに分解されており、複数日にわたる完全自律的なキャンペーン実行を可能にしています。 Arborの性能評価では、LLM推論最適化の完全スタックを対象として検証が行われました。その結果、ベンダーが最適化したベースラインと比較して最大193%の推論スループット・レイテンシーPareto改善を達成しています。対照的に、ハーネスなしの単一エージェントでは33%のスループット改善にとどまり、数時間以内に回復不可能なクラッシュを起こしています。Arborはハードウェアプラットフォームの複数世代に対応し、実行ごとのばらつきが2パーセントポイント以内に収まることから、ハードウェアに依存しない再現可能な手法として機能することが実証されています。