arXiv (CV)AI
Light-Omni:長期記憶を備えたエージェント型ビデオ理解における反射的対応と推論の最適化
Light-Omni: Reflex over Reasoning in Agentic Video Understanding with Long-Term Memory
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
ビデオ理解分野における新しいアプローチが注目を集めています。従来のエージェント型ビデオ理解システムは、長期記憶を活用して連続的でマルチモーダルなストリームを自律的に処理してきました。しかし、高度なビデオエージェントの多くは「探偵的」な反復推論に頼っており、検索などのアクション制御と証拠の集約に莫大な計算コストと遅延をもたらしていました。
これに対して、新たに提案されたLight-Omniフレームワークは、反射的で軽量なビデオ理解を実現するマルチモーダルエージェントです。その鍵となるのが二つの文脈的状態の設計です。第一に「グローバル状態」と呼ばれる有限サイズのマルチモーダルスクリプトを維持し、これが単一フォワードパスで必要な文脈を瞬時に構築します。この状態は階層的なマージングを通じて、最近の詳細を保ちながら過去のイベントを要約します。第二に、このグローバル文脈に条件づけられたパラメトリック潜在状態を生成し、最小限の遅延で自律的アクションを直接駆動し、検索用の埋め込みを生成します。
この統合設計により、Light-Omniは反復推論を回避しながらも、意味的に整列した検索と反射的応答を実現しています。複数のビデオベンチマークでの実験検証では、既存のM3-Agentと比較して平均2.4%の精度向上、12.1倍の処理速度向上、2.6倍のGPUメモリ効率改善を達成しました。さらに、このフレームワークは既存のMLLMsの性能と効率を強化するメモリシステムとしても機能し、ビデオAIの実用化に向けた大きな前進をもたらすと期待されています。