arXiv (CV)AI
ベンチマークを超えて:微細な路側認識のための継続的エッジ推論
Beyond Benchmarks: Continuous Edge Inference for Fine-Grained Roadside Perception
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
リソース制約のあるエッジハードウェア上での継続的なAI推論には、従来のベンチマーク評価では見えにくい多くの問題が存在します。ストリーミング動画の時間的不安定性、長時間の負荷による熱スロットリング、ワークロード依存のパフォーマンス変動など、実運用環境特有の課題が浮き彫りになります。本研究では、これらの問題に対応するため、NVIDIA Jetson Orin Nanoを使用した路側認識向けの実装指向型エッジ推論システム「Edge-TSR」を提案しました。
Edge-TSRは検出、トラッキング、微細分類機能を統合し、軽量なトラック認識型の時間的安定化メカニズムを備えています。このメカニズムはストリーミング推論の一貫性を改善しながら、計算オーバーヘッドを最小限に抑えます。研究の中核的な発見は、ベンチマーク中心の評価が実装時のエッジ推論パフォーマンスを系統的に過大評価しているということです。3つの最先端ベースラインを評価した結果、静止画評価から実世界のストリーミング配置への移行時に、一貫して20~30%の相対的性能低下が観察されました。
Edge-TSRは時間的推論安定化を通じてこのギャップを解決し、フレーム単位の推論ベースラインと比べて最大10.16%の分類精度改善を実現しながら、継続的な動作下でリアルタイムパフォーマンスを維持します。システムは様々な実世界の配置条件下で評価され、推論品質、遅延、スループット、長時間動作時の熱挙動を総合的に特性化しました。26km区間での55分間の車両配置実験では、単一の組み込みデバイス上で16.18 FPSで安全な熱制限内での継続的動作を実証しました。クラウドへのオフロード処理は不要です。本研究は、実世界のセンシング配置を想定した継続的運用エッジAIシステムには、実装対応型の評価と時間的推論安定化が必須要素であることを示しています。