arXiv (CV)AI
Ground3D-LMM:大規模言語マルチモーダルモデルによる細粒度3Dポイントグラウンディングと空間推論
Ground3D-LMM: Fine-Grained 3D Point Grounding and Spatial Reasoning with LMM
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
3D環境に関する自然言語クエリに対して、検証可能で定量的な応答を返すことは、ロボティクスや建築・インテリアデザイン分野において重要な課題となっています。従来の3D大規模言語マルチモーダルモデル(LMM)は、会話型システムであれば明示的な3Dグラウンディングなしに応答し、一方で3Dグラウンディングモデルはインタラクティブで測定値を含む対話に対応していないという限界を抱えていました。
このような背景のもと、研究チームが発表したGround3D-LMMは、ポイントクラウドとオプションのRGB画像を入力として受け取り、二つの革新的な機能を備えた統合モデルです。第一に、ポイントグラウンディングされた応答により、ユーザーが指定した3D領域を明確に特定できます。第二に、メートル単位などの実世界単位での定量的な出力を、オブジェクト・部品の細粒度レベル、さらに複数オブジェクトのクエリにも対応させています。
評価のため、研究チームは「3Dグラウンド測定タスク」と呼ぶ新しいベンチマークを定義しました。これは、参照される3D領域の予測と、対応する実世界単位での定量値の両方を必要とします。ScanNetおよびScanNet++データセットを基盤として、密集したオブジェクト・部品アノテーションと約250万の質問応答ペアを含む大規模データセットを構築し、8つのタスクと手動検証されたテストセットを提供しています。
複数のデータセットとタスクに対する実験結果は、提案されたGround3D-LMMが、グラウンディングと測定値認識を備えた3D会話理解の強力なベースラインを提供することを示しています。モデルとデータセットは公開されており、今後の研究や実応用への活用が期待されます。