arXiv (Robotics)AI
ロボット安全性のための検証可能な基盤モデル
Verifiable Foundation Models for Robot Safety
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
ロボット制御に基盤モデルを導入する際、重大な課題が生じます。リッチで多様なモダリティ知覚を可能にする表現力の高さが、同時にこれらのモデルを不透明にし、形式的な分析を困難にするため、既存の検証ツールでは対応できなくなるのです。本論文では、このジレンマに対処するフレームワークであるFEARL(Foundation-Enabled Assured Robot Learning)を提案しています。
FEARLの特徴は、モジュール的な建築分解を通じた革新的なアプローチにあります。ポリシーを高次元の知覚とタスク推論を担当する大規模なコントローラー(C)と、専用の安全センサーからの低次元観測とコントローラーからの限定されたコンテキスト埋め込みを受け取って最終的なアクションを出力する小規模な安全モジュール(S)に分離するのです。衝突回避とワークスペース境界制約など、多くのロボット安全要件はこれらの安全センサー観測上で表現できるため、形式的検証をファンデーションモデル全体ではなくSに対して適用することが可能になります。
この設計により、既存の検証ツールで形式的分析が扱いやすくなる一方で、コントローラーのタスク推論における表現力を保持できます。研究チームは、事前学習済みの視覚言語動作モデルを含む複数のコントローラーバックボーンと訓練手順を用いて、3つのシミュレーション環境でFEARLを評価しました。さらに、シミュレーションから物理ロボットへのポリシー転移も実現し、低次元安全インターフェースが実用的なシミュレーション・ツー・リアル転移をサポートすることを示しています。