arXiv (Robotics)AI
TITLE_JA: 信頼できる具体化知能へ向けて:システムフレームワークと段階的信頼性レベル
Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
ロボットや自動運転車などの具体化知能(embodied intelligence)は、認識と意思決定を学習によって獲得し、それをリアルタイム計算、制御、物理的相互作用と統合するシステムです。このようなシステムの失敗は即座に物理的または運用上の害をもたらす可能性があるため、単なるタスク完了では信頼性を確立できません。本論文は、信頼できる具体化知能を「環境やシステムの変動下で指定されたタスクを確実に実行しながら、リスクを許容範囲内に保つ持続的能力」と定義しており、これを「持続的な安全な成功」と呼んでいます。
このフレームワークは4つの相互依存するレイヤーから構成されています。モデルレイヤーは、キャリブレーションされた不確実性と明示的な安全設定を備えたタスク適応行動を生成します。システムレイヤーは、統合センシング、計算、制御、ハードウェアセーフガード、障害隔離、フォールバックを通じて認可されたアクションを確実に実現します。エビデンスレイヤーは、評価、検証、バリデーション、追跡可能性、構造化された保証議論を通じて、限定的な主張を実証します。デプロイメントレイヤーは、ランタイム監視、権限管理、介入、インシデント対応、制御された更新によって主張の妥当性を維持します。
仮定と障害はこれらのレイヤー全体に伝播するため、モデル能力、孤立したセーフガード、またはベンチマーク性能だけでは、エンドツーエンドの信頼性を確立できません。本研究は、具体化AI、ロボティクス、制御理論、信頼性計算、分散システム、自動運転から知見を引き出し、信頼性の段階的ヒエラルキーを提案しています。このヒエラルキーは、タスク能力、安全性、システム保証、運用ガバナンス、および支持証拠にわたるデプロイメント主張の強度を段階付けており、限定的なデプロイメント、比較評価、研究優先順位付け、および将来の標準化の基礎を提供します。