arXiv (ML)AI
ミラー理論による知能システムの評価:有限予算下の反射容量を測定する「実行可能経路エントロピー」の提案
Mirror Horizon: Viable Path Entropy as a Measure of Bounded Reflection
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
本論文は、知能システムの評価方法に関する新しい理論的枠組みを提案しています。従来のAI評価では、モデルが何を表現できるかに焦点が当たってきましたが、著者たちは「ミラー理論」という新しい視点を導入します。これは、システムが繰り返される反射の下でどのような一貫性のある継続を維持できるかという点を重視すべきだと主張しています。
この理論を実装するために、著者たちは「有限予算反射下での実行可能経路エントロピー(VPE)」という測定方法を開発しました。VPEは、与えられたミラー状態、ロールアウトプロトコル、検証器、モード関数の下で、システムの限定的な能力を二つの要素に分解します。一つは実行可能な継続に到達する確率であり、もう一つは成功したロールアウト間で到達した検証済み継続モードの多様性です。この理論的枠組みは、制約としての直感、不確定性を選別する味覚、それを解決する反射としての過程、そして将来の反射を安定させる学習された構造としての幾何学という四つの層から構成されています。
実験では、言語モデルのQwen2.5-Instructファミリーを使用してGSM8Kデータセット上で検証が行われました。トークン予算を96から160に増やすことで、検証済み到達可能性が大幅に拡大し、ゼロ到達可能性が低減し、検証済みモードエントロピーが増加しました。興味深いことに、160トークンでは、パラメータ数がより多いQwen2.5-3Bよりも、Qwen2.5-1.5Bの方がより強いミラー地平線を実現しました。これは、知能の地平線がパラメータ数ではなく、限定された反射プロトコルの下でアクセス可能な検証済み継続能力であることを示しています。本研究は、能力とは単一の精度やpass@kではなく、到達可能にされた実行可能継続の構造そのものであるという、測定レベルでの新しい理解を支持しています。