汎用マルチモーダル埋め込み（UME）は、テキスト、画像、音声などの異なるモダリティの入力を共有された埋め込み空間にマッピングする技術です。従来のUMEモデルは単一の順伝播エンコーディングで埋め込みを形成するか、明示的な根拠トークンや潜在的な自己回帰状態を通じて計算を追加してきました。トークン拡張は複雑なマッチングを改善できる一方で、逐次生成は検索レイテンシを増加させ、最終的な埋め込みが生成された中間状態に依存するという課題がありました。 本研究が提示する新しい問いは、トークンワークスペースを固定のままにしながら、モデルの深さに沿って計算を拡張できるかどうかです。研究チームは独立して訓練されたUMEモデルの各層における正負の類似度分離を分析し、共通のパターンを発見しました。初期層がマルチモーダル入力を文脈化し、中間から後期層の連続した段階が検索判別的な特徴を形成し、最終層がそれらを埋め込み空間にマッピングするというものです。 この知見に基づいて、研究チームはReLoop-UMEを提案しました。このアプローチは初期層を1回実行し、パラメータ共有された検索形成ブロックを再帰的に再利用し、最後のループ後に最終マッピング層を適用します。学習可能な検索レジスタ（Learnable Retrieval Registers）は、ループ全体を通じて証拠を蓄積・交換する永続的な検索固有の状態を提供し、最終レジスタが埋め込み読み出しとして機能します。 MMEB-V2およびMRMRベンチマークでの評価結果、ReLoop-UMEは様々なバックボーンで検索性能を一貫して改善しながら、UME-R1より44.9倍高速、PLUMEより1.5倍高速に実行されることが示されました。