マルチエージェントシステム（MAS）における通信メカニズムに関する新たな研究が発表されました。大規模言語モデル（LLM）を用いたエージェント間通信では、通常テキストベースのメッセージパッシングが採用されていますが、本研究は複雑な概念を伝える際にLLMが持つ内部的な世界モデルがテキストでは表現できない情報を保有している可能性を検証しています。 研究チームは、スパースオートエンコーダ（SAE）の特徴分析を用いて、テキスト通信における情報損失を定量化しました。3つの通信チャネルを構築し、各チャネルの概念識別情報を測定した結果、SAEスパースチャネルは密集潜在チャネルに対して28倍の圧縮で99.4%のプローブ精度を達成したのに対し、テキストチャネルでは80.4%に留まりました。さらに、Procrustes変換を用いたクロスアーキテクチャ通信では、LlamaとMistral間で92%のトップ1検索精度を記録しています。 テキストのラウンドトリップ変換による特徴生存分析では、テキストシリアライゼーションによってSAE特徴の88%が破壊され、別の特徴セットに置き換わることが判明しました。この損失は特徴の減衰ではなく、アイデンティティの置換に起因するものです。タスクレベルの評価では、潜在チャネルはクロスリンガル概念タスクではテキストチャネルと同等の性能を示しましたが、これを上回ることはありませんでした。潜在特徴によるテキスト拡張も利益をもたらさず、失われた特徴の大部分またはすべてが表面形式をエンコードするものであり、タスク関連の意味論ではないことが示唆されています。