arXiv (ML)AI
TITLE_JA: 現代的なLLMと人間の脳波に共通する感情価軸:飽和則の発見
A Shared Valence Axis Across Modern LLMs and Human EEG: The Saturation Regularity
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
大規模言語モデル(LLM)の内部表現が人間の認知と次第に一致しているという観点から、研究者たちは感情価(valence)という感情的な特性に焦点を当てて、LLMが人間の脳神経表現を理解するための手段となり得るかを調査しました。この研究では、わずか9つの感情を喚起する文章を用いて、現代的なLLMから一次元の感情価軸(V-軸)を構築し、14個のLLMを横断する一貫性を検証しました。ゼロショット転移によってセンチメント分析ベンチマークでの有効性も確認されています。
その後、研究チームはこのLLM由来の方向が人間の神経活動にマッピングされることを示しました。感情的なビデオを視聴する123人の被験者からなる公開脳波データセットにおいて、脳波特性の単一線形射影が各刺激のV-軸位置を追跡できました。さらに興味深いことに、V-軸に露出していない36個の脳波感情分類器が、その内部表現において自発的に同じ方向を再発見しました。これは、言語モデルと人間の電気生理学の両者において、同一の感情価構造が出現していることを強く示唆しています。
しかし、この収束が効果的な訓練信号を提供するわけではないことが判明しました。研究チームは知識蒸留、表現類似性、対比学習、トポグラフィ損失を含む25の整列戦略をテストしましたが、いずれも復号精度を改善せず、16の手法は精度を大幅に低下させてしまいました。この結果は「飽和則」として形式化されました。つまり、タスクラベルのみがブレイン復号化ネットワークをターゲット方向に導いた後、追加の教師信号は既に飽和している領域を主に歪めるだけで、負荷を担う層内残差にはほぼ有用な勾配が流れないということです。この知見に基づき、教師信号の代わりに残差の多様性にまたがるアンサンブルを採用することで、FACED、SEED-Vデータセット上で先行研究を10.5%上回るバランス精度を達成しました。