arXiv (ML)AI
不完全なマルチモーダルデータに対応する一貫性と補完性を考慮したMixture of Experts フレームワーク
C$^2$MOE: Consistency and Complementarity-guided Mixture of Experts for Incomplete Multimodal Emotion Learning
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
会話における感情認識(MERC)は、音声、テキスト、映像などの複数のモダリティ(データ形式)を活用することで高い精度を実現してきました。しかし現実世界のデータでは、通信エラーやユーザーの行動により、特定のモダリティが欠落することが頻繁に発生します。このようなデータの欠落は、モデルのパフォーマンスを大きく低下させるため、堅牢な感情認識システムの構築には重要な課題となっています。
既存の手法の多くは、クロスモーダル一貫性学習によってロバストネスを向上させようとしてきました。しかし、これらのアプローチはモダリティ間の補完性をほぼ無視しており、その結果として欠落データの再構成が偏ってしまうという問題がありました。このような限界を克服するため、新たに提案されたC²MOE(Consistency and Complementarity-guided Mixture of Experts)フレームワークは、一貫性と補完性の両方の要素を考慮した革新的なアプローチを実現しています。
C²MOEの核となる特徴は、情報理論の原理に基づいて表現学習と欠落モダリティの補完を統一的に扱う点にあります。複数のエキスパート(専門的な処理ユニット)を活用して、マルチモーダル知識を一貫性成分と補完性成分に分解します。一貫性はクロスモーダル予測可能性を最大化することで捉え、一方、補完性は異なるモダリティ間の条件付きエントロピーを最大化することで保持されます。この分解に基づき、C²MOEは欠落モダリティに対応した堅牢な補完のための二分岐予測メカニズムを導入しています。一貫性ブランチは不確実性を最小化することで補完特徴を結合分布に整列させ、補完性ブランチはエントロピー最大化を通じてモダリティ固有の手がかりを活用します。さらに学習可能な再重み付けモジュールが各エキスパートの出力に動的に重要度スコアを割り当てることで、補完のための堅牢で適応的な融合を実現します。複数のベンチマークでの広範な実験により、C²MOEは様々な欠落モダリティの設定下で最先端の手法を一貫して上回る性能を示し、その堅牢性と汎化能力が検証されています。