arXiv (CV)AI
OSCS-SupCon:堅牢な特徴分離のための直交シグモイド基盤共通・スタイル教師あり対比学習
OSCS-SupCon: Orthogonal Sigmoid-based Common and Style Supervised Contrastive Learning for Robust Feature Disentanglement
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
機械学習における表現学習の分野で、特徴量の質と分離性を向上させることは重要な課題です。教師あり対比学習(SupCon)は、サンプル間の関係性を明示的にモデル化することで高い性能を実現してきました。しかし既存のSupConベースの手法には、標準的なInfoNCE損失によるネガティブサンプルの希釈化と、カテゴリ関連特徴(共通特徴)とカテゴリ無関関特徴(スタイル特徴)を明示的に分離する制約の欠如に起因する特徴空間の絡み合いという2つの重大な制限がありました。これらの問題は特徴の判別性と汎化能力を低下させています。
新しく提案されたOSCS-SupCon(直交シグモイド基盤共通・スタイル教師あり対比学習)は、シグモイド基盤の対比的目的関数と明示的な直交制約を組み合わせた統一的フレームワークです。このアプローチでは、温度とバイアスという2つの学習可能なパラメータを備えたシグモイド基盤の対比損失を導入し、ペアワイズ決定境界を適応的に調整してネガティブサンプルの希釈化を軽減します。さらに、ReLU非線形性を伴う線形射影を通じて共通特徴とスタイル特徴の部分空間間に直交性を強制することで、特徴の重複を減らし、スタイル無関関表現の分離を改善します。
6つのベンチマークデータセットを用いた大規模な実験により、OSCS-SupConは複数のバックボーンアーキテクチャにわたって最先端の教師あり対比学習手法を一貫して上回ることが実証されました。特に、細粒度分類タスクのCUB200-2011データセットではResNet-18バックボーンで従来のCS-SupConと比べて分類精度が3.4%向上し、その堅牢性と汎化能力が顕著に示されています。消融研究もまた、各成分の有効性を確認しています。