arXiv (AI)AI
TITLE_JA: 拡散モデルを用いたコンセプトベースの視覚的反事実説明
Concept-based Visual Counterfactual Explanations with Diffusion Models
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
機械学習モデルの予測がなぜ下されたのかを理解することは、医療診断など安全性が重要な領域では不可欠です。本研究は、画像認識モデルに対して「この画像をどう最小限変更すれば予測が反転するか」という問いに答える「視覚的反事実説明」の新しい手法を提案しています。
既存の拡散モデルベースの方法は現実的な画像編集を生成できますが、ノイズの多い画像で確実に動作する外部分類器に依存しているため、実装が脆弱で堅牢な説明の提供が困難でした。研究者らが開発したC-VCE(Concept-based Visual Counterfactual Explanations)は、この問題を根本から解決する新しいフレームワークです。生成モデル内にコンセプトボトルネック層を組み込むことで、分類器を直接統合し、ピクセルレベルの編集に頼る別の外部分類器ではなく、人間が理解可能な「コンセプト」によって反事実画像を生成します。
C-VCEの革新的な点は、ユーザーがサンプリング過程で意味的なコンセプトのオン・オフを切り替えられることです。その際、関連する画像領域を最小限の変更に留めながら、それ以外の部分を保持し、特徴間の相関も尊重します。編集を小規模で制御可能にするため、確率的正則化と勾配ベースのマスクを導入し、「予測の反転」と「元の画像への近接性」のバランスを取っています。CelebAなどのベンチマークで評価した結果、C-VCEは既存手法と同等かそれ以上の予測反転率を達成しながら、より視覚的に元に近く、歪みの少ない反事実画像を生成します。これらの特性により、ノイズに強い追加分類器を信頼する必要がなく、実際の「もしも」シナリオを具体的に提示できる実用的なツールとなります。