arXiv (AI)AI
TITLE_JA: IMEX:相互作用ベースのモデル説明手法
IMEX Interaction-Based Model Explanation
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
機械学習モデルの予測精度が向上する一方で、なぜそのような予測結果が得られたのかを説明できる能力がますます重要になっています。ブラックボックスモデルは内部メカニズムを透明に記述しないため、高い精度を持つ予測であっても解釈や検証が困難です。特に医療診断や金融判断といった重要な意思決定の場では、予測精度だけでなく、その判断根拠が明確に説明できることが必須要件となっています。
IMEXは「相互作用ベースのモデル説明」と呼ばれる解釈可能な予測モデリング手法で、この課題に対する新しいアプローチを提示しています。IMEXは予測結果に最も寄与する変数を特定するだけでなく、結果の決定に有意な役割を果たす変数間の相互作用を同時に探索します。従来の手法と異なり、IMEX は2つ以上の高次相互作用の分析に制限を設けず、複数の特徴量のより複雑な組み合わせを調査することが可能です。
IMEXフレームワークは、Static Correlation Power(PCS)とInteraction Correlation Power(PCI)という2つの補完的な指標で構成されています。PCSは個々の特徴量の寄与度を定量化し、PCIは特徴量間の非加法的効果を捉えます。研究者たちは既知の構造を持つ3つの合成データセットを用いてPCS成分を検証し、IMEXが非線形性、条件付き関係、多重共線性が存在する複雑な状況下でも、関連する特徴量レベルの構造を適切に復元できることを確認しました。この成果は、より解釈可能で信頼性の高い予測モデルの実現に向けた重要な一歩となっています。