arXiv (ML)AI
フェデレーテッド説明可能人工知能:役割、アーキテクチャ、評価、および未解決の課題
Federated Explainable Artificial Intelligence: Roles, Architectures, Evaluation, and Open Challenges
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
フェデレーテッド学習(FL)は、分散した異質なデータソース across で協調的なモデル訓練を行うプライバシー保護型パラダイムとして急速に発展しています。生データをローカルに保つことでデータ機密性の懸念に対応する一方で、現代的な機械学習モデルの不透明性という問題は解決されていません。同時に、説明可能人工知能(XAI)は、特に医療や金融などの高リスク領域における透明性、信頼性、アカウンタビリティを向上させるために注目を集めています。
これら二つの領域の交点から、フェデレーテッド説明可能人工知能(FedXAI)というパラダイムが誕生しました。FedXAIは、プライバシー保護と説明可能性の両方の要件を同時に満たすことを目指しています。本調査は、説明可能性がポスホック手法から、フェデレーテッド学習ライフサイクルの統合的な構成要素へと移行する過程を明らかにしながら、FedXAIに関する体系的なレビューを提供しています。
説明可能性が集約、パーソナライゼーション、ロバスト性、協調性、システムレベルの意思決定をいかにサポートするかが示されており、説明可能性の役割、モデルと説明手法のタイプ、説明の範囲、統合レベル、FL設定、およびデータの不均質性によってFedXAIメソッドを分類する分類法が導入されています。モデル非依存的な説明から解釈可能なフェデレーテッドモデル、説明可能性を考慮した集約メカニズムまで、様々なアプローチが検討されています。
しかし、説明品質の測定基準の欠如、非IID(非独立同分布)データ下における説明可能性、説明中心のセキュリティ脅威、通信効率的なXAI、継続的なFedXAIの実現など、多くの課題が残されています。この調査は、信頼性の高い透明性を備え、プライバシーを保護するフェデレーテッドAIシステムの設計に向けた参考枠組みとして機能します。