人工知能システムの出力をどのように説明するかは、現代のAI活用において極めて重要な課題となっています。本論文は、良い説明とは何かという長年の哲学的議論に立ち戻りながら、特にLLM（大規模言語モデル）の出力説明が困難である理由を考察しています。 研究者らは、反事実的説明（counterfactual explanations）の概念にインスピレーションを得た、良い説明の定義を提案しています。反事実的説明とは、「もしXがYであったなら、Zという結果になっていただろう」というような、起こらなかった別のシナリオを提示することで、実際の出力を説明する手法です。しかし単なる反事実的説明だけでは不十分だと著者らは主張しており、説明を受け取る相手（interlocutor）の既存の信念や知識体系も考慮に入れる必要があると述べています。 具体的には、説明に含まれる各事実について、相手がすでに何を信じているのかを理解することが、説明の質を大きく左右するということです。同じ説明であっても、聞き手の背景知識によって有効性が変わるため、文脈に応じた説明の設計が求められます。 この定義枠組みをLLMに適用した場合、興味深い課題が浮かび上がります。LLMは複雑な統計的パターンから出力を生成しており、その内部メカニズムは人間の直感的な因果関係とは異なります。そのため、LLMの出力に対して、ユーザーの既存知識に基づいた納得のいく説明を生成することは非常に困難なのです。本研究はAIシステムの透明性と信頼性向上に向けた重要な基盤を提供しています。