機械学習モデルの予測結果を説明する手法として、反事実説明（counterfactual explanation）が注目を集めています。この手法は、モデルの判断を変えるために必要な最小限の入力変更を特定することで、「もしこの条件が異なっていたら予測結果はどうなるか」という形で解釈可能性を提供します。しかし既存の多くの手法は、予測を変える代替案を生成することには成功しているものの、ドメイン知識や実際の制約条件を明示的に組み込むメカニズムが不足しているため、現実的でない、または実行不可能な提案を生成してしまうという課題を抱えていました。 新たに提案されたPACEフレームワークは、ニューロシンボリックAIの手法を活用して、この問題に対処します。ニューロシンボリックAIは、データから学習する神経ネットワークと、人間が理解可能なルールや実行可能なアクションを表現できる記号推論を組み合わせるアプローチです。PACEは予測と推論を二つのコンポーネントに分離し、分類用の神経予測モデルと、反事実生成の際にドメイン固有の制約を強制する記号推論層から構成されています。実行可能な介入を明示的にモデル化することで、ドメイン知識と一貫性を保ちながら、同時に解釈可能性と実行可能性を備えた説明を生成できるのです。 具体的な事例研究では、Adult Incomeデータセットを用いて、多層パーセプトロン分類器とAnswer Set Programming（ASP）ルールを組み合わせました。ASPルールにより、教育水準や職業、労働時間といった属性の現実的な変更は可能としながら、年齢などの不変属性は保護するといった実行可能な修正がコード化されています。結果は、反事実の有効性と現実性のトレードオフを示しつつ、記号的制約によってドメイン固有の実行可能性要件をより効果的に満たす説明が得られることを明示しました。このアプローチは任意のモデルに適用可能で、現実的な意思決定支援が必要とされるドメインに適応できる設計となっており、説明可能なAIにおける透明性と実行可能性を兼ね備えた反事実説明の可能性を示唆しています。