arXiv (ML)AI
確率的グラフィカルモデル構造学習としての情報格子学習
Information Lattice Learning as Probabilistic Graphical Model Structure Learning
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
情報格子学習(ILL)は、信号を抽象化の階層をエンコードする分割格子に交互に投影し、選択された規則を信号領域に戻すことで、信号の解釈可能な規則を学習する手法である。本研究では、信号が確率質量関数である場合、ILLによって学習された確率的規則が自然な確率的グラフィカルモデル(PGM)の解釈を持つことを示し、この解釈を詳細に展開している。
ILLにおける分割は決定論的な商変数を誘導し、規則はその商変数の周辺分布である。したがって規則集合は、解釈可能な抽象化に関する周辺制約の集合となる。一般的なリフティングはこれらの制約を満たすすべての結合分布の実現可能な族であり、特殊なリフティングはシャノンエントロピーと密接に関連したL2均一性原理によって実装されるの最大無知再構成を選択する。シャノンエントロピーリフティングの下では、同じ制約が対数線形因子グラフをもたらし、その因子は学習された抽象化によってインデックスされる。
重要な点として、情報格子自体はベイジアンネットワークではない。その辺は条件付き依存ではなく、抽象化の精密化と粗化をエンコードしている。したがってILLは、商変数上の解釈可能な制約ベース因子グラフの構造学習として最良に見なされるべきである。この見方はILLがグラフィカルモデルおよび最大エントロピーモデルとどのように関連しているかを明確にするとともに、推論、識別可能性、および記号確率的学習のハイブリッドアプローチに向けた新しい方向性を示唆している。