階層ベイズモデルとの関係

分布のパラメータを確率変量とみなして，その(事前)分布を考える ことによって，確率分布の分布というメタな階層構造を作ることができる． そのようにしてできる統計モデルを階層ベイズモデルと呼び， ロバストな推定を行ったり，複雑な対象に適合させるために用いられ， グラフィカルモデルとの関連から盛んに研究されている [74]．

さて，混合分布で，要素分布のパラメータは固定し， 重み確率 $p_1,\ldots,p_K$ に着目してみよう． ベイズ的には，要素分布を規定する確率変量 $k$ に対する事前分布が $p(k) = p_k$ であるという階層ベイズモデル，

$$p(x, k) = p(x\mid k)\, p(k),$$ (2.10)

として解釈できる． そのため，$p_k$ は(クラス $k$ の)事前確率と呼ばれることがある．

このような解釈に立つと，混合分布はクラスラベルと確率変量の 2 ノードの 間に 1 本の有向アークがあるベイジアンネットワークの最も単純な場合とみなす ことができる(ただしクラスラベルは観測されないノードである)． これにより，混合分布はベイジアンネットワークの性質を調べるた めの基本モデルとしての役割を果たすと考えられる．

よりベイズ的な考え方を進めると，要素分布のパラメータも変数とみて その事前分布をモデル化するという，より複雑な階層ベイズモデルを作ることが できる[71]が，本論文ではそれについては扱わない．