next up previous
次へ: の場合 上へ: 正規混合分布の汎化バイアスの非単調性について 戻る: 特異性に関する考察


実験

本節では,定理 3 で与えた 4 次のキュムラントの 3 つの場合 に対するシミュレーション結果を示す. いずれの場合も真の分布 $q(x)$ は平 均 0.0, 分散 1.0 となるように設定する. このとき真の分布に対する分岐点 は $\log\beta_c\simeq-0.693$ となり,訓練サンプルに関する最尤解はこの 値のまわりで分岐を起こす. 訓練サンプルの数($N$)と正規分布の要素数($K$) はともに 100 にした. 最尤解を求めるのには EM アルゴリズム を用いた. EM アルゴリズムの初期値には,各訓練サンプ ルに一つの正規分布をおくというものをとった. テストサンプルは 100,000 個を訓練サンプルと同じ分布から生成した.



Subsections

Shotaro Akaho 平成15年7月22日