next up previous
次へ: 分岐点より温度が高い場合 上へ: 正規混合分布の汎化バイアスの非単調性について 戻る: Radial Basis Boltzmann Machine


RBBM の分岐点

実質的なパラメータ数は分岐点で変化するので,分岐点での振舞いをより詳しく 調べることにする. 一般に分岐の振舞いは複雑であるが,最初の分岐点に関してはいくつかの 結果を得ることができ,定性的には他の分岐点にも適用可能であると考える.

本節で考えるのは,真の分布 $q(\mbox{\boldmath$x$})$ が与えられている場合の 真の最尤解の振舞いである(ただし,学習に EM アルゴリズムを用いる都合上 本章の実験はすべて経験分布に対するものである). $q(\mbox{\boldmath$x$})$ は必ずしも RBBM モデルに含まれている必要はないが,RBBM モデルの 最尤解が存在するような正則条件を満たすものだけを考え, 更に 4 次以下のすべてのモーメントの存在を 仮定する. また,訓練サンプルを用いた学習の際の振舞いは, $q(\mbox{\boldmath$x$})$ を経験分布で置き換えて考えればよい.



Subsections

Shotaro Akaho 平成15年7月22日