次へ: 分岐点より温度が高い場合
上へ: 正規混合分布の汎化バイアスの非単調性について
戻る: Radial Basis Boltzmann Machine
RBBM の分岐点
実質的なパラメータ数は分岐点で変化するので,分岐点での振舞いをより詳しく
調べることにする.
一般に分岐の振舞いは複雑であるが,最初の分岐点に関してはいくつかの
結果を得ることができ,定性的には他の分岐点にも適用可能であると考える.
本節で考えるのは,真の分布
が与えられている場合の
真の最尤解の振舞いである(ただし,学習に EM アルゴリズムを用いる都合上
本章の実験はすべて経験分布に対するものである).
は必ずしも RBBM モデルに含まれている必要はないが,RBBM モデルの
最尤解が存在するような正則条件を満たすものだけを考え,
更に 4 次以下のすべてのモーメントの存在を
仮定する. また,訓練サンプルを用いた学習の際の振舞いは,
を経験分布で置き換えて考えればよい.
Subsections
Shotaro Akaho
平成15年7月22日