next up previous
Next: 高速学習アルゴリズムの導出 Up: ベイジアン自己組織化写像 Previous: はじめに

BSOMモデル

統計的モデルとしてのBSOMモデルは、データの生成に関して正規混合分布を仮定し、 さらに、その中心パラメータに対し、ガウシアン平滑化事前分布を仮定したものである。 簡単のために、各成分分布の事前選択確率は一定とし、 さらに、成分分布は共通の分散を持つ球形正規分布とする。この分散の逆数と 事前分布の分散の逆数をハイパーパラメータと見倣す。 中心パラメータの尤度と事前確率はそれぞれ次のようになる。

ここで、n個のデータ点 からなるデータ集合を表し、 は各成分分布の中心パラメータ を連結したベクトルを表す。 また、は中心パラメータの並べ換えベクトルである。 行列は、微分演算子を離散化したもので、の階数をl, 正の特異値の自乗を とした。 このようなモデルに対し、中心パラメータの最大事後確率(MAP)推定を求めるアルゴリズムには 最急降下法によるもの(弾性ネットアルゴリズム[5])やEMアルゴリズムによるもの [4][6]がある。バッチ型のSOMアルゴリズムも 近似的なMAP推定アルゴリズムと見倣すことができる[4]。

経験的ベイズ法ではハイパーパラメータの証拠

を最大化することによってハイパーパラメータの推定値を求める。BSOMモデルの場合, この積分を 正確に求めるのは困難なので、中心パラメータのMAP推定値を中心とした ガウス近似を使う。このようにして求めたハイパーパラメータの対数証拠は

ここで、は対数事後確率のにおける負のヘッセ行列である。 (を求める式は[3][4]を参照。)



Utsugi Akio;(6730)
Thu Aug 8 18:07:48 JST 1996