next up previous
次へ: 学習アルゴリズム 上へ: 正規混合分布による近似 戻る: Type I モデルの場合

Type II モデルの場合

Type II モデルで,アルゴリズムを閉じた形で導くためには,各軸の分散が等 しい2 次元正規分布(等方正規分布)の和で近似する必要がある.

\begin{displaymath}
\hat{f}_{\rm I\!I}(\mbox{\boldmath$x$}) = \sum_{k=1}^K\xi_k...
...igma_k^2
\left[\begin{array}{cc}1&0\\ 0&1\end{array}\right]).
\end{displaymath} (5.7)

$\hat{f}_{\rm I\!I}$ を用いても任意の確率分布 $f$ を任意の精度で近似することはでき るが,実際上 $\hat{f}_{\rm I}$ に比べて必要な精度を達成するために必要となる $K$ の数は増える可能性がある.

最後に,Type I モデルおよび Type II モデルの特徴を表5.1に まとめる.これ以上に制限を緩めると,EM アルゴリズムが閉じた形では求ま らなくなってしまう.

以下では,上記の手続きで近似したモデルを Type II モデルと呼ぶ.


表 5.1: Type I モデルと Type II モデルの特徴 (尺度に関しては Type I モデルの方が自由度が高い)
  Type I Type II
位置/尺度
回転 ×
次元 任意 2
近似する混合モデルの要素 楕円型 正規分布 等方正規分布



Shotaro Akaho 平成15年7月22日