next up previous
次へ: Type II モデルの EM 上へ: 確率分布の位置, 尺度, 回転パラメータの学習法についての付録 戻る: 確率分布の位置, 尺度, 回転パラメータの学習法についての付録

Type I モデルの EM 法の導出

E ステップにおける関数 $Q$

\begin{displaymath}
Q_{\rm I}(A,\mbox{\boldmath$b$}) = \left\langle\sum_{k=1}^Kq...
...oldmath$x$},k;\ A,\mbox{\boldmath$b$})\right\rangle_{\!\!\rho}
\end{displaymath} (B.1)

で与えられるので,これをまず, $\mbox{\boldmath$b$}= \mbox{\boldmath$b$}\tth $ に固定して $A$ を求める.
\begin{displaymath}
{\partial\over\partial a_i}Q_{\rm I}(A,\mbox{\boldmath$b$}\t...
...rm I}\,k}\tth (\mbox{\boldmath$x$})\right\rangle_{\!\!\rho}
=0
\end{displaymath} (B.2)

を整理すると
\begin{displaymath}
{1\over a_i} Z_{\rm I}- a_i X_{{\rm I}\,i}- Y_{{\rm I}\,i}= 0
\end{displaymath} (B.3)

となる.ただし, $X_{{\rm I}\,i}, Y_{{\rm I}\,i}, Z_{\rm I}$ はそれぞれ式 (5.11), (5.12), (5.13) で与えられる.

これは $a_i$ に関する 2 次方程式で,二つの解 が得られるが,そのうち $a_i > 0$ という条件を満たすものは 式 (5.10) の場合に限る.

一方得られた $A\tpth $ を用いて, $\mbox{\boldmath$b$}\tpth $ を求めると,

\begin{displaymath}
{\partial\over\partial b_i} Q_{\rm I}(A\tpth ,\mbox{\boldmath$b$}) =
-U_{{\rm I}\,i}+ b_i V_{{\rm I}\,i}= 0
\end{displaymath} (B.4)

から,(5.14) の更新式が得られる.



Shotaro Akaho 平成15年7月22日