混合分布と EM アルゴリズム

ここでは，前節の処理によって低次元化されたデータに対して一対多の対応を 学習するための方式について考える． なお混乱がないと思われるので， $\mbox{\boldmath$x$}$， $\mbox{\boldmath$y$}$ を低次元化して得られたベクトルを以下でも やはり $\mbox{\boldmath$x$}$, $\mbox{\boldmath$y$}$ と書くことにする．

基本的には 3.4.3 で述べた独立な要素分布をもつ場合の 条件付き混合分布によるモデル化を EM アルゴリズムで学習することになるが， 本章で扱う問題に依存した初期化法によって収束性の改善を図る．