本論文では，学習という用語を統計モデルのパラメータ推定の意味で用いる． 混合分布の学習法としては，モーメント法など種々の方法が知られているが， 最も一般性があるのは尤度を最大にする最尤推定法である． 最尤推定は多くの場合計算が 簡単であり，(正則条件のもとで)漸近有効性をもつので，広く用いられている．
本章では，まず混合分布の最尤推定について述べ， 汎化能力を評価するための尤度のバイアスに関する知見を整理する． 次に，混合分布の学習アルゴリズムとして EM アルゴリズムを取り上げ，従来行われてきた研究の概要と本論文で必要と する事項のまとめを行う．