next up previous
次へ: RBF ネットワークとの関係 上へ: 有限混合分布とその基本的性質 戻る: 階層ベイズモデルとの関係

パラメトリック性とノンパラメトリック性

混合分布では要素分布の数を変えることによって,パラメトリックな性質とノ ンパラメトリックな性質とを合わせ持っている. すなわち,要素分布の数を少 なくすると,複雑な対象を少数のパラメータで記述するモデルになりパラメト リックモデルとして働く. 一方,要素分布の数をサンプル数と同程度かそれ以 上に増やして行くと個々のサンプルにフィットしたノンパラメトリックな性質 が現われてくる. これは,データのもつ構造に対して 大まかな視点と微細な視点とを自在に制御できるという,混合分布の 柔軟性を表す性質であるといえる.

クラスタリングの例でいえば,最初全体を一つのクラスタとみなし,次第に細 かく見ていき,最終的には個々のサンプルがそれぞれのクラスタとなる階層的 クラスタリングと同様の振舞いである. 汎化などの学習の側面からは,適当な 個数のクラスタの数を選ばなければならないが,これに関しては第 4 章でより詳しく論じる.



Shotaro Akaho 平成15年7月22日